DistributedCachingEmbeddingGenerator<TInput,TEmbedding> Klass

Definition

Representerar en delegering av inbäddningsgeneratorn som cachelagrar resultatet av inbäddningsgenereringsanrop och lagrar dem som JSON i en IDistributedCache.

generic <typename TInput, typename TEmbedding>
 where TEmbedding : Embeddingpublic ref class DistributedCachingEmbeddingGenerator : Microsoft::Extensions::AI::CachingEmbeddingGenerator<TInput, TEmbedding>
public class DistributedCachingEmbeddingGenerator<TInput,TEmbedding> : Microsoft.Extensions.AI.CachingEmbeddingGenerator<TInput,TEmbedding> where TEmbedding : Embedding
type DistributedCachingEmbeddingGenerator<'Input, 'Embedding (requires 'Embedding :> Embedding)> = class
    inherit CachingEmbeddingGenerator<'Input, 'Embedding (requires 'Embedding :> Embedding)>
Public Class DistributedCachingEmbeddingGenerator(Of TInput, TEmbedding)
Inherits CachingEmbeddingGenerator(Of TInput, TEmbedding)

Typparametrar

TInput

Den typ som inbäddningar ska genereras från.

TEmbedding

Den typ av inbäddningar som ska genereras.

Arv

Kommentarer

Den tillhandahållna implementeringen av IEmbeddingGenerator<TInput,TEmbedding> är trådsäker för samtidig användning så länge de anställda IDistributedCache är lika trådsäkra för samtidig användning.

Konstruktorer

Name Description
DistributedCachingEmbeddingGenerator<TInput,TEmbedding>(IEmbeddingGenerator<TInput,TEmbedding>, IDistributedCache)

Initierar en ny instans av DistributedCachingEmbeddingGenerator<TInput,TEmbedding> klassen.

Egenskaper

Name Description
CacheKeyAdditionalValues

Hämtar eller anger ytterligare värden som används för att informera den cachenyckel som används för lagringstillstånd.

InnerGenerator

Hämtar den inre IEmbeddingGenerator<TInput,TEmbedding>.

(Ärvd från DelegatingEmbeddingGenerator<TInput,TEmbedding>)
JsonSerializerOptions

Hämtar eller anger JSON-serialiseringsalternativ som ska användas vid serialisering av cachedata.

Metoder

Name Description
Dispose()

Utför programdefinierade uppgifter som är associerade med att frigöra, frigöra eller återställa ohanterade resurser.

(Ärvd från DelegatingEmbeddingGenerator<TInput,TEmbedding>)
Dispose(Boolean)

Tillhandahåller en mekanism för att frigöra ohanterade resurser.

(Ärvd från DelegatingEmbeddingGenerator<TInput,TEmbedding>)
GenerateAsync(IEnumerable<TInput>, EmbeddingGenerationOptions, CancellationToken)

Representerar en delegering av inbäddningsgeneratorn som cachelagrar resultatet av inbäddningsgenereringsanrop och lagrar dem som JSON i en IDistributedCache.

(Ärvd från CachingEmbeddingGenerator<TInput,TEmbedding>)
GetCacheKey(ReadOnlySpan<Object>)

Beräknar en cachenyckel för de angivna värdena.

GetService(Type, Object)

Frågar efter IEmbeddingGenerator<TInput,TEmbedding> ett objekt av den angivna typen serviceType.

(Ärvd från DelegatingEmbeddingGenerator<TInput,TEmbedding>)
ReadCacheAsync(String, CancellationToken)

Returnerar en tidigare cachelagrad Embedding<T>, om den är tillgänglig.

WriteCacheAsync(String, TEmbedding, CancellationToken)

Lagrar en TEmbedding i den underliggande cachen.

Tilläggsmetoder

Name Description
AsBuilder<TInput,TEmbedding>(IEmbeddingGenerator<TInput,TEmbedding>)

Skapar en ny EmbeddingGeneratorBuilder<TInput,TEmbedding> användning innerGenerator som inre generator.

GenerateAndZipAsync<TInput,TEmbedding>(IEmbeddingGenerator<TInput,TEmbedding>, IEnumerable<TInput>, EmbeddingGenerationOptions, CancellationToken)

Genererar inbäddningar för var och en av de angivna values och skapar en lista som parar ihop varje indatavärde med den resulterande inbäddningen.

GenerateAsync<TInput,TEmbedding>(IEmbeddingGenerator<TInput,TEmbedding>, TInput, EmbeddingGenerationOptions, CancellationToken)

Genererar en inbäddning från den angivna value.

GetRequiredService(IEmbeddingGenerator, Type, Object)

Frågar efter IEmbeddingGenerator<TInput,TEmbedding> ett objekt av den angivna typen serviceType och utlöser ett undantag om ett inte är tillgängligt.

GetRequiredService<TService>(IEmbeddingGenerator, Object)

Frågar efter IEmbeddingGenerator<TInput,TEmbedding> ett objekt av typen TService och utlöser ett undantag om ett inte är tillgängligt.

GetService<TService>(IEmbeddingGenerator, Object)

Frågar efter IEmbeddingGenerator<TInput,TEmbedding> ett objekt av typen TService.

Gäller för