DistributedCachingChatClient Klass

Definition

Namnområde:
Microsoft.Extensions.AI
Sammansättning:
Microsoft.Extensions.AI.dll
Paket:
Microsoft.Extensions.AI v10.6.0
Källa:
DistributedCachingChatClient.cs

En delegerande chattklient som cachelagrar resultatet av svarsanrop och lagrar dem som JSON i en IDistributedCache.

public ref class DistributedCachingChatClient : Microsoft::Extensions::AI::CachingChatClient
public class DistributedCachingChatClient : Microsoft.Extensions.AI.CachingChatClient
type DistributedCachingChatClient = class
    inherit CachingChatClient
Public Class DistributedCachingChatClient
Inherits CachingChatClient
Arv
Object
DelegatingChatClient
CachingChatClient
DistributedCachingChatClient

Kommentarer

Använder DistributedCachingChatClient JSON-serialisering som en del av lagringen av cachelagrade data. Det är inte garanterat att objektmodellerna som används av ChatMessage, ChatOptions, ChatResponse, ChatResponseUpdateeller något av de andra objekten i chattklientpipelinen tur och retur via JSON-serialisering med fullständig återgivning. Till exempel RawRepresentation ignoreras och Object värden i AdditionalProperties kommer att deserialiseras som JsonElement i stället för som den ursprungliga typen. I allmänhet bör kod som använder DistributedCachingChatClient endast förlita sig på åtkomst till data som kan bevaras tillräckligt bra genom JSON-serialisering och deserialisering.

Den tillhandahållna implementeringen av IChatClient är trådsäker för samtidig användning så länge de anställda IDistributedCache är lika trådsäkra för samtidig användning.

Konstruktorer

Name Description
DistributedCachingChatClient(IChatClient, IDistributedCache)

Initierar en ny instans av DistributedCachingChatClient klassen.

Egenskaper

Name Description
CacheKeyAdditionalValues

Hämtar eller anger ytterligare värden som används för att informera den cachenyckel som används för lagringstillstånd.
CoalesceStreamingUpdates

Hämtar eller anger ett värde som anger om strömmande uppdateringar sammansejsas.

(Ärvd från CachingChatClient)
InnerClient

Hämtar den inre IChatClient.

(Ärvd från DelegatingChatClient)
JsonSerializerOptions

Hämtar eller anger JSON-serialiseringsalternativ som ska användas vid serialisering av cachedata.

Metoder

Name Description
Dispose()

Utför programdefinierade uppgifter som är associerade med att frigöra, frigöra eller återställa ohanterade resurser.

(Ärvd från DelegatingChatClient)
Dispose(Boolean)

Tillhandahåller en mekanism för att frigöra ohanterade resurser.

(Ärvd från DelegatingChatClient)
EnableCaching(IEnumerable<ChatMessage>, ChatOptions)

Avgör om cachelagring ska användas med den angivna begäran.

(Ärvd från CachingChatClient)
GetCacheKey(IEnumerable<ChatMessage>, ChatOptions, ReadOnlySpan<Object>)

Beräknar en cachenyckel för de angivna värdena.
GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)

En delegerande chattklient som cachelagrar resultatet av svarsanrop och lagrar dem som JSON i en IDistributedCache.

(Ärvd från CachingChatClient)
GetService(Type, Object)

Frågar efter IChatClient ett objekt av den angivna typen serviceType.

(Ärvd från DelegatingChatClient)
GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)

En delegerande chattklient som cachelagrar resultatet av svarsanrop och lagrar dem som JSON i en IDistributedCache.

(Ärvd från CachingChatClient)
ReadCacheAsync(String, CancellationToken)

Returnerar en tidigare cachelagrad ChatResponse, om den är tillgänglig. Detta används när det finns ett anrop till GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).
ReadCacheStreamingAsync(String, CancellationToken)

Returnerar en tidigare cachelagrad lista med ChatResponseUpdate värden, om den är tillgänglig. Detta används när det finns ett anrop till GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).
WriteCacheAsync(String, ChatResponse, CancellationToken)

Lagrar en ChatResponse i den underliggande cachen. Detta används när det finns ett anrop till GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).
WriteCacheStreamingAsync(String, IReadOnlyList<ChatResponseUpdate>, CancellationToken)

Lagrar en lista med ChatResponseUpdate värden i den underliggande cachen. Detta används när det finns ett anrop till GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

Tilläggsmetoder

Name Description
AsBuilder(IChatClient)

Skapar en ny ChatClientBuilder som använder innerClient som sin inre klient.
GetRequiredService(IChatClient, Type, Object)

Frågar efter IChatClient ett objekt av den angivna typen serviceType och utlöser ett undantag om ett inte är tillgängligt.
GetRequiredService<TService>(IChatClient, Object)

Frågar efter IChatClient ett objekt av typen TService och utlöser ett undantag om ett inte är tillgängligt.
GetResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)

Skickar ett chattmeddelande och returnerar svarsmeddelandena.
GetResponseAsync(IChatClient, String, ChatOptions, CancellationToken)

Skickar ett sms för användarchatt och returnerar svarsmeddelandena.
GetResponseAsync<T>(IChatClient, ChatMessage, ChatOptions, Nullable<Boolean>, CancellationToken)

Skickar ett chattmeddelande och begär ett svar som matchar typen T.
GetResponseAsync<T>(IChatClient, ChatMessage, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Skickar ett chattmeddelande och begär ett svar som matchar typen T.
GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, ChatOptions, Nullable<Boolean>, CancellationToken)

Skickar chattmeddelanden och begär ett svar som matchar typen T.
GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Skickar chattmeddelanden och begär ett svar som matchar typen T.
GetResponseAsync<T>(IChatClient, String, ChatOptions, Nullable<Boolean>, CancellationToken)

Skickar ett sms för användarchatt och begär ett svar som matchar typen T.
GetResponseAsync<T>(IChatClient, String, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Skickar ett sms för användarchatt och begär ett svar som matchar typen T.
GetService<TService>(IChatClient, Object)

Frågar efter IChatClient ett objekt av typen TService.
GetStreamingResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)

Skickar ett chattmeddelande och strömmar svarsmeddelandena.
GetStreamingResponseAsync(IChatClient, String, ChatOptions, CancellationToken)

Skickar ett sms för användarchatt och strömmar svarsmeddelandena.

Gäller för