DistributedCachingChatClient Classe
Definizione
Importante
Alcune informazioni sono relative alla release non definitiva del prodotto, che potrebbe subire modifiche significative prima della release definitiva. Microsoft non riconosce alcuna garanzia, espressa o implicita, in merito alle informazioni qui fornite.
Client di chat di delega che memorizza nella cache i risultati delle chiamate di risposta, archiviandoli come JSON in un oggetto IDistributedCache.
public ref class DistributedCachingChatClient : Microsoft::Extensions::AI::CachingChatClientpublic class DistributedCachingChatClient : Microsoft.Extensions.AI.CachingChatClienttype DistributedCachingChatClient = class
inherit CachingChatClientPublic Class DistributedCachingChatClient
Inherits CachingChatClient- Ereditarietà
Commenti
DistributedCachingChatClient usa la serializzazione JSON come parte dell'archiviazione dei dati memorizzati nella cache. Non è garantito che i modelli a oggetti usati da ChatMessage, ChatOptions, ChatResponse, ChatResponseUpdateo qualsiasi altro oggetto nella pipeline client di chat eseguirà il round trip attraverso la serializzazione JSON con la massima fedeltà. Ad esempio, RawRepresentation verranno ignorati e Object i valori in AdditionalProperties deserializzeranno come JsonElement anziché come tipo originale. In generale, il codice che usa DistributedCachingChatClient deve basarsi solo sull'accesso ai dati che possono essere mantenuti abbastanza bene tramite la serializzazione JSON e la deserializzazione.
L'implementazione fornita di IChatClient è thread-safe per l'uso simultaneo, purché l'impiegato IDistributedCache sia analogamente thread-safe per l'uso simultaneo.
Costruttori
| Nome | Descrizione |
|---|---|
| DistributedCachingChatClient(IChatClient, IDistributedCache) |
Inizializza una nuova istanza della classe DistributedCachingChatClient. |
Proprietà
| Nome | Descrizione |
|---|---|
| CacheKeyAdditionalValues |
Ottiene o imposta valori aggiuntivi utilizzati per informare la chiave della cache utilizzata per l'archiviazione dello stato. |
| CoalesceStreamingUpdates |
Ottiene o imposta un valore che indica se gli aggiornamenti di streaming vengono uniti. (Ereditato da CachingChatClient) |
| InnerClient |
Ottiene l'oggetto interno IChatClient. (Ereditato da DelegatingChatClient) |
| JsonSerializerOptions |
Ottiene o imposta le opzioni di serializzazione JSON da usare durante la serializzazione dei dati della cache. |
Metodi
| Nome | Descrizione |
|---|---|
| Dispose() |
Esegue attività definite dall'applicazione associate alla liberazione, al rilascio o alla reimpostazione di risorse non gestite. (Ereditato da DelegatingChatClient) |
| Dispose(Boolean) |
Fornisce un meccanismo per il rilascio di risorse non gestite. (Ereditato da DelegatingChatClient) |
| EnableCaching(IEnumerable<ChatMessage>, ChatOptions) |
Determina se la memorizzazione nella cache deve essere utilizzata con la richiesta specificata. (Ereditato da CachingChatClient) |
| GetCacheKey(IEnumerable<ChatMessage>, ChatOptions, ReadOnlySpan<Object>) |
Calcola una chiave della cache per i valori specificati. |
| GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Client di chat di delega che memorizza nella cache i risultati delle chiamate di risposta, archiviandoli come JSON in un oggetto IDistributedCache. (Ereditato da CachingChatClient) |
| GetService(Type, Object) |
Richiede un IChatClient oggetto del tipo |
| GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Client di chat di delega che memorizza nella cache i risultati delle chiamate di risposta, archiviandoli come JSON in un oggetto IDistributedCache. (Ereditato da CachingChatClient) |
| ReadCacheAsync(String, CancellationToken) |
Restituisce un oggetto memorizzato ChatResponsenella cache in precedenza, se disponibile. Questa operazione viene usata quando è presente una chiamata a GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| ReadCacheStreamingAsync(String, CancellationToken) |
Restituisce un elenco di ChatResponseUpdate valori memorizzato nella cache, se disponibile. Questa operazione viene usata quando è presente una chiamata a GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| WriteCacheAsync(String, ChatResponse, CancellationToken) |
Archivia un oggetto ChatResponse nella cache sottostante. Questa operazione viene usata quando è presente una chiamata a GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| WriteCacheStreamingAsync(String, IReadOnlyList<ChatResponseUpdate>, CancellationToken) |
Archivia un elenco di ChatResponseUpdate valori nella cache sottostante. Questa operazione viene usata quando è presente una chiamata a GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
