FunctionInvokingChatClient Klass

Definition

public ref class FunctionInvokingChatClient : Microsoft::Extensions::AI::DelegatingChatClient

public class FunctionInvokingChatClient : Microsoft.Extensions.AI.DelegatingChatClient

type FunctionInvokingChatClient = class
    inherit DelegatingChatClient

Public Class FunctionInvokingChatClient
Inherits DelegatingChatClient

Arv

Object

DelegatingChatClient

FunctionInvokingChatClient

Kommentarer

När den här klienten tar emot ett FunctionCallContent i ett chattsvar från dess inre IChatClientsvarar den genom att anropa motsvarande AIFunction som definierats i Tools (eller i AdditionalTools) och generera en FunctionResultContent som den skickar tillbaka till den inre klienten. Den här loopen upprepas tills det inte finns några fler funktionsanrop att göra, eller tills ett annat stoppvillkor uppfylls, till exempel genom att trycka på MaximumIterationsPerRequest.

Om en begärd funktion är en AIFunctionDeclaration men inte en AIFunction, FunctionInvokingChatClient försöker inte anropa den och tillåter i stället att den FunctionCallContent skickas tillbaka till anroparen. Det är sedan uppringarens ansvar att skapa lämpliga FunctionResultContent för det samtalet och skicka tillbaka det som en del av en efterföljande begäran.

Om en begärd funktion är en ApprovalRequiredAIFunctionFunctionInvokingChatClient försöker inte anropa den direkt. I stället ersätts FunctionCallContent den med en ToolApprovalRequestContent som omsluter FunctionCallContent och anger att funktionen kräver godkännande innan den kan anropas. Anroparen ansvarar sedan för att svara på begäran om godkännande genom att skicka en motsvarande ToolApprovalResponseContent i en efterföljande begäran. FunctionInvokingChatClient Kommer sedan att bearbeta godkännandesvaret och anropa funktionen efter behov.

På grund av typen av interaktioner med en underliggande IChatClient, om någon FunctionCallContent tas emot för en funktion som kräver godkännande, kommer alla som tas emot FunctionCallContent i samma svar också att kräva godkännande, även om de inte ApprovalRequiredAIFunction var instanser. Om detta är ett problem bör du överväga att begära att flera begäranden om anrop av verktyg inte görs i ett enda svar genom att ange AllowMultipleToolCalls till false.

En FunctionInvokingChatClient instans är trådsäker för samtidig användning så länge de AIFunction instanser som används som en del av den angivna ChatOptions också är säkra. Egenskapen AllowConcurrentInvocation kan användas för att styra om flera begäranden om funktionsanrop som en del av samma begäran kan anropas samtidigt, men även med den inställningen false (standard) kan flera samtidiga begäranden till samma instans och samma verktyg leda till att dessa verktyg används samtidigt (en per begäran). Till exempel bör en funktion som använder HttpContext för en specifik ASP.NET webbbegäran endast användas som en del av en enda ChatOptions i taget, och endast med AllowConcurrentInvocation inställd på false, om den inre klienten bestämde sig för att utfärda flera begäranden om anrop till samma funktion.