Upgrade von GitHub Modellen auf Microsoft Foundry Models

In diesem Artikel erfahren Sie, wie Sie eine generative KI-Anwendung entwickeln, indem Sie von GitHub Models aus beginnen und dann Ihre Erfahrung aktualisieren, indem Sie eine Foundry Tools-Ressource mit Microsoft Foundry Models bereitstellen.

GitHub Models sind nützlich, wenn Sie KI-Modelle kostenlos finden und mit ihnen experimentieren möchten, während Sie eine generative KI-Anwendung entwickeln. Wenn Sie bereit sind, Ihre Anwendung in die Produktion zu bringen, aktualisieren Sie Ihre Erfahrung, indem Sie eine Foundry Tools-Ressource in einem Azure-Abonnement bereitstellen und mit der Verwendung von Foundry Models beginnen. Sie müssen nichts anderes in Ihrem Code ändern.

Der Playground und die kostenlose API-Nutzung für GitHub-Modelle sind eingeschränkt durch Raten, basierend auf Anfragen pro Tag, Anfragen pro Minute, Token pro Anfrage und gleichzeitigen Anfragen. Wenn Sie vom Rate-Limit betroffen sind, müssen Sie warten, bis das Limit zurückgesetzt wird, bevor Sie weitere Anforderungen stellen können.

Voraussetzungen

Du brauchst:

• Ein GitHub Konto mit Zugriff auf GitHub Models.
• Ein Azure-Abonnement mit einer gültigen Zahlungsmethode. Wenn Sie nicht über ein Azure-Abonnement verfügen, erstellen Sie zunächst ein paid Azure Konto. Alternativ können Sie warten, bis Sie bereit sind, Ihr Modell in der Produktion bereitzustellen. An diesem Punkt werden Sie aufgefordert, Ihr Azure Konto auf ein Standardkonto zu erstellen oder zu aktualisieren.
• Foundry-Modelle von Partnern und Community benötigen Zugriff auf Azure Marketplace. Stellen Sie sicher, dass Sie über die erforderlichen Berechtigungen zum Abonnieren von Modellangeboten verfügen. Foundry Models, die direkt von Azure haben diese Anforderung nicht.

Upgrade auf Foundry-Modelle

Die Ratenbeschränkungen für den Playground und die kostenlose API-Nutzung helfen Ihnen, mit Modellen zu experimentieren und Ihre KI-Anwendung zu entwickeln. Wenn Sie bereit sind, Ihre Anwendung in die Produktion zu bringen, verwenden Sie einen Schlüssel und endpunkt aus einem kostenpflichtigen Azure Konto. Sie müssen nichts anderes in Ihrem Code ändern.

So rufen Sie den Schlüssel und den Endpunkt ab:

1. Wechseln Sie zu GitHub Models und wählen Sie ein Modell aus, um auf dem Spielplatz zu landen. In diesem Artikel wird Mistral Medium 3 (25.05) verwendet.

2. Geben Sie einige Eingabeaufforderungen ein, oder verwenden Sie einige der vorgeschlagenen Eingabeaufforderungen, um mit dem Modell im Playground zu interagieren.

3. Wählen Sie "Dieses Modell verwenden" aus dem Playground aus. Diese Aktion öffnet ein Fenster mit "Erste Schritte mit Modellen in Ihrer Codebasis".

4. Wählen Sie im Schritt "Authentifizierung konfigurieren" im Abschnitt "Azure KI" Get Microsoft Foundry key aus.

   

5. Wenn Sie bereits bei Ihrem Azure Konto angemeldet sind, überspringen Sie diesen Schritt. Wenn Sie jedoch nicht über ein Azure Konto verfügen oder nicht bei Ihrem Konto angemeldet sind, führen Sie die folgenden Schritte aus:

   1. Wenn Sie nicht über ein Azure Konto verfügen, wählen Sie Create my account aus, und führen Sie die Schritte zum Erstellen eines Kontos aus.

   2. Wenn Sie über ein Azure Konto verfügen, wählen Sie alternativ Sign back in aus. Wenn Ihr vorhandenes Konto ein kostenloses Konto ist, müssen Sie zuerst ein Upgrade auf einen Standardplan durchführen.

   3. Kehren Sie zum Spielplatz des Modells zurück, und wählen Sie Get Microsoft Foundry key erneut aus.

   4. Melden Sie sich bei Ihrem Azure Konto an.

6. Sie gelangen zu Foundry > GitHub und landen in einem Foundry-Projekt auf der Startseite.

   Tipp

   Wenn Sie in die Foundry-Erfahrung (klassisch) gelangen, schalten Sie den Schalter "Neue Foundry" in der oberen rechten Navigationsleiste um, um zur neuen Foundry-Erfahrung zu wechseln.

7. Führen Sie die Schritte in "Bereitstellen eines Modells " aus, um das Modell Ihrer Wahl bereitzustellen, sie im Playground zu testen und das bereitgestellte Modell mit Code abzuleiten.

8. Überprüfen Sie, ob die Bereitstellung funktioniert, indem Sie eine Testaufforderung im Playground senden. Wenn Sie eine Antwort erhalten, kann Ihr Modell über Code verwendet werden.

Weitere Features erkunden

Foundry Models unterstützt Features, die in GitHub Modellen nicht verfügbar sind:

• Model catalog – Durchsuchen, Vergleichen und Auswerten von Modellen aus Azure, Partnern und der Open-Source-Community.
• Keyless authentication – Verwenden Sie Microsoft Entra ID für die tokenbasierte Authentifizierung, ohne API-Schlüssel zu verwalten.
• Inhaltsfilter – Konfigurieren Sie Inhaltssicherheitsfilter für Ihre Bereitstellungen.
• Satzbegrenzung – Legen Sie benutzerdefinierte Ratelimits für bestimmte Modelle in Ihrer Ressource fest.
• Bereitstellungstypen – Wählen Sie aus mehreren Bereitstellungs-SKUs wie Pay-per-Token, bereitgestellt und Batch.

Behandeln häufiger Probleme

Verwandte Inhalte

• Deploy Microsoft Foundry Models im Foundry-Portal
• Erstellen von Modellbereitstellungen
• Bereitstellungstypen für Foundry-Modelle