Serverlose GPU-Umgebung, Version 5 (Vorschau)

Auf dieser Seite werden die Systemumgebungsinformationen für serverlose GPU-Umgebung, Version 5, beschrieben. Dieses Computeangebot ist Teil der KI-Runtime, die für moderne KI- und Deep Learning-Workloads konzipiert ist.

Serverlose GPU-Umgebung 5 basiert auf serverloser Umgebung 5 (CPU). Schauen Sie sich die Neuerungen in serverloser Umgebung 5 (CPU) an. Sie enthält die folgende Umgebung:

• Standardbasisumgebung: eine minimale Umgebung mit stabiler Client-API.

Um die Kompatibilität für die Anwendung sicherzustellen, verwenden Serverlose GPU-Workloads eine versionslose API, die als Umgebungsversion bezeichnet wird, die mit neueren Serverversionen kompatibel bleibt.

Sie können eine Basisumgebung auswählen, die diese Umgebungsversion enthält, indem Sie den Seitenbereich " Umgebung " in Ihren serverlosen Notizbüchern verwenden. Siehe Interaktive (Notizbücher).

Neue Features und Verbesserungen

In Version 5 stellt Databricks eine minimale Umgebung bereit, die nur serverlose GPU-API, die Databricks-Abhängigkeiten und MLflow unterstützt. Benutzer können die Umgebung an ihre Anforderungen anpassen. Die Standardbasisumgebung in Version 5 enthält keine bestimmten Pakete, die in der CPU-Umgebung vorhanden sind, um eine minimale funktionale GPU-Umgebung bereitzustellen. Benutzer, die eine vollständige Umgebung mit umfassenden KI-Bibliotheken wünschen, sollten die Databricks AI-Umgebung verwenden.

API-Aktualisierungen

14. April 2026

Serverlose GPU-Python-API wurde auf 0.5.15 aktualisiert

Die Serverless GPU Python API 0.5.15 enthält die folgenden API-Updates:

• Neue Features:
  • Die Protokollweiterleitung in MLflow wurde für lokale serverlose GPU-API-Abläufe hinzugefügt. Schulungsprotokolle aus lokalen Läufen werden jetzt automatisch in MLflow hochgeladen.
• Fehlerbehebungen:
  • Wenn PyTorch nicht installiert ist, weist die Fehlermeldung jetzt richtig darauf hin, dass die Standard v5-Basisumgebung keine Taschenlampe enthält.
• Sicherheit:
  • Alle Python-Abhängigkeitsversionen wurden auf exakte Versionsnummern festgelegt, um Lieferkettenangriffe durch neu veröffentlichte schadhafte Paketversionen zu verhindern.

17. März 2026

Serverlose GPU-Python-API wurde auf 0.5.14 aktualisiert

Die Serverless GPU Python API 0.5.14 enthält die folgenden API-Updates:

• Fehlerbehebungen:
  • Es wurde ein Problem behoben, bei dem die SERVERless GPU-API auf Steuerungsebenen ohne MAPI nicht verfügbar war. Die API greift jetzt ordnungsgemäß auf die On-Demand-Berechnung zurück, wenn MAPI nicht erreichbar ist.

2. März 2026

Serverlose GPU-Python-API wurde auf 0.5.13 aktualisiert

Die Serverless GPU Python API 0.5.13 enthält die folgenden API-Updates:

• Fehlerbehebungen:
  • Das Parsen der Azure A10 GPU-Gerätenamen im lokalen Modus wurde korrigiert. Die API behandelt jetzt Azure spezifischen Formate wie "A10-24Q".
  • Es wurde ein Problem behoben, bei dem die aktive MLflow-Ausführung nach Abschluss der lokalen Ausführung nicht geschlossen wurde.
  • Das Problem der Kompatibilität des MLflow-Protokollstreamings mit MLflow 3.x wurde behoben. Eine Änderung des Verhaltens des Artefaktdownloadpfads in MLflow 3.x führte dazu, dass das Log-Streaming unterbrochen wurde. Das Protokollstreaming funktioniert jetzt ordnungsgemäß mit MLflow 2.x und 3.x.
  • Ein Problem wurde behoben, das dazu führte, dass die Trainingsläufe hängen bleiben. Das in einer früheren Version eingeführte MLflow-Statussynchronisierungsfeature für Rangstufen wurde zurückgesetzt.

Pakete, die nicht in der Basisumgebung enthalten sind

Die folgenden Pakete sind nicht in der Basisumgebung enthalten, bleiben aber in der CPU-Umgebung verfügbar:

• scipy
• seaborn
• scikit-learn

Basierend auf dem Kundenfeedback, das Kontrolle über die PyTorch-Versionierung wünscht, ist torch in der Basisumgebung in Version 5 nicht enthalten. Auf diese Weise können Sie die Version installieren, die am besten zu Ihrer Workload passt. Wenn Sie eine von Databricks getestete Version verwenden möchten, führen Sie %pip install torch==2.9.0 sie in einer Notizbuchzelle aus, oder installieren torch==2.9.0 Sie sie mithilfe des Abschnitts "Abhängigkeiten" des Seitenbereichs "Umgebung ".

Systemumgebung

• Betriebssystem: Ubuntu 24.04.2 LTS
• Python: 3.12.3
• Databricks Connect: 18.0.0
• NVIDIA CUDA Toolkit: 12.9

Installierte Python-Bibliotheken

Standardbasisumgebung

Um serverlose GPU-Umgebung 5 in Ihrer lokalen virtuellen Python-Umgebung zu reproduzieren, laden Sie die requirements-env-gpu-5.txt Datei herunter, und führen Sie sie aus pip install -r requirements-env-gpu-5.txt. Mit diesem Befehl werden alle Open Source-Bibliotheken aus serverloser Umgebung 5 installiert.