Microsoft und Nvidia kooperieren für riesiges AI-Sprach-Modell

Microsoft und Nvidia kooperieren für riesiges AI-Sprach-Modell

(Quelle: Microsoft)
Link auf diesen Artikel als E-Mail versenden
X
Empfänger:
Ihr Name:
Ihre Mailadresse:
12. Oktober 2021 - Microsoft und Nvidia legen Ressourcen zusammen, um AI-Sprachmodelle zu trainieren und die Herausforderungen um die Verarbeitung von gigantischen Datensätzen für AI-Trainings anzugehen.
Microsoft und Nvidia haben bekannt gegeben, dass man zusammen an einem Modell zur Erzeugung natürlicher Sprache arbeitet, das alle bisherigen Standards übertrumpfen soll. Das Deepspeed- and Megatron-angetriebene Megatron-Turing Natural Language Generation Model (MT-NLG) ist laut den beiden Unternehmen mit 530 Milliarden Parametern das bis dato grösste Sprachmodell, das jemals trainiert wurde. Die Aufgaben, die MT-NLG verarbeiten kann, umfassen etwa Vorhersagen für Textkomplettierung, Leseverständnis und Schlussfolgerungen in natürlicher Sprache.

Im Rahmen der Zusammenarbeit wollen Microsoft und Nvidia auch weiter an der Optimierung von grossen AI-Modellen arbeiten. Die Probleme von grossen AI-Modellen verorten die beiden Unternehmen im Prinzip in der Machbarkeit: Zum einen sei aktuelle die Hardware nicht in der Lage, alle Parameter für ein solches Modell überhaupt zu verarbeiten oder aber es kommt zu unrealistisch langen Trainingszeiten für die Modelle. Dank Optimierungen, der Kombination der Hardware- und Infrastrukturkompetenzen der beiden Unternehmen, speziellem Software Design und der Modellkonfiguration konnten mit MT-NLG nun erste Erfolge verzeichnet werden.

Detaillierte Erklärungen und Massnahmen für das Training von MT-NLG sind auf dem Microsoft-Blog zu finden. (win)

Weitere Artikel zum Thema

Finanzierung für KI nimmt stark zu
30. September 2021 - Laut Gartner planen 33 Prozent der Technologieanbieter weltweit, innerhalb von zwei Jahren 1 Million Dollar oder mehr in Künstliche Intelligenz (KI) zu investieren.
Das sind die KI-Trends der nahen Zukunft
8. September 2021 - Gartner hat seinen Hype Cycle für Künstliche Intelligenz 2021 veröffentlicht und vier Haupt-Trends identifiziert, die die Innovation im Bereich Künstliche Intelligenz (KI) in naher Zukunft vorantreiben werden.

Neuen Kommentar erfassen

Kommentare werden vor der Freischaltung durch die Redaktion geprüft.
Anti-Spam-Frage:
Wieviele Zwerge traf Schneewittchen im Wald?
Antwort:
Name:
E-Mail:
NEUESTE
EMPFEHLUNGEN
MEISTGELESENE
NEWSLETTER ABONNIEREN
Der tägliche Newsletter mit den wichtigsten Meldungen aus der IT- und CE-Branche.
Bitte Feld nicht ausfüllen:
E-Mail
SWICO AKTUELL
SPONSOREN & PARTNER