KI verstehen – Wie funktionieren Transformer-Modelle und GPT?
20. März 2024 by [lc_the_author_full_name]
Dieses Video erklärt in einfachen Schritten, wie Transformer funktionieren und zeigt anhand von Excel-Funktionen den Aufbau der Architektur von GPT2 von OpenAI.
Die zugrundeliegende Tabelle kann hier heruntergeladen und selbst ausprobiert werden (Download-Sektion).
Die Umsetzung von Spreadsheets are all you need dient zum Verständnis der Funktionsweise und funktioniert nur mit wenig Last und entsprechenden Einschränkungen:
- Full GPT2 small (124M parameters) model including byte pair encoding, embeddings, multi-headed attention, and multi-layer perceptron stages
- Inference/forward pass only (no training)
- Context is limited to 10 tokens in length
- 10 characters per word limit
- Zero temperature output only
Ein schöne Möglichkeit in das Thema einzusteigen und mehr Verständnis zu erlangen.
Trainierte Übersetzungsmodelle
in Unternehmenssprache. Mammutstark.
Erhalte Zugang zu Echtzeit-Übersetzungen von Texten & Dokumenten.
Dein erster Schritt für unternehmenseigene Übersetzungsmodelle
Maschinelle Übersetzung in bestmöglicher Qualität.