![](https://wonk.ai/wp-content/uploads/2024/03/GPT2-at-a-glance-Spreadsheets-are-all-you-need-ai.png)
KI verstehen – Wie funktionieren Transformer-Modelle und GPT?
20. März 2024 by [lc_the_author_full_name]
Dieses Video erklärt in einfachen Schritten, wie Transformer funktionieren und zeigt anhand von Excel-Funktionen den Aufbau der Architektur von GPT2 von OpenAI.
Die zugrundeliegende Tabelle kann hier heruntergeladen und selbst ausprobiert werden (Download-Sektion).
Die Umsetzung von Spreadsheets are all you need dient zum Verständnis der Funktionsweise und funktioniert nur mit wenig Last und entsprechenden Einschränkungen:
- Full GPT2 small (124M parameters) model including byte pair encoding, embeddings, multi-headed attention, and multi-layer perceptron stages
- Inference/forward pass only (no training)
- Context is limited to 10 tokens in length
- 10 characters per word limit
- Zero temperature output only
Ein schöne Möglichkeit in das Thema einzusteigen und mehr Verständnis zu erlangen.
![Alexander Stahlkopf](https://wonk.ai/wp-content/uploads/2023/08/cropped-Alexander-wonkAI.png)
Trainierte Übersetzungsmodelle
in Unternehmenssprache. Mammutstark.
Translate jetzt 30 Tage kostenfrei ausprobieren!
Erhalte Deinen kostenfreien Zugang zu Echtzeit-Übersetzungen von Texten & Dokumenten.
Dein erster Schrittt für unternehmenseigene Übersetzungsmodelle
Maschinelle Übersetzung in bestmöglicher Qualität.