Dieses Video erklärt in einfachen Schritten, wie Transformer funktionieren und zeigt anhand von Excel-Funktionen den Aufbau der Architektur von GPT2 von OpenAI.

Die zugrundeliegende Tabelle kann hier heruntergeladen und selbst ausprobiert werden (Download-Sektion).

YouTube

Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren

Video laden

Die Umsetzung von Spreadsheets are all you need dient zum Verständnis der Funktionsweise und funktioniert nur mit wenig Last und entsprechenden Einschränkungen:

  • Full GPT2 small (124M parameters) model including byte pair encoding, embeddings, multi-headed attention, and multi-layer perceptron stages
  • Inference/forward pass only (no training)
  • Context is limited to 10 tokens in length
  • 10 characters per word limit
  • Zero temperature output only

Ein schöne Möglichkeit in das Thema einzusteigen und mehr Verständnis zu erlangen.

Alexander Stahlkopf
[lc_the_author_full_name]

[lc_the_author_description]

mehr erfahren

Trainierte Übersetzungsmodelle
in Unternehmenssprache. Mammutstark.

Erhalte Zugang zu Echtzeit-Übersetzungen von Texten & Dokumenten.

Dein erster Schritt für unternehmenseigene Übersetzungsmodelle

Maschinelle Übersetzung in bestmöglicher Qualität.