KI verstehen – Wie funktionieren Transformer-Modelle und GPT?
20. März 2024 by Alexander Stahlkopf
Dieses Video erklärt in einfachen Schritten, wie Transformer funktionieren und zeigt anhand von Excel-Funktionen den Aufbau der Architektur von GPT2 von OpenAI.
Die zugrundeliegende Tabelle kann hier heruntergeladen und selbst ausprobiert werden (Download-Sektion).
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Die Umsetzung von Spreadsheets are all you need dient zum Verständnis der Funktionsweise und funktioniert nur mit wenig Last und entsprechenden Einschränkungen:
- Full GPT2 small (124M parameters) model including byte pair encoding, embeddings, multi-headed attention, and multi-layer perceptron stages
- Inference/forward pass only (no training)
- Context is limited to 10 tokens in length
- 10 characters per word limit
- Zero temperature output only
Ein schöne Möglichkeit in das Thema einzusteigen und mehr Verständnis zu erlangen.
Alexander Stahlkopf
Alex loves Marketing, UX and bringing ideas into life.
After experiences as musician, publisher, manager and concepter - building music education and web-agency locations and then growing his independent IT-consulting company for 8 years - he combines these to follow his vision: "Make work-life easier and more fun."
He likes board sports and traveling with his camper.
Trainierte Übersetzungsmodelle
in Unternehmenssprache. Mammutstark.
Translate jetzt 30 Tage kostenfrei ausprobieren!
Erhalte Deinen kostenfreien Zugang zu Echtzeit-Übersetzungen von Texten & Dokumenten.
Dein erster Schrittt für unternehmenseigene Übersetzungsmodelle
Maschinelle Übersetzung in bestmöglicher Qualität.