Zwei prägende Persönlichkeiten der Software und AI-Branche treffen aufeinander: Bill Gates, der mit der Gründung von Microsoft für die „alte Welt“ steht – und Sam Altman, der CEO von OpenAI, des führenden Unternehmens für Generative AI Modelle und des weltbekannten ChatGPT.

Dieser Blogeintrag fasst das Interview und die Kernaussagen zusammen. Erschienen ist der Podcast am 11.01.2024 in der Serie „Unconfuse Me“ von Bill Gates. In den etwa 30 Minuten diskutieren beide den aktuellen Stand, die Zukunft von AI und die Entwicklung der Unternehmung OpenAI. Link zu Spotify.

Im Podcast erwähnt Sam Altman, am Rande – und als Beispiel für wissenschaftliche Errungenschaften – das der Anfang mit ChatGPT1 von einem einzelnen Menschen bei OpenAI geschaffen wurde, ohne zu wissen, warum es funktioniert. Und er geht offen damit um, dass OpenAI und die etwa 500 Mitarbeiter auch heutzutage nicht genau wissen, wo Informationen „embedded“ (abgelegt) sind. Analog zu dem heutigen Stand der Wissenschaft, bei dem wir als Menschheit nicht wissen, wo genau eine bestimmte Information im Gehirn zu finden ist und wie der Zugriff darauf funktioniert.

Empfehlenswerter Beitrag dazu: „Large language models can do jaw-dropping things. But nobody knows exactly why.“ Ein Zitat daraus „The biggest models are now so complex that researchers are studying them as if they were strange natural phenomena, carrying out experiments and trying to explain the results.“ (…) “The magic is not that the model can learn math problems in English and then generalize to new math problems in English,” says Barak, “but that the model can learn math problems in English, then see some French literature, and from that generalize to solving math problems in French. That’s something beyond what statistics can tell you about.”

OpenAI hat ein starkes Interesse das Verständnis dieses Wissen über die Technologie zu erhalten, denn in der Konsequenz sind die bisherigen GPT Versionen – auch GPT4 – nur ein erster Ausblick auf die Leistungsfähigkeit der zukünftigen AI-Modelle. Sobald mehr tieferes Verständnis über die Funktionsweise erlangt worden ist, wird AI deutlich verbessert.

Im Interview erwartet Altman etwa 5-10 Jahre sehr starker und schneller Weiterentwicklung und ein GPT“X“, das im Vergleich zu GPT4, mit 100.000 mal mehr Rechenfähigkeit ausgestattet ist. Die Voraussetzungen solch eine Kapazität zu schaffen erfordert viel Kapital, so dass Altman davon ausgeht, dass es nur etwa 5 dieser Modelle weltweit geben wird. Und er hält eine Regulierung dieser Modelle nach dem Vorbild der Atomenergie für notwendig, denn die Auswirkungen – positiver und negativer Art – sind vergleichbar.

Prognosen, die Altman in diesem Interview trifft:

1. Die Modelle werden effizienter in der Berechnung von Token – heutzutage ist der Rechenaufwand unabhängig von dem Schwierigkeitsgrad der Anfrage und unterscheidet nicht zwischen komplexen mathematischen Problemen und trivialen Anfragen.
2. Die Modelle werden verlässlicher und robuster in Ihren Antworten. Heutzutage ist bei 10.000 Anfragen eine sehr gute Antwort dabei. In Zukunft geht es darum, diese Antwort immer geben zu können.
3. Die Modelle werden komplette Jobs (Berufe) erledigen können. Heutzutage sind es meistens einzelne gekapselte Aufgaben. Im Podcast wird als zukünftiges Beispiel eine Firmengründung oder ein Forschungsauftrag genannt.
4. Die Modelle werden deutlich günstiger. Beispiel: GPT3 wurde innerhalb der dreieinhalb Jahre, die es am Markt ist, um den Faktor 40 günstiger. GPT3.5 um den Faktor 10.
5. Das kognitive Problem zu lösen war die schwierigste Aufgabe. Jetzt kommen Roboter. OpenAI hat seine ersten Schritte mit Robotern damals eingestellt. Nun ist dieses Grundproblem gelöst, so dass der Fortschritt mit Robotern und den physischen Herausforderungen weitergehen kann. In der Konsequenz wird die Kombination aus GPT, sehender AI (multimodal) & Robotik zur Ablösung vieler „Blue Collar Jobs“ (Handwerker & herstellende Industrie) führen.

Alexander Stahlkopf

Alex loves Marketing, UX and bringing ideas into life.
After experiences as musician, publisher, manager and concepter - building music education and web-agency locations and then growing his independent IT-consulting company for 8 years - he combines these to follow his vision: "Make work-life easier and more fun."
He likes board sports and traveling with his camper.

mehr erfahren