Wie KI arbeitet
Wie ein Sprachmodell wie ChatGPT arbeitet — und warum es funktioniert. Angelehnt an Stephen Wolfram, „Das Geheimnis hinter ChatGPT".
TODO: Einleitung zur Unterkategorie.
01
Wahrscheinlichkeiten fürs nächste Wort
Wie ein Sprachmodell Text Wort für Wort fortsetzt.
02
Was ist ein Modell?
Von Messpunkten zur Funktion: was es heißt, etwas zu modellieren.
03
Neuronale Netze und Training
Gewichte, Verlustfunktion und wie ein Netz aus Beispielen lernt.
04
Embeddings
Wörter als Punkte in einem Bedeutungsraum.
05
Transformer
Attention und der Aufbau von GPT.
06
Warum funktioniert das?
Was der Erfolg von ChatGPT über Sprache verrät.