Vektorräume
Das Fundament der KI

Die aktuellen Large Language Models basieren auf dem Transformer Modell, welches der Google Mitarbeiter Ashish Vaswani erstmal 2017 in der heutigen Form beschrieben hat. Transformermodelle sind in der Lage, ihren Input – vor allem Text – in Vektoren umzuwandeln. Dabei wird zunächst der Eingabetext in Tokens zerlegt.
Ein Token entspricht häufig einem Wort, kann aber auch kürzer sein. Die großen Sprachmodelle kommen mit weniger als 200.000 verschiedenen Tokens aus für Millionen von Wörtern in nahezu allen Sprachen der Welt. Jeder Token erhält anschließend einen Vektor im semantischen Raum. Diesen Vorgang der Umwandlung von Sprache in Vektoren nennt man „Embedding“.
