Was sind Large Language Models? Funktionsweise, Training und Einsatzmöglichkeiten großer Sprachmodelle

Large Language Models basieren auf neuronalen Netzen, einer KI-Architektur, die sich an der Funktionsweise des menschlichen Gehirns orientiert. Im Gehirn kommunizieren vernetzte Neuronen über elektrische Impulse und chemische Signale. In neuronalen Netzen übernehmen Software-Knoten diese Rolle und kommunizieren über mathematische Berechnungen.

Die spezielle Architektur, die moderne LLMs nutzen, heißt Transformer. Transformer wurden 2017 in dem wegweisenden Paper „Attention Is All You Need“ vorgestellt und haben die Sprachverarbeitung durch KI revolutioniert. Ihre zentrale Innovation ist der Attention-Mechanismus, auch Selbstbeobachtung genannt: ein Verfahren, das es dem Modell ermöglicht, die Bedeutung verschiedener Wörter in einem Satz zueinander ins Verhältnis zu setzen und so kontextuelle Zusammenhänge über lange Textstrecken hinweg zu erfassen.

Ein konkretes Beispiel: Im Satz „John spielte den Ball. Er war schnell.“ erkennt der Attention-Mechanismus, dass „Er“ sich auf „John“ bezieht und nicht auf „Ball“, weil er die Beziehungen zwischen allen Tokens in der Sequenz gleichzeitig bewertet.

Transformer ermöglichen zudem eine Parallelisierung der Berechnungen, was das Training auf riesigen Datenmengen überhaupt erst praktikabel macht. Frühere Architekturen wie Recurrent Neural Networks (RNNs) verarbeiteten Texte sequenziell, Wort für Wort. Transformer können alle Tokens einer Sequenz gleichzeitig verarbeiten, was das Training um ein Vielfaches beschleunigt.

Die Verarbeitung eines Textes durch ein Large Language Model folgt einem klar definierten Ablauf in vier Schritten:

Schritt 1: Tokenisierung. Der eingegebene Text wird in kleinere Einheiten zerlegt, sogenannte Tokens. Ein Token kann ein ganzes Wort, ein Wortteil oder sogar ein einzelnes Zeichen sein. Aktuelle LLMs nutzen überwiegend Teilwort-Verfahren wie Byte-Pair Encoding, die einen Mittelweg zwischen Vokabulargröße und semantischem Informationsgehalt bieten. Aus dem Satz „Die Sonne geht auf“ werden beispielsweise die Token-IDs.

Schritt 2: Embedding. Jedes Token wird in einen mathematischen Vektor überführt, eine Zahlenfolge, die die Bedeutung des Tokens im Raum repräsentiert. Semantisch ähnliche Wörter wie „Sonne“ und „Mond“ liegen im Vektorraum näher beieinander als „Sonne“ und „Schuhe“. Zusätzlich werden Positionskodierungen hinzugefügt, die dem Modell Informationen über die Stellung jedes Tokens in der Sequenz geben.

Schritt 3: Vorhersage des nächsten Tokens. Dies ist der Kern des LLM. Die Einbettungen durchlaufen die Transformer-Schichten, in denen der Attention-Mechanismus die Zusammenhänge zwischen allen Tokens bewertet. Jede Einbettung wird dabei in drei Vektoren projiziert: einen Abfrage-Vektor (was das Token „sucht“), einen Schlüssel-Vektor (welche Information das Token enthält) und einen Wert-Vektor (welche Information zurückgegeben wird). Aus den Ähnlichkeiten zwischen Abfragen und Schlüsseln werden Aufmerksamkeitsgewichte berechnet, die bestimmen, wie stark verschiedene Tokens die Vorhersage beeinflussen. Am Ende berechnet das Modell Wahrscheinlichkeiten für alle möglichen nächsten Tokens.

Schritt 4: Dekodierung. Eine Dekodierungsstrategie bestimmt, welches Token aus den berechneten Wahrscheinlichkeiten tatsächlich ausgegeben wird. Die einfachste Variante (Greedy Search) wählt immer das wahrscheinlichste Token. Komplexere Verfahren wie Top-K Sampling wählen aus den k wahrscheinlichsten Tokens, Beam Search bewertet ganze Token-Sequenzen, und Contrastive Search wägt die Wahrscheinlichkeit gegen die Ähnlichkeit mit dem bisherigen Kontext ab.

Dieser Prozess wird Token für Token wiederholt, bis die vollständige Ausgabe generiert ist. Das Modell „kennt“ die endgültige Antwort nicht im Voraus. Es gibt in jedem Schritt seine statistisch beste Vorhersage ab.

Das Training eines Large Language Models ist ein mehrstufiger Prozess, der erhebliche Ressourcen, Datenmengen und Expertise erfordert.

Stufe 1: Selbstüberwachtes Vortraining (Self-Supervised Learning)

In der ersten Phase wird das Modell mit riesigen Mengen an Rohdaten gefüttert: Webseiten, Bücher, wissenschaftliche Artikel, Forenbeiträge, Programmiercode und Millionen von Gesprächen. Das Modell „liest“ diese Texte nicht zur Wissensspeicherung, sondern zur Mustererkennung. Es lernt, fehlende Teile vorherzusagen, und entwickelt dadurch ein statistisches Verständnis von Sprachstruktur, Grammatik und Zusammenhängen.

Diese Phase ist extrem rechenintensiv. Sie erfordert tausende GPUs, Wochen bis Monate Rechenzeit und entsprechend hohe Energiekosten.

Stufe 2: Überwachte Feinabstimmung (Supervised Fine-Tuning)

In der zweiten Phase wird das vortrainierte Modell mit einem kleineren, gelabelten Datensatz weitertrainiert. Das Modell lernt, auf spezifische Anweisungen zu reagieren und mit Nutzern zu interagieren. Während das Vortraining dem Modell ein breites Sprachverständnis vermittelt, macht die Feinabstimmung es für konkrete Aufgaben wie Frage-Antwort, Zusammenfassung oder Konversation nutzbar .

Feinabstimmung kann auch domänenspezifisch erfolgen: Ein auf allgemeinem Wissen trainiertes Modell kann anhand medizinischer, juristischer oder technischer Texte so angepasst werden, dass es Fachsprache versteht und branchenspezifische Antworten liefert.

Stufe 3: Reinforcement Learning aus menschlichem Feedback (RLHF)

In der dritten Phase bewerten menschliche Annotatoren die Ausgaben des Modells und unterscheiden zwischen guten und schlechten Antworten. Aus diesem Feedback wird ein Belohnungsmodell trainiert, das erwünschte Verhaltensweisen fördert und unerwünschte Ergebnisse unterdrückt. RLHF ist besonders wichtig, um schädliche, beleidigende oder irreführende Ausgaben zu reduzieren und die Qualität der Antworten zu steigern.

Diese Phase umfasst auch das sogenannte Alignment: den Prozess, LLM-Ausgaben nützlich und sicher zu machen und mit menschlichen Werten in Einklang zu bringen.