Station 1 / 3 · Tokenizer

Zuerst zerlegt es deinen Text in Tokens.

Ein Sprachmodell liest weder einzelne Buchstaben noch immer ganze Wörter. Es arbeitet mit Bausteinen aus einem festen Vokabular, und Wörter dürfen dabei in Stücke zerfallen. Gleiche Stücke tauchen in vielen Wörtern wieder auf. Tippe etwas ein und sieh, wie der Text zerschnitten wird.

• 0Tokens
• 0Zeichen
• 0Wörter
• 0Zeichen pro Token

Vereinfachtes Demo-Vokabular mit ein paar hundert Einträgen. Echte Modelle haben über 100.000 Tokens. Unterstrichene Stücke kommen im Text mehrfach vor: Das Modell lernt sie nur einmal und baut daraus viele Wörter. Orange markierte Stücke fehlen im Vokabular und werden Zeichen für Zeichen abgelegt.

Station 2 / 3 · LLM

Dann rechnet es aus: Welches Token kommt als Nächstes?

Links: fast immer das Wahrscheinlichste. Rechts: mutiger, auch Unsinn wird möglich.

Station 3 / 3 · Zwei Arten von KI

Wenn über KI geredet wird, geht es fast immer um zwei Dinge.

HeuteEin LLM kann ein Bildmodell einfach als Werkzeug aufrufen. In diesem Video geht es um LLMs.

Ein Agent ist ein Sprachmodell, das selbst Werkzeuge benutzt.

Ein Chat gibt eine Antwort. Ein Agent arbeitet in einer Schleife, bis die Aufgabe erledigt ist: denken, handeln, Ergebnis ansehen, weiterdenken.

Aufgabe„Wenn es morgen in Linz regnet, verschiebe meinen Feldtag auf Donnerstag und sag dem Team Bescheid.“

Wichtig für die Praxis: Bevor ein Agent etwas Unumkehrbares tut, etwa eine Nachricht verschickt, sollte ein Mensch zustimmen. Im Protokoll heißt dieser Schritt „Freigabe“.

Für ein Modell sind Wörter Punkte auf einer Landkarte der Bedeutung.

Ein Modell kann mit Buchstaben nichts anfangen. Es braucht Zahlen. Deshalb bekommt jedes Wort eine Position auf einer Karte, und diese Position beschreibt seine Bedeutung.

1. Jedes Wort ist ein Punkt.Das Modell hat aus riesigen Textmengen gelernt, in welchen Zusammenhängen ein Wort vorkommt, und ihm danach einen Platz zugewiesen.
2. Nähe heißt: ähnlich verwendet.„Kuh“ und „Milch“ stehen in Texten oft zusammen, „Kuh“ und „Server“ fast nie. Darum liegen die ersten beiden nah beieinander.
3. Das Modell rechnet mit Abständen.So findet es Verwandtes, auch wenn das Stichwort nicht passt. Wer nach „Mähdrescher“ fragt, kann auch Texte über „Ernte“ bekommen.

AusprobierenKlicke ein Wort auf der Karte an. Die gestrichelten Linien führen zu seinen vier nächsten Nachbarn. Beim „Traktor“ siehst du, dass er zwischen Landwirtschaft und Fahrzeugen liegt.

Die Achsen haben keine feste Bedeutung: „rechts“ heißt nicht „technischer“. Wichtig sind nur die Abstände zwischen den Punkten. Hier hat jedes Wort bloß zwei Zahlen, echte Modelle nutzen mehrere hundert bis tausend. Die Idee bleibt dieselbe. Die Positionen dieser Karte sind von Hand gesetzt.

Das Modell sieht immer nur ein Fenster des Gesprächs.

Alles, was links aus dem Fenster fällt, ist für das Modell nicht mehr da. Verändere die Fenstergröße und stelle am Ende des Gesprächs eine Frage zum Anfang.

Vereinfacht: Ein Wort zählt hier als ein Token. Je nach Modell fasst ein Kontextfenster einige Zehntausend bis über eine Million Tokens. Ist ein Gespräch länger, gehen Details vom Anfang verloren oder werden vom System zusammengefasst.

So lernt ein Modell: Lücke füllen, Fehler messen, nochmal.

Beim Training wird in Texten ein Wort abgedeckt. Das Modell rät, sieht die Lösung und wird ein kleines Stück besser. Das passiert unzählige Male.

Ein Modell lernt aus Beispielen, und nur aus ihnen.

Stell dir vor, ein Modell soll bei Stempeln, Belegen oder Unterschriften erkennen, ob sie echt oder gefälscht sind. Dafür misst man zwei Eigenschaften und gibt dem Modell Beispiele, bei denen die richtige Antwort schon bekannt ist.

1. Jeder Punkt ist ein geprüftes Beispiel.Seine Lage zeigt zwei Messwerte: nach rechts wird die Linienschärfe höher, nach oben die Farbabweichung. Die Punktfarbe verrät die richtige Antwort: türkis ist echt, orange ist falsch.
2. Das Modell sucht das Muster.Es merkt sich, wo echte und wo falsche Beispiele liegen. Die Hintergrundfarbe zeigt, was es für einen neuen Fall an dieser Stelle tippen würde. Je kräftiger, desto sicherer.
3. Neue Fälle schätzt es per Abstimmung ein.Es schaut auf die fünf nächsten Beispiele, und die Mehrheit entscheidet. Fahre mit der Maus übers Feld, dann siehst du diese fünf.

AusprobierenFahre zuerst bei den ausgewogenen Daten mit der Maus übers Feld. Setze dann eigene Beispiele, mit den Schaltern wählst du echt oder falsch. Lade zum Schluss die einseitigen Daten und sieh, was mit dem Hintergrund passiert.

echtes Beispielfalsches BeispielHintergrund: Tipp des Modells

Merksatz: Ein Modell kennt nur, was in seinen Beispielen steckt. Gibt es kaum falsche Beispiele, hält es fast alles für echt. Gute Ergebnisse brauchen gute und ausgewogene Daten. Echte Systeme messen nicht zwei, sondern viele Eigenschaften und nutzen oft andere Verfahren als diese Abstimmung. Das Prinzip bleibt gleich: lernen aus bekannten Beispielen, dann neue Fälle einschätzen.

Bessere Anfrage, bessere Antwort.

Dasselbe Modell, dieselbe Aufgabe. Schalte Bausteine zu und sieh, wie die Antwort genauer wird.

Die Antworten sind vorbereitete Beispiele und werden nicht live erzeugt. Echte Modelle formulieren jedes Mal etwas anders, aber der Effekt der Bausteine ist derselbe.

Klingt überzeugend, muss aber nicht stimmen.

Ein Sprachmodell würfelt, was plausibel klingt (Station 2). Entscheide bei jeder Aussage, ob sie stimmt oder erfunden ist.

Mit eigenen Dokumenten antwortet das Modell mit Quellen statt aus dem Gedächtnis.

Zuerst wird in den Dokumenten gesucht. Dann bekommt das Modell die Fundstellen zusammen mit der Frage. Stelle eine Frage oder wähle ein Beispiel.

Die Suche zählt hier übereinstimmende Wortanfänge. Echte Systeme vergleichen Bedeutungen mit einer Landkarte wie in Station 5. Ein Modell würde aus der Fundstelle einen eigenen Satz formulieren, die Demo zeigt die Fundstelle selbst.

Was darf in ein KI-Tool? Die Ampel hilft beim Sortieren.

Ordne zehn Beispiele ein. Grün, gelb oder rot, je nachdem, wie sensibel die Information ist.

• Grün darf in jedes KI-Tool, weil nichts Sensibles drinsteht.
• Gelb nur im freigegebenen Firmen-Tool oder nach gründlicher Anonymisierung.
• Rot gehört in kein KI-Tool.

Das ist eine Faustregel zur Orientierung und keine Rechtsberatung. Verbindlich sind die Regeln deiner Organisation und die DSGVO.