Wie erkennt ein Sprachmodell Zusammenhänge zwischen Wörtern?

Im Satz:

„Die Katze sitzt auf dem Sofa, weil sie müde ist."

Woher weiß das Modell, dass sich „sie" auf die Katze bezieht?

Die Animation zeigt Schritt für Schritt, wie moderne Transformer-Modelle Beziehungen zwischen Wörtern berechnen: von Tokens über Embeddings bis hin zu Q/K/V-Vektoren und Attention-Gewichtungen.

So wird sichtbar, wie aus mathematischen Operationen plötzlich Kontext und Bedeutung entstehen.