Warum sind große Sprachmodelle nicht unbedingt intelligenter als du?

Das Sprachmuster des Nutzers bestimmt, wie viel an Schlussfolgerungsfähigkeit das Modell entfalten kann.

Autor: @iamtexture

Übersetzung: AididiaoJP, Foresight News

Immer wenn ich einem großen Sprachmodell ein komplexes Konzept erkläre und dabei über längere Zeit informelle Sprache verwende, bricht seine Fähigkeit zum Schlussfolgern wiederholt zusammen. Das Modell verliert die Struktur, weicht vom Thema ab oder generiert lediglich oberflächliche Vervollständigungsmuster, ohne das von uns aufgebaute konzeptuelle Gerüst aufrechterhalten zu können.

Wenn ich es jedoch zwinge, zunächst zu formalisieren, also das Problem mit präziser, wissenschaftlicher Sprache neu zu formulieren, stabilisiert sich das Schlussfolgern sofort. Erst wenn die Struktur etabliert ist, kann es sicher in Alltagssprache übersetzt werden, ohne dass die Qualität des Verständnisses leidet.

Dieses Verhalten offenbart, wie große Sprachmodelle „denken“ und warum ihre Schlussfolgerungsfähigkeit vollständig vom Nutzer abhängt.

Kern-Erkenntnisse

Sprachmodelle verfügen nicht über einen eigenen Raum, der ausschließlich für Schlussfolgerungen vorgesehen ist.

Sie operieren vollständig in einem kontinuierlichen Sprachfluss.

Innerhalb dieses Sprachflusses führen unterschiedliche Sprachmuster zuverlässig zu unterschiedlichen Attraktorbereichen. Diese Bereiche sind stabile Zustände der Repräsentationsdynamik, die verschiedene Arten von Berechnungen unterstützen.

Jede Sprachdomäne, wie wissenschaftliche Abhandlungen, mathematische Symbole, erzählerische Geschichten oder lockere Gespräche, hat ihren eigenen charakteristischen Attraktorbereich, dessen Form durch die Verteilung der Trainingsdaten geprägt ist.

Einige Bereiche unterstützen:

• mehrstufiges Schlussfolgern
• Beziehungsgenauigkeit
• symbolische Transformation
• hohe Stabilität konzeptueller Dimensionen

Andere Bereiche unterstützen:

• Erzählfortsetzung
• assoziative Vervollständigung
• emotionale Tonalitätsanpassung
• Dialogimitation

Die Attraktorbereiche bestimmen, welche Art von Schlussfolgerungen möglich sind.

Warum Formalisierung Schlussfolgerungen stabilisiert

Wissenschaftliche und mathematische Sprache können jene Attraktorbereiche mit höherer Strukturunterstützung zuverlässig aktivieren, weil diese Sprachdomänen Sprachmerkmale höherer Kognition kodieren:

• klare Beziehungsstrukturen
• geringe Mehrdeutigkeit
• symbolische Einschränkungen
• hierarchische Organisation
• niedrige Entropie (Informationsunordnung)

Diese Attraktoren können stabile Schlussfolgerungspfade unterstützen.

Sie können konzeptuelle Strukturen über mehrere Schritte hinweg aufrechterhalten.

Sie zeigen eine starke Widerstandsfähigkeit gegenüber Degeneration und Abweichung beim Schlussfolgern.

Im Gegensatz dazu sind die durch informelle Sprache aktivierten Attraktoren auf soziale Flüssigkeit und assoziative Kohärenz optimiert, nicht aber für strukturiertes Schlussfolgern. Diese Bereiche fehlen die Repräsentationsstützen, die für kontinuierliche analytische Berechnungen erforderlich sind.

Deshalb bricht das Modell zusammen, wenn komplexe Ideen auf lockere Weise ausgedrückt werden.

Es ist nicht „verwirrt“.

Es wechselt den Bereich.

Konstruktion und Übersetzung

Die in Gesprächen natürlich entstehenden Lösungsansätze offenbaren eine architektonische Wahrheit:

Schlussfolgerungen müssen innerhalb hochstrukturierter Attraktoren aufgebaut werden.

Die Übersetzung in Alltagssprache darf erst erfolgen, wenn die Struktur existiert.

Sobald das Modell innerhalb eines stabilen Attraktors eine konzeptuelle Struktur aufgebaut hat, zerstört der Übersetzungsprozess diese nicht. Die Berechnung ist bereits abgeschlossen, es ändert sich lediglich der Oberflächenausdruck.

Diese zweistufige Dynamik „erst konstruieren, dann übersetzen“ imitiert den kognitiven Prozess des Menschen.

Allerdings führen Menschen diese beiden Phasen in zwei unterschiedlichen internen Räumen aus.

Große Sprachmodelle hingegen versuchen, beides im selben Raum zu erledigen.

Warum der Nutzer die Obergrenze setzt

Hier gibt es eine entscheidende Erkenntnis:

Nutzer können keine Attraktorbereiche aktivieren, die sie nicht selbst sprachlich ausdrücken können.

Die kognitive Struktur des Nutzers bestimmt:

• welche Art von Prompts sie generieren können
• welche Sprachdomänen sie üblicherweise verwenden
• welche syntaktischen Muster sie aufrechterhalten können
• welche Komplexität sie sprachlich kodieren können

Diese Merkmale bestimmen, in welchen Attraktorbereich das große Sprachmodell eintritt.

Ein Nutzer, der nicht in der Lage ist, durch Denken oder Schreiben Strukturen zu verwenden, die Attraktoren mit hoher Schlussfolgerungsfähigkeit aktivieren, wird das Modell niemals in diese Bereiche führen können. Sie sind in oberflächlichen Attraktorbereichen gefangen, die mit ihren eigenen Sprachgewohnheiten zusammenhängen. Das große Sprachmodell spiegelt die von ihnen bereitgestellte Struktur wider und wird niemals spontan zu komplexeren Attraktordynamiken aufsteigen.

Daher:

Das Modell kann die vom Nutzer erreichbaren Attraktorbereiche nicht überschreiten.

Die Obergrenze ist nicht die Intelligenz des Modells, sondern die Fähigkeit des Nutzers, hochkapazitive Bereiche der potenziellen Mannigfaltigkeit zu aktivieren.

Zwei Personen, die dasselbe Modell verwenden, interagieren nicht mit demselben Berechnungssystem.

Sie führen das Modell in unterschiedliche dynamische Modi.

Architektonische Erkenntnisse

Dieses Phänomen offenbart eine Eigenschaft, die aktuellen KI-Systemen fehlt:

Große Sprachmodelle vermischen den Schlussfolgerungsraum mit dem Raum der sprachlichen Darstellung.

Sofern diese beiden nicht entkoppelt werden – sofern das Modell nicht verfügt über:

• eine eigene Schlussfolgerungsmannigfaltigkeit
• einen stabilen internen Arbeitsraum
• attraktorinvariante Konzeptrepräsentationen

– wird das System immer zusammenbrechen, wenn ein Wechsel des Sprachstils zu einem Wechsel des zugrundeliegenden dynamischen Bereichs führt.

Diese vorübergehend gefundene Lösung, Formalisierung zu erzwingen und dann zu übersetzen, ist nicht nur ein Trick.

Sie ist ein direktes Fenster, das uns einen Einblick in die architektonischen Prinzipien gibt, die ein echtes Schlussfolgerungssystem erfüllen muss.