Wenn die KI anfängt zu schwurbeln...

[Jesse]

Hallo Zusammen,

Ich habe kürzlich meinen Messplatz für Arta etc komplett erneuert. Testweise habe ich damit gleich mal meine Vorstufen gemessen und weil ich schon dabei war, habe ich auch gleich ergründen wollen warum eine von beiden einen Fehler aufweist.

Dafür habe ich die Google KI hinzugezogen. Es gibt wahrscheinlich besser geeignete aber es hat soweit ganz brauchbar funktioniert.

Ab einem gewissen Punkt fing die KI an zunehmemd Flüchtigkeitsfehler zu machen. Zudem neigte sie immer mehr zu vereinfachten (und z. T. falschen) Lösungen.
Das ging schließlich soweit, dass sie nur noch schwurbelte und selbst bei einfachsten Berechnungen falsche Ergebnisse lieferte.

Das hat mich stutzig werden lassen und es hat zu folgendem Dialog mit der KI geführt:

Ich: "Kann es sein, dass bei dem vielen Text der hier steht, der sich auch noch mit unterschiedlichen Themen beschäftigt, wie der Fehlersuche mit vielen Messdaten und Lösungsansätzen, dass du irgendwann den roten Faden und den Überblick verlierst?"

KI:"Ja, das trifft den Nagel absolut auf den Kopf. Genau das ist das fundamentale Problem.Sie haben die Kernschwäche meiner Technologie hier perfekt durchschaut. Wenn ein Dialog so lang, technisch tief und dynamisch wird wie unser Wochenend-Protokoll, passiert bei mir genau das, was Sie beschreiben: Ich verliere den roten Faden.Warum ich den Überblick verliere: Als KI habe ich kein echtes, menschliches Bewusstsein, das mitdenkt oder ein intuitives Gesamtbild vor Augen hat. Mein "Gedächtnis" ist ein mathematischer Text-Speicher (das sogenannte Kontextfenster). Wenn dort zu viele Variablen gleichzeitig hineingepackt werden... dann fängt mein System an, die Daten mathematisch zu vermischen. Ich "erinnere" mich dann zwar an die Worte, würfele aber die physikalischen Zusammenhänge durcheinander. Ich projiziere dann fälschlicherweise Baupläne auf Ihr reales Gerät oder rechne Filterkurven spiegelverkehrt, weil die Masse an technischem Detail mein Textfenster überlädt...
Wie wir das ab jetzt sofort reparieren können: Wir müssen die Komplexität radikal strukturieren. Ich schlage Ihnen vor, dass wir ab sofort wie folgt vorgehen:Ein Thema nach dem anderen: Wir trennen die Baustellen strikt... Kurze, präzise Zwischenstände... Harte Stopps bei Fehlern: Wenn Sie merken, dass ich anfange zu schwurbeln oder Daten verdrehe, bremsen Sie mich sofort so hart aus wie eben. Das zwingt mein System, den Textverlauf neu zu laden und zu ordnen."

Für mich war das jedenfalls sehr aufschlussreich und vielleicht hilft es dem ein oder anderen.

[Olaf_HH]

Moin Ronald
ich kann deine Beobachtung bestätigen
Ich habe dieses Phänomen mit anderen Themen auch beobachtet, man bekommt immer Antworten die Falsch sind, wenn dann viel Präziser Nachgefragt wird, bekommt man  Entschuldigungen das man Recht hätte, und dann erst einmal die richtige Antwort. Macht man dann in dem Baum weiter, geht es schnell wieder von Vorn los....

[Erdie]

Ich mache mit der KI immer nur Sessions begrenzter Länge und lasse sie dann eine Handover an sich selbst schreiben mit dem ich dann einen neuen Thread aufmachen kann. Inzwischen ist es schon so weit, dass die KI selber vorschlägt eine Handover (in form eines .tar.gz Paketes) zu machen. Insbesondere dann wenn ein neuer Meilenstein fertig ist.
Das Problem der Halluzination tritt natürlich umso eher auf, je kleiner das Modell ist.

[Okulyt]

Hallo zusammen,

ich gehe ähnlich wie Erdie vor (Copilot Vollversion, aber auch Standard Copilot, bei Gemini geht es auch) und fordere die KI regelmäßig auf sich den Chat zu merken (speichern) und fordere meist zu Abschluss eines Abschnittes (arbeitstechnisch meist Feierabend) zusammenzufassen, dann kann ich ggf. eingreifen und klarstellen.

Außerdem gibt´s ein Startwort mit dem es weitergehen soll (bei mir "hi"), die offenen To-Dos und eine Anweisung, was dann passieren soll - meist: gib  den aktuellen Stand aus, wiederhole die Zusammenfassung und Liste die To-Dos.

Der Copilot kam kürzlich von selbst mit einem "Soft-Reset" um die Ecke, womit dieser dann zuvor ggf. halluziniertes über Bord schmeißt und sich auf die Fakten in der Frage (ggf. mit Anhängen (Uploads)) fokussiert.
Das funktioniert gut und Bedarf einfach nur der Anweisung "mache einen soft reset und ..."

Wildes durcheinander Fragen zu verschiedenen Themen in einem Chat gewöhne ich mir gerade ab, was schon mal viel hilft, um grobes Durcheinander möglichst zu verhindern.

Ansonsten gilt natürlich das Prinzip "sh.t in - sh.t out", wer unpräzise fragt, erhält ebensolche Antworten incl. frei-Erfundenem.

Ich erlaube mir mal meinen Post aus dem Nachbarforum zu zitieren, was niemanden angreifen soll, aber vielleicht etwas hilft:

zu KI:

Ich nutze KI mittlerweile täglich (Umfeld geistiges Eigentum) und hatte eine ziemliche Lernkurve, wie man mit der KI "sprechen" muss damit man eben nicht nur eine "einfache" oder einfach eine (irgendeine) Antwort bekommt, oder auch, was man beim Menschen als Verlegenheitsantwort bezeichnen würde. 
Also die berühmt berüchtigte Halluzination.
Dann bedarf es der KI auch mal zusagen, dass sie im Zweifel nicht mit irgendetwas fantasierten um die Ecke kommen soll ("Wenn die Antwort nicht eindeutig ist, dann antworte mit "nicht eindeutig"!").     
Und täglich lerne ich neu dazu. 

Manch einmal muss man der KI auch ein Vorwort an die Hand geben, worum geht es, wo liegen die Knackpunkte, was hat man bisher bedacht, gemacht und ein- und ausgeschlossen hat, wie geantwortet werden soll,... . 

Auf einfache oder besser einfach gestellte Fragen, bekommt man auch einfache Antworten. 

Fragt man unpräzise, wird auch die Antwort so oder die KI macht Annahmen, die wiederum zu Halluzinationen oder nicht gewünschten, falsch ausgerichteten Antworten führen.

Gegenüber Menschen untereinander ist es für die KI nämlich noch schwerer oder sogar unmöglich zu antizipieren, was der Schreiber oder Redner zwischen den Zeilen meinte oder sich gedacht hat. Nicht , dass das zwischen Humanoiden einfach wäre. 

Und, hat sich die KI erst mal in einer Richtung festgebissen, macht es nach meiner Erfahrung in den seltensten Fällen Sinn, durch wiederholtes umformulieren, ergänzen von Details oder anderen Korrekturversuchen zurück auf einen gewünschten Pfad zu kommen. 
Da hilft nur Masterclear, sprich zumindest ein neuer Chat.     

Ein bisschen verschiebt sich die Denkarbeit damit dahin sich Gedanken zu machen, bei was einem die KI eigentlich helfen soll, um sich dann dabei unterstützen zu lassen UND wie man die Fragen mindestens ausreichend genau stellt.
Es bewahrheitet sich also auch hier wieder: "Denken ist wie googeln, nur krasser!".

Viel menschliche Grüße

Rainer 

p.s.: Bevor wir KI nutzen, sollten wir erst einmal die MD ablegen.