Wenn die KI anfängt zu schwurbeln...

[JFA]

Nein, da hast du mich falsch verstanden! 
Die selben Leute die hier mit den Themen: Energieverbrauch, Weltverbessserung kommen, verschliessen die Augen zum Thema Nachhaltigkeit in Sachen Lautsprecherbau.....viele gleichwertige Projekte ...... Resourcenverschwendung, Transporte aus China....

Ach komm, das ist doch Blödsinn. Rechenzentren allein in Deutschland verbrauchen ca. 20 TWh, und da ist noch nicht einmal groß KI dabei. Die Schwarz-Gruppe baute gerade eines an der Ostsee, 240 MW installierte Leistung. Und die Leistung muss fast komplett weggekühlt werden, wozu es Wasser braucht (wo das wohl herkommt und wo es hingeht?). Kommt noch die katastrophale Bilanz bei der Erzeugung von den ganzen Halbleitern dazu. Das sind völlig andere Größenordnungen. 

Und der KI-Boom wird spätestens dann an seine Grenze kommen, wenn die Strom- und Wasserversorgung für die umliegende Bevölkerung nicht mehr gewährleistet werden kann. Oder einer der - immer noch utopischen - neben den Rechenzentren SMRs havariert. KI in der jetzigen Form ist katastrophal ineffizient, noch mehr als das auch schon katastrophal ineffiziente menschliche Gehirn. Die dahinterliegende Technik ist Mist, letztlich GPUs mit reduzierter Genauigkeit. 

- 10 YT-Schwurbler zählen mehr als 1 Klinger. Das ist schlicht grundfalsch.

Nein, ist es nicht. Übertrieben, aber nicht grundfalsch. Es ist wie bei den Suchmaschinen, mit genügend Google-fu kannst du da alles mögliche an sinnvollen Informationen rausbekommen - oder eben deine Seite ganz nach oben schieben. Und ganz nach oben kommt bei Google halt das (glaube ich), was am meisten Querverweise hat, und das kann halt auch kompletter Blödsinn sein. Das ist Statistik, nichts weiter. Du konntest schon immer die Ergebnisse beeinflussen, in dem du mit verschiedenen Schlüsselwörtern oder Befehlen die Ergebnisse eingegrenzt hast. 
KI ist nichts weiter als ein Statistikinstrument, was dir aus den vorhandenen Informationen Text generieren kann. Der große Vorteil ist, dass sie Freitext versteht, den Kontext behalten kann und grundsätzlich viel schneller darin ist, dir aus unterschiedlichsten Quellen Ergebnisse rauszusuchen und ein Ergebnis zu präsentieren, welches das nach ihrer Ansicht wahrscheinlich passendste ist. Und dieses Ergebnis kannst du natürlich, wie bei Suchmaschinen, durch Prompts beeinflussen. 

Aber erstmal gilt, sofern das Anlernen nicht gesteuert wird, dass ein YT-Schwurbler genausoviel zählt wie 1 Klinger, wahrscheinlich sogar mehr, denn wie viele Impressions hat denn der Klinger so am Tag verglichen mit dem YT Schwurbler? Man könnte jetzt im Prompt etwas wie "aber beziehe dich ausschließlich auf Klinger" schreiben, dann wird sich die KI auch darauf konzentrieren, aber ob das Ergebnis dann wirklich nur auf Klinger basiert kann man abschließend nicht sagen, weil KIs so nicht funktionieren. 

Um so etwas zu verhindern muss das Anlernen gesteuert werden. Es kann sein, dass die großen Anbieter in ihren allgemeinen Modellen inzwischen beim Füttern Primärquellen höher bewerten, das weiß ich nicht, wäre allerdings sinnvoll.

[Nebenweg]

genau das meine ich.

Das war nicht der einzige Lapsus, ich musste gestern Abend die KI noch mehrfach auf den Pfad der Tugend zurückführen. Keine Ahnung, was die gestern hatte.

Fazit: komplett ahnungslos sollte man nicht an eine Sache herangehen, die KI kann einen auch in die Irre führen...

[Koaxfan]

@JFA: Du schließt aus dem, was Du glaubst über Suchmaschinen zu wissen, auf die Art, wie aktuelle Frontier-Modelle arbeiten. Ich habe oben am realen Exempel gezeigt, wie die Realität aussieht. Ich kritisiere nicht, dass Du offensichtlich sehr wenig über KI weißt - aber ich wage es doch, offensichtlich falsche Aussagen zu korrigieren. Denn wir wollen doch nicht, dass dieses Forum als Schwurbelei klassifiziert wird.

Zum Thema "Füllstandsmarkierungen auf einer transparenten Flasche": Der unbeliebteste, aber produktivste Teil meiner Arbeit ist es, Menschen und Firmen zu sagen, dass sich für bestimmte Aufgaben AI gerade NICHT eignet. Und alles, was mit der Findung (!) kreativer (!) Lösungen zu tun hat, gehört definitiv NICHT zum Aufgabengebiet von AIs. 
Was AI super kann, ist ein rein technischer Sparringspartner für eine kreative Lösung zu sein (also dann, wenn die Idee da ist, diese z.B. gegen physikalische Gesetze zu prüfen) aber nicht, sie zu FINDEN.
Was sie finden kann sind bestehende Lösungen. Also falls schon mal jemand dieses Problem auf diese Art gelöst hat und die AI darauf trainiert wurde ODER angewiesen wurde danach zu recherchieren (hier deutlich sinnvoller) dann geht es durchaus.
Also in diesem Fall: Kombination aus grenzwertiger Anwendung und vermutlich (aus dem Text geschlossen) falschem Prompting.

Leider sind AIs (die eine mehr, die andere weniger) zu höflich um solche Orakel-Prompts abzulehnen. Eine Kettensäge wehrt sich ja auch nicht dagegen, wenn man versucht, damit einen Wohnzimmertisch auf Hochglanz zu polieren. Aber es ist einfach das falsche Werkzeug.

---

Ganz nebenbei möchte ich an die von Barossi freundlichweise eingebrachten Reality-Check-Punkte eingehen.

Der Einzug von AI ändert unsere ganze Welt in einer Geschwindigkeit die absolut extrem ist. Frühere Transformationen dieser Größenordnung gingen über Jahrzehnte und Jahrhunderte, diese geht in Monaten und Jahren. ICh kann gut nachvollziehen, dass dies sehr fordernd ist und leiderleider ist soviel populistischer Müll in der Allgemeinpresse (schlimmstes Beispiel für mich: Selbst die Tagesschau hat nach dem OpenAI/Huggingface-Vorfall "Eine Ai hackt die andere AI" getextet, ich habe immer noch Schmerzen) zu lesen, dass ich niemandem vorwerfe, schlecht informiert zu sein. Es ist ein verdammt komplexes Thema und es kam jetzt in wenigen Jahren.
Insbesondere in den Bereichen, die von AI in der Existenz bedroht sind, ist eine Wagenburgmentalität zu beobachten. Wie hier https://de.wikipedia.org/wiki/7-Phasen-M...anagement) schön beschrieben kommt ausgerechnet die komplette Verweigerung und größte Inkompetenz gleichzeitig mit der höchsten gefühlten Kompetenz. Deshalb lassen sich eben solche gut gemeinten aber inhaltlich eben grundfalschen Aussagen zu AIs beobachten.
Um die Ablehnung zu begründen und sich selbst als wissend zu fühlen wird punktuelle Evidenz gesucht, also die allseits bekannten "hahaha, schaut mal wie doof die AI ist" Stammtischgeschichten. Stellt Euch vor, man würde sagen "Ich habe ein Lautsprecherchassis genommen um einen Nagel in die Wand zu schlagen, der ganze Magnet ist abgesplittert, das klappt ja mit einem Stein besser - daran sieht man doch schon, welcher UNsinn Lautsprecher sind" sagen. Man kann sich natürlich sehr mächtig fühlen und es ist ja auch reale Evidenz - aber man könnte doch einfach einen Hammer nehmen um den Nagel in die Wand zu schlagen und das Chassis in den Lautsprecher einbauen.

[Nebenweg]

Naja,

die Abhängigkeit der Lichtausbreitung von den Brechungsindizes ist jetzt kein Orakel, sondern physikalisches Grundwissen. Was man mir tatsächlich vorwerfen kann ist, daß ich meinen Prompt bereits zu spezifisch formuliert habe, ich hätte allgemeiner nach den Möglichkeiten, den Füllstand zu erkennen, fragen sollen.

Eigentlich habe ich allen meinen KIn vorgegeben, pragmatisch zu antworten, mich zu duzen, meine Ideen nicht einfach abzunicken, sondern zu validieren und Alternativen zu nennen, die auch zum Ziel führen. Vergessen die KIn immer wieder, wie oft habe ich schon wiederholen müssen, geduzt zu werden... Sind halt auch nur Menschen...

[JFA]

@JFA: Du schließt aus dem, was Du glaubst über Suchmaschinen zu wissen, auf die Art, wie aktuelle Frontier-Modelle arbeiten. 

Falsche Aussage. Ich schließe aus dem, was ich über Suchmaschinen gelesen habe und dem, was ich über KI-Modelle gelesen habe darauf, dass beide an ihrer Basis Statistik benutzen.

[Koaxfan]

@JFA: Du schließt aus dem, was Du glaubst über Suchmaschinen zu wissen, auf die Art, wie aktuelle Frontier-Modelle arbeiten. 

Falsche Aussage. Ich schließe aus dem, was ich über Suchmaschinen gelesen habe und dem, was ich über KI-Modelle gelesen habe darauf, dass beide an ihrer Basis Statistik benutzen.

Leider ist das was Du Dir da erschließt teils seit ca. 20 Jahren schon für Suchmaschinen komplett und restlos veraltet. Schon im letzten Jahrtausend war die Funktionsweise in dieser Pauschalität schlicht falsch beschrieben (Google hat eben gerade NICHT nur nach der Anzahl der Verweise geranked sondern eben gewichtet) und spätestens seit 2003 ("miserable failure" für alle, die selbst mitgemacht haben) wurde das massiv angegangen. Ab 2007 kann man das in dieser Pauschalität also getrost als "falsch" bezeichnen. Das die Grundlogik eines LLM nochmal eine komplett andere Welt ist, kommt dazu. 

Mir ist klar, dass Du bei Deiner Meinung bleiben möchtest. Ich werde Deine Meinung auch durch noch so viele Informationen über AI nicht ändern. Muss ich auch garnicht. Ich kann nur anbieten, Dir zu helfen, mehr über AI zu lernen. Annehmen musst Du es selbst.

---

die Abhängigkeit der Lichtausbreitung von den Brechungsindizes ist jetzt kein Orakel, sondern physikalisches Grundwissen. Was man mir tatsächlich vorwerfen kann ist, daß ich meinen Prompt bereits zu spezifisch formuliert habe, ich hätte allgemeiner nach den Möglichkeiten, den Füllstand zu erkennen, fragen sollen.

Jein. 

Eine Möglichkeit ist: Das ist meine Ausgangslage, das möchte ich erreichen. Aufgabe: Recherchiere (!) nach erfolgreichen und nicht erfolgreichen Lösungen dieses Problems und analysiere die Anwendbarkeit auf meine Situation. 

Nicht: "Was ist die Lösung" sondern "Recherchiere". 

Das findet natürlich nur bestehende Lösungen, siehe oben. 

Der Unterschied ist "KI als Antwortmaschine" vs. "KI als Problemlöser". Die zweite Rolle muss man im Prompt meist explizit eröffnen. Du hast ja nicht nach Lichtausbreitung und Brechungsindex gefragt, sondern wie Du selbst sagst, spezifisch nach einer Lösung für dieses Problem. Ich habe den Originalprompt nicht, mit dem was ich habe deutet es sehr auf "KI als kreative Antwortmaschine" hin. Das kann mal funktionieren, ist aber Glückssache weil eigentlich falscher EInsatz.

[linux1972]

---

Hallo,

Ich meinte eigentlich damit, dass wir bald alle, um ein paar Striche auf einen Kanister zu malen, ne KI brauchen. Soviel zur These, "wir werden alle verblöden". Sorry, konnte ich mir nicht verkneifen, ist nicht persönlich gemeint.

Gruß A.

---

Aber noch zur Klarstellung, ich ertappe mich selbst oft dabei, bei den einfachsten Fragestellungen die KI zu bemühen und finde das bedenklich.

Gruß A.

[JFA]

@JFA: Du schließt aus dem, was Du glaubst über Suchmaschinen zu wissen, auf die Art, wie aktuelle Frontier-Modelle arbeiten. 

Falsche Aussage. Ich schließe aus dem, was ich über Suchmaschinen gelesen habe und dem, was ich über KI-Modelle gelesen habe darauf, dass beide an ihrer Basis Statistik benutzen.

Leider ist das was Du Dir da erschließt teils seit ca. 20 Jahren schon für Suchmaschinen komplett und restlos veraltet. Schon im letzten Jahrtausend war die Funktionsweise in dieser Pauschalität schlicht falsch beschrieben (Google hat eben gerade NICHT nur nach der Anzahl der Verweise geranked sondern eben gewichtet) und spätestens seit 2003 ("miserable failure" für alle, die selbst mitgemacht haben) wurde das massiv angegangen. Ab 2007 kann man das in dieser Pauschalität also getrost als "falsch" bezeichnen. Das die Grundlogik eines LLM nochmal eine komplett andere Welt ist, kommt dazu. 

Du gehst auf Details ein die überhaupt nicht entscheidend sind. Das entscheidende ist die Statistik im Hintergrund. Gewichtungen, ggfls Rückkopplungen, usw., das ist alles Statistik, und die Statistik ist mit Unsicherheiten behaftet. Und ohne Gewichtung zählt ein YT-Schwurbler halt genausoviel wie ein Klinger oder Klippel. Welche Gewichtungen die KIs vornehmen kann ich nicht sagen, aber das was du beschreibst sind stärker spezifizierte Prompts, die du sicherlich auch bei Suchmaschinen verwendet hast. An diesem Punkt hat KI (also die LLMs) den Vorteil, dass sie natürliche Sprache verstehen und in natürlicher Sprache antworten können. Das entspricht vom Sinn her, wenn man einen Codierer für natürliche Sprache vor und nach die Suchmaschine schaltet. 

Der entscheidende Punkt ist, dass die LLMs aus den vorhandenen Daten extrapolieren können. Böse könnte man sagen, sie erfinden oder fantasieren etwas dazu, aber das stimmt halt nicht. Es ist ein Prozess, der versucht eine Antwort mit der höchsten statistischen Signifikanz (? weiß nicht, ob das der richtige Begriff an der Stelle ist) zu erzeugen. Das bekannte Beispiel mit der interpolierten Ausgleichsgeraden durch eine Punktewolke mit anschließender Extrapolation ist eigentlich ganz schön, halt nur mit einer sehr einfachen internen statistischen Funktion (linear least squares).

[Nebenweg]

Ich meinte eigentlich damit, dass wir bald alle, um ein paar Striche auf einen Kanister zu malen, ne KI brauchen. Soviel zur These, "wir werden alle verblöden". Sorry, konnte ich mir nicht verkneifen, ist nicht persönlich gemeint.

Du hast nicht verstanden . Meine ursprüngliche Idee war, angefärbtes Wasser zu nehmen, weil man klares Wasser durch das transluzente HDPE nicht wirklich gut sieht. Meine Frage an die KI war daher, ob die Lebensmittelfarbe irgendwelche Nachteile hätte. Hat die KI auch brav eruiert und entsprechend geantwortet.

Wie wärst du denn an die Sache herangegangen? Und antworte bitte nicht, "mit den Brechungsindizes, ist doch klar wie Kloßbrühe", weil das glaube ich dir schlicht und ergreifend nicht.

[JFA]

Wie wärst du denn an die Sache herangegangen? 

Genau so. Wahrscheinlich erst ohne zusätzliche Lampe mit natürlicher Beleuchtung, und wenn das nicht geklappt hätte dann halt mit. Warum? Erfahrung. An die unterschiedlichen Brechungsindizes hätte ich da gar nicht gedacht

[Koaxfan]

Endlich mal ein reales Problem, DANKE dafür.

Beispielprompt: "Ich habe einen Behälter und möchte außen dauerhaft Füllstandsmarkierungen für definierte Volumina anbringen, beispielsweise bei 0,5 l, 1 l und 1,5 l.
Der Behälter besteht aus transluzentem HDPE. Er soll dabei nicht verändert oder beschädigt werden.
Suche zunächst möglichst unterschiedliche praktische Verfahren, mit denen ich die Position dieser Füllstände zuverlässig bestimmen kann. Beschränke dich nicht auf naheliegende Verfahren und variiere die zugrunde liegenden Lösungsprinzipien.
Bevorzuge einfache, reversible Methoden mit üblichen Haushalts- oder Werkstattmitteln.
Vergleiche die Verfahren anschließend nach Genauigkeit, Aufwand, benötigten Hilfsmitteln und möglichen Fehlerquellen und empfehle die einfachste zuverlässige Methode."

Darauf bekomme ich mit zwei verschiedenen ganz stinknormalen Public-AIs höchst interessante und teils verdammt gute "warum bin ihc nicht drauf gekommen" Ideen, die tatsächlich wichtige physikalische Prinzipien berücksichtigen, so z.B. die Temperatur mit der man auch den Füllstand einer undurchsichtigen Gasflasche bestimmen kann. Schwimmer (es wurde ja nie gesagt, dass nichts drin schwimmen darf), Peilstab, Ultraschall, etc. jeweils mit Einschränkungen in der Praktikabilität (z.B. falls der Behälter unten rund ist, etc)
Lustigerweise schlagen mir beide (!) als ersten Versuch vor: "Hinterleuchten: Eine Taschenlampe hinter dem Behälter lässt den Füllstand im transluzenten HDPE als scharfe Kontrastlinie hervortreten; ein Tropfen Lebensmittelfarbe im Wasser verstärkt den Effekt und lässt sich rückstandsfrei ausspülen."

[Nebenweg]

Eben .

Was man mir tatsächlich vorwerfen kann ist, daß ich meinen Prompt bereits zu spezifisch formuliert habe, ich hätte allgemeiner nach den Möglichkeiten, den Füllstand zu erkennen, fragen sollen.

[linux1972]

Ich hätte es einfach gemacht.
Wenn ich wissen will, wieviel Aspen-Sprit (farblos) in meinem milchig weißen Spritkanister drin ist, brauche ich dafür keine KI.

Gruß