Wenn die KI anfängt zu schwurbeln...

[mechanic]

11. Man braucht heute deutlich weniger Expertenwissen, um eine Lösung zusammenzunageln — und sie funktioniert. Nur entsteht Expertise als Nebenprodukt von Arbeit an schwierigen Aufgaben. Fallen die weg, entstehen keine Experten: nicht weil niemand es lernen wollte, sondern weil es die Stellen nicht mehr gibt, an denen man es wird.

12. Das schließt sich selbst: weniger Expertenbedarf → weniger Experten → weniger Fähigkeit, den Unterschied zwischen einer guten und einer zusammengenagelten Lösung überhaupt zu sehen → noch weniger Anlass, Experten zu bezahlen. Am Ende steht eine Organisation, die nicht mehr weiß, was sie nicht weiß. Auffallen wird es erst im Störfall — dann fehlt die Person, die vorher überflüssig schien.

Claude hat als erster hier verstanden, wo das Problem liegt - die Warnung vor sich selbst ist einfach köstlich ...

[Barossi]

Moin,

hier mein Senf dazu. Ich finde es erstaunlich faszinierend was heute mit der Hilfe von KI gelingt.
Habt ihr schon mal einen komplexen Schaltplan (z.B. Röhrenschaltplan eines Verstärkers als JPG) in die KI geladen und habt den Befehl gegeben: Analysiere die Arbeitspunkte?

Oder die Frage: Entwickle ein Gehäuse für den JBL 2226 Was da in kürzester Zeit rauskommt.....danach die Frage nach dem goldenen Schnitt...etc 


Gruß Barossi

[Nebenweg]

"Behalte die ursprüngliche Konzeptbeschreibung als Faktenbasis bei. Ignoriere aber alle Ideen, Entscheidungen und Richtungen, die wir seither dazu entwickelt haben. Denke auf Basis dieser Grundlage komplett neu – ohne dich an bisherigen Vorschlägen, Formaten oder Lösungsansätzen zu orientieren."
War mein letzter Prompt heute Abend an eine KI. Spannendes Ergebnis, wirklich. Kann ich nur empfehlen, wenn man sich selbst festgefahren hat.

[JFA]

Einmal ganz allgemein, irgendwo hatte ich in diesem Thread eine zitierfähige Passage gelesen, ich finde sie aber nicht wieder. 

Ein großes Problem, nicht nur bei KIs, ist die verifizierbarkeit. Also: ist das, was ich da mache, eigentlich korrekt. Und das ist extrem schwierig, und meiner Meinung wird das durch den Einsatz von KI noch schwieriger. Zum Einen, weil denen geglaubt wird, zum Anderen, und das ist viel schwerwiegender, dass durch KI die Hintergründe nicht mehr verstanden werden. Wo vorher sich etliche Leute den Kopf drüber zerbrochen und das Problem und seiner Komplexität verstanden haben, verschwindet das einfach in den Untiefen der KI. 

Und doch, trotz meiner Widerstände, habe ich tatsächlich die Tage die KI für was produktives verwenden können. Ich hatte das Problem, in dem test framework einen GPIO dauerhaft zu überwachen. Code angeschaut, das ist easy, Klassenfunktion geschrieben die genau das macht, funktioniert nicht. Ich bin in entliche Untiefen des frameworks abgestiegen (es ist weder von mir und dazu noch in Python, was ich eh nie verstehen werde, warum man das nutzt und nicht doch gleich C), aber keine Erkenntnis. Also wider Willen die KI gefragt, und die hat das tatsächlich korrekt analysiert. Weil der Teil mit den GPIOs in einem anderen Thread lief, konnte ein dort erzeugter Fehler nicht hoch ins test framework durchgereicht werden. Anderere Kontext. Welcher Idiot das so angelegt hat werde ich noch in Erfahrung bringen. 

Spannend war die Lösung: es gibt im test framework einen sogenannten listener hook. Und den hat die KI dann tatsächlich sinnbringend verwendet. 

Wenn ich beide Dinge, falscher Thread Kontext und listener hook, gewusst hätte, wäre ich auch selbst auf die Lösung gekommen. Und wahrscheinlich auch auf eine elegantere, schönere, nicht voller Spaghetti steckende. Aber in diesem Fall hat mir die KI einige Stunden Arbeit abgenommen, um etwas zumindest funktionierendes zu erschaffen. Die nach meinem Code Review auch korrekt ist. 

Dafür hat es natürlich ca 4 Iterationen benötig.

[Koaxfan]

Das Problem der Verifizierbarkeit schlummert viel tiefer. denn meist geht es nur um "ist es richtig?" und das lässt sich problemlos und zur Laufzeit prüfen. Man nehme das was rein ging, nehme das was raus kam, vergleiche es, fertig. (ganz so einfach ist es nicht, aber im Vergleich ist es einfach).
Die eigentliche Frage ist aber: Wie kam die AI drauf? Nehmen wir den jüngst durch die Presse rauschenden Fall mit den per-Algorithmus-gefeuerten Uber Fahrern, nehmen wir eine Kreditentscheidung auf Basis von Schufa-Daten - und die gibt es schon lange, das ist keine moderne Erfindung. Also nicht nur "was ging rein, was raus?" sondern "wie ist die Entscheidung zustande gekommen" und "würd emit den gleichen Inputdaten das Ergebnis bei einem zweiten Lauf genauso aussehen" - und bei diesen beiden Punkten sind AIs einfach komlplett und strukturbedingt chancenlos. Sie können es einfach nicht, weil Prinzip.

Beispiel: Ein Mensch will einen Kredit und es muss entschieden werden, ob er ihn bekommt. Also schickt man sämtliche Daten* in einen Computer, der sagt "abgelehnt" und der human-in-the-loop nimmt alle Vorschläge des Computers an wie ein Pavlov'scher Hund. Der Kunde fragt: WARUM wurde mein Kredit abgelehnt? Wegen meiner Kredithistorie oder wegen meiner Religion? Niemand kann es genau sagen. Der Witz ist: Selbst, wenn es ausschließlich wegen legalen Merkmalen abgelehnt wurde, hat kaum jemand die Chance, das vor Gericht zu beweisen - also zu beweisen, dass der Kredit NICHT wegen der Religion o.ä. abgelehnt wurde. 

* = Die einzige Variante hier wäre natürlich, die Religion erst garnicht einzuspeisen. Baut man eine solche Strecke sauber auf und hat einen DSGVO-Kenner im Team, wird sowas beachtet. Exportiert der Werkstudent einfach die PROD, geht einfach alles rüber. Und selbst, falls er/sie es rausfiltert: Copy-Paste wird eben nicht getrackt, das heißt, es ist genau NULL nachweisbar, wie alle manuellen Prozesse.

Ich hatte erst einen Fall, da hat ein Unternehmen tatsächlich die ANalyse, ob ihre Produkte unter das Kriegswaffenkontrollgesetz fallen, nicht mehr von einem Ingenieur machen lassen sondern in Copilot (!) geworfen und das sollte entscheiden. Sie waren stolz drauf, dass sie ja perfekt auf ein AUdit vorbereitet wären, denn Copilot habe ihnen ja ein PDF erzeugt, und ein PDF wäre ja ein Nachweis. Geht das ganze vor Gericht, können sie gerne versuchen, die Schuld auf Copilot abzuwälzen, wird nicht klappen.
Solche Fälle sehe ich (zum Glück nicht alle so apokalyptisch) in ausnahmslos allen Firmen. Und am schlimmsten sind nicht die "wir automatisieren die ganze Strecke von ERP über CRM bis Invoicing" weil da würde man sich irgendwie Gedanken machen. Am schlimmsten sind die "wir probieren jetzt mal AI aus" POCs bei denen man den Mitarbeitern einen AI-Zugang gibt und gleich sagt "Lern damit umzugehen, steigere Deine Produktivität, denn Ende des Jahres willst Du nicht zu der Hälfte gehören die fliegt". Also werden sie zu Copy-Paste-Akrobaten und bauen sich ihre eigene Automatisierung und das ohne jede Systemkenntnis. Da werden gigantische Datenbestände in Excel exportiert, COpy-Paste in eine Public AI (Privatzugang, weil billiger), Ergebnis als Excel ausgegeben und dann hardcore in die Produktivsysteme eingespielt. Das passiert jeden Tag, mit den Daten von uns allen. Aktuell schützt und nur die aberwitzige Datenflut (und die noch viel interessanteren Daten) vor einem Missbrauch dieser Datenspeicherungen, aber wenn Daten weg sind, sind Daten weg.

Und das passiert, egal wie wir AI finden. Weil Menschen Systeme anders nutzen als sie sollten. Das war schon immer so, das wurde auch schon immer so gemacht, nur waren damals die Systeme so aberwitzig mächtig, dass die Versuchung schlicht kleiner war. Am Ende ist es eben im Zweifel der Werkstudent, der seine Aufgabe lösen will und dafür die PROD exportiert und in das aktuell billigste Modell einspeist, egal von wem es ist.

Am Ende ist es der Mensch, der entscheidet. Und deshalb versuche ich hier möglichst hands-on-Ratschläge zu geben, denn irrationales Bashing bringt und ebensowenig weiter wie irrationaler Hype.

[linux1972]

Moin,

Ich bin mir nicht sicher, ob am Ende immer der Mensch entscheidet, da habe ich so meine Zweifel. Wenn z.B. aus 1000 Systemanfordeungen (deren Erstellung auch schon von KI supportet wurde) zig 1000 SW Anforderungen nebst zugehörigen Jira Tickets von der KI erstellt werden, dann werden die Entscheidungen der KI ggf. nur noch flüchtig überprüft. Die SW Anforderungen werden dann ggf. per MCP interface direkt in den entsprechenden Tools (z.B. Matlab) von der KI in die Lösung überführt. Das ist seit wenigen Monaten betriebliche Praxis. Am Anfang etwas holprig aus den oben diskutieren Gründen.



Ich habe selbst mal zum spielen eine Datenbank mittels MCP aufgesetzt. Komplett per Chat. Es ging um die Definition von Prozessdatenpunkten. Ich hatte ca. 10 unterschiedliche Elementtypen mit einem haufen Attribute und einigen Abhängigkeiten. Alles einfach reingepromptet, direkt from Brain2prompt. SW Anforderungen der Einfachheit halber weg gelassen. 1/2 Stunde Aufwand, 30 Tabellen generiert. Danach nochmal eben 1000 Testdatenpunkte erstellt, 500 Umrechnungsformeln automatisch erzeugt,..., fertig. Dann noch ein paar queries. Funktioniert.
Und das, obwohl ich vorher noch nie im Leben eine Datenbank aufgesetzt hatte. Wie viele Entscheidungen habe ich getroffen, wie viele die KI? Wie viele Datenbankexperten brauchen wir zukünftig noch? Ohne KI hätte ich einen gebraucht, ich hätte nie und nimmer die Zeit gehabt, mir die benötigte Expertise selbst anzueignen. Mit KI habe ich faktisch keinen Experten gebraucht. Habe ich jetzt selbst die Expertise? Klares NEIN.

---

11. Man braucht heute deutlich weniger Expertenwissen, um...

12. Das schließt sich selbst: weniger ....

Claude hat als erster hier verstanden, wo das Problem liegt - die Warnung vor sich selbst ist einfach köstlich ...

Diese "Thesen" waren der KI schon von mir "in den Mund gelegt" . Ich hatte die KI aber auch nach ihrer Meinung gefragt, Antwort:

Punkt 11 halte ich für richtig und für den stärksten der Liste. Expertise ist tatsächlich ein Nebenprodukt — man erwirbt sie nicht durch Kurse, sondern indem man an schwierigen Aufgaben scheitert und wieder anfängt. Wenn diese Aufgaben nicht mehr anfallen, gibt es keinen Ersatzweg. Das ist der Punkt, gegen den ich kein gutes Gegenargument kenne.

Punkt 12 ist der zugespitzte, und da bin ich zurückhaltender. Die Schleife stimmt als Mechanismus, aber sie ist nicht so geschlossen, wie sie klingt.

Was dagegen spricht: Firmen merken es oft doch — nur teuer. Nach dem ersten Störfall, dem ersten Rückruf, dem ersten Projekt, das keiner mehr versteht, wird Expertise zurückgekauft. Schmerzhaft, aber nicht unumkehrbar. Und Kompetenz ist historisch selten verschwunden, sie ist gewandert. Es könnte sein, dass "generierte Ergebnisse beurteilen können" selbst zur Expertise wird, mit eigener Lernkurve — dann wäre es ein anderer Experte, kein fehlender.

Was trotzdem trägt: Diese Korrektur kommt erst nach Schaden, und der Rückkauf funktioniert nur, solange es außerhalb noch Leute gibt, die es können. Wenn die Ausbildungsstellen branchenweit wegfallen, gibt es keinen Markt, von dem man zurückkauft. Das ist der Unterschied zwischen einem Unternehmen, das sich verschätzt, und einer Branche, die eine Generation überspringt.

Kurz: 11 ist Diagnose, 12 ist Prognose. Die Diagnose ist belastbar, die Prognose beschreibt den Weg ohne Gegensteuern — und der Satz mit der Organisation, die nicht mehr weiß, was sie nicht weiß, ist als Zuspitzung gut, aber er ist eine Zuspitzung.

ABER:
**Frage:** Stehen wir noch vor dem ersten sichtbaren Misserfolg — getrieben durch Punkt 13?

**Antwort:** Ja. Die Nutzung ist zu jung: Kompetenzverlust braucht eine Generation von Berufseinsteigern, verdorbene Stammdaten fallen erst nach Jahren auf. Und weil Tempo belohnt und Vorsicht nicht belegbar ist, reagiert das System erst auf Schaden.

Gruß A.

[Barossi]

Moin,

schade, auch hier schwing immer eine große Ablehnung und Skepsis mit, anstatt die KI zu nutzen und damit weiterkommen wollen.
Voraussetzung das eigene Hirn bleibt eingeschaltet und moderiert!

Gruß Barossi

[linux1972]

Hi, ich nutze KI seit ca. 1Jahr sehr intensiv. Sowohl geschäftlich (verbringe teilw. 50% meiner Arbeitzzeit im Chat, den Rest in Meetings), als auch privat. Ich bin zunehmend von den Fähigkeiten der KI beeindruckt, insbesondere wenn man sich selbst die Fähigkeiten für die optimale Anwendung (s.o.) und die entsprechende Infrastruktur angeeignet hat (z.B. vscode mit guthub copilot oder claude code oder MCP fähige Tools,...). Und genau deshalb stelle ich mir die Frage, was kommt nach dem "quick win"?
Und ich sehe, wie sich KI in Unternehmen aber auch in den privaten Alltag unkontrolliert "hineinfrisst".

Genau bei der Aussage "Voraussetzung das eigene Hirn bleibt eingeschaltet und moderiert!" bin ich skeptisch, das fordert nämlich niemand. Oftmals siegt der Zeitdruck und/oder die Bequemlichkeit.

Gruß A.

[Barossi]

Verstehe ich nicht!
Wir sind doch hier im Hobbybereich. Hier geht es doch darum die beste, die einfachste oder die sinnvollste Lösung zu finden oder zu entwickeln. Nicht mehr nicht weniger.
Früher mussten dafür unzählige Klinger, Bücher durchforstet, besorgt und gerechnet werden. Heute macht das die KI in 3 Sekunden. Daten von unzähligen Chassis, Röhren, sonstigen Dingen können miteinander verglichen, in Tabellen dokumentiert werden und so weiter.
Projekte können mittels KI simuliert, geprüft oder weiter entwickelt werden.
Das alles sollte jedoch noch mal kritisch geprüft, hinterfragt und gegen gecheckt werden. Mehr ist es dann doch nicht, oder?

Weiß jetzt nicht, warum hier direkt immer das Negative daran gesehen wird.

[mechanic]

Früher mussten dafür unzählige Klinger, Bücher durchforstet, besorgt und gerechnet werden. Heute macht das die KI in 3 Sekunden.

... weil ihr unter anderem der Klinger "verfüttert" wurde. Wenn es diese Experten aber in zukunft nicht mehr gibt (weil es einfacher ist, die KI nach Lösungen zu fragen, als einer zu werden), kann keiner mehr das Ergebnis bewerten.

Und, ganz wichtig: 10 ungeprüfte Aussagen von Youtube-Schwurblern wiegen für die KI mehr als 1 Klinger, der damit dann irgendwann ins Nirvana verschwindet ...

Was gefragt ist, ist weiter und grösser zu denken! Das beste (Negativ)Beispiel ist, dass die KI nur Menschen aus "Einstiegslevel-Jobs" verdrängt - dass das die Voraussetzung für die späteten Qualifizierten ist, will irgendwie keiner sehen.

[Barossi]

...und schon wieder das meiste negativ und ich lese da immer Frustration raus!
Das ist Hobby und dafür verwende ich extrem gerne die KI. Mit meinem Job hat das erstmal gar nichts zu tun und gehört doch auch hier nicht rein.

[Nebenweg]

...und schon wieder das meiste negativ und ich lese da immer Frustration raus!

Ja, ich auch. Leider. Ich will nix unterstellen, aber Klaus scheint noch nicht so viel Erfahrung im Umgang mit KIn zu haben. Die wenigen Male, in denen mich eine KI auf ein Youtube-Video verwiesen hat, waren ausschlich Herstellervideos. Und denen räume ich schon mehr Vertrauen ein als dem 1.000.001. YouTube-Wichtigmacher.

[Koaxfan]

Wer behauptet, dass 10 YT - Schwurbler mehr zählen als ein Fachbuch, der hat schlicht noch nie mit einer KI wirklich gearbeitet. Ich sagte gearbeitet, nicht gespielt.

[JFA]

Das Problem der Verifizierbarkeit schlummert viel tiefer. denn meist geht es nur um "ist es richtig?" und das lässt sich problemlos und zur Laufzeit prüfen. Man nehme das was rein ging, nehme das was raus kam, vergleiche es, fertig. (ganz so einfach ist es nicht, aber im Vergleich ist es einfach)

Nein, das ist viel zu einfach. In wahrscheinlich den meisten Fällen reicht das, aber ich arbeite in einer Branche, in der sehr darauf geachtet wird, dass Funktionalität und Sicherheit nachweisbar oder zumindest übeprüfbar ist. Das heißt, du sitzt dann dabei und analysierst den Quellcode, entwirfst Testszenarien, bedenkst Risikofälle, und vieles davon kommt erst während der laufenden Entwicklung. Ich könnte mir schon vorstellen, dass das eine KI machen könnte, aber am Ende steckst du doch wieder viel Zeit in die formale Verifizierung.

---

Wer behauptet, dass 10 YT - Schwurbler mehr zählen als ein Fachbuch, der hat schlicht noch nie mit einer KI wirklich gearbeitet. Ich sagte gearbeitet, nicht gespielt.

Bei den allgemeinen Modellen ist das so, bei den spezifischen nicht. Bzw. es kommt darauf wer die mit was trainiert hat.

---

... weil ihr unter anderem der Klinger "verfüttert" wurde. Wenn es diese Experten aber in zukunft nicht mehr gibt (weil es einfacher ist, die KI nach Lösungen zu fragen, als einer zu werden), kann keiner mehr das Ergebnis bewerten.

Ganz wichtiger Punkt.

[linux1972]

Helft mir bitte, wegen was sollten ich oder Klaus frustriert sein? Im Sinne einer argumentationsbasierten, zielführenden Diskussion bitte ich darum, von (ab)wertenden Aussagen zu den beteiligten Personen abzusehen und stattdessen auf die Argumente einzugehen, z.B. "das sehe ich anders weil..."

Konkretes Beispiel zum Nachmachen:

Die mögliche Problematik des Verlustes von Expertenwissen ist im DIY Lautsprecher Bereich nicht relevant, weil es in Ordnung ist, dass die KI den ganzen theoretischen Kram macht. Es zählt nur, dass es einfach und schnell geht und das Ergebnis passt. Der Erkenntnisgewinn hat keine Bedeutung. Dass es in der Comunity irgendwann keine Experten für irgendwas mehr gibt, ist egal.

Gruß A.

[Nebenweg]

Weil keine einzige Universität wegen einer KI zugesperrt, kein einziges Buch verbrannt werden wird. Weil eine KI immer nur so schlau ist, wie sie trainiert wurde. Weil es jemanden geben muss, der die KI trainiert. Weil Aussagen, eine KI repliziere nur die Aussage irgendeines YT-Wichtigtuers, falsch sind.

Ganz einfach.

[linux1972]

Ich hab einfach die KI gebeten darauf zu antworten, ohne ihr was in den Mund zu legen:

Verstanden — hier meine eigene Einschätzung zu den vier Sätzen, nicht als Beitrag formuliert.

**"Keine Universität sperrt zu."** Stimmt, ist aber am Argument vorbei. Niemand behauptet, Bildungseinrichtungen verschwänden. Ausbildungsplätze und Studiengänge folgen der Nachfrage — wenn Unternehmen weniger Einsteiger brauchen, bleibt der Hörsaal stehen und trotzdem entstehen weniger Fachleute. Das ist ein Nachfrageeffekt, kein Bildersturm.

**"Kein Buch wird verbrannt."** Auch richtig, und der schwächste der vier. Bücher verschwinden nicht durch Vernichtung, sondern dadurch, dass niemand mehr hineinschaut — wer die Antwort in drei Sekunden hat, schlägt nichts mehr nach. Und ein Fachbuch ist der Endpunkt eines Berufslebens: Der Bestand bleibt, die Frage ist der Zufluss. Wer schreibt die Neuauflage für Techniken, die erst noch entstehen? Dazu kommt etwas, das ich für unterschätzt halte: Ein Buch liefert den Zusammenhang, eine Antwort liefert den Punkt. Man bekommt, wonach man gefragt hat, nicht das, wonach man hätte fragen müssen.

**"Eine KI ist nur so schlau, wie sie trainiert wurde — es muss jemanden geben, der sie trainiert."** Das halte ich für den stärksten Satz, und er stützt Klaus' These, statt sie zu widerlegen. Wenn menschliche Expertise die Grundlage ist, dann ist die Frage nach ihrem Nachschub genau die richtige.

**"Die YouTube-Behauptung ist falsch."** In der engen Lesart ja — ein gutes Modell mit Quellenzwang gibt keine YouTube-Weisheiten aus. Klaus' Formulierung war zugespitzt. Nur meinte er das Training, nicht die Ausgabe, und da ist die Schieflage real: Fachliteratur ist lizenziert und steht hinter Schranken, Forenbeiträge und Transkripte liegen offen herum. Was häufig verfügbar ist, prägt stärker.

Unterm Strich: Zwei Sätze widerlegen etwas, das niemand behauptet hat, einer ist zugespitzt und in der Sache trotzdem nicht falsch, und einer ist richtig — nur trägt er die These, gegen die er gerichtet ist.

Gruß Claude Opus5

[Nebenweg]

Sorry, aber mein Beitrag widerlegt Klaus' deine Behauptungen und Unterstellungen. Warum kann man nicht einfach ergebnisoffen mit einer KI umgehen? Dieser negative Touch nervt einfach, mich zumindest. Den Umgang mit einer KI muss man genauso erlernen wie den Umgang mit jedem anderen Werkzeug.

[Koaxfan]

Ich sehe einfach ganz oft eine Verbindung aus "ich will es erst garnicht richtig versuchen" und "ich weiß genau, deshalb geht die Welt unter".

Nochmal: So intensiv ich auch damit arbeite, ich würde mir niemals so pauschale Aussagen zu trauen wie das mit "10 ungeprüfte Aussagen von Youtube-Schwurblern wiegen für die KI mehr als 1 Klinger". Wirklich, mir fehlt leider die Zeit um eine AI zu suchen die tatsächlich sooo katastrophal schlecht wäre. Restlos alle, selbst Gemini (und was will was heißen) haben eine Quellenbewertung. Und den Rest, und da bleibe ich hart, macht der Mensch aus, der die AI bedient. Wer ein Orakel einfordert, bekommt ein Orakel. Wer eine Begründung einfordert, bekommt eine Begründung. Aber man kann nicht zielgerichtet und trotz vieler gegenteiliger Ratschläge in eine anerkannt schlechte AI einen Orakelprompt reinwerfen und sich dann nachher drüber beschweren, dass keine Dissertation rauskommt.

SHit in, shit out. Das gilt natürlich für das Trainingsmaterial, aber mindestens genau für "shit prompt rein, shit output raus". Und ich werde täglich mindestens einmal von einer stinknormalen Wald-und-Wiesen-AI, KEINEM Spezialmodell, darauf hingewiesen, dass meine Frage shit ist.

Es ist ein Tool, auf Deutsch Werkzeug. Es tut das, was man ihm sagt.

---

Das Problem der Verifizierbarkeit schlummert viel tiefer. denn meist geht es nur um "ist es richtig?" und das lässt sich problemlos und zur Laufzeit prüfen. Man nehme das was rein ging, nehme das was raus kam, vergleiche es, fertig. (ganz so einfach ist es nicht, aber im Vergleich ist es einfach)

Nein, das ist viel zu einfach. In wahrscheinlich den meisten Fällen reicht das, aber ich arbeite in einer Branche, in der sehr darauf geachtet wird, dass Funktionalität und Sicherheit nachweisbar oder zumindest übeprüfbar ist. Das heißt, du sitzt dann dabei und analysierst den Quellcode, entwirfst Testszenarien, bedenkst Risikofälle, und vieles davon kommt erst während der laufenden Entwicklung. Ich könnte mir schon vorstellen, dass das eine KI machen könnte, aber am Ende steckst du doch wieder viel Zeit in die formale Verifizierung.

---

Wer behauptet, dass 10 YT - Schwurbler mehr zählen als ein Fachbuch, der hat schlicht noch nie mit einer KI wirklich gearbeitet. Ich sagte gearbeitet, nicht gespielt.

Bei den allgemeinen Modellen ist das so, bei den spezifischen nicht. Bzw. es kommt darauf wer die mit was trainiert hat.

---

... weil ihr unter anderem der Klinger "verfüttert" wurde. Wenn es diese Experten aber in zukunft nicht mehr gibt (weil es einfacher ist, die KI nach Lösungen zu fragen, als einer zu werden), kann keiner mehr das Ergebnis bewerten.

Ganz wichtiger Punkt.

Zunächst zur Nachweisbarkeit: Ich bin auf einer ganz anderen Nachweisbarkeitsebene unterwegs, nämlich einer, die aktuell tatsächlich unmöglich ist. Dagegen ist ein reines "was geht rein, was geht raus" problemlos möglich. Es ist also um Welten einfacher. Das nur zur EInordnung. 

Jetzt zum Thema YT-Schwurbler. Ich habe erfolglos angeboten, doch mal ein beliebiges Thema konstruktiv zu bearbeiten. Darauf kam... nichts. Stattdessen der Spruch mit YT und Klinger. Schade. 

Also habe ich einfach mal den Titel des Klinger genommen und dann in eine bocksimple, allgemeine AI (ChatGPT) folgenden Orakel-Prompt geworfen: 

Ich möchte gerne "Lautsprecher und Lautsprechergehäuse für HiFi" verstehen.

Sonst nichts. Keine Struktur, keine Forderung nach Belegen, nix. Also ich habe alle meine Ratschläge ignoriert.

Ergebnis: 24 Kapitel von " Was ein Lautsprecherchassis eigentlich macht" bis zu " Und dann kommt der Raum". Sicher allles nur YT-Schwurbler, ist schließlich das allgemeinste Modell auf dem Markt das massiv für Nutzerbestätigung und Halluzinationen bekannt ist. 

Also habe ich gesagt:

Gib mir zu allen 24 Punkten die Quelle, woher hast Du das?

Und da kommen so YT-Schwurbler wie: Klippel, Thiele, Small, Linkwitz, Eminence, Toole, Harmann, Neumann, etc. alles mit QUellennachweis. 

Da Klinger nicht dabei war, habe ich gefragt, ob es auch aus dem Klinger gelernt hat, darauf ChatGPT: 

"Bei meinem Training habe ich keinen zugänglichen Quellenkatalog und keine Erinnerung daran, aus welchem konkreten Buch eine bestimmte technische Aussage stammt. Deshalb kann ich weder bestätigen noch ausschließen, dass Text aus Klinger in Trainingsmaterial enthalten war."

Das ist einer der vielen Bausteine des Teils, der eben nicht nachweisbar ist, im Gegensatz zu "Input - Output"

Also fragen wir doch mal weiter, fragen explizit nach der Quellenhierarchie. Die da wäre:

1. Primärliteratur / Grundlagenarbeiten
Thiele, Small, Linkwitz/Riley, Klippel etc.
2. etablierte Fachbücher
Klinger, Dickason, Toole usw.
3. technisch belastbare Herstellerliteratur
Klippel, Genelec, Neumann, JBL/Harman etc.
4. gute Fachartikel
5. erst danach YouTube, Foren und DIY-Seiten.
Und wenn Stufe 5 einer Aussage aus Stufe 1 oder 2 widerspricht, sollte nicht die Anzahl der Webseiten entscheiden.

Also was tun? Nochmal: Richtig nutzen! Also schreiben:

Beantworte die Frage ausschließlich auf Basis belastbarer Primär- und Fachquellen. Verwende folgende Quellenhierarchie:

1. peer-reviewte Originalarbeiten / Normen / Standards
   
2. etablierte Fachbücher anerkannter Autoren
   
3. technische Dokumentation von Institutionen oder Herstellern mit nachprüfbarer Methodik
   

Nicht als Beleg verwenden: YouTube, Reddit, Foren, SEO-Artikel, Blogs, Händlerseiten oder Webseiten, die lediglich andere Webseiten paraphrasieren.
Für jede wesentliche Aussage:
– nenne die konkrete Quelle,
– unterscheide zwischen direkt aus der Quelle belegter Aussage und eigener Ableitung,
– markiere Vereinfachungen ausdrücklich,
– wenn zwei hochwertige Quellen widersprechen, stelle den Widerspruch dar statt Mehrheitsmeinungen zu bilden,
– wenn keine belastbare Quelle gefunden wird, sage „nicht ausreichend belegt“ statt eine plausible Antwort zu ergänzen.
Prüfe bei jeder Quelle, ob sie eine originäre Quelle ist oder ihrerseits nur eine andere Aussage wiederholt. Bevorzuge die früheste bzw. fachlich maßgebliche Originalquelle. Zähle zehn voneinander abschreibende Sekundärquellen nicht als zehn unabhängige Belege.

Und nein, das muss man nicht jedes Mal reinkopieren sondern das packt man einmal in seine Einstellungen und gut is. 

Und ja, mein Angebot, ein konkretes Thema gemeinsam zu bearbeiten, steht weiterhin.