3C11

Am 18.01.26 um 17:26 schrieb Leo Baumann:

Du wolltest schreiben: ChatGPT hat dies als diejenige Antwort ermittelt, die du wahrscheinlich hören wolltest.

LLMs besitzen prinzipbedingt keinerlei Fachkompetenz, sie arbeiten rein statistisch.

Am 18.01.2026 um 17:48 schrieb Hergen Lehmann:

ChatGPT hatte die Möglichkeit aus 3 Materialien auszuwählen und hat die beiden anderen ausgeschlossen.

Leo Baumann, 2026-01-18 18:06:

Nein, ChatGPT wird wohl eher die Daten des Herstellers wiedergeben haben:

Zitat: "Material 3C11"

Oder meinst Du, dass bei ChatGPT anhand einer Messung das Material zugeordnet wurde? Auch dafür wird es wohl genügend Beispiele im Netz geben, die da als Quellen herangezogen wurden.

Am 18.01.26 um 17:48 schrieb Hergen Lehmann:

Das tut unser Gehirn letztlich auch, nur viel langsamer und mit viel mehr Parametern. Deswegen Halluzinieren die KIs auch so stark. In neuronalen Netzen überlagern sich viele Informationen. Je mehr man rein packt, desto größer die Wahrscheinlichkeit für "Intermodulationen".

Marcel

Ja, und das macht LLMs eben nur sehr begrenzt brauchbar. Langzeiteffekte scheinen auch nicht so der Hit zu sein, wenn man sein Denken outsourced hat das Folgen.

Gerrit

Was zwar immer wieder angesprochen wird, aber noch niemand wirklich berücksichtigt:

KI bedient sich aus verfügbaren Daten. Die waren anfangs gar nicht sind aber jetzt zunehmend KI-generiert. Das führt zwangsläufig zu Selbstbestätigung und Zirkelschlüssen. Wenn der Effekt erst einmal beobachtbar wird, wird es sehr spät sein.

Der Effekt wird beobachtet und ist durchaus Gegenstand aktueller Forschung. Die Entwicklung ist IMHO vorhersehbar: Idioten in Ihren asozialen Netzwerkblasen halten das dort zirkulierende auch für wahr - so ähnlich könnte ich mir das bei LLM vorstellen.

Ich teile z.B. auch die Euphorie für synthetische Trainingsdaten für ML nicht. Ich denke, das Risiko ist groß, daß etwas übersehen wird.

Nennt sich 'Model collapse'. Es dürfte inzwischen unmöglich sein unkontaminierte Daten für das Training zu bekommen, egal woher. Schliesslich benutzen viele LLMs für alles mögliche.

Gerrit

Das Problem dürfte sein zu erkennen ob die synthetischen Daten für Training taugen. Wie genau werden sie erzeugt?

Gerrit

Am 26.01.26 um 17:31 schrieb Gerrit Heitsch:

Aus dem Internet nicht, aus Archiven durchaus, mit Suchkriterium "Dokument vor <Beginn der KI-Bubble> archiviert". Die Zielgruppe für derart trainierte KI-Modelle wird dann aber recht klein.

Weiterer, noch nicht angesprochener Problempunkt: Bislang ist es noch niemandem gelungen, mit KI signifikant Geld zu verdienen, während gleichzeitig die Kosten für Entwicklung, Hardware und Strombrauch exorbitant sind. Pionier OpenAI soll sich bereits in einer prekären finanziellen Lage befinden, und auch bei Google&Co werden die Controller nicht ewig zusehen, wie Geld verbrannt wird.

Ich hoffe, es knallt recht bald.

Am 26.01.26 um 18:42 schrieb Hergen Lehmann:

Und die Inhalte können prinzipsbedingt auch keine aktuellen Informationen enthalten.

Ja, aber...

Amazon hat auch Jahre lang miese gemacht und ist jetzt einer der Größten.

Die Unternehmen versuchen momentan primar ihre Claims abzustecken und sich langfristig Marktanteile zu sichern. Das werden nicht alle überleben. Es ist auch kein Freibrief, der Erste gewesen zu sein.

Nun ja, auf jeden Hype folgt Ernüchterung, und später die Konsolidierung auf ein sinnvolles Niveau.

KI hat durchaus Potential. Dazu muss man halt ihre Stärken beachten. Sie ist vor allem *schnell*. Damit eignen sich primär Einsatzgebiete, wo es um eine schnelle, brauchbare aber nicht fehlerfreie Entscheidung geht.

Marcel

Am 26.01.26 um 19:14 schrieb Marcel Mueller:

Manche Studien sind schon einen Schritt weiter: Der Produktivitätsgewinn durch KI wird durch den Produktivitätsverlust überkompensiert, der entstanden ist, weil man jetzt wirklich *alles* prüfen muss. Die jahrtausendelang bewährte, empirische Bewertung anhand von Erfahrung und Prominenz eines Autors funktioniert nicht mehr.

Zumindest auf dem Arbeitsmarkt sind die Umwälzungen bereits erheblich. Berufsanfänger werden in etlichen Branchen kaum noch eingestellt, weil "die KI kann das auf dem Niveau auch". Blöd nur, das damit der Nachwuchs keine Erfahrung sammeln kann und ein Vakuum entsteht, sobald die altgedienten Experten weg sind.

Am 26.01.26 um 10:20 schrieb Hergen Lehmann:

Das stimmt so nicht. KIs können durchaus dazu lernen (wenn es nicht unterbindet), und gestehen sich im Zweifel auch die eigenen Fehler ein.

Allerdings gibt es auch noch kein Äquivalent für bestimmte Reorganisationsprozesse wie z.B. Träumen.

Marcel

Das meine ich mit "das Risiko ist groß, daß etwas übersehen wird."

Jo, aber alles digital verfügbare haben die KI-Firmen schon abgegriffen und zum Training benutzt.

Gerrit

Wobei 'brauchbar' und 'nicht fehlerfrei' die Verwendbarkeit schon deutlich einschränken.

Gerrit

Nicht nur das. Es bleiben durchaus auf Fähigkeiten auf der Strecke. In diversen Foren lese ich immer wieder von Programmierern die feststellen mussten, daß sie, wenn sie den Code nicht mehr selber schreiben, das nach einiger Zeit auch nicht mehr können, sie also von der KI abhängig werden. Use it or lose it.

Und das was nachwächst hat sich mit KI durch Schule und Studium gemogelt wenn nicht zumindest die Unis keine Gegenmaßnahmen ergreifen. Das wird einige harte Aufschläge auf der Realität geben.

Gerrit

Am 26.01.26 um 19:39 schrieb Marcel Mueller:

Im Moment sehe ich nicht recht, wer da wie überleben will.

Universelle KI-Modelle ala ChatGPT sind zum Scheitern verurteilt. Der Anspruch der Allwissenheit garantiert Halluzinationen und die positive Selbstbestätigung ("Model collapse") wird es noch schlimmer machen.

Bei spezialisierten Modellen kommt sofort die Frage auf, wie deren Nutzung abgerechnet werden soll, ob man sensible Daten wirklich in die Cloud einspeisen will, und ob man wichtige Entscheidungen wirklich an eine Instanz verlagern will, die man bei Fehlern nicht zur Rechenschaft ziehen kann.

Bleiben lokale Modelle auf Kunden-Hardware. Aber wie verdient der Hersteller damit Geld? Das bei Software übliche Update-Geschäft funktioniert nicht, denn damit wären die Daten wieder weg, die der Kunde mühsam selbst angelernt hat.

Bedingt.

Ein LLM kann vor allem schnell schwurbeln (Datenmüll generieren). Die Antwortzeiten vom ersten Versuch eines Prompt bis zum brauchbaren Ergebnis sind hingegen eher lang.

Das Gehirn eines hochentwickelten Tieres einschließlich des Menschen kann hingegen:

- zwei visuelle und zwei akustische Streams plus zigtausende ergänzende sensorische Informationen zu einem in Echtzeit aktualisierten 3D-Modell der Umgebung konsolidieren.

- Daraus die situationsbezogen relevanten Informationen extrahieren.

- Im Gedächtnis nach plausiblen Antworten recherchieren.

- Diese (je nach Intelligenz mehr oder weniger gut) selbstreflektierend auf ihre Erfolgsaussichten bewerten.

- Das Ergebnis in konkrete motorische Anweisungen übersetzen.

- Das Ganze mit einer Gesamtlaufzeit vom ersten Input bis zur Muskelaktion von nur ca. 200ms (Reaktionszeit eines Menschen auf einfache visuelle Reize), mehreren Durchläufen pro Sekunde und einem Energieverbrauch von nur ca. 20Watt. Tiere sind z.T. sogar noch deutlich effizienter.

Was bleibt, ist die Massenproduktion von Content, bei dem Fehler nicht stören. Aber für wen, wer will dafür bezahlen?

Am 26.01.26 um 19:47 schrieb Marcel Mueller:

Das meinte ich an der Stelle nicht, sondern, das zum Lernen weitgehend ungefilterter Input heran gezogen wird.

Das ist ein ziemlich dramatischer Unterschied zu einer natürlichen Intelligenz, bei der die Vorfilterung der eingehenden Informationen eine extrem zentrale Rolle spielt. Nur ein winziger Anteil des Input schafft es in den Ringpuffer des Kurzzeitgedächtnisses und ein noch sehr viel kleinerer Anteil wird tatsächlich dauerhaft in das neuronale Netz eingepflegt.

Widerwillig eingestehen (natürlich nur innerhalb der Session, der nächste User bekommt wieder den gleichen Unfug präsentiert) und ernsthafte, bleibende Konsequenzen sind ein himmelweiter Unterschied.

Die überwiegende Zeit der Entwicklungsgeschichte des Menschen bedeuteten Fehler (je nach Schweregrad) Schmerz, Hunger oder Tod. Das ist ein "etwas" anderer Anreiz zur Weiterentwicklung.

Was nun wiederum der zentrale Baustein echter Intelligenz ist.