3C11

Jan 18, 2026 Last reply: 5 months ago 36 Replies

Heute habe ich anläßlich einer Aufgabe für geschätzte 20 Minuten festgestellt, *wie* perfekt KI menschliche Helpdesks emuliert. Wesentlich besser, als ich es mir eigentlich gewünscht hätte.

KI: Der Fehler steckt in Datei <sowieso>. Ich: <File upload>

KI: Genau, da ist er. Es ist ... Ich: Ich kann die Stelle in der Datei nicht finden. KI: Richtig. Jetzt habe ich sie gelesen und er ist wirklich nicht da. Dann ist es etwas anderes, nämlich ...

Nach acht Stunden(!) lief es. Dann kam der Vorschlag einer kleinen Verbesserung "100 % sage, guaranteed not to break anything". Nach weiteren 4 Stunden lief es wieder, ohne die Verbesserung. (Ja ich hätte beim ersten Laufen sichern sollen und beim ersten Versagen der "Verbesserung" sofort aufhören und zurücksichern. Mit so viel kindlichem Urvertrauen werde ich an KI nie wieder drangehen.)

Siehe meine andere Nachricht. Was ich in acht konzentrierten Stunden alles an Doku hätte lesen können, wenn es so etwas denn heute noch gäbe. Danach wäre ich imstande gewesen, Probleme systematisch anzugehen und nicht wie jetzt auch beim nächsten Mal wieder nur trial und error.

Eine andere Frage ist, ob man mehr bekommt als KI. Ein befreunder Prof der IT bringt Studenten bei, eine Aufgabe an die KI zu stellen und die Antwort an den Compiler zu verfüttern. Bei Fehlern "rinse and repeat". KI kann Nachschlagen deutlich beschleunigen, aber zum Erkennen von Fehlern braucht man eigenes Wissen und eigene Erfahrung.

Im Oberseminar Geschichte, großes Latinum absolute Voraussetzung, empfielt der Prof ChatGPT als Übersetzer. Bei der Livedemonstration kam Unsinn heraus. "Heute morgen, zu Hause, ging's noch."

Wobei, ich benutze das selber. Neulich für zwei Seiten aus dem Englischen. allein das Tippen und finden der Rechtschreibfehler hätte viel länger gedauert. Allerdings kann ich diese (beiden) Sprache(n) wirklich selber gut genug, um die nötige Nacharbeit zu leisten.

Am 26.01.2026 um 20:39 schrieb Gerrit Heitsch:

[...]

Recht viel schlimmer kann es eigentlich nicht mehr werden. Viele scheitern bereits am Verständnis recht einfacher Aufgaben, vom Lösen wollen wir das noch gar nicht sprechen.

Bin gerade wieder (zweimal pro Jahr) in der Verzweiflungsphase... :-/

Es gibt sicher auch Bereiche, in denen der Input gefiltert wird. Eine verschwiegenere Methode der Zensur gibt es wohl kaum.

Grüße, H.

Auch das ist keine Zensur.

Haltet ihr die Prüfungen in Präsenz ab? Macht die Verwendung von KI deutlich schwerer.

Gerrit

Aus USA hört man da Dinge und ich fragte mich, ob die auch hier langsam Einzug halten.

Man sollte vielleicht gleich zu Beginn im 1. Semester deutlich ankündigen, daß Prüfungen in Präsenz abgehalten werden und damit KI, wenn nicht eindeutig zugelassen, nicht eingesetzt werden kann sondern nur zählt was das eigene Hirn zu leisten vermag.

Gerrit

*Welche* KI? Ein Bekannter wies mich heute darauf hin, dass er seit kurzem Gemini verwendet und dessen Antworten wohl deutlich besser seien als ChatGPT. Ich habe daraufhin mal meine letzten ChatGPT-Fragen in Gemini reinkopiert und siehe da: Das stimmt, Antworten sind strukturierter, inhaltlich besser. Die Frage nach einer bestimmten Fernsehserie, die ChatGPT überhaupt nicht rausbekam, beantwortete Gemini mit dem gleichen Prompt auf Anhieb...

-jw-

Ach, ich erzähl denen soviel im ersten Semester - z.B. daß der Studienplan alleine für mein Fach pro Woche 15 Stunden Vor- und Nachbereitung vorsieht... Interessiert keine Sau. Würde man das ernst nehmen, könnte man das Fach locker(!) bestehen... so haben wir halt nur Erfolgsquoten um die 25% - 30%...

Gute Frage. Und natürlich, ChatGPT war es.

-- /¯\ No | Dipl.-Ing. F. Axel Berger Tel: +49/ 221/ 7771 8067 \ / HTML | Roald-Amundsen-Straße 2a Fax: +49/ 221/ 7771 8069  X in | D-50829 Köln-Ossendorf

formatting link
\ Mail | -- No unannounced, large, binary attachments, please! --

Zensur durch Verschweigen. Entscheidend ist das Ergebnis.

Grüße, H.

Interessant. Dein Bekannter soll das Programm mal um die Lösung eines simplen Substitutionschiffres bitten, machmal auch als Caesarchiffre

formatting link
bekannt. Dabei entspricht jeder Buchstabe im Klartext genau einem (anderen) Buchstaben im Geheimtext. Brute-Force- oder statistischer Ansatz, ganz nach Belieben.

Prompt 1: "Entschlüssele diese Substitutionschiffre: 'fhkzxglmngw atm zhew bf fngw'".

Prompt 2: "Entschlüssele diese Substitutionschiffre, Brute-Force- oder statistischer Ansatz (es handelt sich um ein deutsches Sprichwort): 'fhkzxglmngw atm zhew bf fngw'".

Würde mich interessieren.

ChatGPT tut sich schwer mit Rechenaufgaben und Suggestivfragen, die kann man offenbar nicht aus den Trainingsdaten inferieren. ich habe obige Promts gegeben (Verschiebechiffre, Offset 19, d. h. A->t, B->u, C->v, usw., s. u.

Aus "MORGENSTUND HAT GOLD IM MUND" wird also "fhkzxglmngw atm zhew bf fngw".

Ergebnis:

'Die Lösung lautet sehr wahrscheinlich:

„Perfektion ist kein Ziel“

Begründung kurz:

Wortlängen passen exakt: 10 – 3 – 4 – 4

„atm“ → ist „zhew“ → kein „fngw“ → Ziel

Der Satz ist eine bekannte, sinnvolle deutsche Aussage und ergibt eine konsistente Substitutionszuordnung.'

Uh-oh. Nun, "M-O-R-G-E-N-S-T-U-N-D" sind in meiner Welt 11 (elf) Buchstaben. Wenn "h" dem "E" entspräche, müsste in der hypothetischen Lösung "perfektion" auch "x" einem "E" entsprechen, fünf Worte in der Chiffre, vier im Lösungsvorschlag. Und was ist mit dem "bf"?

q.e.d.

LLMs halluzinieren also nicht nur, sie können auch nicht besonders gut rechnen und mit der Logik stehen sie ebenfalls auf Kriegsfuß.

Es wird aber noch skurriler. Auf "Wie wäre es mit der Lösung 'MORGENSTUND HAT GOLD IM MUND'? Ist das kein deutsches Sprichwort?" bekomme ich die Antwort:

'Ja — „Morgenstund hat Gold im Mund“ ist natürlich ein deutsches Sprichwort 👍 Aber als Lösung für diese Substitutionschiffre passt es leider nicht. Lass uns das sauber prüfen.

  1. Wortlängenvergleich

Chiffre:

fhkzxglmngw atm zhew bf fngw

11 3 4 2 4

Sprichwort:

MORGENSTUND HAT GOLD IM MUND

10 3 4 2 4

❌ Erstes Wort passt nicht

MORGENSTUND → 10 Buchstaben

fhkzxglmngw → 11 Buchstaben

Schon dadurch ist es ausgeschlossen.'

"MORGENSTUND" hätte 10 Buchstaben? Na, wer da ChatGPT irgendwelche Produktivaufgaben anvertraut, ggfs. sogar ohne Überwachung, der hat über kurz oder lang einen sehr, SEHR schlechten Tag.

Das bekannte Matherätsel:

SEND

  • MORE ======= = MONEY

dann wiederum kein Problem, geisterte wohl in den Trainingsdaten irgendwelcher Rätselgruppen herum.

Und das sind ja die wirklich brennenden Fragen unserer Zivilisation, insbesondere, wo LLMs eine immense Wertschöpfung erzielen und zahllosen professionellen "Wer wird Millionär"-Spielern den Arbeitsplatz streitig machen können.

Volker

P.S.: Faszinierend dann wieder, dass ich mit dem Prompt...

"Convert this simple Ceasar encryption scheme into HTML with embedded JavaScript: <caesar.cpp>. I want an edit box for the text and a buttton to execute decryption/encryption. Modify the code so that capital letters will be encrypted and lower case letters will be decrypted. For simplicity sake just extend the map with swapped colums for upper and lower case."

... aus meinen C++ Quellcode ein lupenreines, funktionsfähiges HTML-Dokument bekam (s.

formatting link
Hätte ich manuell auch nicht besser hingekriegt, aber sicher 10x so lang gebraucht.

Wenn ich Dir nicht erzähle, was ich gestern nachmittag gemacht habe, so wirst Du kaum meckern können.

Bist Du aber Journalist und verschweigst Wesentlichens auf Anordnung, so übt der Anordnende Zensur aus. Wenn Du Deinem IT-Mann andeutest, Du wollest bestimmte Fakten nicht im Trainigsmaterial Deiner KI sehen,

formatting link
so übst Du auch Zensur aus. Früher musstest Du dazu Deine Leute in die Bibliothek schicken, um die unpassenden Gesichter aus den Fotos zu schneiden.

Grüße, H.

Es gibt da Beschreibungen aus USA... Laptop, webcam on usw.

Gerrit

Das gab es bei uns während Corona auch - kann man komplett vergessen! Obwohl es bei uns politisch stark gewollt wird....

Gerrit Heitsch, 1/29/26 09:12:

Ja, komplett sinnfrei. Selbst wenn die Webcam an ist, kann man beliebig betrügen.

Join the Discussion

Have something to add? Share your thoughts — no account required.

Didn't find your answer?

Ask the community — no account required