lokale KI

Es gibt mittlerweile die ersten Versuche die zeigen wie es etwas preiswerter geht:

Ich koennte mir vorstellen das es irgendwo ein paar alte Saecke gibt die in gesicherter Stellung dem Eintritt der Rente entgegendaemmern und intellektuell auf dem Stand eines Brots sind. Die brauchen das nicht. Alle anderen schon. Und Leute die z.B mal Nachrichtentechnik aus technischem Interesse an neuen aufregenden Dingen studiert haben, die muessen sowas sogar haben. .-)

Gleich zweimal falsch.

Zum einen kann eine lokale KI durchaus fuer dich googeln oder andere Dinge im Internet tun, zum anderen will ich nicht meistens etwas wissen sondern nutze es durchaus auf dem level von "intellektueller Diskussion/Gespraech"

Olaf

Am 10.11.26 um 05:18 schrieb Leo Baumann:

Man kann lokale KI mit einer einigermaßen potenten CPU und ausreichend RAM auch ohne Spezialhardware laufen lassen, es dauert damit allerdings schon mal eine Viertelstunde bis zu einer Antwort.

Nein. Du kannst auch auf herkömmliche Weise in der Fachliteratur recherchieren, sowohl online als auch offline.

Mehr als einen ersten Hinweis auf einen potenziellen Lösungsweg kann eine KI (egal ob lokal oder Cloud) eh nie liefern, da die Ergebnisse stochastischer Natur sind und IMMER überprüft werden müssen. Ob du derartige Wegweiser unbedingt brauchst oder noch selber denken kannst, musst du selbst wissen.

snipped-for-privacy@criseis.ruhr.de (Olaf Kaluza) schrieb oder zitierte:

Große Sprachmodelle können auch lokal auf Windows 7 mit 4 GB oder Windows 98 (wohl auch ohne GPU) ausgeführt werden. Webseiten:

"Running Llama on 25 Year Old Hardware" (Titel) "Running Llama on Windows 98" (Überschrift)

"I Ran a Local AI on Windows 7 with 4GB RAM"

Letzteres verwendet eine ältere Version von KoboldCPP und ein kleines Modell wie zum Beispiel qwen2.5-0.5b-instruct-q4_k_m.

Große Sprachmodelle, also KI-Chatbots, sind freilich nicht die einizige Art von KI-Programmen. Viele andere Arten von KI-Programmen, einschließlich diverser Anwendungen künstlicher neuronaler Netze, sind mehr oder weniger anspruchsvoll . . .

Am 10.11.26 um 08:15 schrieb Hergen Lehmann:

Nur kann man mit KI deutlich mehr machen, als nur recherchieren...

Am 10.11.2026 um 05:57 schrieb Olaf Kaluza: [...]

Dann kann ich ja mein Portemonnaie leer machen und das Halluzinieren der Grafikkarte bewundern.

:)

Arbeitet KI-Software auch mit x86-Befehlssatz oder nur mit dem RIS(C) von Grafikprozessoren? Kann sie also CPU und GPU simultan nutzen oder wenigstens wechselweise?

SM-Studio läuft mit einer 4GByte-GPU + AMD-CPU (Baujahr 2022) praktisch gar nicht. Einfaches Frage-Antwort Prozedere geht grad noch, langsam aber halbwegs sicher. Bildanalyse ebenfalls, aber schon bei einfacher Bildverarbeitung verreckt die Software völlig. Ein Worddokument in eine Powerpoint-Präsi zu wandeln, ist ebenfalls zuviel verlangt.