Es gibt ein Problem mit dem Autopiloten.

Am 02.11.19 um 03:07 schrieb Johannes Bauer:

Da kommt mir

formatting link
in den Sinn: "Keine KI wird jemals intelligenter, als es notwendig ist, um ihr eigenes Belohnungssystem zu hacken."

Hanno

Reply to
Hanno Foest
Loading thread data ...

Gutes Zitat!

In der Tat ein spannendes Problem. Die Formulierung der Utility-Funktion ist richtig schwierig und wenn man nicht messerscharf formuliert, findet die KI eben Glitches und Loopholes. Eigentlich ziemlich smart.

formatting link

Oder wie die KI Bugs in der Physics Engine findet:

formatting link

Superspannend auf jeden Fall.

Johannes

--

selben Hardware." -- Hans-Peter Diettrich in d.s.e.
Reply to
Johannes Bauer

-

d

Menschenrechten.

--




/ \  Mail | -- No unannounced, large, binary attachments, please! --
Reply to
Axel Berger

Achso, Du meinst auch die Interpretation der Sensoren wurde hier noch gelernt - ja das gibt Sinn.

--
Ich muss nicht kultiviert *aussehen* - ich bin es. 

Profiklaus in d.r.f.
Reply to
Eric Bruecklmeier

?cklich.

en.

, ist das

Oder hast

ese

och lange nicht dumm zu kommen. Vielleicht solltest du einfach mal dein

eigentlichen Zusammenprall mit dir zu Tode kommt, aber das ist bei

ben

?nnen.

Reply to
Guido Grohmann

z. B. von einem ICE. Es ist schon ein Kreuz mit der Wahrscheinlichkeitsrechnung. Ich darf vielleicht kurz daran erinnern,

Freisetzungsexperiment gewisser mobiler technologischer Systeme auf

als gedacht [1]. Obacht: Da geht es ausnahmsweise um UnfallRATEN, nicht

Jetzt kann man freilich das gute alte Saure-Gurken-Thema wieder aufnehmen, Destatis konsultieren, zu den Unfallursachen im Verkehr recherchieren und

Verkehrssicherheit zu bedenken. Denn das Fahrrad ist ganz offensichtlich

mit Personenschaden beteiligt sind [5], insgesamt 68k. Die lapidare

Einwohner und mithin auch der Verkehrsteilnehmer ausmacht. Ich wollte es

involviert waren.

Frauen-Nachschulungen beispielsweise oder Selbstbehauptungskurse im

Menschenleben zuviel, oder etwa nicht?

nicht mehr so weit her mit Deinen Testosteron-Teenagern und die "halbblinden Rentner" gehen in der Unfallstatistik quasi im Rauschen unter. Wer hier einen Handlungsbedarf sieht, der unterschreibt auch die

die Ersthelferkurse nicht irgendwann im letzten Jahrtausend liegen und man

leistet.

Kurz gesagt: Ich finds absolut gar nicht super, mir das Kraftfahren von einem Autopiloten abnehmen zu lassen. Zumindest bis zu dem Zeitpunkt, wo

Software keinen Mist baut, steht mir nicht der Sinn. Und nach noch einer

Deine Anekdoten in allen Ehren.

Ciao, Volker

[1]
formatting link
[2]
formatting link
[3]
formatting link
[4]
formatting link
[5]
formatting link
[6]
formatting link
Reply to
Volker Bartheld

Klar, oft. Und ich habe bestimmt auch schon Leute umgerannt. Bisher

seiner Argumente konfrontiert wird.

Siehste, das ist die pure Interpretation deinerseits. Klassischer

kommst du nur auf DAS schmale Brett?

inkompetenten Fahrern gesteuert werden.

Umgang" schreibst. Denn dass das nicht funktioniert, offenbart ja ein

auch". Macht nur aber niemand.

Sei auf der Hut!

Johannes

--

selben Hardware." -- Hans-Peter Diettrich in d.s.e.
Reply to
Johannes Bauer

Am 02.11.2019 um 11:29 schrieb Ewald Pfau:

Du solltest deine Paranoia dringend behandeln lassen.

Reply to
Bubo bubo

Ja, klar. Aber Guido fing mit dem absurden vergleich an, man kann ja auch jemanden zu Tode rempeln.

Ich habe lediglich gesagt, dass wir im Moment in den vereinzelten Experimenten absolut dilletantische Technologie in ihren Kinderschuhen haben und TROTZDEM funktioniert die schon beeindruckend gut. Daraus extrapoliere ich, dass die Technologie in 20 Jahren vermutlich dem

Ja, mit den Unfallstatistiken ist es so eine Sache. Es ist ganz ehrlich nicht klar, welche Metrik gut geeignet ist. Absolute Todeszahlen oder Unfallzahlen? Pro gefahrener Strecke? Wie werden Verletzungen gewichtet?

ist. Aber nur um es zu wiederholen, ich habe nie geschrieben, dass die

jetzt bei Autos erprobt wird und warum man nicht schon vor 20 Jahren

"Man"? Ich nicht. Dein Stohmann-Argument ist zu transparent.

Aber eine Reduktion der Unfallzahlen kann doch jetzt wirklich nichts sein, wogegen du bist, oder? Dass "Fahr doch Fahrrad" ungeeignet ist, ist Allen klar.

Nice b8 m8 I r8 8/8.

Ja, betreutes Fahren ist das allerschlechteste aus allen Szenarien. Da wird der Fahrer erst durch 99%ig richtige Entscheidungen hypnotisiert

Ich rede schon von voll autonomen Fahrzeugen. Und dass die noch nicht reif sind, aber es irgendwann sicherlich werden, habe ich ja jetzt schon

Johannes

--

selben Hardware." -- Hans-Peter Diettrich in d.s.e.
Reply to
Johannes Bauer

Johannes

--

selben Hardware." -- Hans-Peter Diettrich in d.s.e.
Reply to
Johannes Bauer

Johannes Bauer schrieb:

ern im

Guido

Reply to
Guido Grohmann

Verkehrsteilnehmer aus als von z.B. Autofahrern oder LKW-Lenkern.

alles mit viel semantischer Gymnastik in Frage stellen

zusammen.

*das* der Punkt deines Einwands ist, dann wirst du es ja wohl sagen.

/ralph

--
----------------------------------------------------------------------------- 
                                                              https://aisg.at 
                                                   ausserirdische sind gesund
Reply to
Ralph Aichinger

Volker Bartheld :

Zum einen werden die Maschinen daraufhin programmiert, die Mimese menschlichen Verhaltens irgendwie auf die Reihe zu bekommen. Eine andere

Dann kommt aber der Punkt: Wo Menschen miteinander agieren, sind sie zum

werden das Kampfroboter, und das ist ein ganz anderes Thema - ein Diskurs hat kein vorgegebenes Resultat, sondern kommt im Grenzbereich zur Geltung, des auch von Menschen ziemlich maschinell abgespulten Verhaltens im Rahmen

zueinander in eine Grauzone eintreten, machen die Leute untereinander aus,

Ergebnis von Interaktion, mit je ungewissem Ausgang, oft genug mit

deshalb gleich jemand einen Nervenzusammenbruch haben muss. Tit-for-tat ist so ein Spiel im gemischten Ablauf, heute geb ich Dir nach und morgen gibt

sei denn, da sind die Kaliber dazwischen, die nur tit- wollen aber kein

-for-tat. Interessanterweise ist selbst so etwas bis zu einem bestimmten Punkt im Diskurs wahrnehmbar.

Sobald nun also das Mitschwimmen im Verkehr, per Mimese des Verhaltens, das den Konflikt meiden muss, in den Diskurs eintreten soll, funktioniert das Schema nicht mehr. Das ist letztlich kein Miteinander, das ist nur ein

Zwischendurch fand ich eine Beschreibung, hab leider die Quelle nicht mehr, wo patrollierende Roboter zum Einsatz auf Gehwegen getestet wurden, wo ja

Verhalten fester Bestandteil des Repertoires ist, bei Maschinen hingegen nicht. Und dort, ganz Yankee-like, in Kalifornien, wurde das Dilemma der

nicht-dekodierbare Verhalten als Aggression wertet und mit Waffengebrauch beantwortet.

Das ist dann der Gegner, und der muss beseitigt werden.

So schaut Dummheit aus, die Fortsetzung der imperialen Geste in Reinkultur. Aber wenn denn mit der Brechstange hantiert wird, ganz im Sinne von Rendite-Effizienz eingesetzten Kapitals (Roboter sind billiger, und bei

dann ist mit etwas anderem als der blanken Dummheit leider nicht zu rechnen.

Bitte also bei der Betrachtung von dieser Art Begegnungen an mehr denken als nur an die Bits und Bytes und Input und Output. Progammierer setzen Libraries ein, und wenn eine mit Waffengewalt beschriftet ist, und der Knabe

Willkommen bei der blanken Unvernunft. Und etwas besserers haben wird nicht.

Reply to
Ewald Pfau

Das Problem mit AI-Systemen ist, wenn sie einmal etwas falsch gelernt haben bekommst du das nicht mehr raus. Du kannst versuchen, sie umzulernen, aber das kann andere Dinge kaputt machen. Du hast da eigentlich nur eine Chance, die AI wegwerfen und mit einer Version nochmal starten die das fehlerhafte Verhalten noch nicht hatte.

Debuggen wie ein normales Programm kannst du vergessen, geht nicht.

umrissenen Bereichen und oft wenn sie Vorteile haben.

mit den gleichen Handicaps arbeiten muss wie der Mensch, also Kameras um

z.B. Zugriff auf die ganze Spielkarte und direkte Eingabe.

Gerrit

Reply to
Gerrit Heitsch

Nein... Einfaches Beispiel: Du hast eine Autobahn an der

problemlos. Jetzt kommt eine Auffahrt und da wollen 5 weitere Autos auffahren. Die brauchen Platz, also musst du die Schlange auf der rechten Fahrbahn abbremsen. Das planzt sich nach hinten fort und schon

Also Komunikation der Autos untereinander? Das ist problematisch weil schwer zu sichern und Hacker's Dream.

Gerrit

Reply to
Gerrit Heitsch

brauchbar einparken kannst und dann immer noch Fehler machst (einige als

lassen) solltest du nicht Auto fahren.

Achja... auch interessant:

formatting link

2 AIs mit demselben Netz versuchen gleichzeitig zu parken. Die Erkennung 'Parkplatz ist schon besetzt' fehlt wohl noch. Ebenso 'Es gibt

Gerrit

Reply to
Gerrit Heitsch

mal mehrere Stunden Training und setz ihn ans Steuer. :)

Johannes

--

selben Hardware." -- Hans-Peter Diettrich in d.s.e.
Reply to
Johannes Bauer

Nein, das macht die AI nicht. Die kann immer noch kein reales Auto fahren sondern nur ein simuliertes auf dem Bildschirm, also Prinzip Videospiel. Das kann ein Kind auch recht schnell lernen.

Gerrit

Reply to
Gerrit Heitsch

rung:

egs

s

fallen

Was sind 300000 Versuche bei der heutigen Rechenleistung eines PC, ohne Visualisierung?

t, der an

bis

ind, wenn

nte/sollte man auch solche Tips geben.

DoDi

Reply to
Hans-Peter Diettrich

Doch, mir gehts nicht um irgendwelche dumpfe Polemik, sondern um das Thema maschinelles Lernen und das finde ich Eindrucksvoll. YMMV

Reply to
Eric Bruecklmeier

ElectronDepot website is not affiliated with any of the manufacturers or service providers discussed here. All logos and trade names are the property of their respective owners.