Es gibt ein Problem mit dem Autopiloten.

Oct 31, 2019 Last reply: 6 years ago 707 Replies

Volker Bartheld snipped-for-privacy@bartheld.net:

Vielleicht hierzu nochmals die Unterscheidung angefügt:

Zum einen werden die Maschinen daraufhin programmiert, die Mimese menschlichen Verhaltens irgendwie auf die Reihe zu bekommen. Eine andere Möglichkeit gibt es nicht, wenn sich das im Mischverkehr abspielen soll. Vielleicht kommt man da auch auf recht manierlich Zuverlässigkeit.

Dann kommt aber der Punkt: Wo Menschen miteinander agieren, sind sie zum Diskurs fähig. Das sind Maschinen nicht. Können es auch nicht sein, sonst werden das Kampfroboter, und das ist ein ganz anderes Thema - ein Diskurs hat kein vorgegebenes Resultat, sondern kommt im Grenzbereich zur Geltung, des auch von Menschen ziemlich maschinell abgespulten Verhaltens im Rahmen der rigiden Ordnung, den je vorgesehenen Ablauf im allgerößten Teil der Fälle betreffend. Wo die einfache Physik der Dinge und das Verhalten zueinander in eine Grauzone eintreten, machen die Leute untereinander aus, was passt und was nicht, und auch das geht in den allermeisten Fällen schon ohne Verstandestätigkeit, wenn die Übung des Bändigens der schweren Massenntonnage einmal in Fleisch und Blut übergegangen ist, sozusagen. Das ist aber bereits außerhalb algorithmisch erfassbaren Verhaltens, es ist das Ergebnis von Interaktion, mit je ungewissem Ausgang, oft genug mit eingebauten Präferenzen, die aber immer auch durchbrochen werden, ohne dass deshalb gleich jemand einen Nervenzusammenbruch haben muss. Tit-for-tat ist so ein Spiel im gemischten Ablauf, heute geb ich Dir nach und morgen gibt mir ein anderer nach. Das geht in den meisten Fällen ohne viel Aufsehen. Es sei denn, da sind die Kaliber dazwischen, die nur tit- wollen aber kein

-for-tat. Interessanterweise ist selbst so etwas bis zu einem bestimmten Punkt im Diskurs wahrnehmbar.

Sobald nun also das Mitschwimmen im Verkehr, per Mimese des Verhaltens, das den Konflikt meiden muss, in den Diskurs eintreten soll, funktioniert das Schema nicht mehr. Das ist letztlich kein Miteinander, das ist nur ein miteinander der einen, mit passiv gaffenden Zaungästen dazwischen.

Zwischendurch fand ich eine Beschreibung, hab leider die Quelle nicht mehr, wo patrollierende Roboter zum Einsatz auf Gehwegen getestet wurden, wo ja auch der Übergang von der Mimese zum Diskurs ständig im menschlichen Verhalten fester Bestandteil des Repertoires ist, bei Maschinen hingegen nicht. Und dort, ganz Yankee-like, in Kalifornien, wurde das Dilemma der Unschärfe damit kurzerhand erschlagen, indem als Parole ausgegeben wurde, wir müssen dann den Menschen ganz einfach mitteilen, dass der Roboter alles nicht-dekodierbare Verhalten als Aggression wertet und mit Waffengebrauch beantwortet.

Das ist dann der Gegner, und der muss beseitigt werden.

So schaut Dummheit aus, die Fortsetzung der imperialen Geste in Reinkultur. Aber wenn denn mit der Brechstange hantiert wird, ganz im Sinne von Rendite-Effizienz eingesetzten Kapitals (Roboter sind billiger, und bei Rendite ist bei dem ganzen Spaß mit dem Diskurs sofort Schluss mit lustig), dann ist mit etwas anderem als der blanken Dummheit leider nicht zu rechnen.

Bitte also bei der Betrachtung von dieser Art Begegnungen an mehr denken als nur an die Bits und Bytes und Input und Output. Progammierer setzen Libraries ein, und wenn eine mit Waffengewalt beschriftet ist, und der Knabe an seinem Job hängt, dann bindet er das eben mit ein. So billig ist das.

Willkommen bei der blanken Unvernunft. Und etwas besserers haben wird nicht.

Am 02.11.19 um 12:41 schrieb Wolfgang Allinger:

Das ist die Zukunft deutscher Städte! Nachdem das Bild deutscher Innenstädte weitgehend von Lastenfahrräder beherrscht wird, will man die letzten Autos auch noch verbannen. Da sich sperrige Güter wie zB Kühlschränke, der Beförderung durch umweltfreundliche Lastenräder quasi widersetzen, wird man Einachserkarren mit Esel einführen. Da das Angebot dieser umweltfreundlichen Beförderung doch sehr rar ist, hat man eine Quelle aufgetan, man tauscht Autos, die man in DE ja nicht mehr haben will, gegen Einachserkarren mit Esel aus Paraguay. Das zu beiderseitiger Zufriedenheit. Prost Mahlzeit. :-)

Am 02.11.2019 um 14:13 schrieb horst-d.winzler:

Und dann wird nicht mehr CO2 besteuert, sondern Methan ;-)

DoDi

Pferdekarren Einachser gibbet hier auch noch, stets unbeleucht. Aber die Stadt Asuncion wollte die verbannen und fördert(e) kenton motocargas. Sehen so aus, als wenn nen Motorrad nen Eselskarren gefickt hat :) Und die Fahrer sind nun die Esel :)

Die Pferdekarren sind inzwischen selten geworden, man sieht nicht mehr täglich einen. Aber dafür irre Mengen von den Motocargas. Mindestladehöhe umme 4m Höhe und 3m Breite (Müllsammler) :( Auch nen Golf etc. Huckepack erstaunt mich auch nicht mehr.

Vorne sitzen minimum 3 Personen und 10 stehen auf der Ladefläche. Auch völlich normal.

Guckstu Motocargas

formatting link
ocargas&tbm=isch&source=univ&client=firefox-b- d&sxsrf=ACYBGNRJwguF5vIyDjiOJhyreSae22T58g:1572703204246&sa=X&ved=2ahUKEwi b5M3-18vlAhUwILkGHb9fDtgQsAR6BAgIEAE&biw=1265&bih=1260

Oder sowas:

formatting link
Läuft in PY eher als halb beladen durch :)

Saludos (an alle Vernünftigen, Rest sh. sig) Wolfgang

Das Problem mit AI-Systemen ist, wenn sie einmal etwas falsch gelernt haben bekommst du das nicht mehr raus. Du kannst versuchen, sie umzulernen, aber das kann andere Dinge kaputt machen. Du hast da eigentlich nur eine Chance, die AI wegwerfen und mit einer Version nochmal starten die das fehlerhafte Verhalten noch nicht hatte.

Debuggen wie ein normales Programm kannst du vergessen, geht nicht.

Und 'haushoch überlegen'? Nö, bisher nicht. Nur etwas besser in klar umrissenen Bereichen und oft wenn sie Vorteile haben.

Ich erkenne die Überlegenheit einer AI z.B. bei Videospielen an wenn sie mit den gleichen Handicaps arbeiten muss wie der Mensch, also Kameras um den Bildschirminhalt zu erfassen und Aktuatoren für Tastatur und Maus. Aktuelle AIs haben immer noch Vorteile gegenüber menschlichen Spielern, z.B. Zugriff auf die ganze Spielkarte und direkte Eingabe.

Gerrit

Nein... Einfaches Beispiel: Du hast eine Autobahn an der Kapazitätsgrenze, die Autos laufen dank (fehlerfreier.. ha!) Automatik problemlos. Jetzt kommt eine Auffahrt und da wollen 5 weitere Autos auffahren. Die brauchen Platz, also musst du die Schlange auf der rechten Fahrbahn abbremsen. Das planzt sich nach hinten fort und schon sind wir da, wo wir heute sind, vielleicht nur etwas später.

Also Komunikation der Autos untereinander? Das ist problematisch weil schwer zu sichern und Hacker's Dream.

Gerrit

Eher nicht... Wenn du über 300000 Versuche brauchst bevor du halbwegs brauchbar einparken kannst und dann immer noch Fehler machst (einige als 'grün' gewertete Versuche würden dich in der Fahrschule durchfallen lassen) solltest du nicht Auto fahren.

Achja... auch interessant:

formatting link

2 AIs mit demselben Netz versuchen gleichzeitig zu parken. Die Erkennung 'Parkplatz ist schon besetzt' fehlt wohl noch. Ebenso 'Es gibt noch andere Parkplätze als den einen'.

Gerrit

Naja, die KI macht das in wenigen Stunden, wofür ein Mensch 18 Jahre braucht. Also mal Äpfel mit Äpfeln vergleichen. Oder gib einem Säugling mal mehrere Stunden Training und setz ihn ans Steuer. :)

Viele Grüße, Johannes

Nein, das macht die AI nicht. Die kann immer noch kein reales Auto fahren sondern nur ein simuliertes auf dem Bildschirm, also Prinzip Videospiel. Das kann ein Kind auch recht schnell lernen.

Gerrit

Was sind 300000 Versuche bei der heutigen Rechenleistung eines PC, ohne Visualisierung?

Real life: Hier gegenüber wurde ein Verkehrsüb^wParkplatz gebaut, der an der gestrichtelten Linie im Video aufhört. Da dauert es seine Zeit, bis die Benutzer erkennen, daß die hinteren Plätze nur erreichbar sind, wenn man rückwärts in den Parkplatz einfährt. Einer KI könnte/sollte man auch solche Tips geben.

DoDi

Doch, mir gehts nicht um irgendwelche dumpfe Polemik, sondern um das Thema maschinelles Lernen und das finde ich Eindrucksvoll. YMMV

Man braucht andere Werkzeuge, um neuronale Netze zu debuggen, klar. Und?

Nein, *haushoch* überlegen.

AlphaGo hat Lee Sedol 2016 4:1 geschlagen, Sedol hat eine ELO von 3416. Aktuelle Weltspitze ist 3684.

Nach etwa 700k Spielen spielt der 2018er Nachfolger, AlphaZero, auf knapp ELO 5000. Das heißt, vermutlich wird das kein Mensch jemals mehr schlagen können. So haushoch überlegen. Nach BTW 34 Stunden Training.

Und in anderen Feldern, z.B. Seitenkanalanalyse, kriegt man mit neuronalen Netzen Ergebnisse hin, von denen man vor ein Paar Jahren nur träumen konnte. Extrem wenige Traces für full key recovery, Aushebelung aller möglicher Countermeasures, die Literatur ist voll davon.

"Etwas besser" ist falsch.

Für die in ein einschlägigen Papers, wie du aber sicherlich wissen wirst, korrigiert wird. Also beispielsweise wurde bei Starcraft die Anzahl der notwendigen Aktionen/Zeiteinheit auf unter menschliches Niveau begrenzt. Weil die rausfinden wollten, ob die Strategie besser ist, nicht einfach nur die Klickrate. Und es ist ersteres.

Interessanterweise haben die Weltspitzenspieler viele von den von der AI entwickelten Strategien mittlerweile in ihr Repertoire übernommen. Ein Spielstil also, der vorher von vielen Leuten nur belächelt wurde.

Man kann das drehen und wenden wie man will, aber AI Anwendungen leisten auf einigen Gebieten absolut bahnbrechende Ergebnisse. Wie man das findet steht auf einem anderen Blatt, aber das kann man m.E.n. nicht einfach wegdiskutieren. Insbesondere die Verbesserungen zwischen verschiedenen Revisionen (vgl 2016 vs. 2018) sind erstaunlich.

Viele Grüße, Johannes

Über das 'eindrucksvoll' im Bezug auf sowas bin ich schon seit den 90ern weg als wir Neuronale Netze in der Uni behandelt haben.

Gerrit

Na ja,

wie wuerdest Du darauf reagieren? Die "dusslige Tussie" fuhr auf der rechten Spur hinter mehreren LKW. Der LKW vor ihr scherte auf die mittlere Spur aus. Die Tussie auch. Alles im gruenen Bereich. Hab das schon von weiten beobachtet, war selber mit etwa 170 unterwegs. Dann schert die einfach kurz vor mir nach links aus. Kein Blinker und auch nicht in den Spiegel geguggt. Habs geschafft, alles auf dem Beifahrersitz und hinten war abgeraeumt. Sowas braucht man nicht.

Seither achte ich weniger auf die Strasse, die geht eh fast geradeaus, und beobachte die anderen viel genauer, was sie ggfls. tun werden/koennten.

Nein, man kann es nicht, man kann nur versuchen sie es wieder verlernen zu lassen. Aber dann riskiert man, daß anderes, was bisher problemlos funktionierte das nicht mehr tut.

Du kannst nicht sagen 'DIESES Verhalten will ich nicht' und nur das nebenwirkungsfrei entfernen.

Bei einem Spiel mit klar definierten, simplen Regeln.

Die AI hat aber immer noch direkten Zugriff auf die Spielkarte und kann alles sehen. Ich schrieb oben schon mit Absicht was von Kamera und Aktuatoren. Das sind fehlerbehaftete Interfaces mit denen der Mensch zurechtkommen muss. Wenn du behaupten willst, daß die AI besser spielt muss sie es auch können.

Gerrit

Na dann herzlichen Glückwunsch - ganz toll für Dich!

Vielleich wollen ja vorher auch Autos abfahren?

Nur wenn man das nicht richtig einplant. Wir haben Verkehrssimulation schon 1971 mit Simula67 betrieben, Dein Stand scheint nicht viel moderner zu sein :-(

Dann kennst Du vielleicht noch das SF Hörspiel "Fahrt zum Toten Meer" aus den 60er Jahren? Dort mußten Fahrten über die Autobahn beim Kolonnenlückenamt angemeldet werden, das den Wartenden eine vorbeikommende Lücke zugeteilt hat. Bevorzugt wurden Fahrzeuge mit einer garantierten Mindestgeschwindigkeit von 4 km/h, andere mußten bei langsamerem Verkehrsfluß zwangsweise abfahren. Und das Tote Meer hieß vorher mal Nordsee, mit elektronischen fliegenden Möven. Das klingt heute doch garnicht mal so futuristisch?

Nur wenn der Hacker nahe genug drankommt, und die Datensicherheit mangelhaft ist. Wenn man schon Radarsensoren auf allen Seiten eines Fahrzeugs hat, dann kann man die auch wunderbar für sichere Kommunikation benutzen. Aber wahrscheinlich denken unsere Politiker und Verkehrsplaner so wie Du, in völlig veralteten Strukturen und Denkmustern. Die suchen dann eine Lösung in 5G und Cloud und verstopfen die Datenautobahn auch noch. Hauptsache die im Stau Stehenden können ruckelfrei Katzenvideos anschauen... ... bis die Batterie des eMobil alle ist... ... wie will man dann all den Stauteilnehmern noch Starthilfe leisten?

SCNR DoDi

Ist das nicht sowie das, was den erfahrenen Fahrer ausmacht? Du solltest längst an dem Punkt sein, wo Du schon lange nicht mehr bewußt achtest, sondern einfach fühlst was kommt.

Ja, das kommt hin. Ich kann gut erkennen/fühlen ob der vor mir, der da langsam auf den Laster auffährt gleich den Blinker setzt und dann, ohne weiteren Blick in den Spiegel, einfach die Spur wechselt.

Ob das passiert hängt stark von dem Auto ab welches man selbst fährt. Mit einem als 'schnell' bekannten Auto passiert es deutlich seltener als mit einem 'normalen', auch wenn das letztere keine Probleme mit 200 km/h hat.

Gerrit

Morgens in der Rush-hour eher unwahrscheinlich. Da wo aufgefahren wird fahren kaum Leute ab.

Das kannst du nur dann einplanen wenn du genug Platz lässt und genau weisst, wann diese 5 Autos auffahren wollen. Nette Idee, aber sollten wir nicht in der Realität bleiben?

Der Hacker hat einen Sender auf oder an der nächsten Brücke plaziert. Muss nicht lange sein, weniger als 1h reicht um Spass zu haben.

Datensicherheit mangelhaft? Kannst du als gegeben annehmen. Du musst schliesslich einer Nachricht vertrauen die aus einer unbekannten Quelle kommt.

Gerrit

Join the Discussion

Have something to add? Share your thoughts — no account required.

Didn't find your answer?

Ask the community — no account required