Es gibt ein Problem mit dem Autopiloten.

Am 31.10.19 um 11:11 schrieb wernertrp:

Vermutlich dann, wenn es ein Algorithmusverbot haben. ;-)

Naja, damit ein Autopilot verbindlich wird, muss er idealerweise in die Mehrzahl der Fahrzeuge eingebaut werden, damit man eben nicht nur optisch und via Radar/Lidar Objekte erkennen kann, sondern auch externe Telemetrie von umgebenden Fahrzeugen hat. Sind schonmal 12 Jahre nur für die Automobil-Generation. Plus das Einigen auf eine Schnittstelle, das war ja bei OBD schon elendig lang und ist nicht safety-kritisch. Plus die Entwicklung der Steuergeräte und der umgebenden RF-Infrastruktur.

Ich würde sagen, 25 Jahre ist optimistisch, wenn es darum geht, dass ein Neufahrzeug nur noch selber fährt.

Wenn man sich ansieht, wie gut die heute allerdings schon fahren, mit vergleichsweise einfachen Systemen, sehe ich das Problem allerdings nicht. Im Gegenteil, das wäre doch super wenn die ganzen Testosteron-Teenager und halbblinden Rentner endlich nicht mehr selber steuern dürften. Was ist also das Problem, das du meinst?

Gruß, Johannes

Am 31.10.2019 um 11:11 schrieb wernertrp:

Was dabei passieren kann, wird hier durchaus überzeugend dargelegt.

Ugh, hast du auch ein TL;DR statt einfach eine 32-seitige Cory Doctrow Erzählung zu verlinken? Ich mag Doctrow ja wirklich, aber es sprengt halt den Rahmen, sich das "mal eben" durchzulesen.

Dass AI-Systeme nicht unproblematisch sein können, ist hinlänglich bekannt. Aber wenn man sich ansieht, in wie vielen Bereichen sie Menschen mittlerweile schon haushoch überlegen sind, obwohl das noch Technologie in den Kinderschuhen ist, muss man sich schon fragen, ob es da überhaupt eine Alternative dazu gibt.

Viele Grüße, Johannes

Kann eine AI um eine schwierige Kurve in der Innenstadt einen LKW manovrieren. Da habe ich letzte Woche einem LKW zugeschaut. Der hat dann leicht einen geparkten PKW touchiert und er mußte dann die Polizei rufen das ganze hat eine dreiviertel Stunde gedauert.

Den Aluhut beachten!

Lohnt sich aber. - Prinzipiell geht es aber dabei darum (SPOILER!)

. . .

daß du ziemlich bald keine Verfügungsgewalt mehr über dein Eigentum (?) hast. Ähnlich wie bei nicht rootbaren Handies, DRM-Geschichten etc. heutzutage bereits. Stattdessen haben Behörden Zugriff, wie auch jetzt schon auf Kommunikation, Standort, etc. von Smartphones. Es wird Killswitches geben (hat Tesla das nicht jetzt schon?), gegen Autodiebstahl, flüchtende Verbrecher etc. Bei autonomen Autos naheliegend ist auch die Möglichkeit zur Fernsteuerung: Türen werden auf von innen nicht zu öffnende Weise verriegelt, und der Insasse zur nächsten Polizei gekarrt. Und es wird verboten sein, irgendwas an der Programmierung zu ändern. Wegen der Verkehrssicherheit, und wegen der bösen Buben, natürlich.

Und diese Behördenschnittstellen - vermutlich wird es zugunsten der Angriffsoberfläche mehr als eine sein, verschiedene Behörden werden verschiedene Erfordernisse haben, vgl. auch den Aufbau der ETSI-Schnittstelle zur lawful interception - werden Bugs haben. Irgendwann wird jemand diese Bugs auszunutzen wissen. Oder, viel trivialer, einer Behörde kommt der Zugangscode abhanden. Und dann kann man sich mal überlegen, was ein feindlich gesonnener Akteur mit ein paar Millionen fernsteuerbarer Autos anfangen könnte, wenn er möglichst viel Schaden anrichten will.

Als jemand, der sich für den Themenkomplex interessiert, fand ich die bereits existierenden Ansätze überzeugend extrapoliert.

Hanno

Jup. Ich bin mir Dir absolut einer Meinung, wenn...

. Interessant dabei die Erkenntnis, daß 90% der Kunden überhaupt kein Problem mit dieser schleichenden Entmachtung durch die Hintertüre haben. Unterschiedliche Argumente, von "ist bequem" über "habe nichts zu verbergen" und "gibt eh keine Alternative", "die Vorteile überwiegen", "was kann es schon schaden" bis hin zu "mir doch egal".

Das kann man bei den 1001 Assistenzsystemen heute schon bewundern und natürlich werden die Behörden den Teufel tun, hier warnend den Zeigefinger zu erheben. Die Überwachung und Immobilisierung von Fahrzeugen ist doch genau die Erfüllung der irren Allmachtsphantasie. Ganz ohne die schon etwas ausgelutschte Drohkulisse mit Anti-Terrorismus und Gefährdern.

Neulich habe ich irgendeinen Versicherungswerbespot gesehen, wo man durch Einbau eines CAN/OBD2-Datenloggers noch 1.07€ an Prämie sparen konnte. Na logens werden das die Lemminge gleich machen, denn: Was kann schon passieren? Ist doch alles sicher. Sicher?

Und zentral gemanagte Cloudfahrzeuge bieten noch den Vorteil, den Adobe neulich in Venezuela durchexerziert hat. Ja, nein, die Buben sind zurückgerudert. Vorläufig. Aber ein "autofreier Sonntag" ließe sich jedenfalls recht bequem realisieren - ist ja nicht so, daß Auto noch nie gehackt wurden.

Aber wir dürfen uns da noch recht entspannt zurücklehnen: Der Tag, an dem wir "ewig Gestrigen" enteignet werden und man mit den ollen Dosen nirgendwo mehr rumeiern darf, ist noch einigermaßen fern. Da ist in Deutschland auf den zwar geduldigen aber eben auch langen Atem der Behörden Verlaß. Und schließlich ist das Leben endlich, man muß sich das Elend also nicht beliebig lange mitansehen.

Aber das ist jetzt mehr ein metaphysisches Thema.

Ciao, Volker

Am 31.10.2019 um 18:14 schrieb Volker Bartheld:

Da wäre ich mir nicht so sicher, eine gut plazierte Klage der sog. Umwelthilfe, ein paar grenzdebile Richter und selbst der H-Spaß ist nur noch Überlieferung...

Am 31.10.2019 um 18:40 schrieb Eric Bruecklmeier:

H-Kennzeichen gilt doch eh nur für die *H*_alle.

Naja, prinzipiell ist eine AI ja dem menschlichen Hirn nachempfunden. Insofern gibt es jetzt bei einem hinreichend komplexen Netzwerk nichts, was eine NI können würde, das eine AI nicht beherrscht. Geschwindigkeit und Skalierbarkeit sind im Moment halt die größten Differenzen.

Aber prinzipiell kann deine AI sowohl einen LKW einparken als auch einen PKW dabei schrammen.

Gab zum Einparken tatsächlich letztin auch eine schöne Visualisierung:

Meiner ist 40. Steht 365*24 zur Verfügung. Kein 'H'. Weil diese Stadt auf den Plakettenzwang verzichtet.

MfG hjs

Ja, werde ich mir auch durchlesen wenn die Zeit nicht so eng bemessen ist.

Interessanter Aspekt, aber von dem eigentlichen Problem schon entkoppelt.

Denn wir haben heute schon Systeme, in denen man in die ECUs nicht mehr eingreifen darf. Das fing mit den bösen Tunern an, die die Kennlinienfelder geändert haben und mittlerweile sind die Firmwares komplett secure boot/integritätsgeschützt. Ohne Hardware Hack kaum noch eine Chance dagegen. Und die Automotive-Welt versucht ja auch ECUs gegeneinander beim ersten Kontakt (TOFU) kryptografisch zu verheiraten. Das kannst du dann gar nicht mal mehr tauschen, auch nicht mit einem original Ersatzteil. Riesen Schweinerei meines Erachtens.

Aber, wie du auch schon schreibst, wir haben schon viele Felder, auf denen genau das so ist. Smart Phones. Internet-Infrastruktur ist nur noch ein "Service", keinem gehört mehr Blech. Software mit Lizenzmodellen "as a service", z.B. Adobe Creative Cloud. Microsoft mit Windows 10.

Absoluter Drecksrotz. Wer da freiwillig mitmacht, dem geschieht es echt nur Recht, wenn er gnadenlos verarscht wird. Für mich *die* Motivation, offene und freie Software zu bauen und zu nutzen.

Wobei es selbst da interessante Grauzonen gibt. Browser z.B. sind heutzutage so EXTREM komplex, dass man wieder nur ein Paar Optionen hat. Chromium, Firefox. Und Mozilla sind halt auch nicht mehr die "freie Software" Leute, die sie früher vielleicht mal waren, sondern auch mittlerweile corporatefiziert. Und Chromium, naja, die Entwicklung wird getrieben von Google. Auch wenn es Open Source ist, aber wenn man nicht die Ressourcen hat, den zu forken, dann sieht es mau aus sobald die mal wo abbiegen, wo man nicht mehr mitgehen will.

Ach je. Jetzt habe ich schlechte Laune. Und du bist Schuld, Hanno! ;)

Viele Grüße, Johannes

gehts noch? Mein Pa ist 85 und ich kann, wenn er faehrt, angstlos daneben pennen. Er ist sicher nicht der Durchschnitt.

Ich finde das als Frechheit, Rentnern pauschal zu unterstellen:

Bin gespannt, ob du mit 85 noch selbstaendig laufen kannst.

Gert schrieb:

Das dürfte für den größten Teil der mit 85 noch autofahrenden Rentner zutreffen

Nein, natürlich nicht. Es halten sich ja auch ca. 85% /aller/ Autofahrer für deutlich besser als alle anderen Autofahrer. Das ist menschlich auch leicht erklärbar

Er unterstellt das doch Rentnern nicht pauschal! Er schreibt ausdrücklich von "halbblinden" Rentnern. Solche sollte man in der Tat nicht mehr fahren lassen - auch dann, wenn der möglicherweise halb- oder ganz blinde Sohn dennoch angstfrei daneben schlfen könnte... Freilich verursachen dagegen "Testosteron-Teenager", besser: 18-25jährige Autofahrer, recht viele und oft schwerere Unfälle als halbblinde 85-jährige Rentner

Welches Problem hast du mit der Verkehrssicherheit? Gefährliche 85-jährige gehören ebensowenig auf die Straße wie gefährliche

MfG Rupert

Ist es nicht interessanter, zu fragen, wann unsere Strassen so voll sind, dass man nur noch darauf stehen kann?

Grüße, H.

Am 01.11.2019 um 08:55 schrieb Heinz Schmitz:

In den Städten mag das so kommen, unseren Verkehrsplanern traue ich das durchaus zu :-]

Auf den Fernstrecken (Autobahnen) klemmt es vor allem am unkoordinieren Verkehr (Kolonnenspringer...). Mit geeigneter(!) Koordination läuft der Verkehr wie auf der Schiene, dann kann es nur noch an verstopften Ausfahrten klemmen.

Aber genau bis dahin sehe ich ein Problem, das schon an Skiliften zu beobachten ist: Die Braven, die nicht drängeln und Abstand halten, werden von den Rücksichtslosen überrannt. Auf der Autobahn werden die Autonomen, die den vorgeschriebenen Sicherheitsabstabd einhalten, von jedem Individuum ausgebremst, das sich in diese Lücken reindrängelt - dann muß der Autonome bremsen, um dan Abstand wieder einzuhalten...

Das Hauptproblem sehe ich in der unkoordinierten AI, die IMO durch Koordination überflüssig gemacht werden kann.

DoDi