Es gibt ein Problem mit dem Autopiloten.

Hans-Peter Diettrich snipped-for-privacy@aol.com:

Das sind so die wichtigen Ecksteine, die man sich als historisch relevante Fakten memoriert: Ein Patent hierzu lautete von Ende der 1990er. So rein rechnerisch wird das dann ja wohl vor 2001 gewesen sein, kann man dann schlecht ableugnen. Und dann war da auch später noch ein Flieger (mit einer kompletten Elektronikentwicklerabteilung an Bord, zu Verhandlungen und Demonstrationen unterwegs nach China), der über dem Pazifik einfach verschwand. Und gesuch haben sie und gesucht und gesucht. Und die Shows die hinterher immer abgezogen werden, sagenhaft, die muss weitergehen, nie darf da nie kein Zweifel nit aufkommen, nie und nimmer, dass die Steuerung außerhalb des Fliegers sein könnte, nein, nie und nimmer. Würde ja niemand mehr fliegen wollen, wer wollte es wagen, den guten Ruf von so einem Riesengeschäft zu beschädigen?

Dir ist es also lieber, mit 20 über die Autobahn zu schleichen als mit

Und wenn Du keine Ahnung von Prozeßsteuerung hast, und die feindliche Übernahme von Fahrzeugen ermöglichen willst, dann ist das auch Dein Problem. Bastle Dir einen Aluhut, und alles wird gut.

Damit ist für mich EOD.

DoDi

Am 04.11.2019 um 00:37 schrieb Hanno Foest:

Natürlich, deshalb plädiere ich ja für lokal koordinierten bzw. selbst-organisierenden Verkehr. Und sichere Prozesse vertragen sich IMO nicht mit einigen der aktuellen Ansätze, wie Code-Updates übers Netz, fernzündbaren Airbags etc.

Wenn Schummeleien, Spionage oder Sabotage etc. von vornherein in die Firmware eingeplant werden (USA, China...), dann darf man sich natürlich nicht über die Ergebnisse wundern. Deshalb würde ich umgekehrt vorgehen und nur statt eines menschlichen Fahrzeugführers einen automatischen entwickeln, der über zusätzliche Sensoren zur Erfassung der Verkehrssituation und Kommunikation mit seinen Nachbarn verfügt. Dann kann man darüber diskutieren, ob so eine Automatik mehr oder weniger anfällig ist für Amokfahrten, Fahrten unter Drogeneinfluß und sonstiges unerwünschtes Verhalten.

Vielleicht hilft auch eine Art Schwarmintelligenz, wie das von mehrfach redundanten Systemen in der Raumfahrt implementiert wird. Dann kann ein Fahrzeug nur noch in Absprache mit seiner Umgebung fahren, und nicht wie ein Mensch die Nerven verlieren...

Und ohne 100% automatischen Verkehr - auf Autobahnen oder bestimmten Streckenabschnitten - wird das alles nichts, weil menschliche Fahrer bekanntermaßen auch mal egoistisch statt kooperativ handeln können. Bei Produktionsanlagen, Lagerhaltung, Containermanagement etc. funktioniert das alles schon, nur auf der Straße wird es sowas nicht so schnell geben, wenn man sich nicht mal auf ein Tempolimit auf Autobahnen einigen kann.

Jede Zwischenlösung ist für mich nur ein interessantes Experiment, mit absehbar vielen Fehlschlägen und hohen Kosten. Dabei kommt vielleicht ein Avatar heraus, der ins Büro fährt um meine Arbeit zu verrichten, Drohnen und Supersoldaten die gegeneinander kämpfen statt gegen Menschen, bis sich die Menschheit selbst abgeschafft hat...

DoDi

Was die Aufgaben und Pflichten angeht kann man da imho Parallelen sehen und haftungsrechtlich anwenden.

-- /¯\ No | Dipl.-Ing. F. Axel Berger Tel: +49/ 221/ 7771 8067 \ / HTML | Roald-Amundsen-Straße 2a Fax: +49/ 221/ 7771 8069  X in | D-50829 Köln-Ossendorf

Hans-Peter Diettrich snipped-for-privacy@aol.com:

Das Messer ist auch bei wechselnden Betriebsbedingungen nur immer höchstens genau so scharf, wie wir es für angemessen erachten.

Alles andere ist verboten.

Ja, so klingt Ingennieursjargon, wenn sich beim Umgang mit einem ignoranten Management die kognitiven Dissonanzen einstellen.

Plappermaul Dobrindt meinte zum Thema "autonomes Fahren" und der Änderung des Straßenverkehrsgesetz (StVG), dahingehend, daß Kraftfahrzeuge mit weiterentwickelten automatisierten Systemen im Verkehr auf öffentlichen Straßen in der Form eingesetzt und genutzt werden können.: "Der Fahrer kann im Netz surfen, Filme streamen, E-Mails checken.".

Sportlich, sportlich: Denn in diesem Fall müßte nach wissenschaftlichen Studien die "ausreichende Zeitreserve" gerne mal 20-30 Sekunden dauern. Wohlgemerkt: Hier geht es um "Bereitschaft" im Sinne von: "Der Fahrer ist wach, macht aber ein bisserl was anderes." nicht "Er ist eingepennt.".

Literatur:

Das ist egal. Wenn für die Autoindustrie die Realität nicht zum Warenangebot paßt, dann muß die Realität passend gemacht werden. Und die Politik ist dabei natürlich gerne behilflich. Wurde doch x-mal vorexerziert.

/ralph

Stuxnet kam auf ziemlichen Umwegen auf die Simatic S7.

Genau. OTA Updates sind aber bei Tesla Standard und überall sonst im Kommen. Im Umkehrschluß kann man sagen: Solange man das den Herstellern nicht abgewöhnen kann, ist das mit dem autonomen Fahren eine eher schlechte Idee. Und ich glaub kaum, daß man das den Herstellern abgewöhnen kann, es ist halt billiger.

Und bei "Kommunikation mit seinen Nachbarn" hast du schon verloren. Solange es kein Trivialprotokoll ist, wird es Bugs haben. Möglicherweise kann man den Parser bzw. die weitere Auswertemimik mathematisch verifizieren - und dann hoffen, daß die Spec umfassend genug war.

Zufällige Bugs sind eine Sache. Wenn ein funktionierendes ESP dem Fahrer öfter den Arsch rettet, als ein spinnendes ESP ihn von der Piste schießt, ist das in der verkehrstechnischen Gesamtbetrachtung ein Gewinn

- auch wenn mir das als Fahrer eines Autos mit *möglicherweise* spinnendem ESP eher unangenehm ist. Das (potentielle) Problem bei Exploits ist allerdings, daß die extrem gut skalieren: Bei allen Autos mit der gleichen Soft kann durch die gleiche Aktionen der gleiche Bug getriggert werden, limitiert nur über den Angriffsvektor. Die Abschätzung nach oben von dem, was passieren kann, ist die Story "Car Wars" von Cory Doctorow, die ich kürzlich gepostet habe.

Könnte man sicher hinbekommen - sofern man nicht von bösartig manipulierten Sensordaten ausgehen muß. Die gibt es in der Raumfahrt (bislang?) eher selten.

Und hast du dich inzwischen mal über "adversarial AI" Angriffsmöglichkeiten informiert?

Insgesamt sind das natürlich alles Probleme, die man in den Griff bekommen kann. Ein paar Jahrzehnte wird es aber noch dauern, in denen die Softwarefuzzis alle Probleme durchexerzieren, die von den Sicherheitsforschern prophezeit wurden.

Hanno

Wie geht's denn deinem Aluhut?

Nein, denn mit 80 muss man mehr Abstand halten als mit 20.

Bisher haben die Pessimisten, wenn es um IT-Sicherheit ging, immer recht behalten. Ich sehe keinen Grund warum das jetzt auf einmal anders sein sollte, es sieht eher noch schlechter aus.

Gerrit

Abwesenheit von Updates verträgt sich allerdings auch nicht mit Kommunikation zwischen Autos. Denn dann kann der Hacker davon ausgehen, daß die interessanten Bugs überall noch drin sind.

Gerrit

Den eigenen Sensoren sollte das Auto vertrauen können. Ok, für LiDar gibts Angriffe. Aber kann es auch Daten trauen die von einem anderen Auto kommen? Wenn dessen 'Fahrer' davon einen Vorteil hat wird es entsprechend manipulierte Daten geben. Die dazu nötige Software gibts dann im Darknet. Dazu natürlich noch Exploitversuche für bekannte Bugs.

Ja, man braucht nur einmal die Geschichte der IT zu lesen. Erinnert sich noch jemand an ActiveX und welche Möglichkeiten das eröffnen sollte? Tat es auch, aber, wie von Leuten mit Ahnung vorhergesagt, primär für die bösen Buben.

Dann war da noch 'Autorun' für CDs und später USB-Sticks. Fanden die Trojanerprogrammierer geil.

Das Problem ist hier auch das Gedächtnis der IT. Die älteren Programmierer haben auf die harte Tour gelernt wie man die üblichen Fehler vermeidet. Dann kommt der Nachwuchs, der natürlich die meisten Fehler noch einmal macht wenn die verwendete Sprache sie nicht verhindert.

Gerrit

das hört sich an, als wenn jemand gegen einen Pfosten gerannt ist und nun hat angeblich die Welt daran "Schuld".

Zum Wohnen in Köln: Ist heute weit besser, als vor 20 Jahren. Damals wars einfach nur stinkig.

Zu den Arbeitsplätzen in "Köln": Die Büros müssen nicht wirklich in Köln sein, Meschede wäre angesagter. Aber das erzähl mal einer dem Firmenvorstand.

Nahverkehr: Einfach gut ausgebaut. Wirklich blöd kommt nur der Rhein quer durch und der Dom vor den Gleisen am Kölner Hauptbahnhof.

Peter

Your current state: Use necessary cookies only. Change your consent

To continue enjoying the free content made available to you on this website, you must indicate that you understand and accept Bonnier Corp.'s use of cookies by selecting the "Allow all cookies" button below.

Verstößt ganz klar gegen die DSGVO. Man darf nicht die Zustimmung zu _allen_ Cookies erzwingen. Das geht einer US-Webseite natürlich am Arsch vorbei...

Das würde schlagartig aufhören wenn DashCams verbreiteter wären...

Eventuell kann man argumentieren, daß alle Cookies hier notwendig sind.

/ralph -- nein, ich glaub nicht, daß das wirklich der Fall ist

Dann nimm

Reihe 1: 243 209 123 Interpretiert als: 243 209 123 Reihe 2: 243 209 123 Interpretiert als: 306 114 205

Dabei könnte das System nicht weiter danebenliegen, in den ersten beiden Spalten stimmt noch nicht einmal die Farbe. Das erinnert an den peinlichen ImageNet-Fauxpas, wo diverse Stars und Sternchen von der automagischen Intelligenz wohlwollend in Kategorien "slut" und "wrongdoer" eingeordnet wurden. Mehr:

Volker

Was sie aus Gründen der DSGVO aber nicht sind.

Volker

Und dann? Vor Gericht würden die Aufnahmen dann als Beweismittel nicht zugelssen.

Guido