Es gibt ein Problem mit dem Autopiloten.

Du willst dann also die weitere Auffahrt verhindern und damit den Stau an die Auffahrten verlagern oder wie stellst du dir das vor? Werden die Fahrer nicht lange mitmachen bevor sie die Automatik abschalten.

Ich lese immer 'Koordination untereinander' usw. aber wenig konkretes wie das ablaufen soll.

Gerrit

Du machst hier den Fehler anzumehmen, daß die Software fehlerfrei ist. Das ist aber nicht der Fall, es gibt immer wieder Exploits die die Ausführung von beliebigem Code auf dem Zielrechner zulassen. Sobald du so einen gefunden hast ist es vorbei, der Angreifer ist damit an allen weiteren Sicherheitsfunktionen vorbei. Und das sind nur die einfachsten Angriffe.

Ansonsten... 'unplausible Befehle ignorieren'. Hört sich einfach an, aber überleg dir mal genauer was das im Verkehrsalltag bedeuten wird.

Es gibt keinen

Muss er nicht, es reicht wenn du die AI mittelbar zum gewünschten Verhalten bringen kannst.

Gerrit

Das ist ein Sonderfall den ich sogar ein paar Jahre hatte. Da wendet man irgendwo vorher und parkt dann rückwärts ein.

Gerrit

Rechts vorbei? Da ist doch der LKW den der Ausscherer überholen will.

Gerrit

Edge Cases sind nicht unbedingt Notfälle. Sondern eben Fälle, wie auch in der normalen Programmierung, die eine Sonderbehandlung brauchen weil der eigentlich Algorithmus sie nicht korrekt behandelt.

Eine KI kann das vielleicht schon. Wenn du sie darauf trainiert bekommst ohne anderes Training dabei kaputtzumachen. Mit jedem neu entdeckten Edge Case den du nachtrainieren musst geht es im Bezug auf 'hoffentlich geht nichts anderes kaputt' von vorne los. Bei einer Virenscanner-AI sind Rückschläge lästig, bei einer AI, die dein Auto steuert hingegen nicht tolerabel.

Gerrit

Um Gottes Willen, bist du nicht im Stande, Google zu bedienen? Die Paper gab es nebenbei bemerkt 1990 noch nicht. Der Stand, auf dem du stehengeblieben bist.

Testing Deep Neural Networks, Youcheng Sun, Xiaowei Huang, Daniel Kroening, James Sharp, Matthew Hill, Rob Ashmore

Feature-guided black-box safety testing of deep neural networks, M Wicker, X Huang, M Kwiatkowska

Tensorfuzz: Debugging neural networks with coverage-guided fuzzing, A Odena, I Goodfellow

DeepConcolic: testing and debugging deep neural networks, Y Sun, X Huang, D Kroening, J Sharp

Den Satz muss man sich auf der ZUNGE zergehen lassen.

"nicht einmal Microsoft" "cloudbasierten Virenscanner"

Ja, richtig, das ist Schrotttechnologie. Hast du schön erkannt.

Offenbar ist an dir vorübergegangen, dass Virenscanner allgemein kompletter Schrott sind. Das Problem ist allgemein nicht zu lösen, die Definition ist nicht mal eindeutig gegeben was ein "Virus" sein soll. Wie soll also irgendeine Software (oder irgendein Mensch) 100%ig zuverlässig solche schwammigen Kriterien erkennen können?

Deswegen verwendet man ja zum Retraining andere Werkzeuge, siehe oben.

Es ändert nichts an der enormen Schwierigkeit des Spiels. Nebenbei bemerkt macht AI noch ganz andere Sachen, bei denen sie Menschen schlägt. Bestimmte Intelligenztests z.B., da wurde kürzlich der Testkorpus, der durch die Bank verwendet wurde, getauscht weil die Netzwerke plötzlich zu "klug" wurden. Bildbearbeitung, Nvidia macht viel auf dem Gebiet. Gesichter synthetisieren, Sprache synthetisieren. So gut, dass es die Mehrheit der Menschen täuscht.

Ich weiß nicht, warum es dir so große Angst macht, dass die Dinger so gut sind. Oder warum du dich dadurch bedroht fühlst.

Das Schicksal der Wissenschaftler: Man kann zwar Weltrekorde bahnbrechend schlagen, komplettes Neuland erschließen, aber du bist unbeeindruckt.

Du bist, wie jemand der der Kolonisierung des Mars beiwohnt und dann sagt: "Pah, solange die nicht einen Planeten außerhalb unseres Sonnensystems kolonisieren bin ich NICHT beeindruckt."

Viele Grüße, Johannes

Du seist daran errinert, dass auf beiden Seiten des Tischs neuronale Netze sitzen, eines auf Kohlenstoff- und eines auf Silizium-Basis.

Das heißt dein Argument gilt exakt genauso für Lee Sedol. Warum erwartest du bei dem denn, dass er nicht peinlich auf die Fresse fliegt, wenn jemand eine lustige Eröffnung spielt?

Viele Grüße, Johannes

Und die Äpfel, die von eigens dafür ausgebildeten Apfelwarten gezählt und zwecks Geldeintreibung per EDV an die Zentrale gemeldet werden.

Ah ja, gereinigt werden muss auch noch, so etwa

Gesetze werden hier sehr oft NICHT von Juristen der Regierung geschrieben sondern von Lobbygruppen, siehe die aktuelle Aufarbeitung des Cum-Ex-Skandals falls du ein Beispiel brauchst. Dazu kommt noch wie ein Gesetz vor Gericht zur Anwendung kommt.

Oben unter 2. ist so ein Absatz der sich hervorragend für die Abwälzung der Haftung auf den Fahrer eignet. 'Aber das die AI hier falsch reagiert hätten sie erkennen müssen und übernehmen' und schon bist du dran.

Gerrit

Am 03.11.19 um 09:01 schrieb Gerrit Heitsch:

Und für solche Ergebnisse gibt die Bundesregierung etwa 1 Milliarde € Beraterhonorare aus.

Von den Kosten der EU garnicht zu reden.

Aber nur wenn er Biodeutscher und Nettosteuerzahler ist.

Gerrit Heitsch schrieb:

Manche? Hier ist das Blinken schon längst eine Vollzugsmeldung, keine Ankündigung mehr. Zum Kotzen ist das.

Guido

Gert schrieb:

Nur ein einziges mal Freitag (früher Nachmittagnachmittag) als Beifahrer (auf dem Weg nach CZ in den Urlaub), hat mich spontan an das das große Wagenrennen aus Ben Hur erinnert. Mein erster Gedanke: Wo kommen denn die jetzt alle her, mein zweiter Gedanke: Alter!!!. ;)

Guido

Ich darf auf Abs. 2 Satz 4 und 5 verweisen. "Mit ausreichend Zeitreserve" ist da der Knackpunkt. Da gibt es einige Studien, daß "ausreichend" oft gerne mal 30 Sekunden und länger sind. Und selbst fünf Minuten sind für mich komplett inakzeptabel. Entweder kann ich mich mit einem Bier und einer Leberkassemmel auf den Rücksitz verziehen und chillen, bis die Dose ihren Zielpunkt erreicht hat, oder das ganze Gehampel ist sinnlos. Ich will nämlich nicht mit 1o/oo auf dem Autobahnparkplatz warten müssen, bis ich wieder nüchtern bin. Nur weil die KI irgendeinen Schnupfen hat.

Aber wie dem auch sei. Du postulierst, daß die Haftung für Kraftfahrzeuge mit hoch- oder vollautomatisierter Fahrfunktion nun beim Hersteller läge. Erfreulich. Welcher Hersteller hat denn solche Fahrzeuge im Angebot bzw. deklariert sie als solche? Das würde ich nur allzugern wissen.

Ciao, Volker

Das ist jetzt wirklich übertrieben, im Rest hast Du recht. Nehmen wir im Vegleich die Pflichten eines Bordingenieurs, eines Kopiloten oder eines Arztes im Notdienst. Letzterer darf sich selbstverständlich nachts aufs Sofa legen und auch einschlafen, aber Alkohol oder Schlaftabletten sind natürlich verboten. Genauso hat auch so ein Fahrer nicht frei sondern Bereitschaftsdienst.

Koordination könnte zwei Dinge von denen Menschen die erste gar nicht können und die zweite erschreckend selten: Erstens werden auf den lezten Kilometern vor der Auffahrt langsam und allmählich große Lücken geschaffen. Zweitens wird die Beschleunigungsspur auch wirklich ihrem Namen gemäß benutzt.

Und schon fallen die Notbremsungen mit dem langen Rückstau nach hinten weg. Ich sehe das auf absehbare Zeit nur in Wünschen und Science Fiction, aber wünschenswert wäre es.

Weil menschliche Fahrer m. W. n. relativ selten bis gar nicht Opfer von Verkehrszeichenmanipulation und vergleichbaren Dingen mit fatalem Ausgang werden.

Sagen wir so: Ich hätte

Beispiel 1 und 3 hätten ausreichend Potential für einen ordentlichen Crash.

Ciao, Volker

Alles was unter 100% ist, ist inakzeptabel. Wenn die Menschen hinter dem Steuer sitzen und nix zutun haben dann werden sie regelmaessig einschlafen. Das soll ja sogar schon Leuten beim fahren passiert sein. Menschen sind nicht dafuer geeignet einfach so rumzusitzen und nichts zu tun.

Olaf

Dann setz dich doch mal 10min irgendwo hin und sei bereit. Das kannst du nicht. Entweder machst du dann irgendwas anders oder du bist eingeschlafen.

Olaf

Du hast die PYer schon vergessen :)

Saludos (an alle Vernünftigen, Rest sh. sig) Wolfgang