Ford+VW: Argo AI - Robotaxi-Startup eingestellt

Ja, sie testen das Binary:

Note that we do not need to trust the compiler and linker any more. Their output is formally verified for seL4 by an automatic tool if the kernel is compiled with moderate optimisation levels.

Irgendwie impliziert das, das sie den generierten Maschinencode verifizieren denn:

The same proof for more aggressive optimisations is under development.

Einschränkungen gibts allerdings auch eine Menge unter 'What we assume'.

Gerrit

Die kann man nicht herausbekommen - die soll man auch nicht herausbekommen, weil entsprechende Totenkopf-Annahmen getroffen wurden - unbedingte Festlegungen halt.

Du kennst alle Annahmen; die sind alle im Bild angegeben. Das Bild gibt direkt einen Entscheidungsfall für die 'Moral Machine' an.

Das Bild gibt direkt einen Entscheidungsfall für die 'Moral Machine' an. Physikalische Realität ist hier irrelevant.

Richtig, weil der Totenkopf bei B nicht bei der alten Frau angegeben ist.

Woher weißt Du das? Das ist doch komplett unsicher! Außerdem ist es irrelevant: Das Bild gibt direkt einen Entscheidungsfall für die 'Moral Machine' an. Und wenn entschieden wurde, ist die Arbeit der 'Moral Machine' beendet!

Nein, gar nicht, es soll der 'Moral Machine' ein Entscheidungsfall vorgelegt werden.

Selbstverständlich gibt es den im Bild dargestellten Fall auch in der Realität. Jeden Tag vielleicht 20-mal auf der Welt.

Gibt es nicht!

Das sieht im Bild nur so aus - weil alles im Bild symbolisch ist. Das Bild soll nur einen Fall für die 'Moral Machine' darstellen.

Es gibt im Bild keine wartenden Fußgänger.

Es gibt im Bild keine Frau, die weiter weg ist. In welcher kurzen Zeit?

Es sind zwei getrennte Formeln: vt= xyzt ; vs= xyzs Entscheidend ist die Zeile mit vt≈0, vs≈0.

Die umgestellten Formeln mit v_end=0: t= -v0/a ; s= -v0²/2a

a= -8.0 m/s² v0= 50 km/h v=[m/s] t= 1.7361111 s s= 12.056327 m ; v=0

a= -5.0 m/s² v0= 50 km/h v=[m/s] t= 2.7777778 s s= 19.290124 m ; v=0

Berechnungs-Skript:

------------------------------------------------------------------- ARITH_FMT='%.8Lg' a=-5.0 v0k=50 set t:025 s:025 v0:025 vs:025 vt:025 q:025 sti:09 echo "a= $a m/s^2 v0= $v0k km/h v=[m/s]" let "v0=$v0k.0/3.6" echo "t= $((-v0/a)) s s= $((-v0**2/[2*a])) m ; v=0"

-------------------------------------------------------------------

Die Verzögerung 'a' kann unterschiedlich groß sein, z.B. -0,5 oder -5,0. Deshalb rechnet die Software ständig alles in der jeweiligen Situation aus. Vielleicht jede Millisekunde. Ich (das MIT) erklärte bereits, daß ein Autonomes permanent ganz genau weiß, wo sich jeder Verkehrsteilnehmer und jedes Objekt im Umfeld befinden. Es dürfte klar sein, daß ebenso die Geschwindigkeiten und Distanzen gemessen werden. Auch werden Berechnungen mit den Formeln der Kinematik durchgeführt. Jeder Fall für die 'Moral Machine' wird also festgestellt und ihr vorgelegt.

Folglich ist es müßig, selbst etwas (massenhaft) auszurechnen, denn man kennt die in der Realität (in der Zukunft) vorliegenden Daten ohnehin nicht. Sinnvoll ist es hingegen, sich plausible Entscheidungsfälle für die 'Moral Machine' auszudenken.

War da nicht was mit besonders starken Sonnenwinden?!

Im Rahmen des Themas ist das so, behaupte ich.

Zum Beispiel: Alle Teile in allen meiner Autos haben sich stets deterministisch verhalten. Die einzigen Ausnahmen gab es nur in einem verschlissenen Zustand.

Ich kompiliere stets mit -O1,-Os,-Oz und manchmal für Tests mit -O0. Nie anders. Also defensiv. Der Code bei -O0 ist allerdings sehr /hart/ hinsichtlich Performance.

Das ergibt sich recht oft ganz von allein. Wenn ich in einem bestimmten Kontext eine Funktion entwickle, der auch die Länge eines Namens übergeben wird, in einem Typ 'int', der einen Wertbereich ±(2³¹-1) hat, dann weiß ich ganz sicher, daß die Längen ≥4*1024 und <0 falsch sein müssen! Ich würde auch den Inhalt des Namens auf Plausibilität prüfen, auch im Hinblick auf die übergebene Länge.

In sicherheitsrelevanter Software würde ich extra dafür eine Struktur definieren, die alles festlegt. Bei entsprechendem Umfang hätte ich hunderte solche Sicherheits-Strukturen.

Helmut Schellong schrieb:

Es ist vor allem deshalb müßig, sich so etwas auszudenken, weil es ein Konstrukt in der Art einer "Moral Machine" nicht gibt und auch nicht geben wird. Derartige Mechanismen waren eines der ersten Dinge, die bei den gesetzgeberischen Überlegungen zur Regelung des autonomen Fahrens ausgeschlossen wurden. Es ist schlicht verboten, Kriterien wie "alte Frau", "Kind" oder "Autoinsasse" in eine Entscheidung hinsichtlich einer Reihenfolge der hinzunehmenden Schädigung einfließen zu lassen.

Du bist wohl auf eine ältere Seminaraufgabe der philosophischen Fakultät hereingefallen, deren Ergebnis war, dass ein solcher Mechanismus ethisch abzulehnen sei.

MfG Rupert

Am 22.12.2022 um 12:19 schrieb Rolf Bombach:

Immerhin hast du den Sinn des Textes erfasst. Dann kann mein Text ja nicht soo falsch gewesen sein.

Monsterwellen gibt dann vermutlich auch nicht und die Nachweise dafür sind frei erfunden. Überlagerungen gibt's dann vermutlich auch nicht.

Ansichtssache. Besonders wichtig sind steile Flanken. Diese kann man besonders leicht detektieren. In freier Natur kommen sie so gut wie garnicht vor. Deshalb reicht schon eine geringe Beleuchtungsstärke. Frequenzen, die mit der Entfernungsmessung nichts zu tun haben, kann man ausfiltern. Optisch wie elektronisch.

Das ist klar.

Im Posting 12/20/2022 00:32 schrieb ich:

|Ich berichtete doch, daß bereits bis 2019 40 Millionen Antworten aus der Welt |für diese Maschine am MIT eintrafen. |Diese werden länderspezifisch berücksichtigt werden. <<<<< |Auch hinsichtlich derer Gesetze. <<<<<

Sollen 5 Menschen geopfert werden, um einen Menschen zu retten?

----------------- Hier wird nicht Bezug genommen auf Rasse, Alter, Geschlecht und ähnlich.

Am 22.12.22 um 18:35 schrieb Christoph Müller:

Selbst wenn eine nennenswerte Anzahl Moleküle (warum auch immer) den Hang hätte, sich in eine Ecke des Volumens zu verdrücken: Die mittlere freie Weglänge in Luft ist 68 Nanometer, nur mal so als Beispiel. Auf seinem Weg in die Ecke hätte jedes einzelne Molekül demnach jede Menge Hindernisse, die es letztendlich daran hindern.

Hanno

Wenn das ohne menschliche Insassen fahrende Elektroauto einem ploetzlich auf die Fahrbahn kommendem Fussgaenger nur ausweichen kann wenn es selbst einen Totalschaden riskiert sollte es das nur tun wenn der Fussgaenger eine Haftplichtversicherung hat...

Die Allianz entwickelt/konzipiert bereits Versicherungen für die Autonomen.

Diese Nachricht ist viereinhalb Jahre alt. Eine seeehr lange Zeit für etwas, das grade in Entwicklung ist.

Der Autor hat interessanterweise gar nichts über optische und elektronische Filter geschrieben. Wenn Entscheidendes fehlt, dann sollte man mit Preisschätzungen zum Thema vorsichtig sein. Die Preistreiber sind auch weniger die Werkstoffkosten, sondern eher die Fertigungsprozesse. Die Werkstoffe braucht man ja nur in kleinsten Mengen.

Ja, das hat bei der Ariane 5 super funktioniert ;-)

cu Michael

Hallo Rolf,

Du schriebst am Thu, 22 Dec 2022 12:19:00 +0100:

...

Dazu gibt's ein nettes Experiment, nicht mit 'nem Ei, sondern mit Farbklecksen in einem Behälter:

Hallo Helmut,

Du schriebst am Thu, 22 Dec 2022 01:51:45 +0100:

Aber Du hast "Library"-Funktionen als Bezug benutzt, und zu solchen kriegst Du üblicherweise zwar die Deklaration, aber nicht den Rest des Quellen-Codes. Dafür gibt es die "API"-Beschreibung zur korrekten Benutzung der implementierten Funktionen.

Hallo Christoph,

Du schriebst am Thu, 22 Dec 2022 11:18:30 +0100:

Also eine "Flugzeitkamera".

Zum einen, daß das kein Lidar nach aktueller Auslegung mehr ist, und zum anderen, daß Du dann immer noch den Laser pulsen und _alle_ Zeitmeß-"Pixel" synchron dazu rücksetzen mußt. Das "synchron" ist für Dich sicher ganz einfach (Detektor "einfach ausschalten und wieder ein"?), es fragt sich halt, ob das so einfach realisierbar ist. Billig wird's sicher nicht, weil da wohl "2,5D"-Strukturen nötig werden. So eine Zeitmeßschaltung braucht bisserl mehr als einen Transistor.

Hallo Christoph,

Du schriebst am Thu, 22 Dec 2022 18:41:29 +0100:

Es gibt auch noch die gegensätzliche Möglichkeit, eigentlich sogar zwei: Da wäre erstmal die Synchron-Detektion mit extrem steilen Filtern. Die hat aber in dem Zusammenhang den Nachteil der geringen Ansprechgeschwindigkeit. D.h. daß schnelle Veränderungen nicht rechtzeitig erkannt werden könnten. Zum anderen gibt es die Möglichkeit der orthogonalen Modulation, da werden quasi Signalmuster gesendet, die sich mittels Korrelation eindeutig erkennen und damit - auch zeitlich - "lokalisieren" lassen. Damit können die Signale im Bereich des Rauschens liegen, ohne daß die Detektion merklich leidet. Sowas wurde u.a. auch mal für die sog. "UWB"- (Ultra Wide Band) Datenübertragung untersucht.