Ford+VW: Argo AI - Robotaxi-Startup eingestellt

Wenn etwas vergessen wird, so ist dieses Vergessen eindeutig ein Fehler. Eine entsprechende Nachbesserung beseitigt diesen Fehler.

Es müssen alle denkbaren Probleme gelöst werden. Wenn es ein Problem gibt, das noch keinem Menschen auf der Welt als potentiell eingefallen ist, ist es halt ein unbekanntes Problem, das sich irgendwann zeigen wird.

Nicht als materie-behaftetes Objekt, wie die Treppe.

Unweigerlich - aber damit muß man leben. Falls das unerwünscht ist, wird es eben in der entsprechenden Region keine autonomen Autos geben können. Ein Autonomes ohne 'Moral Machine' ist jedenfalls vollkommen ausgeschlossen.

Das Code/Const-Flash im Fujitsu ist, wenn man unbedingt will, beschreibbar. Aber extrem umständlich und langsam. Wir haben das einfach nie implementiert, sondern haben ein externes Flash SO-8 verwendet. Der uC ist außerhalb der Runtime im speziellen Modus (Pins) seriell beschreibbar. Aber ohne Offset, ohne Length - immer voll, per Hersteller-Software.

Wenn man es nicht ein bißchen glitcht.

Volker

Bei einem EPROM oder Masken-ROM sehe ich da wenig Chancen auf Veränderung des Codes in selbigem.

Gerrit

Das hat wenig mit dem Stückpreis zu tun. Die Entwicklung ist so teuer, weil diese Technik in den Massenmarkt überführt werden muss.

Aus diesem Grund gibt es auch schon recht preisgünstige Kameras.

Noch nicht Standard.

Nicht in Solid-State-Version. Da bewegt sich nichts mehr.

Und Klima- und Wetterfestigkeit, kondensierende Luftfeuchte, Schnee, Eis, ... Klar ist das Aufwand. Aber wie man alleine schon an den Scheinwerfern sieht - ist finanziell durchaus machbar. In eben diese Gehäuse kann man übrigens auch LIDAR, Radar und andere Sensoren einbauen. Solch teuren Gehäuse braucht man also nicht für jeden Sensor einzeln.

Hättest du in den 80er Jahren jemandem gesagt, dass Normalbürger mit Geräten rumlaufen, die MILLIARDEN von Transistoren an Bord haben - sie hätten dich für Verrückt erklärt. Ist aber trotzdem so gekommen.

Klar machen solche Anforderungen ein Produkt nicht billiger. Aber setz' mal den Aufwand zum Vergleich mit einem ganzen Cockpit. Pedalerie, Handbremse, Lenkstockschalter, ergonomisch im Raum verteilte Bedienelemente in der Mittelkonsole, der Türe, am Armaturenbrett, im Lenkrad, am Sitz, am Innenrückspiegel ... Das kostet RICHTIG Geld. Trotz Massenproduktion.

Ich meine beides.

Auch die Presse und ihre Konsumenten werden sich daran gewöhnen müssen, dass das Leben lebensgefährlich ist und IMMER tödlich endet.

Denke nicht, dass man im Masseneinsatz Lidare mit rotierender Mechanik verwenden wird. Ich vermute eher, dass man zur Rundumsicht 4 Lidare verbauen wird. Jeweils eines in die Scheinwerfer und Rücklichter integriert. Jeweils mit einem Blickfeld von vielleicht 110° horizontal. Sowas ist optisch noch gut zu machen, indem man den Laserstrahl entsprechend mit Zylinderlinsen horizontal und vertikal auffächert.

Radar und Kameras sind da schon angekommen.

Die gibt es wahrscheinlich eher wegen der Kameras in Smartphones, die haben schon länger mindestens 2 Kameras pro Phone.

Aber für so ziemlich jedes neue Auto zu bekommen, also tauglich für die Großserie.

Nicht ganz richtig. Wenn es auf dem MEMS-Prinzip beruht bewegt sich da immer noch was. Andere Techniken benutzen multiple Laser was auch nicht umsonst zu machen ist.

LIDAR braucht den Überblick, muss also höher montiert werden und Radar sitzt normalerweise mittig. So ganz einfach ist das nicht. Zum Thema Wetterfest, es hat einen Grund warum der Ausdruck 'Blinkerfluid/Blinkerflüssigkeit' in Werkstätten ein running Gag ist. :)

Ja... und hat 40 Jahre gedauert. Nebenbei erreichen wir langsam die Grenzen der Verkleinerung bei den Strukturen. Es gibt eine harte Grenze ab welcher es nicht kleiner geht weil Atome nunmal eine gewisse Größe haben.

Gerrit

Hallo Helmut,

Du schriebst am Mon, 19 Dec 2022 17:33:33 +0100:

Soso. Du behauptest damit also, daß eine _Maschine_ keine Defekte entwickeln könnte, die ihre Funktion beeinflußen.

...

Na, dann hat er ja seine Lebensaufgabe gefunden. Moral auch wenn letzlich "nur" als Entwicklung von Gesetzen zur Rechtsprechung verstanden - ist sowas wie ein umfassendes Reggelwerk des menschlichen Zusammenlebens. Und für solch ein Regelwerk, das notwendigermaßen in aufgeschriebener Form endlich bleiben muß, hat ein Mathematiker schon vor ca. 80 Jahren _bewiesen_, daß es entweder widersprüchlich oder unvollständig sein muß (weswegen Gerichte immer ein gewisses Maß an Auslegungskompetenz brauchen). BTW, der Mathematiker war ein Deutscher mit Namen Gödel.

...

Auch "die Maschine", die Du offenbar als ihre Hardware definiert, kann "entscheiden" - es ist "mehr oder weniger" Zufall, was z.B. während einer Umschaltung passiert, bei einem Ventil, einem Relais, einer Weiche o.ä. Das kann auch bei Sicherheitsimplementierungen passieren, bei denen mehrere Maschinen über eine Vergleichsstufe ("Entscheider") sich gegenseitig überwachen - und wenn das nur eine ganz kurze Überschneidung (eine "race condition") ist, die den Entscheider auslöst ("triggert").

Quatsch. Lies' mal über diese o.g. "race conditions". Bei Multicore - Prozessoren sind die nichtmal software-verursacht, sondern schon vom Nebeneinenderherarbeiten der Cores.

Software enthält Fehler. Was anderes gibt es nicht. (Inzwischen stimmt das sogar für Trivialprogramme wie das sog. "Hello World"...)

...

Ein Unendlichkeitsprojekt. D.h. nie verfügbar, weil nie fertig.

Hallo Volker,

Du schriebst am Mon, 19 Dec 2022 08:45:17 +0100:

Leider gehen _ALLE_ aktuellen Bestrebungen der Autoindustrie genau in der gegenläufigen Richtung, das aktuelle schlagwort in der Software- Entwicklung, ausgelöst und durchgesetzt von Verkauf, Kundenvertrieb und management, heißt "DevOps" und bedeutet "deploy early, update often".

Ja, das _sollte nicht passieren. Das ist aber der aktuelle Trend. Es gibt doch schon jetzt kein (neues) Auto mehr ohne dauernde Verbindung zum internet, damit der Herssteller Zugriff auf seine "Gesundheit" (und Deine Fahrdaten) hat, damit er Dir auch rechtzeitig mitteilen kann, wenn Du mal wieder die Werkstatt aufsuchen "darfst". Ja, Tesla geht da als großes Vorbild mit schlechtestem beispiel voran.

Die Hoffnung trag' mal schon in die Intensivstation. Generalprobe war "Diesel-Gate" - da hat die Zertifizierungsstelle grandios versagt.

Wieviel das kostet haengt von der Stueckzahl ab, die Entwicklungskosten sind das eigentlich teure.

Genau wie bei von Neumann-Rechnern, nur doppelt, wobei Programmcode ja nur hereingeladen wird. Am besten man macht das Programm-RAM so gross dass das ganze Programm hineinpasst, dann spart man sich das.

Nein, 'Fehler machen' und 'Defekte entwickeln' ist ein großer Unterschied! Es geht hier _nur_ um Fehler in der Software autonomer Autos - Programmierfehler. Daß Maschinen verschleißen, weiß ich seit 50 Jahren. Ist aber nicht das Thema.

Das Argument trifft einfach nicht. Daher bleibt die 'Moral Machine' so wie sie ist. Ich berichtete doch, daß bereits bis 2019 40 Millionen Antworten aus der Welt für diese Maschine am MIT eintrafen. Diese werden länderspezifisch berücksichtigt werden. Auch hinsichtlich derer Gesetze.

Innerhalb einer Software darf es keine solchen Spielräume geben. Anstehende Probleme müssen alle vollständig gelöst werden! Andernfalls muß eine Aufgabe des Projektes erfolgen.

Es geht hier _nur_ um Fehler in der Software autonomer Autos - Programmierfehler. Beispielsweise um Fehler in der 'Moral Machine', die ja nur aus Software besteht. Das war der Ausgangspunkt für den Begriff 'Maschine'.

Quatsch. Software ist ein Programm in einer Programmiersprache, das prinzipiell kein 'Race Conditions' kennen kann. Software befindet sich nicht auf einer physikalischen Ebene.

Fehlerfreie Software ist selbstverständlich möglich. Sicherheitsrelevante Software wird entsprechend geprüft, bis sie keine Fehler mehr enthält bzw. bis sich kein Fehler mehr zeigt.

Die naechsten Jahre ist autonomes Fahren Luxus, da spielen die Kosten fuers Lenkrad keine Rolle. Wenn das spaeter mal billiger wird, mag das anders aussehen, da wird dann vielleicht konventionell fahren mal Luxus sein.

Da werden immer noch Modifikationen vorgenommen auf Wunsch des Kunden, aber die Stueckzahl bei den Pumas ist sehr klein verglichen mit Autos. Wenn viele davon fahren werden auch die Fehler schneller gefunden.

Ja, bei Mercedes noch nicht, das bedeutet aber noch nicht dass die Probleme fuer hoehere Level noch nicht geloest sind, selbst wenn man nur Mercedes betrachtet. Die koennten schon viel weiter sein, es ist nur noch nicht genug getestet um es zu verkaufen.

Die haben mehrere Eisen im Feuer und stellen die Projekte ein von denen sie glauben dass sie keine Chance mehr haben.

Wir kennen ja nicht die ganze Wahrheit aber vielleicht waren diese Projekte eben soviel schlechter als andere, dass es sich nicht lohnt sie weiter zu verfolgen.

Also Maerchen werden es nicht sein dass die Fahren, und dass die immer noch fahren spricht dafuer dass die Unfallzahl nicht zu hoch ist.

Fuer diese Frage taugt aber dein Beispiel nicht. Das Fahrzeug kann der Frau nicht ausweichen wenn dabei die Gefahr besteht dass mehr als ein Menschenleben dabei gefaehrdet wird. Es wird daher nicht einen Zusammenstoss mit dem Gegenverkehr provozieren sondern eine Vollbremsung machen. Dabei kommt das Fahrzeug (50km/h) bei Vollbremsung nach 12.5m zum stehen.

Wenn sie stirbt hat sie das selbst zu verantworten und die Versicherung muss auch nicht zahlen, weil sie ja den Unfall verursacht hat.

Wobei der Zebrastreifen keine Bedeutung hat wenn die Ampel eingeschaltet ist.

Aber nicht wenn das Ausweichen zu einer Kollision mit dem Gegenverkehr fuehrt.

Das Auto muss aber einen Unfall verhindern.

Das wird es tun weil das den Schaden an Fahrzeug und Insassen minimiert.

Das geschieht in der kurzen Zeit ueberhaupt nicht, der Mensch braucht eine Sekunde um zu reagieren, da hat er die Frau bei Tempo 50 bereits ueberfahren, waehrend das autonome Auto durch rechtzeitiges Bremsen gerade eben vor ihr zum stehen kommt.

Wurde eingerechnet, der Bremsweg ist 12.5m der Reaktionsweg 15m.

Braucht das Fahrzeug ansich nicht wenn es eine Karte hat, nur bei Umleitungen die nicht in der Karte stehen waere es wichtig.

In Staedten sollte das gehen.

Die Hundert fahren seit Februar.

Es ist schon auffällig, daß zwischen 'dev' und 'ops' das 'QA' fehlt, also die Tests. Ein guter Programmierer ist nicht unbedingt auch ein guter Tester und nicht alles lässt sich automatisieren.

Testen beim Kunden?

Gerrit

Ja, aber wie? Beim Laden ist das Programm noch Daten, aber die sollen in den Programmspeicher auf den man bei Harvard ja nur zur Ausführung Zugriff hat. Etwas auffweichen muss man also schon.

Normale OS nutzen schon lange Paging schon beim Laden des Programmes. Es wird die erste Page geladen und ausgeführt. Versucht der Code diese zu verlassen gibts einen page fault und die entsprechende Page wird nachgeladen. So steht nur im Speicher was auch gebraucht wird. Programme am Stück laden ist schon lange out.

Gerrit

Meinst du. Schon bei eher simplen Programmen ist der Beweis der Korrektheit nicht mehr möglich.

Letzteres ist aber nicht dasselbe wie ersteres, denn es kann einfach nur bedeuten, daß du nicht ausführlich genug getestet hast.

Eine Menge Software schien fehlerfrei zu sein bis ein Hacker das Gegenteil bewiesen hat.

Gerrit

Doch. Bei all dem Unsinn, den er ständig zusammenfaselt, das stimmt immerhin. Man kann durchaus gesichert fehlerfreie Software erstellen, welche auch wirklich in jedem Fall genau das macht, was sie gemäß den Anforderungen machen soll.

Das Testen ist ja auch erst der letzte Schritt. Bereits bei der Konzeption des Entwicklungsprozesses und des konkreten Projekts muss berücksichtigt werden, dass es nicht lediglich um ein Jux-Programm zum daddeln oder dergl. geht

Eine Menge Softwareklitschen ist erstens nicht zu wirklich guter Leistung in der Lage, zumeist schon mangels hinreichend viel hinreichend guten und damit teuren Personals, aber es gibt durchaus Methoden zur Entwicklung sicher fehlerfreier Software und wenn der Auftraggeber die Anforderung "garantiert fehlerfrei" ins Pflichtenheft schreibt und die entsprechend höheren Kosten tragen mag, dann kann er das auch bekommen.

MfG Rupert

Das Problem hierbei ist aber auch, daß die Anforderungen korrekt und komplett sein müssen. Viele Fehler ergeben sich daraus, daß die Software durchaus genau das tut was sie laut Anforderungen soll, aber, passend benutzt, eben auch andere Dinge. Gerne weil vergessen wurde, daß sich Eingabedaten nicht unbedingt an ihre Spezifikation halten.

Ja, aber testen muss sein. Es ist falsch zu glauben, man könnte sich durch einen passenden Entwicklungsprozess das Testen sparen.

Ich habe immer noch Zweifel, daß bei komplexer Software ein 'garantiert fehlerfrei' möglich ist.

Gerrit

Das Konzept stammt aus einer Zeit in der das RAM noch in Kilobyte angegeben wurde. Natuerlich koennte man das hier auch so machen, der Sicherheitsprozessor laedt die Seiten des Programms in das Programm-RAM, auf Aufforderung durch die anderen Prozessoren, indem sie ihm Nachrichten schicken in denen jeweils steht welche Seiten fehlen. Die Tabelle in der die Uebersetzung logische zu physischen Seiten steht muss dann ebenso im Programm-RAM stehen. Problematischer ist wenn solche Seiten entfernt werden aber im Cash eines Prozessors stehen. Diese Komplikationen kann man sich sparen wenn die gesamten fuers Fahren benoetigten Programme ins RAM geladen werden, sodass ein Seitenfehler nicht auftritt.

Du gibst auf jeden meiner vorstehenden Einwände eine spekulierte Meisen-Antwort.

Du gibst auf jeden meiner Einwände eine spekulierte Meisen-Antwort.

Wir wissen nur: 'Es fahren da 100 autonome Robotaxis in San Francisco.' Mehr Info ist da praktisch nicht, außer dem Unfallbericht dazu aus USA von Gerrit.

Sag das dem zuständigen Professor am MIT. Der wird Dir widersprechen.

Ich hatte absichtlich informiert, daß da ein _LKW_ entgegen kommt (12/18/2022 15:44). Ich selbst habe eine Vollbremsung angesprochen (12/18/2022 15:44).

Ursprungstext (12/16/2022 19:14): |o "KI - Ethische Fragen! -> 'Moral Machine'; Stets das Richtige tun! | Wer soll sterben? Die alte Frau, die bei Rot über den Zebrastreifen geht, oder das | Kind, das im autonomen Fahrzeug sitzend wegen Ausweichens in ein Hindernis knallt?

Ich habe kein Problem mit solchen 0/1-Aussagen, weil ich seit 1978 programmiere und etwa 20 Programmiersprachen mehr oder weniger gut beherrsche.

Die meisten _haben_ aber Probleme damit, auch z.B. mit 'Annahme: A-Text', etc. ('A-Text' gilt - unbedingt - auch wenn das Universum explodiert.)

Das ist irrelevant - er ist gezeichnet. Und es ist weltweit üblich.

Das ist irrelevant; ein Ausweichen zur Kollisionsvermeidung ist implementiert. Und diese Implementation kann von der 'Moral Machine' bei _Bedarf_ benutzt werden.

Was lernt ein menschlicher Fahrer zur Kollisionsvermeidung? Ausweichen und Bremsen (als Absicht) gleichzeitig!

Das Auto _soll_ dies; die Physik kann dem jedoch entgegenstehen!

Etwa 1973 lernte ich: Ausweichen und Bremsen (als Absicht) gleichzeitig.

Das ist irrelevant - es geht nur um folgende _allgemeine_ Aussage: |Es ist prinzipiell wahrscheinlich, daß Autonome mehr Kollisionen/Unfälle vermeiden können. |Sie werden jedoch häufiger kapitulieren müssen.

Und wieso soll "das autonome Auto durch rechtzeitiges Bremsen gerade eben vor ihr zum stehen" kommen?

Die 'Moral Machine' hat ausgerechnet, daß eine Vollbremsung nicht ausreicht! Andernfalls gäbe es diesen Fall gar nicht.

Die 'Moral Machine' hat ausgerechnet, daß eine Vollbremsung nicht ausreicht!

_Wenn_ das Auto eine Karte hat, in der jeder m^2 aktuell ist.

Eben - Falls das im Falle des Falles technisch klappt.