Ford+VW: Argo AI - Robotaxi-Startup eingestellt

Klar. Wenn aber die Arbeit ganz einfach zu viel wird, wird man mit einem einen kleinen Team ganz einfach nicht fertig werden. Da bleibt dann nichts Anderes, als zusätzliche Leute anzulernen. Sicher geht damit die Produktivität erst mal runter. Aber dafür geht's anschließend um so flotter voran. Andernfalls würde man sowas ja gar nicht machen.

Ein Plan sollte mehr der Orientierung dienen. Er sollte keine Diktat sein, das nicht infrage gestellt werden darf. Pläne müssen stets der (jeweils neuen) Realität angepasst werden. Um das Ganze zu erleichtern, gibt es dafür gut brauchbare Software.

Wer meint, dass man sich an Pläne an sklavisch zu halten hätte, sollte keine planende Tätigkeit ausüben.

Eben deshalb sollten solche Projekte von Anfang an mit brauchbaren Werkzeugen angegangen werden. Ist das Kind erst mal in den Brunnen gefallen, ist es zu spät.

Es ist eben - wie immer mit technischen Entwicklungen - Flexibilität angesagt. Wenn's so nicht geht, dann eben anders. Damit das "eben anders" nicht zu aufwändig wird, gibt es ja gute Planungssoftware, die ggf. z.B. die kritischen Pfade und das neue Enddatum neu berechnet.

Das hilft nur gegen Veränderungen auf dem Massenspeicher, aber nicht gegen Veränderungen des laufenden Binaries im RAM.

Es reicht ja, wenn der Hacker über einen Buffer-Overflow (es gibt sie immer noch...) reinkommt und dann das Auto ungewünschte Dinge tun lässt.

Gerrit

Richtig.

Aber nur, wenn man die Aufgaben schlecht aufgeteilt und/oder schlecht zusammen geführt hat. Zeigt sich der Finanzerer knauserig, dann kommt sowas ziemlich oft vor.

Na ja - ist die Software von Level-5-Fahrzeugen Konsumerware? Da kann man durchaus geteilter Ansicht sein. Sicher ist jedoch, dass es sich um sicherheitsrelevante Software handelt. Damit sollte man sich keine Schludrigkeiten leisten. Wenn sowas auf den Markt kommt, muss sicher gestellt sein, dass die Unfallrate damit auf jeden Fall deutlich geringer ist als mit menschlichen Fahrern. Andernfalls gibt's einfach keine Zulassung. Die für Konsumer-Ware übliche Bananenstrategie darf mit solcher Software nicht zur Anwendung kommen (Bananenstrategie -> Produkt reift erst beim Kunden).

So eine Anlernphase kann allerdings im Bereich von Monaten liegen wenn es ein komplexes Projekt ist. Du willst ja nicht, daß der von den Neuen geschriebene Code immer wieder von den Erfahrenen korrigiert werden muss weil die Neuen das Projekt noch nicht so ganz überblicken.

Ja, Doku sollte es geben, aber da steht nur wirklich selten alles drin, viele kleine aber nicht unwichtige Details sind nur in den Hirnen der Entwickler zu finden.

Wobei sich allerdings erst später zeigen kann ob das verwendete Werkzeug wirklich zum Projekt passt oder nicht.

Meine Erfahrung ist, diese ausgerechneten End-Daten kannst du in der Pfeife rauchen weil sie immer auf Annahmen basieren und diese falsch sein können.

Und wie Helmut schon schrieb, die Anforderungen an die Code-Qualität sind bei Software für autonome Autos ganz andere als die für ein Desktop-OS und darauf laufende Programme.

Gerrit

Das könnte dazu führen, dass autonome Fahrzeuge billiger werden als manuell gefahrene Fahrzeuge.

War hier irgendein Mitleser jemals in einer solchen Lage?

Wenn so etwas wirklich passieren sollte, dann wird sich ein Mensch aufgrund der viel zu knappen Entscheidungszeit vermutlich eher nach Zufall entscheiden. Das ihm auch selbst das Leben kosten. Ob das Verhalten richtig oder falsch war, wird hinterher manchmal von Gerichten entschieden. Über eine etwaige Strafe auch. Hinterher wohlgemerkt! Die Entscheidung muss aber fallen, BEVOR es kracht. Hinterher ist man meistens schlauer.

Das Entscheidende sind aber gar nicht solche seltenen Fälle, sonder dass INSGESAMT weniger Unfälle passieren und dass es damit auch weniger Tote und Verletzte gibt. Andernfalls gibt es für autonome Fahrzeuge keine Zulassung. Gleichzeitig gilt auch, dass sich der Gesetzgeber schuldig macht, wenn nachgewiesen wird, dass es mit den Fahrzeugen tatsächlich weniger Unfälle, Verletzte und Tote gibt und ein entsprechendes Gesetz verweigert. Wenn der Gesetzgeber die Zulassung solcher unfallvermeidender Fahrzeuge verweigert, macht er sich der fahrlässigen Körperverletzung und Tötung schuldig. Diesen Schuh wird sich kein Minister gerne anziehen lassen.

Anhalteweg und Bremsweg sind NICHT identisch. Der Anhalteweg besteht aus Reaktionszeit + Bremsweg und ist damit immer länger als der Bremsweg.

Dass dann an der Beschilderung irgendwas nicht stimmt, merkt man dann, wenn der Kreisverkehr voll mit autonomen Fahrzeugen ist, die ständig nur im Kreis fahren... ;-)

Richtig. Neulinge wird man aber kaum mit dicken Brocken betrauen. Da will man erst mal sehen, was sie drauf haben. Entsprechende Arbeitspakete werden ihnen dann anvertraut. Soll z.B. abgeschätzt werden, wie sich ein Fußgänger in den nächsten Sekunden verhalten wird, dann werden aus dieser Funktion handhabbare Pakete geschnürt. Der Programmierer muss sich NICHT darum kümmern, wie die Schnittstelle von der Kamera zum Computer im Detail funktioniert. Den Job erledigen Andere. Er bekommt einfach nur Bildfolgen, die dann möglichst geschickt ausgewertet werden müssen. Gerne im Team mit Kollegen und nicht alleine.

Sowas nennt sich dann gerne "KI" (künstliche Intelligenz).

Mit Netzplantechnik und Gantt liegt man i.d.R. nie ganz verkehrt. Am Besten noch kombiniert mit Mindmapping. Damit sollte man schon mal eine brauchbare Grundversorgung haben.

Logisch. Liegt einfach daran, dass niemand perfekt ist und das Projekt vorher noch keiner durchgezogen hat. Da fehlen dann einfach die Erfahrungswerte. Aber ein Planungsgerüst braucht man trotzdem. Andernfalls riskiert man, dass man sich in völlig unwichtigen Details verliert. Dann steckt man seine ganze Arbeitskraft z.B. in den Zierleistenbefestigungclip links hinten, und hat keine Ahnung mehr, warum man sonst mit der Firma überhaupt korrespondiert.

So ähnlich habe ich mich auch bereits geäußert.

Du setzt hier wohl /normale/ Betriebssysteme voraus. Ich jedenfalls nicht, ich würde gar kein Betriebssystem vorsehen, sondern vielleicht 67 uC direkt programmieren. Auch hätte mein Vollautonomes keinen irgendwie gearteten Zugang von außen. Ich würde auch dafür sorgen, daß ich den Code im RAM prüfen kann.

Nein, ich rede von Microsoft-Betriebssystemen, von denen so etwas bekannt wurde.

Ich hatte die Einstellungen doch aufgelistet. Sind halt hier gelöscht.

Daß das Robotaxi-Projekt nicht eingestellt ist, weiß ich, denn es soll von 100 auf 5000 Taxis erweitert werden.

Die Frage ist irrelevant. Es muß in einer _Maschine_ implementiert sein. Die Maschine _muß_ entscheiden.

Deshalb hat das MIT eine 'Moral Machine' entwickelt. Mit einem extra Professor dafür.

Ja, die Vorteile einer Maschine, in Millisekunden eine optimale Entscheidung errechnen zu können, sollten hier auftrumpfen.

Das Problem ist hierbei, daß ein solcher Nachweis erst vorliegt, nachdem mindestens zehntausende Vollautonome mindestens 5 Jahre lang uneingeschränkt gefahren sind. Mathematische Vorausberechnungen können um z.B. 70% daneben liegen.

Wenn der Gesetzgeber die Zulassung solcher unfallvermeidender Fahrzeuge verweigert, macht er sich der fahrlässigen Körperverletzung und Tötung schuldig. Diesen Schuh wird sich kein Minister gerne anziehen lassen.

Ob der Ex-Minister Baum das auch so sieht, möchte ich in Zweifel ziehen.

Zum Beispiel.

Eher nicht. Die nötigen Sensoren und Hochleistungscomputer gibts nicht umsonst.

Korrekt... Weil die Hardware beim Menschen eben nichts anderes zulässt. Der Computer eines autonomen Autos hingegen ist schnell genug und diese Entscheidung wird im Code auf die eine oder andere Weise festgelegt. Also wird diese Entscheidung schon lange vor dem Unfall getroffen und damit ist Zeit sich zu überlegen wie sie aussehen soll.

Und die Reaktionszeit eines Computers ist auch nicht null.

Auch bei einem Computer kann manches länger dauern. Kennt jeder von der täglichen Arbeit. Es sollte schneller sein als ein Mensch, aber ich bin immer wieder überrascht wo es klemmt.

Ah, die Ameisenmühle mit autonomen Autos?

Ansonsten hat Cruise mit ihren Robot-Taxis noch einige Probleme:

Gerrit

Das wird ein Albtraum im Bezug auf Kommunikation.

Womit dann sehr viele Features ausfallen die viele gerne bei autonomen Autos sehen wollen. V2V usw.

Gerrit

Auf den ersten Blick sicherlich. Die Aufgaben können aber so aufgeteilt werden, daß nur wenig Kommunikation notwendig ist. Zuerst fällt mir da natürlich der CAN-Bus ein, für die Hauptkommunikation. Es kann auch eine hardware-nahe Bit-Kommunikation zusätzlich vorgesehen werden.

Ich habe allerdings bis jetzt nur wenige Minuten Entwicklungsarbeit in die Entwicklung eines Autonomen aufgewendet. Das wird auch nicht länger werden. Ich bräuchte schon etwa 3 Wochen für eine Stichpunkt-Liste mit jeweiliger Erläuterung. Für ein Pflichtenheft eine Reihe von Monaten.

Andere können solche Einrichtungen ja aktiv halten. Ich brauche es nicht.

Hallo Christoph,

Du schriebst am Sun, 18 Dec 2022 13:13:56 +0100:

Das ist halt die Kompetenz der Wirtschaftler. O (1) ist das höchste der komplexität (das sie begreifen). Lineare Fortschreibung!

...

Im Management.

Eben. Verteilen könnnse. Zusammenführen? Du kannsts ja nichmal zusammenschreiben.

Lustige, aber schon recht abgestandene und weitgehend müßige Diskussion.

1. Der Mensch fährt besser als gedacht [1].
2. Das Weichenstellerdilemma im autonomen Straßenverkehr existiert nicht. man § 3 Abs 1 StVO [2].
3. Im vollautonomen Verkehr haftet der Hersteller. Natürlich.
4. Signierter Code und NDAs existieren. Warum nicht auch in der Automobilbranche und bei der allzweijährlichen HU?

Volker

Das überrascht mich überhaupt nicht. Die Professoren am MIT sicher auch nicht.

Letzteres heisst aber auch zertifizierter Code. Also nix mit schnell mal ein Update nachschieben weil man einen Fehler gefunden hat der das Auto an einer bestimmten Kreuzung die Ampel ignorieren lässt. Das musst erst einmal durch die Zertifizierung laufen und kann erst danach ausgerollt werden.

Gerrit

Nein. Mensch wie Maschine können Fehler machen. Es kommt auf das GESAMTergebnis an! Weniger auf die seltenen Einzelfälle. INSGESAMT muss die Unfallhäufigkeit und die Schadensbilanz reduziert werden. Auch eine Treppe ist ein technisches Produkt. Täglich fallen Menschen von Treppen herunter und verletzen sich teilweise sehr schwer dabei. Müssen Treppen nun verboten werden?

So leid es mir auch tut - Fehlentscheidungen sind zu akzeptieren, so lange INSGESAMT die Schadensbilanz trotzdem deutlich weniger wird. Aber selbstverständlich sind korrigierbare Fehler auch zu korrigieren. In Sachen Software muss man halt auch drauf aufpassen, dass Softwarefehler nicht für gezielte Schädigung ausgenutzt werden können. Oft ist es ja auch eine eher philosophische Frage, ob man Teilprogramme als fehlerhaft oder nicht einstufen will/kann.

Gottseidank wird man solche Moral-Maschinen nur höchst selten benötigen.

Inzwischen hat man viele Millionen Kilometer Erfahrungen gesammelt. Das ist weit mehr, als ein einzelner Mensch je mit dem Auto fahren wird. Das zusammen mit den Eingriffen der Sicherheitsfahrer sollte doch eine gute Entscheidungsbasis abgeben.

Wenn man korrekt messen will muss jeder Eingriff der Sicherheitsfahrer als Unfall gewertet werden. Tut man das sehen die Werte für autonomes Fahren allerdings nicht mehr besonders gut aus.

Gerrit

Genau das und natürlich nicht.

Ich will in einem Gerät, welches 1.5 Tonnen und mehr wiegt und sich mit

Oder einen Brückenpfeiler übersieht. Oder in der Garage abbrennt. Jup. Genau das meine ich.

Hoffentlich. Ja. Es wird dennoch Fälle wie bei der Boeing 737 MAX geben. Wo eine unterbezahlte, überforderte Behörde den Bock zum Gärtner macht. Was aber derzeit in KBA und Automobilbranche passiert, ist ein Gemüsegarten ohne Gärtner in einem Rehwildgehege. Was kann da wohl groß schiefgehen?

Volker