Blackbox ist längst erfunden. Hat man den Fehler gefunden, wird man ihn i.d.R. auch abstellen können.
Die denkst da vermutlich an die typischen Fahrfehler, die die Fahrer solcher Fahrzeuge gerne demonstrieren (zu dichtes Auffahren) nach dem Motto "seht her, welch sinnloses Risiko ich einzugehen bereit bin - bitte bewundert mich dafür".
Musst du auch nicht. Wenn so ein Ding in Serie geht, muss es seine Zuverlässigkeit bereits nachgewiesen haben. Servotechnik gibt's ja schon lange. So gesehen könnte man die Lenkung am Draht schon seit Jahrzehnten machen. Dass man es im Moment noch nicht macht, hängt vor allem damit zusammen, dass die nötige Zuverlässigkeit noch nicht nachgewiesen ist.
Wenn euer Laster plötzlich den Motor ausgeschaltet hat, dann läuft der Baustein vermutlich NICHT unter Sicherheitstechnik, sondern unter "normale Elektronik". Hier kann man wahrscheinlich geteilter Meinung sein, wie er denn wirklich einzuordnen ist. Spätestens dann, wenn auch die Lenkung in das Ganze involviert ist, wird auch dieser Baustein zum Sicherheitsbaustein gemacht werden müssen.
Was machst du heute, wenn dir plötzlich die Achse oder Bremsscheibe in tausend Stücke zerfällt? Passiert nicht? Weil das Sicherheitsteile sind! Diese unterliegen wesentlich strengeren Kriterien wie ein Schalter für den Fensterheber.
Diese Grauzonen wird es auch künftig geben. Ob es einem gefällt oder nicht - damit werden wir wohl oder übel leben müssen.
Oder man verwendet andere Werkstoffe.
Man verwendet, wie z.B. im Spaceshuttle, mehrere unabhängige Systeme, die allesamt das Gleiche machen. Über das Ergebnis wird dann abgestimmt.
Die Welt nicht primitiver, sondern immer komplexer.
Mir ging's jetzt um die Elektronik. Diese Lichtvorhänge sind so gebaut, dass sie in jedem Störungsfall immer in den sicheren Modus zurückfallen. Egal, ob es um einen Haarriss auf der Platine, einen Wackler an einem Widerstand, um einen wegdriftenden Kondensator oder eine ausgefallene Fotozelle oder Lichtquelle geht.
Trotz der Juristerei wird noch immer Recht gesprochen. Da ist auch nicht alles so ganz eindeutig geregelt. Ein Beispiel hast du ja selber schon genannt. Nur, weil man etwas nicht "hart aufschreiben" kann, ist das noch lange kein Grund dafür zu sagen, dass etwas nicht funktionieren kann. Es kann trotzdem. Bestes Beispiel sind vielleicht all die analogen Werte, mit denen Ingenieure so oft zu tun haben. Da heißt es vielleicht irgendwo 10 Volt. Gemeint sind aber nicht 10 Volt, sondern 10 Volt +/-
10%. Also eine ganze Bandbreite. Die ist keineswegs "hart" definiert, sondern meistens nur geschätzt. Noch etwas "Angstzuschlag" reingerechnet, dann passt das schon.Zur Klassifizierung von Menschen werden jedoch eher Bewegungsmuster (vor allem Arm- und Beinbewegungen) und Form verwendet. Weniger Oberflächen, weil diese nun mal extrem verschieden sein können, wie du selbst schon bemerkt hast.