Ich bin Entwickler bei einem Zulieferer für Bremssystemkomponenten - also durchaus in einem sicherheitsrelevanten Bereich. Der Fokus auf Sicherheit (Safety) ist sehr hoch und es wird ein großer Aufwand getrieben, um selbst bei einer Fehlfunktion sicherzustellen, dass es nicht zu einem sicherheitskritischen Zustand kommt (Stichwort FMEA, wer sich auskennt)
Genau das wird auch im Fall der autonomen Fahrzeuge sein, dass jede Fehlfunktion dazu führen wird, dass das Auto in einen sicheren Zustand gebracht wird. Bemerkt das Auto im Vergleich zwischen verschiedenen Sensoren eine Unplausibilität, fährt es rechts ran. Bemerkt ein Fahrer in der früh, dass er noch müde ist, fährt er trotzdem in die Arbeit, da er aus Erfahrung weiß "es wird schon gut gehen".
Wenn ein Ingenieur für ein neues System eine Straßenfreigabe erteilt, wird er allein schon aus Gründen des Selbstschutzes sicherstellen, dass von dem Fahrzeug keine Gefahr ausgeht.
Teilweise werden riesiege Klimmzüge gemacht um selbst für sehr unrealistische Fehlerszenarien eine Absicherung zu haben (was absolut richtig ist). Verglichen damit bin ich mir sicher, dass die Gesellschaft den Autoverkehr heutzutage als viel zu unsicher ablehnen würde, wenn er eine neue Technologie wäre. Der Einfluss von menschlichem Versagen ("übersehen") ist eigentlich viel zu groß. Genau das wird mit dem automatisierten Fahren verbessert werden. Ich bin mir sehr sicher, dass die Systeme hierzulande erst in Serie kommen werden, wenn diese wesentlich(!) besser funktionieren, als ein sehr guter, aufmerksamer Fahrer.
Leider wollen Entscheider in großen Unternehmen gerne über die Limits hinwegschauen. Beispielsweise bei Tesla, wo technisch ganz klar festgelegt ist, wo die Grenzen des Autopilot liegen. Ein großer Fehler war aus meiner Sicht dabei auch die Namensgebung. Dass ein Tesla aktuell Radfahrer nicht mit ausreichender Sicherheit erkennt, ist schlicht dem Umstand geschuldet, dass momentan die Software nicht dafür ausgelegt ist.
Zu dem was Gerhart sagte: Die Autobauer kommen aus einer Zeit, wo Sicherheit bisher alleine aus Safety (Vermeidung von Unfällen) bestand und es keinen Bedarf für Security gab (mal vom Türschloss und der Wegfahrsperre abgesehen).
Aber in Ransomware und durch fehlende Patches stillgelegte Autos kann ich aus gesellschaftlicher Sicht kein Argument gegen das automatisierte Fahren sehen.