Algorithmen des maschinellen Lernens suchen für uns seit mehreren Jahren nach Informationen, bilden einen Feed in sozialen Netzwerken, wählen Musik aus und helfen bei der Wahl eines romantischen Partners. Doch damit nicht genug: Richter, Ärzte und Polizei haben bereits damit begonnen, maschinelles Lernen in ihrer Praxis einzusetzen. Im Buch „Hallo Welt. How to Be Human in the Age of Machines" (Corpus Publishing House), ins Russische übersetzt von Yulia Pliskina, Mathematikerin und Professorin am University College London, Hannah Fry, untersucht, mit welchen Machtalgorithmen ausgestattet sind, welche Probleme sie verursachen und wo, schließlich enden die Programmfähigkeiten und beginnen die menschliche Verantwortung. N + 1 lädt seine Leser ein, einen Auszug zu lesen, der die Hindernisse für den Bau eines vollständig autonomen Fahrzeugs aufzeigt, das gleichermaßen gut in die Stadt und aus der Stadt heraus navigieren kann.
Das Buch ist im Rahmen des Verlagsprogramms des Polytechnischen Museums erschienen und ist Teil der Reihe „Polytechnische Bücher“.
Verstoß gegen Verkehrsregeln
Seit den ersten Drohnenrennen haben das Theorem von Bayes und die mächtige Kraft der Wahrscheinlichkeitstheorie viele Innovationen in der Entwicklung autonomer Fahrzeuge vorangetrieben. Ich fragte Paul Newman, Professor in Oxford, Robotikspezialist und Gründer von Oxbotica, das Drohnenautos auf den Straßen englischer Städte entwickelt und testet, wie seine neuesten Modelle funktionieren, und er sagte: „Dies ist ein Programm für Millionen, viele“Millionen von Zeilen, aber ich könnte das Ganze als probabilistische Schlussfolgerung beschreiben. Alles als Ganzes."
Obwohl die Bayessche Schlussfolgerung die grundsätzliche Möglichkeit, ein selbstfahrendes Auto zu schaffen, teilweise erklärt, lässt sie uns jedoch auch erahnen, was für eine harte Nuss zu knacken ist – ein vollständig autonomes Auto, das überhaupt keinen lebenden Fahrer benötigt.
Angenommen, Paul Newman sagt, "zwei Autos fahren mit hoher Geschwindigkeit aufeinander zu." Zum Beispiel auf einer zweispurigen Autobahn, in einer leichten Kurve, eine in die eine Richtung, die andere in die andere. Der Fahrer - ein Mann - wird absolut ruhig sein, weil er sicher ist, dass das andere Auto in seiner Spur bleibt und in einem Sicherheitsabstand von einigen Metern vorbeifährt. „Aber seit geraumer Zeit sieht es so aus, als würden sie aufeinander stoßen“, erklärt Newman. Wie kann man einem Auto ohne Fahrer beibringen, in einer solchen Situation nicht in Panik zu geraten? Sie möchten nicht, dass Ihr Auto am Straßenrand anhält, um einen Unfall zu vermeiden, der sowieso nicht passieren wird. Aber Sie möchten auch nicht, dass sie auf die Bedrohung reagiert, wenn Sie sich tatsächlich nur um Haaresbreite eines Frontalaufpralls befinden. Vergessen Sie auch nicht, dass solche Maschinen nur mehr oder weniger vernünftige Annahmen über ihr Verhalten treffen können. Wie stellen Sie sicher, dass ihre Vermutungen immer richtig sind? Dies sei "eine furchtbar schwierige Aufgabe", sagt Newman.
Experten streiten schon lange darüber, aber die Lösung existiert. Wir müssen herausfinden, wie wir das Verhalten anderer, vernünftiger Fahrer simulieren können. Aber leider ist diese Technik nicht in jeder Fahrsituation wirksam.
„Es ist schlecht mit all den Aspekten des Autofahrens, die überhaupt nichts mit dem Autofahren zu tun haben“, erklärt Newman. Irgendwie muss dem Algorithmus beigebracht werden, dass besondere Vorsicht geboten ist, wenn zum Beispiel Musik aus einem Eiswagen kommt oder Kinder mit einem Ball auf dem Bürgersteig spielen. Wir müssen ihm beibringen, die seltsamen Sprünge von Kängurus zu erkennen (während ich an meinem Buch schrieb, gaben Volvo-Spezialisten gerade bekannt, dass sie daran arbeiten). Für das ländliche England ist dies nicht sehr relevant, aber in Australien ist es gefährlich, ein Auto ohne diese Fähigkeit auf die Straße zu bringen.
Schlimmer noch, wie erklärt man dem Auto, dass es manchmal notwendig ist, die Regeln zu brechen? Nehmen wir an, Sie stehen vor einer roten Ampel, und plötzlich rennt eine Person vor Ihnen her und winkt Ihnen verzweifelt zu, vorwärts zu gehen. Oder ein Krankenwagen mit Blitzlicht schleicht eine schmale Straße entlang, und Sie müssen auf den Bürgersteig klettern, um ihn passieren zu lassen. Oder auf einer schmalen Autobahn hat sich ein Tanklaster "gebildet", und Sie müssen um jeden Preis raus.
„Nichts dergleichen steht in den Straßenverkehrsregeln“, bemerkt Newman zu Recht. Ein vollständig autonomes Fahrzeug, das ohne menschliche Hilfe fährt, muss jedoch in der Lage sein, solche Situationen zu bewältigen. Sogar Notfälle.
Niemand sagt, dass diese Hindernisse nicht überwunden werden können. "Ich denke, wir können das Auto auf jeden IQ bringen, den wir wollen", sagte mir Newman. "Es ist nur eine Frage der Zeit." Leider nicht in naher Zukunft, anscheinend. Wir sind wahrscheinlich viel weiter von der Verwirklichung des gehegten Traums eines Roboterautos entfernt, als wir denken.
Denn um dieses fabelhafte Spielzeug zu schaffen - ein autarkes Auto, das auf allen Straßen ohne Lenkrad fahren kann - müssen Sie eine andere Komplexitätsstufe durchlaufen, und es geht hier überhaupt nicht um Technologie. Ein vollautonomes Fahrzeug wird auch mit menschlichen Macken fertig werden.
Jack Stilgow, Soziologe am University College London, der die Auswirkungen von Technologie auf die Gesellschaft untersucht, sagt: „Menschen neigen dazu, die Regeln zu brechen. Sie sind keine passiven Figuren in der Landschaft, sondern aktive Teilnehmer am Leben."
Stellen Sie sich für einen Moment eine Welt mit völlig unabhängigen Roboterfahrzeugen vor. Regel Nummer eins für ihre Bordcomputer lautet, Kollisionen nach Möglichkeit zu vermeiden. Dadurch ändert sich der Fahrmodus auf der Straße. Wenn Sie vor einem fahrerlosen Auto stehen, sollte es anhalten. Wenn du plötzlich an einer Kreuzung vor ihr herausspringst, sollte sie es demütig akzeptieren.
Wie ein Teilnehmer einer Umfrage der London School of Economics im Jahr 2016 formulierte: „Sie müssen strenger mit ihnen umgehen. Lass sie stehen, und du kannst ruhig direkt vor ihnen herlaufen." Übersetzen: Diese Maschinen können herumgeschoben werden.
Stilgow stimmt dem zu: "Wer bisher relativ wehrlos unterwegs war - etwa Radfahrer - kann sich heimlich vor ein selbstfahrendes Auto rollen, zuversichtlich, dass es ihm unter keinen Umständen schadet."
Vielleicht kann diese Belästigung beseitigt werden, indem strengere Regeln für Radfahrer und Fußgänger eingeführt werden, die ihre Vorteile missbrauchen. Tatsächlich wurden solche Gesetze bereits verabschiedet - zumindest in Bezug auf diejenigen, die die Straße überqueren, wo es nicht sein soll. Oder wenn Sie Fremde von der Autobahn entfernen, wie Sie es mit anderen Verkehrsteilnehmern nach dem Auftauchen von Autos getan haben, und jetzt gibt es keine Fahrräder, keine Pferde mit Karren und Karren, keine Fußgänger auf der Autobahn.
Wenn wir vollwertige Drohnen brauchen, müssen wir höchstwahrscheinlich auf unsere bisherigen Erfahrungen aufbauen und die Zahl aggressiver Autofahrer, Eiswagen, spielender Kinder, Warnschilder von Baustellen, Fußgängern, Krankenwagen, Radfahrern, Rollstuhlfahrern, usw. alles andere, was die Bewegung autonomer Fahrzeuge stört. Großartig, aber nicht genau das, was sie uns anbieten.
„All dieses Gerede über Autonomie und Transport geht davon aus, dass sich die Welt nicht ändern wird“, sagt Stilgow. - Alles wird bleiben, wie es ist, nur Roboter werden lernen, die Welt nicht schlechter zu navigieren als Menschen, und mit der Zeit sogar noch besser. Das ist meiner Meinung nach nur Dummheit."
Aber Moment mal, könnte man meinen. Ist dies nicht bereits eine abgeschlossene Phase? Hat Google Waymo nicht schon Millionen von Meilen gezählt? Durchstreifen nicht schon Drohnen dieser Marke – oder zumindest fast ausschließlich selbstfahrende Autos – die Straßen von Phoenix, Arizona?
Ja natürlich. Aber die Straßen sind nicht überall gleich. Meistens sind sie so einfach zu fahren, dass man im Halbschlaf einige Kilometer fahren kann. Es gibt auch viel schwierigere Abschnitte. Zu der Zeit, als ich dies schreibe, dürfen Waymo-Autos nicht überall hinfahren, sie sind "geofenced", das heißt, sie dürfen die Grenzen der ihnen zugewiesenen kleinen Flächen nicht verlassen. Ähnlich verhält es sich mit Daimler- und Ford-Drohnen, die die Hersteller bis 2020 bzw. 2021 auf die Straße bringen wollen. Sie dürfen nur in bestimmten Bereichen Passagiere befördern. Somit wird das Autonomieproblem stark vereinfacht.
Paul Newman beschreibt die hypothetische Zukunft selbstfahrender Autos wie folgt: „Sie werden in gut erforschten Gebieten fahren, damit ihre Besitzer sich sicher fühlen, dass sie damit fertig werden. Das ist in der Stadt möglich und nirgendwo bei unübersichtlichen Straßen und Kühen auf der Autobahn. Vielleicht zu bestimmten Zeiten und unter bestimmten Wetterbedingungen. Sie werden von Transportunternehmen genutzt."
Dies ist nicht genau dasselbe wie vollständige Autonomie. Jack Stilgow ist zu einem unvermeidlichen Kompromiss bereit: "In vermeintlich autonomen Systemen ist die Welt tatsächlich so begrenzt, dass sie autonom erscheinen."
Das Bild, das wir glauben, ist wie eine Fata Morgana. Wir sehen immer ein Luxusauto mit einem persönlichen Fahrer zu unseren Diensten, und bei näherer Betrachtung stellt sich heraus, dass es sich nur um einen überregionalen Kleinbus handelt.
Wenn ich Sie noch nicht überzeugt habe, gebe ich das Recht zum Abschluss der Diskussion einem der maßgeblichsten amerikanischen Automagazine Car and Driver:
Keiner der Autohersteller rechnet damit, dass in naher Zukunft und auch in den kommenden Jahrzehnten die Straßen mit selbstfahrenden Autos überflutet werden und ein wunderbares Leben ohne Unfälle kommen wird. Aber sie wollen an der Wall Street ernst genommen werden und versuchen, die Fantasie der Menschen anzuregen, die immer mehr die Lust am Autofahren verlieren. In der Zwischenzeit läuft die Erprobung, sie hoffen, mehr Autos verkaufen zu können, die mit den neuesten Fahrerassistenzsystemen ausgestattet sind.
Wie sieht es mit Fahrerassistenzsystemen aus? Schließlich bedeutet ein selbstfahrendes Auto nicht die Wahl zwischen allem und nichts.
In der Technologie der autonomen Steuerung werden sechs Stufen unterschieden, von Null – keine Autonomie – bis zur fantastischen fünften, also bis zur vollständigen Autonomie. Dazwischen befinden sich Autos von der ersten Ebene mit automatischer Geschwindigkeitsregelung bis zur vierten mit autonomer Steuerung unter Geofencing-Bedingungen; Einfach ausgedrückt, die erste Ebene ist ohne Beine, die zweite ohne Arme, die dritte ohne Augen und die vierte ohne Kopf.
Daher ist, obwohl die fünfte Ebene noch nicht einmal am Horizont auftaucht und die vierte nicht ganz das ist, was wir so enthusiastisch beworben haben, auf dem Weg nach oben kann ein erheblicher Automatisierungsgrad erreicht werden. Was ist falsch daran, das Niveau der Pkw schrittweise zu erhöhen? Kann man schließlich Autos mit Lenkrad und Bremspedal herstellen, bei denen eine Person auf dem Fahrersitz sitzt und im Notfall die Kontrolle übernimmt? Wird es vielleicht reichen, während sich die Technologie entwickelt?
Leider ist nicht alles so einfach. In der Handlung dieser Geschichte gibt es noch eine letzte Wendung. Eine ganze Reihe anderer Probleme. Dieser Stolperstein wird immer im Weg sein, es sei denn, das Niveau der vollständig autonomen Steuerung ohne menschliches Zutun wird erreicht.
