Der Tesla-Bot von Elon Musk wirft ernsthafte Bedenken auf – aber wahrscheinlich nicht die, die Sie denken.

Dieser Artikel wurde von The Conversation unter einer Creative Commons-Lizenz erneut veröffentlicht. Lesen Sie den Originalartikel, der am 7. September 2021 veröffentlicht wurde .

Elon Musk kündigte einen humanoiden Roboter an, der bei den sich wiederholenden, langweiligen Aufgaben helfen soll, die Menschen hassen. Musk schlug vor, dass es für Sie zum Lebensmittelladen laufen könnte, aber vermutlich würde es jede Menge Aufgaben erledigen, die manuelle Arbeit erfordern.

Wie vorherzusehen war, waren die sozialen Medien voller Hinweise auf eine Reihe dystopischer Science-Fiction-Filme über Roboter, in denen alles schrecklich schief geht.

So besorgniserregend die Zukunft der Roboter in Filmen wie „I, Robot“, „Terminator“ und anderen auch ist, es sind die zugrunde liegenden Technologien echter humanoider Roboter – und die Absicht dahinter –, die Anlass zur Sorge geben sollten.

Musks Roboter wird von Tesla entwickelt. Es scheint eine Abkehr vom Automobilgeschäft des Unternehmens zu sein, wenn man bedenkt, dass Tesla kein typischer Automobilhersteller ist. Der sogenannte „Tesla Bot“ ist ein Konzept für einen schlanken, 125 Pfund schweren, menschenähnlichen Roboter, der Teslas künstliche Intelligenz und Autopilot-Technologien für die Automobilindustrie einbezieht, um Routen zu planen und zu befolgen, durch den Verkehr – in diesem Fall Fußgänger – zu navigieren und Hindernissen auszuweichen.

Abgesehen von dystopischen Science-Fiction-Anklängen macht der Plan Sinn, wenn auch im Rahmen von Musks Geschäftsstrategie. Die gebaute Umwelt wird von Menschen für Menschen geschaffen. Und wie Musk bei der Ankündigung des Tesla-Bots argumentierte, müssen erfolgreiche fortschrittliche Technologien lernen, damit auf die gleiche Weise zu navigieren, wie Menschen es tun.

Doch Teslas Autos und Roboter sind lediglich die sichtbaren Produkte eines viel umfassenderen Plans, der darauf abzielt, eine Zukunft zu schaffen, in der fortschrittliche Technologien den Menschen durch die Verschmelzung von Biologie und Technologie von seinen biologischen Wurzeln befreien. Als Forscher, der die ethische und sozial verantwortliche Entwicklung und Nutzung neuer Technologien untersucht, finde ich, dass dieser Plan Bedenken aufwirft, die über spekulative Science-Fiction-Ängste vor superintelligenten Robotern hinausgehen.

Ein Mann mit großen Plänen

Selbstfahrende Autos, interplanetare Raketen und Gehirn-Maschine-Schnittstellen sind Schritte in Richtung der Zukunft, die Musk sich vorstellt, in der Technologie der Retter der Menschheit ist. In dieser Zukunft wird Energie billig, reichlich vorhanden und nachhaltig sein; Menschen werden im Einklang mit intelligenten Maschinen arbeiten und sogar mit ihnen verschmelzen; und der Mensch wird zu einer interplanetaren Spezies.

Es ist eine Zukunft, die, den vielfältigen Bemühungen von Musk nach zu urteilen, auf einer Reihe zugrunde liegender miteinander verbundener Technologien aufgebaut sein wird, zu denen Sensoren, Aktoren, Energie- und Dateninfrastrukturen, Systemintegration und erhebliche Fortschritte bei der Computerleistung gehören. Zusammen bilden sie einen beeindruckenden Werkzeugkasten für die Entwicklung transformativer Technologien.

Musk stellt sich vor, dass Menschen letztendlich unser evolutionäres Erbe durch Technologien überwinden, die übermenschlich oder „übermenschlich“ sind. Aber bevor Technologie übermenschlich werden kann, muss sie zunächst menschlich sein – oder zumindest so konzipiert sein, dass sie in einer von Menschen gestalteten Welt gedeihen kann.

Dieser Innovationsansatz, der die Technik menschlicher macht, ist die Grundlage der Technologien in Teslas Autos, einschließlich des umfassenden Einsatzes optischer Kameras. Wenn diese mit einem KI-„Gehirn“ verbunden werden, sollen sie den Fahrzeugen dabei helfen, autonom durch Straßensysteme zu navigieren, die, in Musks Worten, „für biologische neuronale Netze mit optischen Bildgebern ausgelegt sind“ – mit anderen Worten: Menschen. Laut Musk ist es ein kleiner Schritt von menschenähnlichen „Robotern auf Rädern“ hin zu menschenähnlichen Robotern auf Beinen.

Leichter gesagt als getan

Teslas „völlig selbstfahrende“ Technologie, zu der auch der zweifelhaft benannte Autopilot gehört, ist ein Ausgangspunkt für die Entwickler des Tesla Bot. So beeindruckend diese Technologie auch ist, sie erweist sich doch als nicht ganz zuverlässig. Unfälle und Todesfälle im Zusammenhang mit dem Autopilot-Modus von Tesla – zuletzt im Zusammenhang mit den Algorithmen, die damit zu kämpfen haben, geparkte Einsatzfahrzeuge zu erkennen – stellen die Weisheit in Frage, die Technologie schon so bald auf den Markt zu bringen.

Diese Erfolgsbilanz verheißt nichts Gutes für menschenähnliche Roboter, die auf derselben Technologie basieren. Dabei kommt es jedoch nicht nur darauf an, die Technologie richtig einzusetzen. Die Autopilot-Störungen von Tesla werden durch menschliches Verhalten verschlimmert. Beispielsweise haben einige Tesla-Fahrer ihre technisch verbesserten Autos so behandelt, als wären sie völlig autonome Fahrzeuge, und dem Fahren nicht genügend Aufmerksamkeit geschenkt. Könnte etwas Ähnliches mit dem Tesla Bot passieren?

Die „verwaisten Risiken“ des Tesla Bot

Bei meiner Arbeit zu gesellschaftlich vorteilhaften Technologieinnovationen interessiere ich mich besonders für verwaiste Risiken – Risiken, die schwer zu quantifizieren und leicht zu übersehen sind und dennoch unweigerlich dazu führen, dass Innovatoren ein Bein stellen. Meine Kollegen und ich arbeiten mit Unternehmern und anderen an der Bewältigung dieser Art von Herausforderungen durch den Risk Innovation Nexus, eine Initiative des Orin Edson Entrepreneurship + Innovation Institute und des Global Futures Laboratory der Arizona State University.

Der Tesla Bot bringt ein ganzes Portfolio verwaister Risiken mit sich. Dazu gehören mögliche Bedrohungen der Privatsphäre und Autonomie, wenn der Bot potenziell sensible Informationen sammelt, weitergibt und darauf reagiert; Herausforderungen im Zusammenhang mit der Art und Weise, wie Menschen über humanoide Roboter denken und auf sie reagieren; mögliche Diskrepanzen zwischen ethischen oder ideologischen Perspektiven – zum Beispiel bei der Kriminalitätsbekämpfung oder der Überwachung von Bürgerprotesten; und mehr. Dies sind Herausforderungen, die in der Ausbildung von Ingenieuren selten behandelt werden, und deren Nichtbeachtung dennoch eine Katastrophe bedeuten kann.

Auch wenn der Tesla-Bot harmlos – oder sogar ein bisschen wie ein Witz – erscheinen mag, wenn er sowohl nützlich als auch kommerziell erfolgreich sein soll, müssen sich seine Entwickler, Investoren, zukünftigen Verbraucher und andere schwierige Fragen darüber stellen, inwieweit er das, was wichtig ist, gefährden könnte sie und wie man mit diesen Bedrohungen umgeht.

Diese Bedrohungen können so spezifisch sein, wie Menschen, die unbefugte Änderungen vornehmen, die die Leistung des Roboters steigern – ihn beispielsweise schneller bewegen, als von seinen Entwicklern vorgesehen –, ohne über die Risiken nachzudenken, oder so allgemein wie die Technologie, die auf neuartige Weise zu Waffen gemacht wird. Sie sind auch so subtil wie die Frage, wie ein humanoider Roboter die Sicherheit des Arbeitsplatzes gefährden könnte oder wie ein Roboter, der über fortschrittliche Überwachungssysteme verfügt, die Privatsphäre untergraben könnte.

Hinzu kommen die Herausforderungen der technologischen Voreingenommenheit, die die KI seit einiger Zeit plagen, insbesondere dort, wo sie zu erlerntem Verhalten führt, das sich als äußerst diskriminierend erweist. Beispielsweise haben KI-Algorithmen zu sexistischen und rassistischen Ergebnissen geführt.

Nur weil wir es können, sollten wir das tun?

Der Tesla-Bot scheint ein kleiner Schritt in Richtung Musks Vision übermenschlicher Technologien zu sein, den man leicht als anmaßende Zurschaustellung abtun kann. Aber die kühnen Pläne, die ihm zugrunde liegen, sind ernst – und sie werfen ebenso ernste Fragen auf.

Wie verantwortungsvoll ist beispielsweise Musks Vision? Nur weil er daran arbeiten kann, die Zukunft seiner Träume zu gestalten, wer sagt, dass er das tun sollte? Ist die Zukunft, die Musk anstrebt, die beste für die Menschheit oder sogar eine gute? Und wer wird die Konsequenzen tragen, wenn etwas schiefgeht? Dies sind die tieferen Bedenken, die der Tesla-Bot für mich als jemanden aufwirft, der die Zukunft studiert und darüber schreibt und wie sich unser Handeln darauf auswirkt. Das soll nicht heißen, dass der Tesla-Bot keine gute Idee wäre oder dass Elon Musk nicht in der Lage sein sollte, seine zukunftsorientierten Muskeln spielen zu lassen. Bei richtiger Anwendung handelt es sich um transformative Ideen und Technologien, die Milliarden von Menschen eine vielversprechende Zukunft eröffnen könnten.

Aber wenn Verbraucher, Investoren und andere vom Glanz neuer Technologien geblendet sind oder den Hype ablehnen und das große Ganze nicht sehen, läuft die Gesellschaft Gefahr, die Zukunft wohlhabenden Innovatoren zu überlassen, deren Vision ihr Verständnis übersteigt. Wenn ihre Zukunftsvisionen nicht mit den Erwartungen der meisten Menschen übereinstimmen oder katastrophale Mängel aufweisen, laufen sie Gefahr, dem Aufbau einer gerechten und gleichberechtigten Zukunft im Wege zu stehen.

Vielleicht ist dies die bleibende Lehre aus dystopischen Roboter-Zukunfts-Science-Fiction-Filmen, die die Menschen mitnehmen sollten, wenn der Tesla-Bot von der Idee zur Realität wird – nicht die offensichtlicheren Bedenken bei der Schaffung humanoider Roboter, die Amok laufen, sondern die weitaus größere Herausforderung Entscheiden Sie, wer sich die Zukunft vorstellen und an der Gestaltung beteiligt sein darf.

Geschrieben von Andrew Maynard, stellvertretender Dekan, College of Global Futures, Arizona State University .