Standpunkte

Was passiert, wenn die Grenzen zwischen Mensch und Maschine fallen?


In jeder Ausgabe stellt morgen drei Menschen, die sich auskennen, eine Frage. Diesmal:

Technik wandert in den Körper

Die Grenzen zwischen Mensch und Maschine sind längst gefallen. Die Technologieentwicklung nimmt rasant an Fahrt auf – und Technik wandert in den Körper. Wir arbeiten etwa an einem Exoskelett, einer Ganzkörper-Orthese. Dabei geht es darum, gehbehinderte Menschen wieder mobil zu machen, indem Sensorik mit dem Körper verbunden wird. Das ist eine hehre Sache. Doch neue Technologien lassen sich für alles Mögliche einsetzen. Es stellt sich die Frage, ob und wie wir verhindern können, dass weniger hehre Ziele verfolgt werden. Was technisch möglich ist, wird gemacht. Und vieles von dem, was gerade entsteht, wird irreversible Folgen haben.

Technologie eröffnet immense Möglichkeiten. Vorsichtig sollten wir aber bei der Zeitskala sein. Heute passieren die Entwicklungen so schnell. Zum Beispiel haben wir noch immer keine nützliche Kulturpraxis für das Internet entwickelt. Man muss jetzt also eine Ethik finden, die nicht nur hilft, in der gegebenen Welt miteinander klarzukommen, sondern in einer, die erst neu geschaffen wird. Doch wie können wir Regeln aufstellen, die so allgemein sind, dass sie längerfristig gelten, aber jetzt schon wirken?

Vielleicht sollten wir uns bei den Systemen, die wir in die Welt bringen, nach Kant richten und sie so gestalten, dass sie zum Gesetz werden könnten. Andererseits hat die „Machen wir mal“-Mentalität viel Innovation gebracht. Es mag Wunschdenken sein, aber ich halte eine sensibilisierte und mündige Öffentlichkeit für wichtig, der klar ist, dass sie die derzeitige Entwicklung mitgestalten kann.

Stefan Lorenz Sorgner

Der Mensch war immer ein Cyborg. Das Erlernen von Sprache ist unser erstes Upgrade. Unsere Cyborgisierung setzt sich mit der Erziehung fort. Nun wird die menschliche Steuerung durch Genome Editing und Brain-Computer-Interfaces potenziert. Chips wandern in unsere Körper und sammeln dort mittels Sensoren wertvolle Informationen. Hiermit entstehen neue Herausforderungen, vor allem die der totalen Überwachung.

Die Datensammlung ist in unserem Interesse und bietet Vorteile, auch für Einzelpersonen. Sie ermöglicht etwa die Realisierung eines europäischen Sozialkreditsystems und kann bestehende Elemente wie Kreditwürdigkeitsauskünfte oder Führungszeugnisse durch verlässlichere ersetzen. Dies könnte etwa zur Folge haben, dass mittels Datenkapital sozial Schlechtergestellte Kreditwürdigkeit erlangen. Dieses System sollte auf der Norm der Freiheit aufgebaut sein. Je intensiver die Überwachung, umso höher die Wahrscheinlichkeit von Sanktionen, und da es kein vollkommenes normatives System gibt, würde sich auch die Anzahl problematischer Sanktionen erhöhen. Deshalb schätzen wir Privatheit. Um Pluralität gewährleisten zu können, müssen wir Freiheit fördern und dürfen nur ernsthafte Vergehen sanktionieren.

Der Staat sollte Regulierungen für den Umgang mit Daten schaffen. Wenn private Institutionen Daten sammeln, ist die Wahrung von Grundrechten eher gefährdet. Der Datenzugang muss eingeschränkt werden. Die für die Überwachung zuständigen Algorithmen dürfen nur im Ernstfall anschlagen

Cornelia Bruell

Aus philosophischer Perspektive können wir die Frage nach den Konsequenzen der Technisierung des Menschen nicht beantworten, ohne zu fragen: Was ist der Mensch? Immanuel Kant meinte, wenn wir die folgenden Fragen beantworten könnten, kämen wir einer Antwort schon recht nahe: 1. Was kann ich wissen? 2. Was soll ich tun? 3. Was darf ich hoffen?

  1. Wissen ist mehr als das Sammeln von Daten und steht in der Philosophie mit dem Verstehen in Verbindung. Und beim Verstehen komplexer sozialer Zusammenhänge und Entscheidungen kann sich bis jetzt keine künstliche Intelligenz mit dem Menschen messen.
  2. Ein Grundpfeiler der Ethik ist die Frage, welche Handlung der Mensch in prekären Situationen setzt, besonders in solchen, die sich nicht rational ableiten lassen. Für Søren Kierkegaard macht genau der Moment des Wahnsinns, in dem man einen Weg wählen muss, ohne vollständig begründen zu können, warum, den Menschen in seiner Freiheit aus.
  3. Kant bezog das Hoffen nicht auf Religion und Glauben, sondern auf die Gesellschaft und ihre Zukunft. Welche künstliche Intelligenz hofft? Hoffnung hat etwas Irrationales, macht aber den Menschen aus.

Es ließe sich folgern: Die Maschine rechnet, kalkuliert, quantifiziert, rationalisiert. Der Mensch empfindet diffus, qualifiziert, schwankt.

Droht die Grenze zwischen Mensch und Maschine zu verschwimmen, wird die menschliche unter der maschinellen Logik leiden. Daher sollten wir nie aufhören zu fragen: Was ist der Mensch? Und wollen wir ihn aufgeben?