Die Gedanken sind frei! Wie lange noch?

Der Jurist Roberto Andorno und der Bioethiker Marcello Ienca fürchten: Neurowissenschaften und Neurotechnologie könnten eines Tages genutzt werden, um unsere Gedanken anzuzapfen. Um dieser Gefahr zu begegnen, schlagen die Wissenschaftler vier grundlegend neue Menschenrechte vor

Die Gedanken sind frei! Wie lange noch?

Der Jurist Roberto Andorno und der Bioethiker Marcello Ienca fürchten: Neurowissenschaften und Neurotechnologie könnten eines Tages genutzt werden, um unsere Gedanken anzuzapfen. Um dieser Gefahr zu begegnen, schlagen die Wissenschaftler vier grundlegend neue Menschenrechte vor

Herr Andorno, Herr Ienca, die Vorstellung, dass jemand unsere Gedanken lesen und kontrollieren könnte, ist eine absolute Horrorvorstellung für die Menschheit.

Roberto Andorno: Ja, unser Geist, unsere Gedanken- und Vorstellungswelt und inneren Überzeugungen sind die letzte Bastion der Privatsphäre, Selbstbestimmung und persönlichen Freiheit. Man kann Leute einsperren und ihren Körper kontrollieren, ihr Geist bleibt trotzdem unantastbar und geheim. Die neurowissenschaftliche und neurotechnologische Revolution könnte dieses letzte Refugium im Sinne einer Gedankenkontrolle angreifen und es ernsthaft gefährden. Dagegen sollten wir uns mit neuen Menschenrechten wappnen.

Neurowissenschaftliche Revolution und Gedankenkontrolle: Übertreiben Sie da nicht etwas?

Marcello Ienca: Also, die neurowissenschaftliche Revolution ist real. Da gibt es für mich keinen Zweifel. Wir sehen in den USA, auch unter der Trump-Regierung, massive Anstrengungen, das Gehirn zu erforschen. Die Europäische Union steckt ebenfalls viele Milliarden Euro in die Erforschung des Gehirns. Hinzu kommen die Investitionen der einschlägigen Hightechfirmen im Digitalsektor.

Aber das Eindringen in die Gedankenwelt, das Abhören und die Beeinflussung unserer mentalen Information, wie Sie es nennen, scheint mir doch noch reichlich futuristisch zu sein.

Ienca: Um es klar zu sagen: Heute kann noch niemand Gedanken aus der Kommunikation der Nervenzellen unseres Gehirns extrahieren. Aber das Lesen von Gedanken wird kommen. Wir wissen nur noch nicht, wann.

Wird diese Revolution in unseren Alltag dringen?

Ienca: Da bin ich sicher. In ihren Anfängen passiert das schon jetzt. Brain-Computer-Interfaces können schon heute Patienten mit neurologischen Erkrankungen helfen. Auch außerhalb des Gesundheitssektors erleben wir erste Anwendungen. Viele Videospieler nutzen solche Interfaces, um ihre Avatare mit ihrer Gehirnaktivität zu kontrollieren. Diese Gruppe wächst. Einige Leute nutzen bereits Neurostimulatoren, um ihr Wohlbefinden zu messen oder ihre Aufmerksamkeit zu verbessern. Seit Jahren testet Samsung eine Art Gehirnkontrolle mithilfe seiner Smartphones. Dieses Produkt ist offenbar noch unreif. In den nächsten fünf bis zehn Jahren aber könnte das anders werden. Viele Analysten meinen, dass wir mittelfristig allein über unsere Gedanken mit Computern kommunizieren werden und dass diese Technik die Tastatur und die Sprachsteuerung ersetzt. Facebook zum Beispiel will ein Gehirn-Computer-Interface bauen, das Gedanken direkt in Worte – sprich Posts – umwandelt.

Das würde ja bedeuten, dass die Steuerzentralen dieser Geräte und Applikationen eine direkte Verbindung zu den Nervensignalen im Gehirn der Nutzer haben, oder?

Ienca: Exakt. Oder andere Leute, die diese Geräte hacken. Das erste Brainhacking-Experiment der Welt wurde mit simpler Alltagsware gemacht. Die Versuchspersonen trugen auf ihrem Kopf ein handelsübliches Gehirn-Computer-Interface-Headset. Kostet nicht mal 100 Dollar. Diese Geräte haben die Wissenschaftler angezapft und die Nervenzellaktivität der Probanden abgehört. Andere Kollegen der Universität Oxford haben in einem kontrollierten Experiment die Gehirnimplantate von Patienten mit neurologischen Erkrankungen gehackt und die Kontrolle übernommen.

Trotzdem ist es natürlich ein langer Weg zu Hacker-Szenarios, die im Alltag eine umfassende illegale Kontrolle des Gehirns erlauben könnten. Wir sind noch nicht im Zeitalter des Neuroverbrechens, wie Sie das nennen. Es gibt, wie Sie sagten, noch nicht mal eine Technik, die verlässlich unsere Gedanken lesen könnte.

Ienca: Deshalb müssen wir uns jetzt, in der Frühphase dieser Technologie, mit den Folgen der zukünftigen Entwicklungen auseinandersetzen, ihre Risiken aufzeigen und eine ethische Diskussion beginnen. Würden wir damit erst anfangen, wenn die Technik in der Breite angewendet wird, liefe die ethische Diskussion ins Leere.

Warum hat die internationale Ethik die Neurotechnologie bislang vernachlässigt?

Andorno: Wir sagen nicht, dass die Ethik dieses Thema vernachlässigt hat. Es gab nur keine Diskussion, weil es bis jetzt kein Bedrohungspotenzial durch die Neurowissenschaften gibt. Nun aber sollten wir die genetische Revolution seit den 1990er Jahren als Vorbild nehmen. Damals wurde früh genug debattiert, welche Folgen die Entschlüsselung des Erbguts haben könnte. Was genetische Tests ethisch bedeuten und inwieweit Versicherungen, Firmen und andere Organisationen genetische Informationen des Individuums nutzen dürfen. Ob es genetische Diskriminierung geben kann und so weiter. Das Bedrohungspotenzial wurde früh erkannt. Aufgrund der ethischen Debatte haben wir jetzt in Deutschland oder der Schweiz entsprechende Gesetze. Das Recht auf Nichtwissen zum Beispiel. Für die Neurowissenschaften haben wir noch keine solchen Normen.

In diesem Zuge schlagen Sie gleich vier neue Menschenrechte vor, die sich aus der Neurotechnologie ergeben könnten. Reichen bisherige ethische Normen, Gesetze und Menschenrechte nicht aus?

Andorno: Viele Experten in unserem Fach betrachten zu viele Menschenrechte für alles Mögliche tatsächlich kritisch. Aber in diesem Falle haben wir es mit fundamentalen Fragen des Menschseins zu tun und mit absolut notwendigen Rechten. Es geht um grundsätzliche Interessen menschlicher Individuen: die Privatsphäre des Geistes, seine Unversehrtheit. Natürlich gäbe es bestehende Normen, die man anwenden könnte. Wir haben beispielsweise ein Recht auf Privatheit, gegen Diskriminierung und so weiter. Aber die neuen Bedrohungen sind dermaßen spezifisch und so hinreichend anders, dass sie neue Antworten erfordern. Außerdem ist der Schaden, den sie verursachen können, mit nichts Bisherigem vergleichbar. Wir haben es mit dem Kern der menschlichen Persönlichkeit zu tun, dem inneren Leben, der Psychologie eines Menschen, seinen Gedanken, seinen Erinnerungen. Das geht weit über traditionelle Verletzungen der Privatsphäre hinaus.

Das entscheidende Element Ihrer Überlegungen für neue Menschenrechte ist die kognitive Freiheit. Warum – und was bedeutet das?

Ienca: Ein Begriff, der nicht von uns stammt. Aber wir interpretieren ihn neu. Das Menschenrecht der kognitiven Freiheit beschreibt die Freiheit der Menschen zu wählen, ob sie eine bestimmte Neurotechnologie nutzen wollen oder nicht – und dass sie dabei keine Nachteile erleiden. Dieses Recht ist eine Art Basisrecht, das Substrat für andere Freiheiten. Wenn ich nicht frei bin zu denken, dann bin ich auch nicht frei zu handeln. Und so weiter. Wir versuchen, diese Debatte um kognitive Freiheit mit anderen neuen Rechten zu verknüpfen. In Deutschland gibt es ja dieses Lied Die Gedanken sind frei. Genau das sollten wir in einem wörtlichen Sinne diskutieren.

Kognitive Freiheit als oberstes Menschenrecht überhaupt?

Andorno: Ja, als Startpunkt für die anderen Rechte, die wir vorschlagen, um uns vor möglichem Missbrauch durch Neurotechnologie zu schützen. Zum Beispiel das Menschenrecht auf mentale Privatsphäre.

Dass meine Gedanken nur mir gehören und da niemand ohne meine Erlaubnis ran darf?

Andorno: Genau. Um dieses Recht kreisen eine Menge Fragen. Vor allem ob es ein absolutes oder ein relatives Grundrecht des Menschen sein sollte. Ob es also Ausnahmen gibt unter bestimmten Bedingungen – wenn jemand zum Beispiel verdächtig ist, einen Terroranschlag zu planen.

Ienca: Um klarzumachen, warum mentale Privatheit sich von normaler Privatheit unterscheidet, lassen Sie uns über Privatheit im Internet reden. Überall auf der Welt wird im Netz gehackt. Immer wenn ich Informationen online teile, nutze ich mein Gehirn als Filter. Ich entscheide, welche Informationen ich privat halten will und welche ich der Öffentlichkeit preisgebe. Diese Möglichkeit, einen rationalen Filter zu nutzen, gilt nicht für mentale Information, weil ich meine Gedanken nicht kontrollieren kann, sie sind größtenteils unbewusst. Deshalb hat jedes Eindringen in die mentale Privatsphäre eine ganz andere Dimension als ein Eindringen in meine Informationsfreiheit.

Könnte jeder – theoretisch – von einem rechtlichen Standpunkt aus meine Gedanken lesen, wenn er Lust dazu hätte?

Ienca: Nein, nicht ohne Ihre Zustimmung, es sei denn, Sie nehmen an einer Bildgebungsstudie teil. Oder Sie sind Nutzer eines handelsüblichen Gehirn-Computer-Interface. Aber in all diesen Fällen sind Sie sich bewusst darüber, dass Sie eine bestimmte Technologie nutzen und dass Ihre mentale Information abgeschätzt werden kann. Was allerdings passieren kann: Brainhacking. Das wurde wie gesagt schon in einem Experiment nachgewiesen. Wenn man ein Brain-Computer-Interface für bestimmte Zwecke nutzt, zum Beispiel für Neurogaming, könnte ein Hacker die Video-Game-Software manipulieren, um Stimuli einzupflanzen, die jenseits der Wahrnehmungsschwelle liegen. Sie kriegen das also nicht mit. So lässt sich Information aus Ihrem Gehirn ohne Ihre Zustimmung gewinnen. Und man ist sich der Ziele des Hackers nicht bewusst.

Was ist das dritte neue Menschenrecht, das Sie vorschlagen?

Andorno: Die mentale Integrität, also die geistige Unversehrtheit, die unseren Geist vor Schaden schützen soll. Ein Beispiel: Ein Hacker könnte digitale Viren ins Gehirn einschleusen und kriminelle Tendenzen in einem Menschen auslösen. Davor muss man absolut geschützt sein.

Ienca: In einer Veröffentlichung im renommierten Wissenschaftsmagazin Science wurde vor zwei Jahren beschrieben, wie ein Herzschrittmacher gehackt wurde. So kann man das Gerät komplett stilllegen, was für einen Herzkranken den schnellen Tod bedeuten kann. Auch Operationsroboter sind schon gehackt worden. Auch das kann einen Menschen schädigen. Es ist also sehr wahrscheinlich, dass Neurogeräte im Gehirn eines Tages gehackt werden. Das wäre ein bislang nicht gekannter Schaden. Wenn ich Ihr Smartphone oder Ihren Computer hacke, schade ich Ihrem Eigentum. Aber wenn ich ein Gehirnimplantat hacke, schade ich dann Ihrem Eigentum – oder einem Teil Ihrer Persönlichkeit? Für mich ist das ein viel intimerer Schaden, der auf der Ebene eines Menschenrechts geschützt werden muss.

Was bedeuten alle diese möglichen Gefahren für die Psyche des Menschen?

Andorno: Neurotechnologie könnte im schlimmsten Fall die Identität eines Menschen verändern, ohne dass der das will oder sich dessen bewusst ist. In einer Art Brainwashing. Dass sich die Psyche durch diese Techniken verändern kann, dafür sehen wir schon heute Anhaltspunkte. Zum Beispiel bekommen manche Parkinsonpatienten zu therapeutischen Zwecken ein Neuroimplantat ins Gehirn eingesetzt. In einigen Fällen ändert sich daraufhin die Persönlichkeit. Es sollte deshalb ein weiteres Menschenrecht sein, dass die psychologische Kontinuität ohne meine Zustimmung nicht durch Neurotechnologie verändert wird. Vor allem wenn das absichtlich durch eine dritte Partei passiert. Dieses Menschenrecht leitet sich nicht aus den bestehenden Menschenrechten her. Es ist komplett neu.

Die Technik wird nicht in den nächsten fünf oder zehn Jahren so weit sein, dass sie wirklich Gedanken lesen und beeinflussen kann, oder?

Andorno: Wir werden sehen. Ich gebe zu bedenken, dass wir so gut wie nichts über die militärische Forschung in diesem Bereich wissen. Die ist sicherlich viel fortgeschrittener, als wir glauben mögen.

Ienca: Das Militär steckt enorme Summen in die Erforschung von Neurotechnologien – zu verschiedenen Zwecken. Das Hauptmotiv ist aber, die Soldaten durch Neurostimulation im Kampf mental robuster, aufmerksamer und wacher zu machen. Da sind schon jede Menge Experimente gelaufen. Aus ethischer Sicht stellt sich da sofort die Frage: Welche Versuche sind ethisch gerechtfertigt und welche nicht? Gerade wenn es darum geht, Soldaten widerstandsfähiger gegen Schlafentzug zu machen. So mancher wird auch daran denken, die Empathie von Soldaten zu mindern, damit sie rücksichtsloser vorgehen. Viele Leute würden sagen, das ist nicht vereinbar mit internationalem Recht. Aber im schlimmsten Fall kann man sich so etwas vorstellen. Ich will nicht sagen, dass jegliche Militärforschung in diesem Bereich schlecht ist. Da gibt es auch gute Anwendungen, zum Beispiel in der Therapie des posttraumatischen Stresssyndroms bei Soldaten, die aus dem Krieg mit traumatischen Erinnerungen heimkehren. Techniken, die selektiv diese Erinnerungen unterdrücken, können von unermesslichem Wert sein. Aber: Wir müssen wachsam sein.

Wehret den Anfängen?

Neurotechnologische Verfahren, die schon heute zum Einsatz kommen

Transcranial Direct Current Stimulation (tDCS): Ein am Schädel angebrachter Ring sendet sanfte Stromstöße ins Gehirn, die die Informationsverarbeitung beeinflussen. So sollen psychische Erkrankungen wie Depressionen bekämpft, aber auch mentale Leistungen wie Aufmerksamkeit und Gedächtnis verbessert werden.

Brain-Computer-Interface (BCI): Schon die Vorstellung eines Verhaltens löst Veränderungen der Hirnaktivität in bestimmten Hirnregionen aus. Ein BCI wird am Schädel angebracht, misst diese elektrischen Signale und sendet sie an einen Computer. Er rechnet die Informationen in Steuersignale für verschiedene Anwendungen um. Körperlich behinderte Menschen beispielsweise können so ihre Gedanken in Worte umwandeln.

Tiefe Hirnstimulation: Patienten wird eine Elektrode ins Gehirn verpflanzt, etwa bei Parkinson. Sie beeinflusst durch elektrische Impulse die Nervenzellen in ganz bestimmten definierten Hirnregionen. Das kann die Symptome der Erkrankung lindern. Neue Systeme zeichnen die Aktivität der Nervenzellen auch auf und senden sie an einen Computer.

Funktionelle Magnetresonanztomografie: Ein Scanner, der es erlaubt, die Aktivität des Gehirns in bunten Bildern zu verfolgen. Auf einem ganz basalen Niveau lassen sich damit bereits einfache Absichten und Erinnerungen erkennen. Oder allgemeine Vorlieben eines Menschen, etwa seine politische Ausrichtung.

Roberto Andorno ist Jurist und arbeitet als Privatdozent an der Universität Zürich. Er forscht außerdem am Institut für Biomedizinische Ethik an derselben Universität.

Marcello Ienca ist Doktorand am Institut für Bio- und Medizinethik der Universität Basel.

Den kompletten Artikel können Sie bei uns kaufen oder freischalten.

Dieser Artikel befindet sich in der Ausgabe: Psychologie Heute 11/2017: Selbstsabotage
print

News

Leben
Viele Menschen möchten ihr Smartphone nicht mehr missen - und manche fühlen sich ihm offenbar näher als ihren Kollegen und Nachbarn.
Leben
Menschen, die glauben, sie hätten etwas Besseres verdient als andere, bezahlen ihre Einstellung unter Umständen mit bestimmten psychologischen Risiken.
Leben
Wie können wir uns den Start in einen neuen Lebensabschnitt erleichtern? Indem wir das, was bald hinter uns liegen wird, auf eine gute Art verabschieden.