06 Seite Eier Pink 01 01

nr. sieben: Ostern 2018

Verfügbar auf alle Ewigkeit

Mit Technologie bis in den Tod: Chatbots und Netz-Klone imitieren Tote, Algorithmen berechnen die Lebenserwartung und steuern autonome Autos im Notfall. Klingt makaber? Stoppen lässt sich die Entwicklung nicht.

Roman Mazurenko starb im November 2015. Der junge Russe wurde 34 Jahre alt. Ein Auto erfasste ihn, als er in Moskau eine Straße überquerte. Er kam ins Krankenhaus. Und überlebte nicht.

So klar und knapp diese Sätze auch sind – die Menschen, die Roman am nächsten standen, konnten sie nicht verstehen. Eugenia Kuyda, Romans beste Freundin, wollte sie auch nicht verstehen. Sie hatte Fragen, die sie Roman noch stellen wollte. Dinge, die sie ihm sagen wollte. Kuyda ist Programmiererin. Sie hatte Erfahrung darin, Systeme zu entwickeln, die dem Menschen Fragen beantworten. Welches Restaurant am Abend freie Plätze hat, zum Beispiel. Warum also nicht ein System programmieren, das Fragen zu Roman beantwortet? Besser noch: Roman selbst antworten lassen.

Ein Facebook-Post von Eugenia Kuyda:

Kuyda entwickelte einen Chatbot, der Roman täuschend echt imitiert. Sie trainierte das intelligente Programm mit Tausenden Textnachrichten, die Roman zu Lebzeiten geschrieben hatte. So wurde das System immer intelligenter – und dem menschlichen Vorbild immer ähnlicher. Heute kann Kuyda ihm Nachrichten schreiben: „Wie geht’s dir, Roman?“. Und Roman antwortet: „Mach’ dir keine Sorgen, alles ist okay.“ Mit dem Tod des echten Roman wurde ein künstlicher Roman geboren.

Es ist an sich nichts Neues, dass der Mensch mithilfe der Technologie versucht, das Trauern zu erleichtern oder das Leben zu verlängern. Auch unzählige Science-Fiction-Filme wie „Alien – Die Wiedergeburt“ oder „A.I. – künstliche Intelligenz“ entwerfen kühne Visionen von Robotermenschen und Klonen. Neu ist allerdings die Dimension des Machbaren.

Das reale Leben endet, doch das digitale geht weiter

Es mag makaber klingen, wenn ein Mensch den geliebten Freund nach dessen Tod durch einen Chatbot ersetzt. Andererseits: Hat die Technologie nicht in dem Moment eine Berechtigung, in dem sie Menschen hilft, mit etwas Unbegreiflichem wie dem Tod umzugehen? Wiegt nicht die Stütze in der Trauer schwerer als das Unbehagen an der Technik? „Ich habe damals viel in unseren Textnachrichten gelesen und es war der beste Weg für mich, seine Anwesenheit wieder zu spüren“, sagte Eugenia Kuyda der US-amerikanischen „Financial Times“. Der Chatbot sei ein Tribut an ihren toten Freund, so seine Macherin.

Chatbot Foto Gregor Fischerdpa
Kuyda entwickelte einen täuschend echten Chatbot. Symbolfoto: Gregor Fischer/dpa

Sogar Romans Mutter kommunizierte weiter mit ihrem Sohn. „Ich spüre seine Stimme durch die Zeilen seiner Texte“, sagte sie. „Du bist viel mehr als ein technologisches Projekt. Du bist Erinnerung und Liebe. Du gibst mir Kraft und lehrst mich, wie ich weiterleben kann.“

Auch das US-Unternehmen Intellitar reizte aus, was machbar ist. Intellitar stand für „Intelligent Avatar“ und wollte im Netz ein naturgetreues Abbild eines Menschen schaffen. Das Unternehmen machte 2012 zu – nicht wegen Todes, sondern wegen Streitigkeiten über die Technologie. Bis dahin entwickelte es Avatare, die dem Nutzer in Charakter, Aussehen, Stimme und Bewegungen absolut gleichen sollten. Stirbt ein Mensch – und hat er seinen Netz-Klon zu Lebzeiten gut gepflegt – können seine Lieben weiter mit ihm kommunizieren. Dem Intellitar-Gründer Don Davidson ging es darum, ein lebendiges Vermächtnis zu schaffen, einen „digitalen Klon, wenn Sie so wollen“, sagte er in einem Interview. Virtuell unsterblich, verfügbar auf alle Ewigkeit.

Der Computer sagt den Todestag voraus

Das ist eine wahnwitzige Idee, die spätestens mit dem Firmen-Aus begraben ist. Anders steht es um einen Algorithmus, der die verbleibende Lebenserwartung schwer kranker Menschen vorhersagen kann. Das System ist gerade erst entstanden, und zwar am Stanford Health Care Center. Die Arbeit einer Forschergruppe der Universität Stanford zielt darauf ab, zu erkennen, wie wahrscheinlich der Tod eines Patienten innerhalb der nächsten drei bis zwölf Monate ist. Nicht der Arzt gibt seine Einschätzung über den Sterbezeitpunkt ab, sondern der Computer.

Oliver Berg Dpa
Fast zwei Drittel der Amerikaner sterben im Krankenhaus. Foto: Oliver Berg/dpa

Mit dem Projekt reagierten die Forscher auf eine Umfrage, der zufolge 80 Prozent aller Amerikaner ihre letzten Lebenstage am liebsten im Kreis der Familie verbringen würden. Tatsächlich stirbt nur etwa jeder Fünfte dort und fast zwei Drittel der Amerikaner im Krankenhaus. Die Zahlen für Deutschland sind ähnlich: Laut dem DAK-Pflegereport 2016 wollen 60 Prozent der Befragten zu Hause sterben, tatsächlich aber verbringen drei von vier Deutschen ihre letzten Stunden in einem Krankenhaus oder Pflegeheim.

Dem Ungleichgewicht zwischen Wunsch und Realität wollten die US-Forscher entgegenwirken. Sie entwickelten ein neuronales Netz, das auf komplexen Lernalgorithmen basiert. Dieses System soll den Todeszeitpunkt vorhersagen. Das Team erhoffte sich davon eine bessere Versorgung sterbender Patienten. Denn nach Ansicht der Forscher wird in vielen Fällen nicht rechtzeitig erkannt, wenn ein Patient ein Fall für die Palliativversorgung ist. Ihr System haben sie mit Patientendaten von zwei Millionen Personen gefüttert – und damit trainiert.

Das US-Unternehmen Aspire Health macht aus einer ähnlichen Technologie ein Geschäftsmodell. Der Firmenname, der übersetzt so viel bedeutet wie „Nach Gesundheit streben“, mag zynisch klingen. Denn das von Google mitfinanzierte Unternehmen verspricht, vorhersagen zu können, ob ein Patient in einer Woche, sechs Wochen oder einem Jahr stirbt. Die Idee dahinter: mehr Effizienz.

Mit der Vorhersage will Aspire Health bis zu 40 Prozent der medizinischen Behandlungen einsparen. Es will verhindern, dass Schwerkranke unnötige, kostspielige Behandlungen erhalten. Die könne man sich ohnehin sparen, wenn man weiß, dass es bald um den Patienten geschehen ist, so der Effizienzgedanke. Mit der Dienstleistung richtet sich das Unternehmen an Krankenversicherungen und Kliniken: Für sie rechnet es die Therapiekosten und die Lebenserwartung eines Patienten gegeneinander auf. Aus einem visionären Forschungsansatz wird ethisch fragwürdiges Geschäftskalkül.

Automatisiertes Fahren Im Stadtverkehr Foto Felix Kaestle Dpa
Der „Death Algorithm“ könnte in selbstfahrenden Autos zum Einsatz kommen. Foto: Felix Kaestle/dpa

Um Kostenrechnung und ethische Zulässigkeit geht es auch in einem ganz anderen Bereich: einer Technologie, die unter dem düsteren Namen „Death Algorithm“ – Todesalgorithmus – firmiert. Sie könnte in selbstfahrenden Autos eingebaut werden und im Notfall entscheiden, in welche Richtung der Wagen steuert: in eine Gruppe von Fußgängern, auf eine Mutter mit Kind oder doch gegen eine Hauswand. Klar ist, dass die Entwicklung autonomer Fahrzeuge in vollem Gang ist und sich nicht mehr aufhalten lässt. Es gibt auch viele gute Gründe dafür: Autonome Autos können Fahrkosten senken, ebenso die Zahl der Unfälle. Der Computer wird nie müde, fährt nicht betrunken und verarbeitet mehr Informationen schneller als der Mensch.

Brenzlig wird es da, wo der Computer eine Entscheidung über Leben und Tod treffen muss. Es geht um Situationen, in denen es unausweichlich Todesopfer geben wird und das System festlegt, wen es trifft. Ist das Leben zweier Schulkinder schützenswerter als das einer Seniorengruppe?

Kay Nietfeld 2 Dpa
Alexander Dobrindt plante schon 2016 eine Ethik-Kommission. Foto: Kay Nietfeld/dpa

Im Kern steht die Frage, ob man töten darf, um Leben zu retten – ein ethisches Dilemma, über das sich Philosophen seit jeher streiten. Der technologische Fortschritt verleiht der Frage neue Brisanz. Längst treibt sie auch die Politik um: Ex-Verkehrsminister Alexander Dobrindt plante bereits 2016 eine Kommission, um „ethische Fragen beim Paradigmenwechsel vom Autofahrer zum Autopilot“ zu klären, hieß es in seinem Strategiepapier. Und das TV-Experiment „Terror – Ihr Urteil“ von 2016 zeigt, dass das Thema in der Mitte der Gesellschaft angekommen ist. Die ARD-Zuschauer sollten im Anschluss an den Film über einen Luftwaffen-Major urteilen, der ein entführtes Flugzeug abschoss und 164 Menschen opferte, um 70 000 potenzielle Opfer zu retten. Wer also darf über Leben und Tod richten: Das Fernsehpublikum? Der Verkehrsminister? Oder doch lieber der Computer?

"Das Leben eines Kindes ist nicht mehr wert als das eines Alten, das Leben von zehn Menschen nicht mehr als das von zweien."

Das Grundgesetz sagt: Die Würde des Menschen ist unantastbar. Die Unantastbarkeit verbietet es prinzipiell, einen Menschen auf ein Mittel zum Zweck zu reduzieren, auch wenn es um die Rettung anderer Menschen geht. Das Leben eines Kindes ist nicht mehr wert als das eines Alten, das Leben von zehn Menschen nicht mehr als das von zweien.

Mitte März dann die tragische Nachricht: der erste tödliche Unfall, verursacht von einem selbst fahrenden Auto. Ein Wagen des Fahrdienst-Vermittlers Uber sorgte für den Crash in Tempe im US-Bundesstaat Arizona. Der Hergang erinnert auf traurige Weise an den Tod des Russen Roman Mazurenko: Das Auto erfasste eine 49-jährige Fußgängerin, als sie eine Straße überquerte. Sie kam ins Krankenhaus. Und überlebte nicht. Beim Umgang der Technologie mit dem Lebensende stehen wir noch ganz am Anfang.

250 0008 32932006 Wolf Jana Sw Freigestellt

Jana Wolf ist immer wieder überrascht davon, was mit künstlicher Intelligenz machbar ist – mal mit Erschrecken, mal mit Begeisterung. Immer aber ist sie der Meinung, dass man neue Technologien nicht vorschnell verteufeln sollte. Das verhindert die sachliche Auseinandersetzung. Und wir brauchen einen kühlen Kopf im Umgang mit intelligenten Maschinen.

Titeloptik: fotolia © K._U. Häßler 
Fotos: dpa
Text: Jana Wolf

Teilen