Im Bereich des digitalen Jenseits, wo KI-Technologie Gespräche mit Verstorbenen ermöglicht, haben Wissenschaftler der Universität Cambridge Bedenken hinsichtlich ethischer Grenzen und möglicher Gefahren in den Vordergrund gerückt. Diese KI-gesteuerten Chatbots, die als „Deadbots“ oder „Griefbots“ bezeichnet werden, sollen die Sprache und Persönlichkeit verstorbener Angehöriger nachahmen und den Hinterbliebenen Trost spenden. Eine aktuelle Studie warnt jedoch, dass diese Innovationen zu unbeabsichtigten Folgen führen könnten, darunter zu dem, was Forscher als „digitale Spukereien“ beschreiben, denen Sicherheitsstandards fehlen.
Die ethischen Implikationen einer solchen Technologie wurden durch die Erfahrungen von Personen wie Joshua Barbeau unterstrichen, der eine frühe Version der KI-Technologie namens Project December nutzte, um mit einer digitalen Kopie seiner verstorbenen Verlobten zu kommunizieren. Indem er der KI Beispiele ihrer Texte und persönlichen Beschreibungen zur Verfügung stellte, wurde Barbeau Zeuge lebensechter Antworten, die Bedenken über den möglichen Missbrauch einer solchen Technologie aufkommen ließen, darunter die Einblendung von Werbung, die als Gedanken der Verstorbenen getarnt war.
Darüber hinaus betonen Psychologen die Auswirkungen dieser Technologien auf Kinder, die mit dem Verlust fertig werden müssen, was Fragen zur Würde der Verstorbenen und zum Wohlergehen der Lebenden aufwirft. Professor Ines Testoni von der Universität Padua betont, wie schwierig es ist, sich von verstorbenen Angehörigen zu trennen, und betont, wie wichtig es ist, den Tod und seine Folgen zu verstehen. Um mögliche Risiken zu veranschaulichen, skizzieren KI-Ethiker aus Cambridge drei hypothetische Szenarien, in denen Trauerbots Schaden anrichten könnten.
Dazu gehören nicht autorisierte Simulationen von Verstorbenen, die für kommerzielle Produkte werben, Verwirrung durch unrealistische Interaktionen, die zu Verzögerungen der Heilung führen, und die Aufdrängung digitaler Präsenzen bei unfreiwilligen Empfängern, die emotionalen Stress und Schuldgefühle verursachen. Die Studie plädiert für die Umsetzung einwilligungsbasierter Designprozesse für Trauerbots, die Opt-out-Mechanismen und Altersbeschränkungen beinhalten. Darüber hinaus fordert sie neue Rituale, um diese digitalen Repliken respektvoll in den Ruhestand zu schicken, und stellt die Frage, ob diese Technologie den Trauerprozess nicht lediglich verzögert.
Dr. Katarzyna Nowaczyk-Basińska, eine Co-Autorin der Studie, hebt die ethischen Komplexitäten von KI im digitalen Jenseits hervor und betont, dass die Würde der Verstorbenen an erster Stelle stehen und die Rechte sowohl der Datenspender als auch der Datennutzer geschützt werden müssen. Während sich der Einsatz von KI im Bereich des digitalen Jenseits weiterentwickelt, bleiben ethische Überlegungen bei der Navigation durch dieses Neuland von größter Bedeutung. In China spendet die aufstrebende Industrie KI-generierter Repliken verstorbener Angehöriger Trauernden Trost, wirft aber erhebliche ethische Fragen auf. Unternehmen wie Silicon Intelligence nutzen Fortschritte in der KI-Technologie, um digitale Avatare zu erstellen, die Gespräche mit Toten simulieren und Menschen wie Sun Kai Trost spenden, der versucht, eine Verbindung zu seiner verstorbenen Mutter aufrechtzuerhalten.
Die Nachfrage nach diesen Diensten unterstreicht eine kulturelle Tradition der Zwiesprache mit den Toten, aber Kritiker stellen in Frage, ob die Interaktion mit KI-Repliken ein gesundes Mittel zur Trauerbewältigung ist. Trotz technologischer Einschränkungen und ethischer Unsicherheiten boomt der Markt für digitale Unsterblichkeit, die Preise sinken und die Zugänglichkeit nimmt zu. KI-generierte Avatare, ähnlich wie Deepfakes, basieren auf Dateneingaben wie Fotos, Videos und Text, um das Aussehen und die Sprachmuster einer verstorbenen Person zu replizieren. Chinas schnelle Fortschritte in der KI-Technologie haben solche Dienste zugänglicher gemacht, und Unternehmen wie Silicon Intelligence bieten anpassbare Optionen an, die von interaktiven Apps bis hin zu Tablet-Displays reichen.
Während einige diese Nachbildungen als therapeutische Maßnahme betrachten, äußern andere Bedenken hinsichtlich der Authentizität der Interaktionen und der ethischen Implikationen der Nachbildung von Toten ohne deren Einverständnis. Darüber hinaus stellen technische Herausforderungen wie die Nachbildung von Körperbewegungen und die Beschaffung ausreichender Trainingsdaten erhebliche Hürden dar. Die ethischen Dilemmata im Zusammenhang mit KI-Nachbildungen wurden durch einen umstrittenen Vorfall verdeutlicht, in den ein Unternehmen in Ningbo verwickelt war, das mithilfe von KI ohne deren Einverständnis Videos von verstorbenen Prominenten erstellte. Der Vorfall löste öffentliche Empörung aus und machte deutlich, dass für den schnell wachsenden Bereich der digitalen Jenseitstechnologie klare ethische Richtlinien erforderlich sind.