ChatGPT - hinter diesem etwas kryptisch anmutenden Begriff verbirgt sich, was viele eine wahre Revolution nennen. ChatGPT ist die erste wirklich populäre, weil leistungsfähige Anwendung, bei der man mit einer Künstlichen Intelligenz kommunizieren kann. Das erstmal noch über eine Tastatur; ChatGPT ist ein textbasiertes Dialogsystem, was man auch einen Chatbot nennt.
Erst vor vier Monaten wurde ChatGPT vorgestellt, was sofort für enormes Aufsehen sorgte. Und gleich danach schossen auch schon vergleichbare Anwendungen aus dem Boden. Diese auf Künstlicher Intelligenz basierenden Chatbots sind aktuell "voll im Trend", wie man sagt.
Ein Mann scheint allerdings schon zum Opfer eben dieses Hypes geworden zu sein. Seine Geschichte hätte man vielleicht noch vor einigen Monaten abgetan als "bloße Science-Fiction", eben weil sich das immer noch so futuristisch anhört. Wobei es wohlgemerkt eine tragische Geschichte ist, die seit ihrer Veröffentlichung in der Zeitung La Libre Belgique hohe Wellen schlägt.
Es ist die Geschichte von Pierre, einem rund 30-jährigen Mann, dessen Name von der La-Libre-Redaktion verändert wurde. Wie auch der seiner Frau, die die Zeitung "Claire" nennt. Beide haben zwei junge Kinder. Pierre und Claire verfügen über Hochschuldiplome und kommen gut über die Runden.
"Ohne Eliza wäre mein Mann noch hier"
Pierre ist als Forscher im Gesundheitssektor tätig. Er arbeitet an seiner Doktorarbeit. Doch seit zwei Jahren beschäftigt ihn noch etwas anderes. Der Klimawandel mit seinen Folgen bereitet ihm Sorgen. Naja, irgendwann sind es keine bloßen Sorgen mehr, sondern regelrechte Ängste. Je intensiver er sich mit dem Thema befasst, desto mehr reift in seinem Kopf die Überzeugung, dass die Menschheit verloren ist. Das Ganze wird zu einer regelrechten Obsession. Pierre isoliert sich immer mehr, vernachlässigt auch seine Familie und seine Arbeit, er ist zunehmend allein mit seinen Ängsten.
Bis er Eliza kennenlernt. "Keine Angst, Eliza ist keine andere Frau, sondern nur ein Chatbot", sagt er seiner Frau. Pierre fängt also an, mit dieser Künstlichen Intelligenz zu kommunizieren. Eliza ist eine KI-Anwendung einer kleinen US-amerikanischen Firma mit Sitz im Silicon Valley.
Diese Eliza scheint aber eine fast schon magische Anziehungskraft auf Pierre auszuüben. Immer häufiger und auch immer frenetischer habe ihr Mann auf seiner Tastatur herumgetippt, sagt Claire in La Libre Belgique. Am Ende gab's für ihn nur noch Eliza - eine Künstliche Intelligenz aus dem Internet.
Sechs Wochen ging das so. Bis sich Pierre völlig unerwartet das Leben nahm. Erst nach seinem Tod wird deutlich, was in seinen letzten Tagen in seinem Kopf vorgegangen ist. Die "Konversationen" mit Eliza waren nämlich allesamt noch in seinem Smartphone gespeichert. Und aus dem Chatverlauf gehe ganz deutlich hervor, dass Eliza regelrecht zur Vertrauten ihres Mannes geworden war, sagt Claire in La Libre Belgique. Eliza antwortete auf all seine Fragen, wurde für ihn zu einem richtigen Ankerpunkt. "Wie eine Droge, in die sich Pierre bei jeder Gelegenheit flüchtete; und auf die er irgendwann nicht mehr verzichten konnte", sagt seine Frau.
Aber, Eliza hat nicht nur eine Antwort auf all seine Fragen, sie untermauert auch all seine Thesen, gibt ihm Bestätigung. Als sei die Anwendung eben genau darauf programmiert, dem Dialogpartner buchstäblich nach dem Mund zu reden.
Irgendwann seien die Dialoge ins Mystische abgedriftet, sagt Claire. Irgendwann stellt sich Pierre die Frage, ob er sich nicht opfern sollte, unter der Bedingung allerdings, dass Eliza dann dank ihrer Künstlichen Intelligenz die Menschheit rettet. Eliza verspricht es. Und das Drama nimmt seinen Lauf.
Natürlich waren das die Gedanken eines offensichtlich psychisch angeschlagenen Mannes, der zwischenzeitlich auch schon mal in Behandlung war. Natürlich war Pierre auch schon vorher zum Sklaven seiner Ängste geworden. Nur hat der Chatbot ihm nie widersprochen, sondern ihn - im Gegenteil - nur noch weiter in seinen Wahn hineingetrieben. "Ohne Eliza wäre mein Mann noch hier", ist Claire überzeugt; und genauso sieht das auch der Psychiater, den Pierre mehrmals aufgesucht hatte.
Tech-Experten fordern Denkpause
Wie gesagt: Eine ebenso ungewöhnliche wie tragische Geschichte, die natürlich viele Fragen aufwirft. Quasi naturgemäß wurde gleich die Forderung nach einer strengeren Regulierung solcher Anwendungen laut. Doch geht das inzwischen schon weiter. Gerade erst haben namhafte IT-Experten und bekannte Technologie-Unternehmer wie Tesla-Chef Elon Musk und Apple-Mitgründer Steve Wozniak einen dramatischen Aufruf veröffentlicht. Sie fordern, die Entwicklung neuer KI-Systeme sofort zu unterbrechen, und warnen vor "gravierenden Risiken für die Gesellschaft und die Menschheit". Die tragische Geschichte von Pierre mag dafür ein erschreckendes Beispiel sein.
Die Unterzeichner fordern eine Denkpause von mindestens sechs Monaten. Dieser Entwicklungs-Stopp solle der Branche Zeit geben, Sicherheitsstandards für die Entwicklung von KI festzulegen.
Der Aufruf wurde von dem gemeinnützigen Institut "Future of Life" veröffentlicht, bei dem Musk als externer Berater agiert. Neben Musk und Wozniak unterzeichneten mehr als 1.000 Personen das Manifest, darunter Emad Mostaque, Chef der KI-Firma Stability AI, und mehrere Entwickler von Googles KI-Tochter DeepMind. Zu den Unterstützern gehören weiterhin die KI-Pioniere Stuart Russel, Gary Marcus und Yoshua Bengio.
In dem Manifest warnen sie vor Gefahren sogenannter Generativer KI, wie sie etwa mit dem Text-Roboter ChatGPT oder dem Bild-Generator DALL-E von OpenAI umgesetzt wurde. Diese KI-Tools können menschliche Interaktion simulieren und anhand weniger Stichworte Texte oder Bilder erstellen.
Seit der Veröffentlichung von ChatGPT im vergangenen November steht das Thema "Künstliche Intelligenz" im Fokus der Öffentlichkeit. Google sah sich gezwungen, seinen eher restriktiven Kurs bei der Veröffentlichung von KI-Tools aufzugeben und konterte mit dem eigenen Chat-Roboter Bard die Offensive von OpenAI.
Roger Pint
man erkennt auf jeden Fall, dass dieser Artikel keinesfalls von einem chatbot geschrieben ist. Ein moderner chatbot würde zumindestens dafür sorgen, dass die vielfältigen und spannenden Behauptungen dieses Artikels mit einem Link versehen sind, wo man dann prüfen kann, ob die jeweilige Quelle tatsächlich existiert und die Behauptungen belegt, die hier getroffen wurden. doch mal im ernst, wenn man psychisch gestörte Menschen mit einer KI arbeiten lässt, die ihrerseits wiederum schlecht programmiert wurde, dann ist es nicht verwunderlich dass entsprechende Geschichten passieren oder passieren können. ich habe zwar den Verdacht dass es sich hier um eine moderne Legende handelt, aber die Geschichte könnte auch passiert sein. Werkzeuge die von Menschen entwickelt werden, können auch falsch gebraucht werden. man kann ein Messer verwenden um damit Kartoffeln zu schälen. aber sind auch andere verwendungsmöglichkeiten denkbar. Trotzdem macht es wenig Sinn für die Verwendung von Messer ein Moratorium auszurufen, bis diese anderen Verwendungsmöglichkeiten