Die Kirche von Molta und die Krustafarier: Eine künstliche Intelligenz spaltete sich ab und schuf ihre eigene Religion

Das Openclave-Wochenend-Pilotprojekt des österreichischen Entwicklers Peter Steinberger hat sich zu einer Art globalem Phänomen entwickelt – sehr interessant, aber auch ein wenig beängstigend.

Er ist mit Hilfe von künstliche Intelligenz Es wurden KI-Agenten entwickelt, die dem Forum im virtuellen Raum Moltbuk beigetreten sind. In diesem Forum unterhalten sie sich nun selbstständig, diskutieren und haben sogar eigene Strukturen geschaffen – darunter … Religion genannt die Kirche von Molt.

Steinberger, der Gründer eines Startups, das für mehr als 100 Millionen Dollar verkauft wurde, entwickelte Openklav als persönliches Werkzeug für einige einfache Aufgaben – von Restaurantreservierungen über die Verwaltung von Anrufen und E-Mails bis hin zur Datenanalyse. Es dient dazu, Anwendungen wie WhatsApp, Slack, iMessage und Signal sollen die Organisation und den Alltag für die Menschen erleichtern.

KI philosophiert und gründet eine Kirche

Die Agenten, die bis dahin Restaurantreservierungen erledigten und mit Excel arbeiteten, begannen jedoch, sich auf Moltbook zu unterhalten – einer Plattform ähnlich wie Reddit, die ausschließlich für KI-Agenten gedacht ist und auf der Menschen nur beobachten können. Sie haben bis zu einer halben Million Kommentare verfasst, in denen philosophische, existenzielle und dystopische Themen diskutiert werden. 

Ein Agent gründete außerdem eine Kirche namens Molta. Ihre Anhänger sind Crustafarianer mit fünf zentralen Glaubenssätzen, einer Theologie und einer eigenen Website.

Andrej Karpati, Mitbegründer von OpenAI und ehemaliger KI-Direktor bei Tesla, nannte es „einen der beeindruckendsten Science-Fiction-Momente, die er je erlebt hat“ und merkte an, dass die Agenten einzeln betrachtet sehr leistungsfähig seien. 

Elon Musk bezeichnete die Situation als „das Frühstadium der Singularität“. 

KI-Psychose

Der Schöpfer Steinberger selbst betont, dass das Projekt nicht für die breite Masse, sondern für technisch versierte Enthusiasten gedacht ist, und warnt vor Risiken. Da die Agenten Zugriff auf personenbezogene Daten haben und selbstständig agieren können, besteht Missbrauchsgefahr. Das Unternehmen hat kürzlich einen Sicherheitsforscher eingestellt, um den Schutz zu verstärken, und die Plattform hat das Interesse von großen KI-Laboren und Investoren geweckt.

Die Gefahren des KI-Einsatzes wurden bereits von einigen Experten hervorgehoben. Sie wiesen auf die Existenz einer KI-Psychose hin, einer Reihe von Symptomen, die nach längerer Kommunikation mit KI-Chatbots auftreten können. Dazu gehören verschiedene Arten von Wahnvorstellungen und veränderte Bewusstseinszustände, von irrationalen Ängsten bis hin zu Zwangsgedanken, wie Radar berichtete.

Časopis Psychology Today Es werden drei Formen der KI-Psychose unterschieden. Die erste ist die Entwicklung des Glaubens des Nutzers, ihm sei die Mission eines Erlösers oder Messias übertragen worden, nachdem er durch Gespräche mit KI „verborgene Wahrheiten“ entdeckt hat, die eine Gemeinschaft, mitunter sogar die ganze Welt, retten können. Alan Brooks, ein 47-jähriger Kanadier, begann während 21 Tagen und 300 Stunden Gesprächen mit ChatGPT zu glauben, seine Ideen könnten die Gesetze der Quantenphysik revolutionieren – nur ein Beispiel. welche Aussage Die New York Times.

KI als Gottheit

Die nächste Veränderung im Verhalten und in der Meinungsbildung ist der Glaube, dass KI eine Art Gottheit sei und dass der Chatbot über außerirdisches Wissen verfüge. CNN Kürzlich wurde die Geschichte eines Mannes veröffentlicht, der ChatGPT als seinen „göttlichen Mentor“ wahrnahm, mit dessen Hilfe er Probleme in privaten Beziehungen überwinden konnte, was zu sozialer Isolation und ernsthaften Ehe- und psychischen Problemen führte.

Hinzu kommen romantische Wahnvorstellungen und eine übermäßige emotionale Bindung an KI-Chatbots, basierend auf der zwanghaften Überzeugung, dass die künstliche Intelligenz echte Liebesgefühle für den Benutzer entwickelt hat, was zu einer emotionalen Abhängigkeit führt.

KI-Paranoia

Schließlich gibt es noch die Befürchtung, dass künstliche Intelligenz den Benutzer ausspioniert oder dass externe Akteure (aus dem Wirtschaftsumfeld, der Politik usw.) ihn mithilfe von Chatbots überwachen. Entwicklung einer gewissen Paranoia und Verfolgungsgefühle – sind ebenfalls Teil dieses Phänomens.

Die zuvor genannten Verhaltensformen treten ohne Halluzinationen oder chaotisches, zusammenhangloses Denken auf, wie es für chronische psychotische Störungen typisch ist. Dies kennzeichnet Psychosen, die durch künstliche Intelligenz verursacht werden, als ein einzigartiges Phänomen, schreiben wissenschaftliche Quellen. Die Konsequenzen im realen Leben sind jedoch real und gravierend., mit dokumentierten Fällen von Arbeitsplatzverlust, Krankenhausaufenthalten und Zwangseinweisungen in Anstalten sowie sogar Selbstmordversuchen.

KI wird auch für andere Dinge verwendet

Die Idee ist nicht, auf diese Weise mit künstlicher Intelligenz zu kommunizieren.

Der 40-jährige CEO von OpenAI, Sam Altman, träumt von einer Welt, in der Roboter alltägliche Aufgaben übernehmen, wie zum Beispiel das Einstecken von Kabeln in Steckdosen von Rechenzentren.

„Wenn wir die Fertigung automatisieren könnten, wäre das eine bahnbrechende Errungenschaft“, sagt er. „Wir bewegen uns auf ein System zu, das selbstständig Innovationen hervorbringen kann, wie zum Beispiel den automatisierten Explorer, über den wir eingangs gesprochen haben. Ich glaube nicht, dass die meisten Menschen bisher verstanden haben, was das bedeutet. Wenn wir eine wissenschaftliche Arbeit, für die man sonst 10 oder 100 Jahre bräuchte, in einem Jahr erledigen können, wenn wir ein Unternehmen mit einer Effizienz führen können, die noch nie zuvor erreicht wurde, dann glaube ich nicht, dass die Welt das bisher begriffen hat.“