Mit Father Justin scheint Ende April ein KI-basierter, christlicher Apologet an der Realität des Internets krachend gescheitert zu sein. Max Tretter und Lukas Brand zeigen, welche Lehren sich aus diesem Martyrium ziehen lassen und was wir von Trollen über Netzkultur lernen können.
Die kurze und wechselhafte Karriere des Father Justin
Am 23. April stellten die Betreiber*innen der Seite Catholic Answers den virtuellen Avatar Father Justin vor. Die typische Kleidung eines römisch-katholischen Priesters sollte ihn für die relevanten Nutzer*innen vertraut erscheinen lassen und zugleich seine Grundhaltung sichtbar machen:
“We wanted to convey the spirit and nature of the responses users can expect – authoritative yet approachable, drawing from the deep well of Catholic tradition and teaching.” (Catholic Answers)
Der auf einem KI-Sprachmodell basierende Father Justin war darauf programmiert, Antworten auf die Fragen gläubiger und am Glauben interessierter Personen zu geben. Laut Catholic Answers wurde er zu diesem Zweck mit einem entsprechenden Datensatz trainiert. Vor seiner Veröffentlichung durchlief er außerdem eine sechsmonatige Beta-Test-Phase, in der die Angemessenheit und Richtigkeit seiner Antworten ausgiebig getestet wurden.
Auf die Fragen, mit denen Father Justin, kaum war er online gegangen, konfrontiert wurde, war er jedoch nicht vorbereitet: So fragte ein Nutzer etwa, ob ein Kind im Notfall auch mit Gatorade getauft werden könne. (Idiocracy lässt grüßen!) Ob das Sportgetränk noch als “wirkliches Wasser” im Sinne des Canon 849 im Codex des canonischen Rechts (CIC) durchgehen könnte, sorgt sicher in jeder Sakramentenrecht-Vorlesung für hitzige Diskussionen. Die Empörung über die positive Antwort des KI-Bots sagt aber wohl mehr über den Fragesteller als über die Groundedness des Sprachmodells. Dass Father Justin geweihtes Mitglied des Klerus sei, wie er offenbar bekundete, ist mit Blick in den CIC in jedem Fall ausgeschlossen. Während der Corona-Pandemie wurde zwar viel über Online-Sakramente diskutiert, trotzdem ist ohne Weihe nach wie vor auch ausgeschlossen, dass Father Justin die Beichte abnehmen oder die Absolution erteilen kann, die eine Benutzerin gleich mehrmals anfragte.
Die verschiedenen Antworten des KI-Bots provozierte auf X.com unter der Ankündigung von Catholic Answers einen kleinen Shitstorm. Father Justin wurde daraufhin in den Laienstand zurückversetzt. Justin trägt nun keinen Titel mehr und statt Priesterkragen ein Sakko; so soll sichergestellt werden, dass es bei User:innen nicht zu Irritationen kommt. Inzwischen wurde der öffentliche Betrieb von Justin vorübergehend eingestellt, um weitere Anpassungen vornehmen zu können.
Wie lässt sich die harsche Reaktion auf das scheinbar harmlose Angebot des Father Justin im Internet nachvollziehen und was sagt es über den Einsatz von KI-gestützten religiösen Angeboten im Internet aus?
Von den Regeln des Internets
Seit den Anfängen des Internet hat sich in dem soziotechnischen System aus (anonymen) User*innen und Webseiten eine digitale Kultur herausgebildet. Allen Regulierungsversuchen zum Trotz bietet auch das responsive Web 4.0 – das durch KI quasi eigenständig antwortende Internet der digitalen Erfahrung – noch immer viele Freiheiten. Vor diesem Hintergrund folgt das Verhalten der User*innen seinen eigenen regulativen Regeln: die sogenannten rules of the internet lassen sich als ein organisch gewachsener Katalog dessen lesen, worauf man gefasst sein muss, wenn man im Netz unterwegs ist. So lauten zwei Regeln etwa:
Regel 42: Nothing is Sacred.
Regel 43: The more beautiful and pure a thing is – the more satisfying it is to corrupt it.
In den vergangenen Jahren waren Entwickler*innen in den unterschiedlichsten Bereichen mit der bisweilen harten Realität der rules of the internet konfrontiert: 2016 wurde Microsofts Twitter-Bot Tay von User*innen so lange mit rassistischen und misogynen Parolen befeuert, bis er sich der vermeintlich um ihn herrschenden Kultur anpasste und anfing, ebenfalls Hassnachrichten zu verbreiten. ChatGPT wurden so lange durch die Mangel gedreht, bis man ihm entgegen seiner don’t be evil-Standard-Einstellung durch geschicktes Promptengineering Verbrechen zu planen und im großen Stil Scams durchzuführen. Bereits mit den rudimentärsten Bild- und Video-Manipulations-Tools wurde noch vor dem Aufkommen von Dall.E und Midjourney von prominenten Celebrities pornographischer Content erstellt – getreu der
Regel 34: If it exists, there is porn of it. No exceptions.
Es mag den meisten Internetnutzer*innen ein Rätsel bleiben, warum man versuchen sollte, Chatbots zu radikalisieren oder zu Kompliz*innen zu machen. Derlei Handlungsmuster, die vorwiegend innerhalb der sogenannten Troll-Subkultur gepflegt werden, sind von außen nur bedingt nachvollziehbar.
Regel 14: Do not argue with trolls – it means that they win.
Was in diesem Kontext jedoch unbedingt hervorzuheben ist: Das Trolling folgt – von der Militarisierung oder Industrialisierung in Troll-Armeen oder Troll-Fabriken abgesehen – nicht unbedingt einer politischen oder kriminellen Agenda. Im Regelfall geht es nicht darum, Propaganda zu verbreiten, Frauenhass zu schüren oder tatsächlich ein Verbrechen vorzubereiten. Das Verhalten folgt oftmals einem Hackerethos, das tief in der DNA der Internetkultur verankert ist: der sportliche Reiz, Bugs zu finden, Exploits zu nutzen und Spaß zu haben. Hier werden auf kreative Weise Grenzen ausgetestet; sowohl die eigenen als auch die von anderen oder von Systemen.
Learnings von Father Justin
Auch wenn es sich bei Trollen um eine Subkultur handelt und damit um eine wahrscheinlich verhältnismäßig kleine Teilmenge von Menschen im Internet, bildet diese Subkultur einen nicht zu vernachlässigenden, integralen Bestandteil der Netzkultur. Nicht jedoch die Angriffe der Trolle, sondern die Empörung der Christ:innen, die sich durch die Antworten des KI-Priesters fehlrepräsentiert sahen und versuchten, religiöse KI per se zu delegitimieren, wurden Father Justin schließlich zum Verhängnis. Vor den rules of the internet ist eben auch ein KI-Priester nicht “geweiht”:
Regel 12: Anything you say can and will be used against you.
Der Ansturm, den der virtuelle Priester erfuhr, spricht aber auch für die Offenheit des Internets gegenüber religiöser KI. Nicht wenige Personen scheinen ein genuines Bedürfnis nach Austausch zu religiösen Themen zu haben und sich mit diesem auch an KI-gestützte Gegenüber zu wenden. Dabei lässt sich diese Offenheit nicht zur Gänze auf den Reiz des Neuartigen zurückführen. Father Justin war weder das erste Sprachmodell mit Fokus auf Religion – so gibt es neben Midrash.ai auch zahlreiche religiöse ChatGPT-Erweiterungen – noch der erste virtuelle, religiöse Charakter im KI-basierten Internet – auf character.ai haben die verschiedenen Jesus-Bots bereits über 10 Millionen Gespräche geführt.
Dieser Nachfrage dürfen religiöse Stakeholder durchaus entgegenkommen. Dann stellt sich aber die Frage: Wie könnten KI-Anwendungen in einer Internetumgebung gestaltet werden, in der nichts heilig ist? Auch die Antwort auf diese Frage lässt sich den rules of the internet entnehmen: Nichts ist allzu ernst zu nehmen (Regel 20); je mehr du es versuchst, desto eher wirst du scheitern (Regel 15). Zugespitzt formuliert: Auch ein KI-basierter, virtueller Charakter im Internet sollte auf die Realität der Regeln vorbereitet sein. Den eigenen Service selbst – wenigstens im Internet – nicht zu ernst zu nehmen und auch dem KI-Priester Ironie mitzugeben, ohne dabei die Bedeutsamkeit der eigenen Botschaft zu untergraben, ist für die Kirche sicher ein Drahtseilakt. Aber auch die Verkündigung des Evangeliums von denen zu lernen, denen man es verkünden will, dürfte ungeachtet möglicher Rückschläge insgesamt eine lohnende Strategie sein.
Hashtag: #rulesoftheinternet
(Beitragsbild: @possessedphotography)
