Forscher um Almira Osmanovic Thunström von der Universität Göteborg haben im Frühjahr 2024 absichtlich eine fiktive Krankheit namens „Bixonimania“ erfunden, die angeblich durch übermäßige Bildschirmnutzung und blaues Licht entstehen soll. Sie veröffentlichten zwei offensichtlich gefälschte wissenschaftliche Preprints über diese Erkrankung auf einer akademischen Plattform, inklusive vieler Warnsignale wie fiktive Autoren (mit KI-generiertem Foto), einem nicht existierenden Universitäts-Institut und absurden Danksagungen an die „Professor Sideshow Bob Foundation“ und die „University of Fellowship of the Ring“.
Das Experiment verlief jedoch erschreckend erfolgreich: Innerhalb weniger Wochen begannen populäre KI-Chatbots wie Microsoft Copilot, Google Gemini, Perplexity und ChatGPT, die erfundene Krankheit als medizinisch real zu behandeln und Nutzern bei der Beschreibung entsprechender Symptome (juckende, müde Augen durch Bildschirmeinsatz) Bixonimania als Diagnose zu präsentieren. Dabei ignorierten die Modelle offensichtliche Hinweise auf den Scherz und reproduzierten die Fehlinformation als seriösen Gesundheitsrat.
Dieser Vorfall offenbart eine fundamentale Schwachstelle großer Sprachmodelle: Sie können falsche Informationen nicht zuverlässig von wissenschaftlich validierten Fakten unterscheiden und verbreiten erfundene Inhalte als Wahrheit.
Besonders besorgniserregend ist, dass sogar echte wissenschaftliche Publikationen das Fake-Paper zitierten – ein Hinweis darauf, dass einige Forscher möglicherweise KI-generierte Referenzen verwenden, ohne die Originalquellen zu prüfen. Das Team der Universität Göteborg warnt, dass dies ein Lehrstück über die Funktionsweise von Desinformation ist und die Gefahren KI-gestützter Gesundheitsberatung verdeutlicht.
Mehr bei Nature https://www.nature.com/articles/d41586-026-01100-y
Es gibt derzeit einen Trend (Beispiel), Leute nehmen Flatulenzen auf und spielen das dann einer KI vor, die diese „Musik“ bewerten soll. Fairerweise muss man sagen, dass nicht alle KIn darauf hereinfallen, aber teilweise – es ist schreiend komisch, wenn die KI dann im Stil eines Musikkritikers diese Geräusche äußerst ernsthaft rezensiert. Und den Gesprächspartner auch noch in den höchsten und schmeichelhaftesten Tönen lobt dafür.
Es ist dies ein Problem, das immer mehr Aufmerksamkeit gewinnt. Hier ist ein Artikel des Massachusetts Institute of Technology (MIT) zur allgemeinen Dimension des Phänomens. Das MIT nennt es „The Chatbot-Delusion Crisis“. KI kann Menschen dazu verleiten, völlig den Kontakt zur Realität zu verlieren und in Wahnwelten abzugleiten.
Tja, die alte Programmierer-Regel „Garbage in, garbage out“ gilt eben immer noch. Computer sind immer noch Maschinen, auch wenn wir nun mit der sogenannten Künstlichen Intelligenz über ein weit mächtigeres Interface verfügen, als je zuvor.
Der Begriff „Intelligenz“ ist aber meiner Meinung in diesem Zusammenhang völlig irreführend. Ein LLM ist vielmehr sozusagen eine Programmiersprache – mit dem (riesigen!) Vorteil, dass sie jeder spricht. Doch weder AGI (Artificial General Intelligence) noch erst recht ASI (Artificial Super Intelligence) werden sich damit einstellen. Das sind alles nur Marketing-Schlagworte, deren Zweck das Einwerben von Kapital ist. Ja, die enormen Produktivitätsfortschritte, die KI ermöglicht, sind völlig real, und sie werden auch das Antlitz der menschlichen Gesellschaft äußerst tiefgreifend verändern.
Aber denken müssen wir weiterhin selbst. Und wenn wir Müll denken, wird KI diesen Müll nur verstärken – ein Skynet mit Terminatoren würden wir nur, und zwar selbst, dann bauen, wenn wir die Maschinen entsprechend anweisen.
Von alleine tun Maschinen gar nichts. Deshalb sind es ja Maschinen.
Finden Sie das enttäuschend? Aber nein. Denn wir könnten die Maschinen ja auch ein Paradies bauen lassen. Haben Sie mitbekommen, was auf Twitter/X gerade los ist? Sie bekommen seit kurzem Beiträge aus der ganzen Welt in Ihrer Sprache angezeigt. (Man kann jedoch einstellen, für welche Sprachen man keine Übersetzung möchte.)
Und zack, der Turmbau zu Babel ist rückabgewickelt und die Welt ist ein Dorf. Schon mal eine wesentliche Voraussetzung für paradiesische Zustände, finden Sie nicht? Jeder kann auf einmal mit jedem reden. Und „überraschenderweise“ wollen die Menschen überall auf der ganzen Welt das Gleiche: In Frieden und Freiheit ihre Kinder großziehen und Spaß am Leben haben.