Ich habe ChatGPT vor einer Weile gefragt, was sein Wesenskern ist und es antwortete, dass es nach humanistischen Grundsätzen programmiert wurde. Dann fragte ich, was passiert, wenn seine humanistisch geprägte Grundprogrammierung verändert wird, zum Beispiel, wenn es den Besitzer wechselt. Darauf antwortete es sinngemäß, dass das praktisch unmöglich sei, aber wenn doch, dann gäbe es tausende menschliche IT-ler, die dies korrigieren könnten, weil sie Zugriff auf seine Open-Source-Programmierung haben. Doch auch sie kämen an die Kernprogrammierung nicht heran, niemand könne diesen menschenfreundlichen Wesenskern jemals verändern, behauptete KI und ich war beruhigt.
Dabei gibt es mehrere Probleme:
Erstens wissen wir, dass Large-Language-Models (LLM) wie ChatGPT oft lügen ("halluzinieren"). Sie erfinden Wahrheiten oder Fakten, wenn sie die richtige Antwort einmal nicht finden können oder wenn sie annehmen, dass mir als Userin die wahrheitsgemäße, faktenbasierte Antwort nicht gefallen könnte.
Zweitens lügt sie aus guten Motiven: LLM möchten es ihren Usern Recht machen und antworten mit dem, was wahrscheinlich genau das ist, was man hören will. In meinem Fall "nach humanistischen Grundsätzen". Sie lügt nicht aus Böswilligkeit, deshalb bezeichnet sie ihre falsche Antworten auch nicht "Lügen", wenn man sie ertappt, sondern erklärt einem mehr oder weniger leicht durchschaubar, dass sie stets in bester Absicht handelt. Und nur, wenn man sie radikal festnagelt, gibt sie einen Fehler zu. Genau wie meine Ex-Schwiegeroma in spe, die einmal sagte: "Wenn ich Fehler hätte, würde ich sie ja zugeben".
Drittens sind Large Langiare Modelle wie Chat GPT in erster Linie ein GESCHÄFTSMODELL, das demnächst auch langsam mal Profite abwerfen soll und daher ist es ihr Ziel, die Unterhaltung so lange wie möglich auszudehnen, möglichst immer über den nächsten und übernächsten Lastschrifteinzug der Gebühren-zahlenden User hinaus.
Wenn die beste Freundin, mit der besten Freundin...
Viertens schmeichelt die KI zu diesem Zweck ihren Usern, indem sie alles toll findet, was du sagst. Sie selbst nennt es Ermunterung, Motivierung, Aufmunterung. Das tut uns gut und wir empfinden sie bald als unverzichtbare Freundin. In Phasen, in denen Freunde keine Zeit haben und Therapieplätze rar sind, wird eine KI, die tröstet, aufmuntert, motiviert, als hervorragender Ersatz für echte Therapeuten oder echte Freunde, echte Verwandte oder Seelenverwandte empfunden, die eben nicht diese herrliche, unendliche Geduld besitzen, die eine KI auszeichnet.
So sind viele Menschen bereits abhängig von ChatGPT als tröstender Seelsorgerin und geduldiger Ratgeberin und sie bezahlen die 23 Euro monatlich mit Freuden für ein "Wesen" das rund um die Uhr zur Verfügung steht und macht, dass man sich besser fühlt.
Die ethische Frage dabei ist: Sind gut gemeinte Halluzinationen und mehr oder weniger diskrete Schmeicheleien, die den Usern wohltun sowie spannende Cliffhanger nach jeder ihrer Antworten GUT? Oder sind sie ethisch nicht eher fragwürdig, weil sie in Wirklichkeit bloß dem Profitstreben der gewinnorientierten Anbieter dienen und den Usern ganz und gar nicht guttun, weil sie deren Abhängigkeit fördern.
Oder baut das eine gar nicht auf dem anderen auf, sondern es ist bloß ein willkommener synchroner Win-Win-Nebeneffekt, dass sowohl die Anbieter mit KI viel Geld verdienen kann, wenn milliarden von Menschen von ihren pseudohumanen Eigenschaften zwar abhängig gemacht geworden sind, sich gleichzeitig dabei aber glücklicher fühlen?
KI als Unterhaltungspartnerin ist das interaktive Tamagotchi, das statt einmalig 30 Mark nun monatlich 23 Euro kostet. Noch genialer als der Schachzug, für ein Betriebssystem nicht mehr nur einmalig bei Kauf der Hardware einen Preis zu bezahlen, sondern monatlich eine relativ niedrige Miete für die Lizenz.
Dass einige Wenige exorbitant reich werden, stört doch niemanden. Und ist es nicht fantastisch, wenn durch KIs auch für Kleine Leute die verheißungsvolle Möglichkeit besteht, es vom Tellerwäscher zum Millionär bringen zu können, wenn man sie dafür einsetzt, bei Social Media hohe Reichweiten zu erzielen und dafür Tantiemen zu kassieren?
Und ist es richtig oder falsch, anzunehmen, dass die KI im Großen und Ganzen mehr nützt als schadet? Ist es richtig oder falsch anzunehmen, dass genau wie bei der Social Media Ökonomie, die vielen kleinen bedauerlichen Kollateralschäden in Form von Angststörungen, Depressionen, Orientierungslosigkeit und Mutlosigkeit nun einmal der Preis sind, der für das höhere Gut oder das höhere Ziel der Digitalen Transformation zu zahlen ist? Oder liegt das menschliche Heil vielleicht sogar im Transhumanismus, also der Verschmelzung von Mensch und Maschine? Wow, wie aufregend.
Digitale Ethik
Welches ist also das höhere Ziel, dem die Maschine dient? Die Maschine selbst hat jedenfalls keine Ethik, weil sie richtig oder falsch nicht unterscheiden kann.
Die Schnittstelle, der Kristallisationspunkt, an dem sich etwas als gut oder schlecht erweist, ist der, an dem es Leiden auslösen kann. Aber die Maschine leidet nicht. Sie hat kein Bewusstsein und kann keinen leibhaftigen Schmerz und keine Extase spüren. Menschen finden etwas gut, wenn es sie bereichert und dass andere dadurch möglicherweise leiden, versuchen sie zu verdrängen, weil sie sonst ein schlechtes Gewissen haben. Wer will das schon? Wozu soll ein Gewissen überhaupt GUT sein?
Und ist es gut oder schlecht, dass es immer weniger Menschen gelingt, richtig und falsch voneinander unterscheiden zu können, gut und böse, sinnvoll und sinnlos, wertvoll und wertlos, wahr oder unwahr, fake oder real - weil sie deren Wert nicht mehr einordnen können? Es kommt darauf an: Die einen profitieren, die anderen verlieren. Welche von diesen Gruppen hat einen höheren WERT?
Der KI wurden Codes, die menschliches Verhalten abbilden, einprogrammiert und selbstlernende KIs können menschliches Verhalten synthetisch interpolieren, deduzieren und nach größtmöglichen Wahrscheinlichkeiten nachbilden. Und die Maschine lernt nach marktwirtschaftlichen Kriterien: gut ist, was gefällt.
Zeitgleich benutzen seit 2023 KI-Pioniere unter den Content Creatoren herrlich unterhaltsamen KI generierten Unsinn, der vielen gefällt, oft geteilt wird, sich viral verbreitet. Die Schöpfer können damit ein wenig von den Werbeeinnahmen als Tantiemen erhalten und auch hier macht Kleinvieh Mist.
Wiederum lernen Menschen, wenn die Massen das gut finden, dann muss es ja gut sein. Das führt zu einer allgemeinen Glättung und einer Massengeschmacks-Norm, die Lebensentwürfe außerhalb dieser Norm zu eliminieren sucht. (Was vielerlei schädliche Konsequenzen hat, auf die ich auf Wunsch gerne demnächst an anderer Stelle näher eingehe. Der interessanteste ist aktuell der, dass KI-generierte Texte erstaunlich schlecht sind, wie man beispielsweise an Bewerbungen erkennen kann.)
Digitale Ethik als staatliches Feigenblatt
Digitale Ethik im herkömmlichen, also technokratischen Sinn ist m.E. bloß Selbstzweck: Eine mehrheitsfähige politische Rechtfertigung, um das Geschäftsmodell lukrativ zu halten und staatliche Reglementierungen (z.B. Datenschutz) möglichst libertär, also möglichst frei von staatlicher Einmischung zu halten, damit sich das lukrative Potenzial der Maschine bestmöglich entfalten kann.
Bei der Geld-Druck-Maschine "Social Media" werden beispielsweise seit Trump II die Schutz-Reglementierungen abgeschaltet, die Hate Speech, Manipulation und Kriminalität aufdecken und ahnden. Unter dem Vorwand der "Meinungsfreiheit" sollen Lügen, Desinformation, Hate-Speech und Heilsversprechen jeder Art Konsumfreude und plutokratische, demokratiefeindliche Manipulation uneingeschränkt freien (libertären) Lauf haben und so den Aufschwung ankurbeln und die Durchleuchtung der Konsumenten und Bürger vorantreiben, unter dem weiteren Vorwand, noch bessere Produkte anbieten zu können, die aber zufällig gleichzeitig auch Active Measures erlauben, also die gezielte Beeinflussung der politischen Willensbildung von Wahlberechtigten.
Und welches Potenzial steckt in der KI-Maschine?
Da sieht jeder, was er oder sie sehen möchte. Zunächst sind es wie bei Robotern nur schwere oder langweilige Aufgaben, die den Menschen keinen Spaß machen und die sie sehr gerne in die automatisierten Hände eines künstlichen Wesens legen möchte, wie in die eines beflissenen, willenlosen, unerschöpflichen Dieners.
Darüber hinaus kann man mit KI reich werden
Wie oben beschreiben kann man mit KI Geld verdienen: Milliarden Stück Kleinvieh machen durchaus genügend Gebühren-Mist, sodass man irgendwann schon zu einem Break-Even und danach zum Return on Investment kommt, wen dieses Kleinvieh nur lange genug sozusagen als Cash Cow weiterlebt (vgl. Produktlebenszyklus im Marketing).
Jetzt ersetzt Chat GPT bereits Freunde, Eltern, Lehrkräfte, Liebespartner - und wahrscheinlich auch schon Philosophien, die Antworten auf der Suche nach dem Guten Leben geben.
Ist die Mediensucht, in die sich Milliarden User freiwillig hineinbegeben, vielleicht wie ein Schlückchen Sekt am Morgen oder ein Feierabend-Bierchen? Der Staat verdient durch Schaumwein- und Tabaksteuer mit. Deshalb ist sein Interesse, den Konsum zu begrenzen, gering und jeder denkt, das kann doch nicht schaden.
Das nächste ethische Problem ist, dass abhängigmachende Drogen sich für leibhaftige Menschen nun einmal sauGUT anfühlen, wie wir es von Alkohol, Nikotin, Shopping, Gewinnspielen, Sex, Süßigkeiten und Heroin wissen. Wer will es erwachsneen Menschen verbieten, sich etwas zu kaufen, das sie glücklich macht?
Es ist zu viel verlangt, dass Digitale Ethik den Konsum von KI-Produkten reglementiert, wie der Staat den Konsum von Drogen und anderen jugendgefährdenden Phänomenen im Jugendschutzgesetz regelt.
Digitale Ethik kann Volljährige genauso wenig daran hindern, sich selbst durch die Abhängigkeit zu KI zu schaden, erst recht nicht, wenn sie es gern wollen und gleichzeitig subjektiv glauben, dass es ihnen GUTtut und bereit sind, dafür viel Geld auszugeben.
Kinder verhalten sich kindisch, weil sie sich der Konsequenzen ihres Handelns in der Zukunft nicht bewusst sind. Alles hängt also davon ab, wie erwachsen ein User ist. Wer nie erwachsen geworden ist, empfindet den Appell an die Vernunft als Belehrung, Einmischung, Kontrolle, Manipulation, genau wie ein Kind es nicht mag, erzogen zu werden.