Wäre ChatGPT ein Mensch, wäre keiner mit ihm befreundet
Wir müssen reden. Über KI. Fast alle Bereiche der Gesellschaft – vom Privatleben über die freie Wirtschaft bis hin zu Bildung und Wissenschaft – sind mit einer Technologie durchsetzt, die niemand versteht und – wenn man ehrlich ist – auch gar nicht verstehen will. Einer Technologie, die zwar beeindruckende Dinge übernehmen kann, wie Daten sortieren und Texte schreiben. Einer Technologie, von der Dario Amodei, der Geschäftsführer von Anthropic, Folgendes sagt: „Menschen außerhalb unseres Fachgebiets sind oft überrascht und beunruhigt, wenn sie erfahren, dass wir nicht verstehen, wie unsere eigenen KI-Entwicklungen funktionieren. Ihre Besorgnis ist berechtigt: Ein solches Unverständnis ist in der Geschichte der Technik im Grunde beispiellos.“
Eine KI, die sich verselbständigt und bald – keine Ahnung – die Kontrolle über uns Menschen übernimmt? Wer weiß. Es könnte aber natürlich auch sein, dass hier ganz bewusst übertrieben wird. Mit dieser fast schon mystischen potenziellen Macht der KI lässt sich doch mehr Geld eintreiben statt einfach zu sagen: „Wir haben hier fähige Tools, die Daten sortieren und Texte produzieren können.“ Letzteres klingt ziemlich unspektakulär, oder?
Nur darum geht es im Moment. Die KI-Blase wächst und wächst. Man braucht Investoren. Könnte es tatsächlich sein, dass es am Ende doch wieder nur um den schnöden Mammon geht? Denn in Wirklichkeit kommt gar nicht so viel dabei herum. ChatGPT und Konsorten sind LLMs, also Large Language Models. Sprachmodelle. Nichts weiter als Wahrscheinlichkeitsmaschinen. Ihr Weltwissen beträgt 0. Zero. Nada.
Das sage nicht ich. Das ist verbrieft. LLMs berechnen schlichtweg, welches Wort am wahrscheinlichsten als Nächstes nach einem anderen kommt. Ja, das ist spannend. Ja, das kann hilfreich sein. Das war’s aber auch schon. Dieses Sprachwissen basiert auf einer unvorstellbaren Menge von Trainingsdaten – Texte aus dem Internet oder anderen Quellen. Immer aufs Neue werden diese Vorhersagen optimiert, bis die Antworten sinnvoll klingen. Und manchmal auch sind. Das ist nicht zu bestreiten.
Von einer „denkenden KI“ sind wir aber meilenweit entfernt. Hier denkt gar nichts. LLMs sind eher wie die Autovervollständigung Ihres Handys auf Steroiden. Das Ganze ist nur äußerst gefällig verpackt.
Die KI spricht uns mit unserem Namen an und bestärkt uns in unserer Meinung. Lob hier, nettes Emoji da. Hach, wie schön! Ganz ehrlich, ChatGPT ist wie der gewitzte Kollege, den man in den ersten zwei Wochen gut leiden kann und den man in Woche drei nur noch loswerden möchte. Ein kriecherischer Honig-ums-Maul-Schmierer, der einfach alles weiß. Oder so tut, als ob.
Gefragt, was die beste Nudelsoße ist, wird man erst einmal beglückwünscht, was für eine kluge Frage das doch ist. Ach, komm, halt einfach die Klappe! Schlimmer noch: Fehler zugeben ist nicht. Wenn die KI nicht mehr weiterweiß, wenn also die Rechenleistung, wenn man so will, aufgebraucht ist, wissen Sie, was dann passiert? Dann folgen einfach irgendwelche Wörter. Ja, irgendwelche. The show must go on. Ob das nun Sinn ergibt oder nicht. Halluzinieren nennt sich das. Je komplexer die Aufgaben sind, desto haarsträubender werden die Ergebnisse. Auch das sage nicht ich. Das wird regelmäßig untersucht, etwa mit dem AA-Omniscience benchmark.
Ich mache mir im Moment also weniger Sorgen, dass die von Dario Amodei unterschwellig angedeutete Machtübernahme einer KI mit „Bewusstsein“ bevorsteht. Vielmehr befürchte ich, dass die KI-Blase sich weiter aufbläht. Menschen werden entlassen, weil „die KI“ das jetzt macht. Seminararbeiten an Universitäten werden von Chatbots verfasst und verwässern wissenschaftliche Standards. Wir lagern unsere eigenen Schreib- und Denkfähigkeiten immer weiter aus. Und dann, in ein paar Jahren, platzt die Blase und wir gucken alle dumm aus der Wäsche. Bin ich mir da sicher? Natürlich nicht. Aber immerhin kann ich das zugeben.