Meldungen, wonach sich KI-Modelle verselbstständigen, häufen sich. Verlieren wir die Kontrolle? Selbst führende Tech-Promis fordern ein „Moratorium“ bei der Entwicklung. Zeit zum Nachdenken, was da gerade passiert und wie wir die Entwicklung im Griff behalten können.
Der Mensch ist zurück auf dem Weg ins Paradies. Jenem biblischen Urzustand, in dem er weilen durfte, bevor er vom Baum der Erkenntnis gegessen hat. Und der Herr über dieses Paradies, die Gottheit KI, wacht über das Wohlergehen. Sieht so „KI-Apocalypse Now“ aus?
Wie auch immer, KI hält uns im Bann. Wohl und vor allem, weil offensichtlich derzeit keiner so wirklich weiß, wohin das alles führen kann.
Philosophen wie Rüdiger Safranski sehen die Menschheit bereits in der vierten großen Entfremdung. Erst war die Erde nicht mehr der Mittelpunkt des Kosmos, dann war der Mensch nicht mehr die Krönung der Schöpfung, sondern Produkt der Evolution, schließlich auch nicht mehr Herr seines eigenen Willens, sondern Produkt seiner Triebe. Und was bleibt, wenn KI das Wissen, Denken und Entscheiden übernimmt?
Oder erleichtert sie uns nur das Leben bei derlei lästigen Anstrengungen?
Rettet KI gar Leben, in Operationssälen und bei Warnungen vor Naturgewalten? Rettet sie vielleicht gar das Klima, das wir gerade immer noch weiter mit Lust ruinieren?
Wird am Ende gar die „Superintelligenz“ noch mehr Kriege beenden, als es angeblich der Schöpfer dieses Wortes, US-Präsident Trump, hingekriegt hat? Vermutlich, sonst hätte der selbsternannte „Friedenspräsident“ kaum den Bedenkenträgern eine Abfuhr erteilt.
Keiner weiss, wohin das führt
Die Erfinder und größten Produzenten, die selbst damit zu den reichsten Männern dieser Erde geworden sind, sind inzwischen auch selbst zu obersten Bedenkenträgern geworden, fordern Begrenzungen, gar ein Moratorium (Aussetzen) der Entwicklungen. Ob sie dabei immer hehre Ziele haben, etwa die Menschheit vor Bedrohungen zu bewahren, oder andere taktische Überlegungen dahinterstehen, sei dahingestellt.
Trotzdem erinnert es ein wenig daran, dass die Erfinder der Atombombe später selbst zu den größten Warnern vor dem Einsatz ihrer fürchterlichen Kraft geworden sind.
Die Besorgnis, wohin diese technologischen Entwicklungen führen könnten, ist jedenfalls beträchtlich.
Der Trend in unterschiedlichen Umfragen: Über 40 Prozent halten KI für „eher“ oder „eindeutig“ für ein Risiko. Gut ein Drittel ist unentschieden, rund 20 Prozent sehen eher Chancen.
Die Gründe für die verbreitete Besorgnis sind vielfältig, reichen von sehr konkreten Befürchtungen (Auswirkung auf Arbeitsplätze) bis zu grundlegenden Fragen, was man überhaupt noch glauben kann, was echt ist und was KI-generiert, mit vielen Facetten dazwischen.
Das alles macht etwas, mit jedem Einzelnen und mit der Gesellschaft.
Der Mensch ist ein soziales Wesen, er kann nur in Gesellschaft existieren. Das setzt ein Grundvertrauen voraus, das derzeit einer harten Probe ausgesetzt ist.
Die verbreitete Argumentation, jede neue Technologie habe schließlich Vorteile und Risiken, und bei allen technologischen Entwicklungssprüngen habe es zunächst immer Verlierer (viele) und Gewinner (wenige) gegeben, am Ende habe es aber zu Fortschritt geführt, greift in der Debatte zu kurz.
Allein schon deshalb, weil sich zwar zunächst einige Gewinner klar ausmachen lassen – es gibt schließlich den ersten Billionär auf der Welt – aber die Frage nach den Verlierern (noch) gar nicht so eindeutig abzuschätzen ist.
Es ist auch eine Machtfrage, wenn wenige private Unternehmen – an ihrer Spitze die wenigen Multimilliardäre – etwas veranstalten, das unser Leben derart tiefgreifend verändert, mehr noch, das Manipulationsmöglichkeiten Tür und Tor in einer bislang nicht dagewesenen Art öffnet, ohne einer wirklichen öffentlichen Kontrolle zu unterliegen. Wissenschaftler, die das untersuchen wollten, mussten teilweise ihre Forschungen abbrechen, weil ihnen dafür der Zugriff auf notwendige Informationen verweigert wurde.
Die Europäische Union ist schon seit einiger Zeit bemüht, Regeln durchzusetzen, die sich an dem orientieren, was eigentlich grundsätzlicher Standard in Medien ist. Der jüngste Vorstoß sieht eine altersdifferenzierte Einschränkung für Kinder und Jugendliche in der Social-Media-Nutzung vor: Jugendschutz in der digitalen Welt. Auch US-Gerichte sind zu der Überzeugung gekommen, dass schon das Design von Social-Media-Plattformen abhängig, süchtig machen kann. Das bedeutet, es handelt sich um ein Produkt mit potenziell schädlichen Nebenwirkungen. Diese Urteile sind eine neue Qualität, denn in früheren Diskussionen ging es vor allem um die Inhalte, jetzt geht es um die Plattformen selbst.
Mit dem sogenannten EU AI Act, einer Verordnung über Künstliche Intelligenz, hat die EU weltweit als erste Regelungen beschlossen, die inzwischen für viele andere als Vorbild gelten. Dabei unterscheidet die EU vier Risikostufen Künstlicher Intelligenz: KI-Systeme mit inakzeptablem Risiko sind verboten. Dazu zählen beispielsweise „Social Scoring“, automatisierte Emotionserkennung oder Verhaltensbeeinflussung. Social Scoring ist ein Überwachungssystem, bei dem Formen von Wohlverhalten mit einem Belohnungssystem (Punkte) verbunden sind. Die Punktzahl entscheidet dann beispielsweise bei Kreditwürdigkeit und anderen Zugangsmöglichkeiten. Das System wird in China schon länger praktiziert und dient nach Ansicht von Kritikern der völligen Überwachung der Bevölkerung. KI-Systeme mit „hohem Risiko“ unterliegen strengen Regulierungen bei der Anwendung. KI-Systeme mit geringem oder keinem Risiko sind laut AI Act frei verfügbar. Vorgeschrieben ist auch eine Kennzeichnung bei KI-Anwendung. Das halten Kritiker allerdings für eine Schein-Transparenz.
KI hat dem Menschen zu dienen
Für besondere Aufmerksamkeit hat gesorgt, dass sich das Oberhaupt der Katholischen Kirche, Papst Leo XIV., mit einer großen Enzyklika (Lehrschreiben „Über den Schutz des Menschen in der Zeit der Künstlichen Intelligenz“) in der Diskussion um KI klar positionierte. KI habe der ganzen Menschheit zu dienen, und nicht dem Profit einiger weniger. Dem Papst geht es um die Würde des Menschen, Freiheit, Verantwortung und soziale Gerechtigkeit. Wenn er fordert, KI zu „entwaffnen“, meint er damit keineswegs einen Verzicht, sondern dass gewährleistet sein muss, dass die neue Technologie nicht den Menschen und die Menschheit beherrscht.
Besonders registriert wurde, dass bei Vorstellung der Enzyklika auch einer der führenden KI-Experten im Vatikan dabei war: Christopher Olah, Mitbegründer von Anthropic. Und der warb ausdrücklich dafür, dass in die Diskussion um KI auch Geisteswissenschaftler, Philosophen, Ethiker einbezogen sein müssten.
Dazu würde sicherlich auch Roberto Simanowski gehören, Kulturwissenschaftler und Medienphilosoph, der eine „Philosophie der Künstlichen Intelligenz“ formuliert hat. Darin setzt er sich ausführlich mit den Mechanismen von „Sprachmaschinen“ auseinander, wie ein „alltäglicher Souveränitätstransfer zwischen Mensch und Maschine“ stattfindet, indem wir immer mehr an die Sprachmaschinen abgeben.
Am Ende geben wir eigenes Formulieren und Denken ab, und der Effekt könnte ähnlich sein wie bei einem Navi, das uns überall hinführt – aber wir selbst verlieren nach und nach, ohne es zunächst zu bemerken, unseren Orientierungssinn. Am Ende geht es in all den Diskussionen auch für Roberto Simanoswski darum, das „Subjekt zu bleiben, Subjekt unserer Sprache, Subjekt unseres Lebens“.