Der Sog entsteht nicht erst, wenn KI etwas für den Nutzer tut, sondern wenn sie die Initiative übernimmt. Wenn sie vorschlägt, rahmt, lenkt. Genau da kippt es.
KI unterbreitet Vorschläge, manchmal ganz offensiv, manchmal zaghaft. Manchmal nimmt sie das Zepter behutsam in die Hand. Und bevor sich der Nutzer versieht, ist KI kein Werkzeug mehr, sondern Manager – die treibende Kraft.
Deshalb greift der Gesetzgeber ein. In der Europäischen Union geschieht das unter anderem mit dem sogenannten AI Act. Die Grundidee ist vergleichsweise schlicht: Wenn Inhalte von einer Maschine erzeugt wurden, sollen sie grundsätzlich als solche offengelegt werden.
Das Perfide daran ist der Anstrich der Wissenschaftlichkeit. Man spricht von einer Studie und der Artikel erscheint in der Kategorie „Bildung & Wissenschaft“. Der Leser wird in der gesamten Berichterstattung nicht aufgeklärt. Durchgängig wird behauptet, dass die KI Stress und Angst empfindet, dass man genau das bei ihr gemessen hat.
In den letzten Monaten hörte man in den Medien immer öfter über die Fähigkeiten und Risiken der KI, die sich rasant zu entwickeln scheint. Gleich zu Beginn möchte ich einen Beitrag von Allen Frances einbringen. Damit dies aber nicht für Missverständnisse sorgt, sei vorweg betont: