«Wir dürfen die KI niemals vermenschlichen»

Ist es noch möglich, ein Leben ohne KI zu führen?
Möglich, aber schwierig. KI steckt heute in der Suchmaschine, die wir nutzen, im Navigationssystem, in der Spamfilterung unserer E-Mails, in personalisierten Nachrichtenfeeds und den Programmankündigungen von Netflix. Viele Prozesse in der Industrie laufen längst mit KI. Oft bemerken wir sie gar nicht, weil sie nahtlos im Hintergrund arbeitet. Wenn jemand also behauptet, er lebe ohne KI, dann ist das etwa so, als würde er sagen, er nutze keine Elektrizität.

Wie befeuern KI-Apps Ihren persönlichen Alltag?
KI-Modelle sind für mich eine Art Werkzeugkasten fürs Denken: nützlich, manchmal überraschend, aber nicht die Lösung für alles. Ich nutze KI-gestützte Tools für Recherche, Ideenstrukturierung oder auch als Sparringspartnerin in kreativen Prozessen. Sie können helfen, blinde Flecken zu erkennen oder neue Perspektiven auf ein Thema zu eröffnen. Aber sie ersetzen nicht den menschlichen Gedanken, sondern ergänzen ihn – so wie die Dampfmaschine nicht den Ingenieur ersetzt hat, sondern ihm neue Möglichkeiten eröffnete.

Werden wir einst nichts mehr erschaffen ohne künstliche Assistenz?
KI-Agents, an denen alle grossen Technologieunternehmen derzeit intensiv arbeiten, werden ganze Aufgabenfolgen autonom erledigen. Sie können Reisen buchen, Einkäufe online erledigen oder Projekte managen. Es gibt schon Start-ups, die haben nur noch eine Handvoll Mitarbeitender, die jeweils ein Team von KI-Agenten führen. Tatsächlich glaube ich, diese Form der Kollaboration von Mensch und KI wird alles durchdringen.

Für viele Menschen ist ChatGPT zu einer Art bester Freund geworden. Wird das zu einem Problem für soziale Interaktion?
Die Frage ist: Warum suchen Menschen zunehmend Gespräche mit einer Maschine? Vielleicht, weil sie geduldiger ist als viele Menschen, immer Zeit hat und nicht urteilt. Das zeigt aber auch, dass soziale Interaktionen oft von Zeitdruck und Erwartungshaltungen geprägt sind. Wenn KI-Modelle echte Beziehungen ersetzen, haben wir ein Problem. Es gibt ausserdem schon ein paar Extremfälle, bei denen KI-Tools Menschen dazu gebracht haben, ihren Partner zu verlassen oder sich gar das Leben zu nehmen.

Warum tendieren wir so sehr dazu, diese Sprachmodelle zu vermenschlichen?
Weil sie oft überzeugend klingen. Sprachmodelle sind Meister der Rhetorik, aber keine Wahrheitshüter. Sie hat keine Ahnung, wovon sie spricht, sondern ist eine beeindruckend wirkungsvolle Wortvorhersagemaschine. Sie arbeitet mit statistischen Wortwahrscheinlichkeiten, nicht mit Sinngebung. Und alle Autorität, die sie für uns scheinbar hat, bekommt sie von uns verliehen.

ChatGPT ignoriert Urheberrechte – und erschafft aus Bestehendem Variationen. Entsteht so wirklich Neues?
Ja und nein. Menschen haben sich immer inspirieren lassen. Aber es gibt einen Unterschied zwischen Inspiration und schlichter Rekombination. Eine KI wird nicht spontan einen völlig neuen Kunststil erschaffen. Revolutionäre Ideen erfordern Mut, Brüche, Fehler. Und das kann nur der Mensch.

Sie prognostizieren, dass KI sich «selbst auffrisst». Was bedeutet das?
Wenn KI nur noch von KI-generierten Inhalten lernt, entsteht ein Echoraum, eine Art algorithmischer Inzest. In der Forschung nennt man das «katastrophales Vergessen» oder «Modellkollaps». Es ist doch ein schöner Gedanke, dass KI uns Menschen braucht, um mit Originaldaten weiter lernen zu können, ohne zu kollabieren.

Sie schreiben, dass KI auch zu «Entrechtung und Entmenschlichung» führen kann. Haben Sie ein Beispiel dafür?
Da müssen wir nur derzeit in die USA schauen. Dort bekamen Millionen öffentlicher Angestellter eine E-Mail vom sogenannten Department of Government Efficiency, geführt durch Elon Musk. Auf die sollten sie innerhalb weniger Stunden antworten, um zu begründen, warum es ihren Job weiterhin geben soll. Eine KI wertet dann aus, ob diese Menschen bleiben dürfen oder entlassen werden. Das ist würdelos und zudem beim derzeitigen Entwicklungsstand der KI auch höchst fragwürdig. Es gibt gute Gründe dafür, warum in vielen Rechtssystemen, auch in der Schweiz, geregelt ist, dass die letzte Berufungsinstanz immer ein Mensch sein muss.

Wenn Sie eine weltweite KI-Gesetzgebung mitgestalten könnten – was wäre die wichtigste Regel, die Sie durchsetzen würden?
In dem Fall wünschte ich mir eine globale Regel, die besagt: KI darf nie darüber entscheiden, worüber KI entscheiden darf. KI ist ein mächtiges Werkzeug. Aber nicht nur wir Menschen gestalten mit Werkzeugen die Welt – die Werkzeuge gestalten auch uns. Deshalb wünsche ich mir, dass sich wirklich alle Menschen mit KI beschäftigen, um zu begreifen: Das ist eine sehr kraftvolle Technologie, aber es ist eben ein Werkzeug.