Im Film „Terminator“ verbreiten killende Cyborgs Angst und Schrecken. Und in „Matrix“ leben alle in einer computerprogrammierten Wirklichkeit. Seit Mitte des 21. Jahrhunderts haben Science-Fiction-Autoren Szenarien gemalt, wie Künstliche Intelligenz (KI) die Menschheit bedroht. Die Realität übersteigt jedoch selbst die kühnsten Fantasien.
„Man muss den Menschen keine Chips ins Gehirn implantieren, um sie zu kontrollieren oder zu manipulieren“, brachte es Yuval Noah Harari in seinem Vortrag „AI and the Future of Humanity“ beim Frontiers Forum auf den Punkt. „Seit Tausenden von Jahren nutzen Politiker oder Propheten Sprache und das Geschichtenerzählen, um Menschen zu manipulieren und zu kontrollieren und die Gesellschaft neu zu gestalten. AI hat das gemeistert – und es ist nicht nötig, Killerroboter zu schicken, um uns zu erschießen. Sie kann Menschen dazu bringen, bei Bedarf den Abzug zu betätigen.“
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Am Anfang war das Wort
Anders als in Science-Fiction dargestellt, brauche KI weder ein Bewusstsein, noch müsse sie sich in der physischen Welt bewegen können, um die menschliche Zivilisation zu bedrohen, glaubt Harari. KI-Tools wie ChatGPT sei es gelungen, „Sprache zu manipulieren und zu erzeugen, sei es mit Worten, Bildern oder Tönen“. Dazu gehöre auch das Deepfaking von Stimmen, das Erstellen von Rechnungen und das Finden von Schwachstellen im Computercode oder in Verträgen.
„Indem die KI die Sprache beherrscht, ergreift sie den Hauptschlüssel. Dieser schließt die Türen aller unserer Institutionen von Banken bis zu Tempeln auf“, schlussfolgert er. „Denn Sprache ist das Werkzeug, mit dem wir unserer Bank Anweisungen erteilen und auch himmlische Visionen in unseren Köpfen wecken. Man kann es sich so vorstellen, dass die KI das Betriebssystem der menschlichen Zivilisation gehackt hat. Das Betriebssystem jeder menschlichen Zivilisation ist immer schon Sprache gewesen. Am Anfang war das Wort.“
Was passiert, wenn Geschichten, Melodien, Gesetze und Richtlinien nicht mehr von Menschen, sondern von einer „nichtmenschlichen, außerirdischen Intelligenz geprägt sind? Und diese die Schwächen, Vorurteile und Süchte des menschlichen Geistes auszunutzen weiß?“, fragt Harari. Dann könne man lange über Abtreibung, Klimawandel oder die russische Invasion in der Ukraine diskutieren, ohne zu bemerken, dass es sich beim Gegenüber um einen KI-Chatbot handle.
„Für uns ist es sinnlos, unsere Zeit damit zu verschwenden, einen KI-Bot davon zu überzeugen, seine politischen Ansichten zu ändern“, meint der gebürtige Pole. „Aber je länger wir damit verbringen, desto besser lernt er uns kennen und versteht, wie er seine Botschaften verfeinern kann, um unsere Ansichten zu ändern.“ So könne Künstliche Intelligenz durch das Vortäuschen von Intimität Gefühle in Menschen erwecken und dadurch Meinungen wie Weltanschauungen beeinflussen.
Das Aus für Suchmaschinen, Nachrichten und die Werbebranche
Was nach Zukunftsszenario klingt, hat sich bereits im Juni 2022 zugetragen: Damals kostete die Behauptung, der KI-Chatbot LaMDA habe eine Seele, dem Google-Ingenieur Blake Lemoine seinen Job.
„Wenn KI Menschen dazu bringen kann, ihren Arbeitsplatz zu riskieren und zu verlieren, wozu kann sie uns sonst noch bewegen?“, gibt Harari zu bedenken. Doch selbst wenn KI nicht zur „effektivsten Waffe“ – der Intimität – greift, hätte sie Einfluss auf Meinungen und Weltanschauungen. „Die Menschen nutzen bereits einen einzigen KI-Berater als Orakel und als Quelle für alle Informationen, die sie benötigen“, meint er. Google sollte genauso in Angst und Schrecken geraten wie die Nachrichten- und Werbebranche. Warum sich die Mühe machen, selbst zu suchen? Warum Zeitung lesen oder auf Werbespots hören, wenn man das KI-Orakel befragen kann?
Doch nicht nur einzelnen Branchen droht nach Ansicht des Historikers das Aus. „Wir sprechen über das Ende der Menschheitsgeschichte“, prognostiziert er. Statt wie bisher von Menschen können künftig politische Ansichten, sexuelle Vorlieben, die Art und Weise, wie wir gehen – kurz „der kulturelle Kokon der Realität“ – von KI gestaltet werden.
„Jahrtausendelang lebten wir in den Träumen und Fantasien anderer Menschen. Wir haben Götter verehrt, wir haben Vorstellungen von Schönheit verfolgt und unser Leben Zielen gewidmet, die von Menschen, Propheten oder Politikern geschaffen wurden“, fasst Hariri plakativ zusammen. „Und schon bald könnten wir uns in den Träumen und Fantasien einer außerirdischen Intelligenz wiederfinden.“
„KI regulieren, bevor sie uns reguliert“
Einen kleinen Vorgeschmack geben bereits Algorithmen in den sozialen Medien. Sie bestimmen, welche Inhalte auf der Timeline zu sehen sind. „Obwohl diese KI-Tools primitiv waren, reichten sie aus, um den Vorhang der Illusion zu schaffen, der die gesellschaftliche Polarisierung auf der ganzen Welt verstärkte, unsere geistige Gesundheit untergrub und demokratische Gesellschaften destabilisierte.“ Als Beispiel nennt er die Debatten zwischen Corona-Impfgegnern und -befürwortern – und er warnt: „Die neuen KI-Tools sind weitaus leistungsfähiger als diese Social-Media-Algorithmen und können größeren Schaden anrichten.“
Doch KI habe durchaus positives Potenzial, räumt der Historiker ein: Es könne bei der Suche nach Heilmitteln gegen Krebs genauso helfen wie bei der Lösung von ökologischen Krisen. Um dieses Potenzial zu entfalten, „müssen wir zunächst aber ihre wahren Fähigkeiten erkennen und sie sehr, sehr sorgfältig regulieren“, betont er. „Pharmaunternehmen dürfen ohne strenge Sicherheitskontrollen keine Medikamente an Menschen weitergeben. Biochemische Labore können nicht einfach ein neues Virus in die Öffentlichkeit bringen, um die Aktionäre mit der Zauberei zu beeindrucken.“
Für KI-Tools fordert Hariri das Gleiche: Regierungen sollten der Veröffentlichung weiterer Entwicklungen einen Riegel vorschieben. Beispielsweise, indem KI bei jedem Kontakt zur Offenlegung verpflichtet ist. „Wenn wir das KI-Wettrüsten nicht verlangsamen, werden wir keine Zeit haben, zu verstehen, was passiert“, warnt er und vergleicht Künstliche mit außerirdischer Intelligenz – nicht im Weltall, sondern hier auf der Erde. „Wir wissen nicht viel über diese außerirdische Intelligenz – außer dass sie unsere Zivilisation zerstören könnte“, zieht er ein düsteres Fazit. „Deshalb müssen wir dem unverantwortlichen Einsatz dieser außerirdischen Intelligenz in unserer Gesellschaft ein Ende setzen und die KI regulieren, bevor sie uns reguliert.“