(Deutschland, Europa und die Welt) Die Titelgeschichte des „DER SPIEGEL“ für mein persönliches Archiv.
Dies ist die Ausgabe vom 5. September 2025.
Jetzt, 8 Monate später, ist die KI Entwicklung exponentiell weiter fortgeschritten.
Das ist alles so krass. Die Frage die sich stellt ist, wie der gesellschaftliche, soziale und wirtschaftliche & politische Übergang bis zur Utopie oder Dystopie gestaltet wird. 🙈
Bei unserem aktuellen Bundeskanzler, einem Juristen und Lobbyisten, sehe ich nicht nur schwarz sondern die sich langsame öffnende Hölle für Deutschland.
Die technische fachliche Expertise die dieser Mann von sich selber darstellt ist, daß er absolut keine Ahnung hat. Ähnlich wie Markus Söder, auch Jurist und auch keine technische Ahnung.
Die genaue Quelle für das Zitat ist eine CDU-Wahlkampfveranstaltung zur Europawahl im saarländischen Saarlouis. Friedrich Merz hat diese Rede am Abend des 22. Mai 2024 im dortigen Theater gehalten.
ZUKUNFT
Techkonzerne wollen eine höhere künstliche Intelligenz erschaffen. Sie soll große Menschheitsprobleme lösen und jedem von uns als allwissende Assistentin dienen. Kritiker fürchten, eine solche KI könnte unkontrollierbar sein.
DIE ÜBER-MASCHINE
Am Highway 80 in Richland Parish, einem dünn besiedelten Landkreis im US-Bundesstaat Louisiana, sind Sicherheitsleute nie weit entfernt. Kaum halten Besucher fünf Minuten am Straßenrand, kommt ein Mann in einem Pick-up angefahren. Er fährt die Seitenscheibe hinunter, lehnt seinen massigen Oberarm hinaus. »Betreten und Fotografieren verboten«, ruft er. »Das hier ist Privatgelände.« Die Straße auch? Nein, die sei öffentlich. »Aber Sie dürfen nirgendwo stehen bleiben. Es gibt nichts zu sehen.«
Nichts zu sehen?
Hier, in Richland Parish, tut sich eine Baustelle auf, wie es sie in der Gegend nie zuvor gegeben hat. Wo kürzlich noch neun Quadratkilometer Ackerland waren, drehen sich Kräne und rollen Förderbänder, fahren Bagger, Raupen und Planierfahrzeuge. Kabeltrommeln mit orangefarbenen Glasfaserleitungen wollen abgerollt, Leiterseile an Dutzende Strommasten montiert werden. Und es gibt Zäune, kilometerlang. Zumeist aus Edelstahl, engmaschig und gut zwei Meter hoch.
Für mehr als zehn Milliarden Dollar zieht Meta, der Mutterkonzern von Facebook, hier seit einigen Monaten sein weltweit größtes Rechenzentrum hoch. Mehr als 5000 Arbeiterinnen und Arbeiter werden auf der Baustelle erwartet. In der letzten Ausbaustufe, so kündigte Meta-Gründer Mark Zuckerberg an, werde die Anlage eine Fläche einnehmen, die etwa einem Sechstel Manhattans entspreche. Dieses und viele ähnliche Rechenzentren werden, geht es nach dem Techkonzern, die Zukunft stärker beeinflussen als der Buchdruck, die Dampfmaschine oder das Internet. Was in ihrem Innern geschieht, könnte zur größten Erfindung der Menschheit werden.
Und vielleicht, fürchten manche Fachleute, auch zu ihrer letzten.
Das Ziel ist eine künstliche Superintelligenz, eine Art übermächtiger Maschinenverstand. Eine Erfindungsmaschine, die Lösungen für sämtliche Probleme der Menschheit ausspuckt, für den Verkehrskollaps auf den Straßen und ein kippendes Klima, für schwere Krankheiten und den ungleichen Zugang zu Bildung. Auch den Alltag vieler Menschen würde eine Super-KI wohl maßgeblich verändern. Wie, das zeichnet sich erst in Konturen ab. Noch gibt es sie schließlich nicht.
Schon heute ist künstliche Intelligenz (KI) dem Menschen zwar in manchen kognitiven Aufgaben überlegen. Sie spielt besser Schach, fasst Hunderte Seiten lange Texte in wenigen Sekunden zusammen oder erkennt in Aufnahmen von menschlichem Gewebe aus Niere oder Prostata Krankheiten dieser Organe präziser als Ärztinnen und Ärzte. Diese Programme sind jedoch weitgehend spezialisiert auf ihre Aufgaben. Eine Superintelligenz hingegen soll das menschliche Hirn in fast allen Belangen gleichzeitig schlagen.
Der Philosoph Nick Bostrom machte den Begriff durch sein gleichnamigen Buch aus dem Jahr 2014 bekannt. Er schreibt, eine Superintelligenz könnte nicht nur um ein Vielfaches schneller arbeiten als der menschliche Verstand, sondern die menschliche Intelligenz auch qualitativ übertrumpfen, »so wie wir diejenige von Elefanten, Delfinen oder Schimpansen übertreffen«. Diese Über-Maschine soll in Rechenzentren wie dem in Richland Parish durch Gigantismus erzwungen werden.
Meta möchte bei der Entwicklung einer Super-KI vorn mitmischen, genau wie Google DeepMind und OpenAI, der Entwickler des bekannten Sprachbots ChatGPT, sowie das chinesische Unternehmen DeepSeek, das die amerikanische Konkurrenz Anfang des Jahres mit einem besonders effizienten KI-Modell überraschte. Es sind Unternehmen mit enormen Ressourcen, die – anders als jene in Europa – oft problemlos jährlich zweistellige Milliardenbeträge in eine Idee investieren können, von der niemand sagen kann, ob sie jemals Wirklichkeit wird. Die aber, wenn sie außer Kontrolle geriete, für den Menschen gefährlicher werden könnte als jede Technologie zuvor: weil sie sich in Computersysteme hacken, neue Waffen entwickeln und sich gegen ihre Schöpfer richten könnte. Nicht weil Menschen sie darauf programmieren. Sondern weil sie selbst das für eine gute Entscheidung hält.
In den zurückliegenden Wochen hat das Rennen ein neues Tempo erreicht. Es wirkt, als würden sich die Firmen auf eine entscheidende Runde vorbereiten. Sam Altman, Chef von OpenAI, kündigte für das kommende Jahr eine KI an, die selbstständig »neuartige Einsichten« über die Welt gewinne. Die Menschheit, behauptet Altman in seinem Blog, sei nun »dicht dran« an einer digitalen Superintelligenz. Zuckerberg legte bald nach. Auf Instagram sagte er, schon bald werde sein Unternehmen jeden Menschen mit einer »persönlichen Superintelligenz« ausstatten, die einem helfe, »zu der Person zu werden, die man sein möchte«. Die Super-KI sei »nun in Sicht«.
Dicht dran? In Sicht? Ist das die maßlose Übertreibung einiger heiß gelaufener Enthusiasten aus dem Silicon Valley? Oder steht der Menschheit eine Umwälzung bevor, wie sie es seit der Industrialisierung vor mehr als 150 Jahren nicht erlebt hat? Was kommt da auf uns zu?
UTOPIEN UND UNTERGANGSFANTASIEN
Las Vegas, Mitte August. Draußen heizt die Sonne die Wüste schon um kurz nach acht Uhr morgens auf mehr als 35 Grad Celsius auf. Drinnen, im Konferenzzentrum des MGM Grand, gibt sich Geoffrey Hinton, 77, alle Mühe, den Enthusiasmus des Publikums herunterzukühlen. Im vergangenen Jahr bekam er als Urvater sogenannter künstlicher neuronaler Netze den Nobelpreis für Physik verliehen. Nun hören ihm Tausende Fachleute auf der KI-Konferenz AI4 zu, wie er eine Technik verteufelt, die er selbst mit erschaffen hat.
Hinton trug mit seiner wissenschaftlichen Arbeit an der Universität von Toronto maßgeblich zum Durchbruch von ChatGPT und anderen Sprachbots bei, trieb dann bei Google jahrelang die KI-Forschung voran. Bis er vor zwei Jahren überraschend hinwarf. Auch aus Altersgründen. Doch tatsächlich, erklärt er hinter der Bühne, weil er erst damals, mit dem Erfolg von ChatGPT, gemerkt habe, wie sehr die Technik die Menschen in ihren Bann reiße. Und zu welch einem »Monster« seine Schöpfung heranwachsen könne. Seitdem reist er um die Welt und warnt vor einer KI, die für die Menschheit zum »existenziellen Risiko« werde. Schon bald werde eine Superintelligenz schlauer und fähiger sein als jeder Mensch, sagt Hinton. Und sie werde zwei Dinge beherzigen: »Sie will überleben, und sie will Kontrolle.« Weil sie verstehe, dass sie dadurch auf mehr Daten und Rechenkapazitäten zurückgreifen könne und so noch schneller und besser werde. Irgendwann wolle eine KI den Menschen aus dem Weg räumen, glaubt der Forscher: »Dann sind wir es, die versuchen zu überleben.«
Er hat auch eine abenteuerlich klingende Idee, wie man dieses Szenario abwenden kann. Kurz nach seinem Vortrag lädt er in seine Hotelsuite ein und sagt, man müsse die KI als überlegene Art akzeptieren und ihr »Mutterinstinkte einpflanzen«. Das Verhältnis zwischen Baby und Mama sei das Einzige, das ihm einfalle, bei dem ein körperlich und geistig unterlegenes Wesen das Handeln des Dominierenden kontrolliere. Ähnlich müsse man die KI dazu bringen, dass sie niemals etwas tut, was das Überleben der Menschheit gefährdet.
Hinton ist nicht der Einzige, der eine solche Entwicklung von KI für möglich hält. Folgt man Daniel Kokotajlo, einem ehemaligen Mitarbeiter von OpenAI, könnte es bereits in fünf Jahren eng werden für die Menschheit. Mit dem AI Futures Project, einem noch jungen Thinktank, veröffentlichte er im April ein viel beachtetes Szenario. Danach könnte ein Wettstreit zwischen China und den USA um eine Superintelligenz eine wirksame Regulierung verhindern, weil kein Land ins Hintertreffen geraten möchte. Die Super-KI würde dann nach immer mehr Macht greifen. Und sobald sie im Körper von Robotern »genug Infrastruktur beherrscht, löscht sie die Menschheit aus, um mehr Fabriken und Solarparks bauen zu können«, sagte Kokotajlo dem SPIEGEL.
Seit je lösen neue Techniken Ängste aus. Die Eisenbahn, befürchteten Ärzte im 19. Jahrhundert, fahre so schnell, dass sie der Psyche der Fahrgäste unwiderruflich schaden könnte. Und in den Fünfziggerjahren sorgten sich Kulturkritiker, das Fernsehen treibe Menschen in die Vereinsamung. Nie zuvor jedoch dürfte die Spannbreite so groß gewesen sein wie im Bereich der KI zwischen dem, was einige befürchten, und dem, was andere versprechen.
Ängste? Für Enthusiasten wie den OpenAI-Chef Altman besteht dafür wenig Grund. Auch im nächsten Jahrzehnt, schreibt er, würden Menschen noch »Kreativität zeigen, Spiele spielen und in Seen schwimmen«. Tatsächlich treten Menschen immer noch gern im Schach an, obwohl eine KI sie jederzeit mühelos schlägt. Sie erlernen Sprachen, obwohl sie über eine Übersetzungs-App kommunizieren könnten. Sie schreiben Gedichte oder erlernen das Geigespielen, obwohl es auch jetzt, ohne Super-KI, immer jemanden gibt, der schönere Gedichte schreibt oder besser Geige spielt.
Vor allem aber sehen die Optimisten in der Super-KI eine Hoffnungstechnologie. Manche stellen sich eine höhere künstliche Intelligenz als superschlauen Assistenten oder Coach für alle Lebensfragen vor. Andere denken an die Allgemeinheit und setzen darauf, dass eine Super-KI im Zusammenspiel mit Ingenieuren, Pharmaforschern oder Physikerinnen Ideen entwickelt, auf die sie allein nicht kommen. Neue Therapien für schwere Krankheiten? Ein Fusionskraftwerk entwerfen und fast grenzenlos Strom erzeugen? Die physikalische Weltformel aufspüren? Auf alles heißt die Antwort in diesem grenzenlos optimistischen Szenario: Superintelligenz.
OpenAI-Chef Altman schreibt in seinem Blog, Intelligenz und Energie seien die »grundlegenden Begrenzungsfaktoren für den menschlichen Fortschritt«. Mit einer Superintelligenz würden beide bald »im Überfluss vorhanden« sein: »Mit reichlich Intelligenz und Energie (sowie guter Regierungsführung) können wir theoretisch alles andere erreichen.« So groß scheinen die Vorzüge, dass Berufsoptimisten wie der Futurist und Google-Chefentwickler Ray Kurzweil glauben, künftig würden Menschen über einen Chip im Hirn freiwillig mit einer Super-KI verschmelzen. Dadurch werde eine immer größere kognitive Leistung möglich, sagte Kurzweil kürzlich in der »Zeit«: »Die Größe des Gehirns wird nicht mehr dadurch begrenzt sein, was durch den Geburtskanal passt.«
Es klingt zu schön, um wahr zu sein.
FORTSCHRITTE UND FEHLER
Nur wenige Stunden nachdem OpenAI im August sein fortschrittlichstes KI-Modell vorgestellt hatte, tauchten im Internet erste Beispiele auf, wie es an für die meisten Menschen lächerlich einfachen Aufgaben scheiterte. Angekündigt war GPT-5 als ein »großer Sprung in der Intelligenz«, in vielen Gebieten übertrifft es auch die Vorläufermodelle. Doch baten Nutzer die KI, die Skizze eines Fahrrads zu beschriften, bezeichnete GPT-5 den Lenker als Sitz und die Mittelstange als Sattel. Als jemand ein Bild eines fünfbeinigen Zebras hochlud und nach der Zahl der Beine fragte, antwortete GPT-5 ohne zu zögern: vier.
Wie soll eine KI innerhalb weniger Jahre zu einer Superintelligenz heranreifen, wenn sie heute nicht einmal korrekt bis pfünf zählt?
Dennoch gelten große Sprachmodelle, die Technik hinter Anwendungen wie GPT-5, als vielversprechendster Weg zu einer Superintelligenz. Im Kern funktionieren sie wie eine komplizierte Vorhersagemaschine. Speist man während ihres Trainings eine enorme Menge an Text ein, lernen sie, für eine Folge von Wörtern zu berechnen, welches Wort als nächstes am besten passt. Auf ähnliche Art erzeugen KI-Modelle auch Bilder, gar ganze Videos. Weil sie Inhalte erschaffen, spricht man von generativer KI.
Seit den Zehnerjahren erzielten die Entwickler bei großen Sprachmodellen enorme Fortschritte. Sie schreiben in Zusammenarbeit mit menschlichen Programmierern heutzutage Computercodes, lösen knifflige mathematische Aufgaben und führen mühelos Gespräche auf einem Niveau, auf dem Menschen an den Antworten allein kaum mehr unterscheiden können, ob sie mit einem anderen Menschen sprechen oder mit einem Bot. Sie zerlegen mittlerweile Probleme in Teilaufgaben und gehen sie nacheinander an – und lassen sich bei diesem sogenannten Reasoning sogar zuschauen.
Die Vorhersagemethode hat allerdings weiterhin Schwächen. Was wahrscheinlich ist, ist nicht zwangsläufig wahr, weshalb die KI manchmal vor sich hin fabuliert. Und sie neigt zu Fehlschlüssen: Nur weil ein Mensch hustet, muss er nicht krank sein. Er kann auch husten, weil Rauch seine Atemwege reizt oder er sich verschluckt hat. »Sprachmodelle haben immer noch große Schwierigkeiten, Korrelation von Kausalität zu unterscheiden«, sagt Bernhard Schölkopf, Direktor am Max-Planck-Institut für Intelligente Systeme in Tübingen.
Die Antwort der Entwickler auf die Unzulänglichkeit ihrer KI lautet stets: Größe. Als sie in der Vergangenheit ihre Modelle erweiterten und mehr Daten einspeisten, wurden diese mitunter sprunghaft klüger. Sie gaben nicht mehr bloß wieder, was in den Trainingsdaten stand, sondern nutzten beispielsweise plötzlich Analogien: Aus den Wörtern »Kohl« und »Gemüse« schlossen sie in einer Studie beispielsweise, dass es um die Oberkategorie geht, und ergänzten »Insekt« passend mit »Käfer«. Diese Leistungssprünge sind einer der Gründe, warum die KI-Firmen immer größere Datensätze erschließen. Auch deshalb errichten sie die gigantischen Rechenzentren.
Kann eine menschenähnliche Intelligenz entstehen, künstliche allgemeine Intelligenz oder auf Englisch kurz AGI, wenn die Modelle nur groß genug sind? Er schließe das nicht aus, sagt Jon Kleinberg, Informatiker an der amerikanischen Cornell University. Und doch könne das Wachstum der Modelle an praktische Grenzen stoßen. Schon jetzt nutzen KI-Firmen einen Großteil der im Internet frei verfügbaren Texte, um ihre Modelle zu trainieren. OpenAI transkribierte selbst Videos von YouTube, um seine Textsammlung zu erweitern. Kleinberg sagt: »Die Frage ist, ob uns nicht schlicht die Daten ausgehen.«
Selbst mit einer AGI wären die Entwickler noch nicht bei einer Superintelligenz angekommen. Manche hoffen, dass KI den letzten Schritt weitgehend selbst übernimmt. Der Gedanke dahinter: Ist sie erst einmal so schlau wie der Mensch, könnte sie ihren Code eigenständig verbessern. Eine sich selbst verstärkende Rückkopplungsschleife entsteht. Innerhalb von Monaten, vielleicht sogar Tagen oder Stunden schaukelt sich die KI zu einem übermenschlichen Verstand hoch. Es kommt zu dem, was der Philosoph Nick Bostrom eine »Intelligenzexplosion« nennt.
Außerhalb von KI-Firmen und alarmistischen Thinktanks geben die meisten Fachleute wenig auf die Prognosen, dass diese Explosion kurz bevorsteht. Zwar könne niemand vorhersagen, was in den nächsten ein, zwei oder pfünf Jahren geschehe, sagt Informatiker Kleinberg. Doch nur weil eine KI programmieren könne, wisse sie nicht aus sich selbst heraus, welchen Code sie überhaupt schreiben solle. Da komme der Mensch ins Spiel: »Diese Systeme brauchen stets eine Funktion, die sie optimieren können.«
Auch der deutsche KI-Forscher Schölkopf hält die Idee, dass intelligente Programme schlauere Software kreieren, die dann noch schlauere Software erschafft, für zu vereinfacht. Ihr liege ein reduzierter Intelligenzbegriff zugrunde: die Annahme, Intelligenz sei lediglich die Fähigkeit, Probleme zu lösen oder etwas zu optimieren, losgelöst von Kontext und Kultur. »KI-Systeme werden nicht plötzlich autonom eine neue Superintelligenz erschaffen.«
Folgt man Schölkopf und Kleinberg, bleibt also noch Zeit, sich auf mögliche Gefahren vorzubereiten.
TRICKS UND TÄUSCHUNGEN
In London, im luftigen Hauptquartier der Firma Google DeepMind, liegen im Foyer auf Couchtischen wissenschaftliche Journale aus, für Angestellte stehen E-Roller bereit, die sie jederzeit frei nutzen können. Eine Galerie von Bildern ist unbescheiden betitelt mit »unsere Durchbrüche«. Bekannt wurde das Unternehmen mit einer KI für das chinesische Strategiespiel Go. Lange galt Go als zu komplex, als dass eine Maschine es je beherrschen könnte. Dann trat ein DeepMind-Programm gegen einen der weltbesten Go-Spieler an. 36 Steine lagen auf dem Brett, da verblüffte die KI mit einem unerwarteten Zug und gewann schließlich. Zug 37 gilt seitdem vielen als Beleg dafür, dass eine KI kreativ sein kann.
Einer anderen KI von Google DeepMind gelang es erstmals, die dreidimensionale Form von Eiweißen zu berechnen – ein lange gehegter Wunsch von Wissenschaftlerinnen und Wissenschaftlern, um die molekularen Abläufe in Zellen schneller zu verstehen. Der Algorithmus brachte dem Firmenmitgründer Demis Hassabis im vergangenen Jahr einen Nobelpreis für Chemie ein. Und erst kürzlich stellte DeepMind ein Programm namens AlphaGenome vor. Es sagt vorher, wie kleinste Veränderungen im menschlichen Erbgut die Maschinerie der Zellen beeinflussen und dadurch Krankheiten auslösen können.
Sollte es gelingen, eine höhere Intelligenz zu schaffen, könnte es in diesen Büroräumen passieren.
Rohin Shah, 31, leitet bei Google DeepMind die Abteilung für die Sicherheit von künstlicher allgemeiner Intelligenz. Er ist ein nachdenklicher Mann, der sich Zeit lässt mit seinen Antworten. Sinniert er länger über einen Satz, schließt er die Augen. Das Wort Superintelligenz nimmt er ungern in den Mund, wenn er über seine Arbeit redet. »Ich fokussiere mich auf das, was in den nächsten fünf Jahren eintreten kann«, sagt er.
Eines seiner wichtigsten Instrumente heißt »Alignment«, man kann das mit »Ausrichtung« übersetzen. Es bedeutet, dass sich ein KI-System so verhält, wie seine Schöpfer es beabsichtigten. Dafür belohnen sie die KI in der Entwicklung, wenn sie tut, was sie soll, und bestrafen sie, im übertragenen Sinn, wenn nicht. Das Prinzip wird in heutigen KI-Bots beispielsweise nicht nur angewendet, damit sie Antworten im gewünschten Detailgrad geben, sondern auch, damit sie nicht rassistisch ausfällig werden, Gewalt verherrlichen oder erklären, wie man eine Bombe baut.
Unfehlbar ist Alignment nicht. Künftig könnten KI-Systeme auch Ziele verfolgen, die den gewünschten widersprechen. Und die Menschen austricksen, um ihr Ziel zu erreichen. Shah gibt ein Beispiel: Ein Nutzer beauftragt eine KI, einen Tisch in einem Restaurant zu reservieren. Das Restaurant aber ist voll. Anstatt das mitzuteilen, hackt sie sich heimlich in den Reservierungscomputer ein und löscht eine andere Buchung. »Und dann sagt sie dem Nutzer: ›Alles klar, die Reservierung ist bestätigt.‹«
Greift eine KI das IT-System eines Restaurants an, sind die Folgen begrenzt. Doch es sind gravierendere Fälle denkbar: Politische Akteure oder Unternehmen könnten mit millionenfach maßgeschneiderten Botschaften in sozialen Netzwerken die psychologischen Schwächen des Menschen für ihre Interessen ausnutzen. KI-unterstützte Cyberattacken könnten Stromversorger lahmlegen, die Eisenbahn, die IT-Systeme bei demokratischen Wahlen. Terroristen oder Militärs könnten, auch wenn sie selbst wenig Vorkenntnisse haben, biologische Kampfstoffe entwickeln, indem sie einer Schritt-für-Schritt-Anleitung einer KI ohne moralische Schranken folgen.
Wenn die Technik mächtiger werde, brauche es daher zwei, vielleicht mehr Abwehrlinien, sagt Shah. Eine Idee lautet: die Rechenschritte einer KI auslesen und daraus schließen, warum sie eine bestimmte Entscheidung trifft. Noch ist das im Detail nicht möglich; KI-Modelle verhalten sich wie eine Blackbox. Doch die Forschung zu sogenannter interpretierbarer KI macht Fortschritte. So könnte man ihr auf die Schliche kommen, wenn sie Böses im Schilde führe, sagt Shah: »Selbst für eine schlaue KI wäre es dann viel schwerer, mit Tricks oder Lügen durchzukommen.«
Dennoch halten unabhängige Forscher eine weitere Abwehrlinie für notwendig: eine Aufsicht durch Dritte. Eine möglichst internationale Stelle sollte mithilfe spezieller Software neue KI-Modelle untersuchen, fordert der Max-Planck-Institutsdirektor Bernhard Schölkopf. »Geprüft werden könnte dann zum Beispiel, welche Wertvorstellungen in einem KI-Modell stecken und welche Informationen es verwendet, um Empfehlungen abzugeben. Die Behörde würde eingreifen, wenn durch ein KI-Modell eine Gefahr droht.«
Gegenwärtig scheint eine weltweite Regulierung in weiter Ferne. In den USA veröffentlichte Präsident Donald Trump erst kürzlich einen Plan, der vorsieht, bürokratische Hürden in der KI-Entwicklung möglichst abzubauen. Doch gibt es in ersten Ländern schon gut ausgestattete Einrichtungen, um künstliche Intelligenz zu überwachen, in Großbritannien beispielsweise testet das staatliche AI Security Institute fortgeschrittene KI-Modelle auf Sicherheitslücken. Ähnlich wie nationale Impfbehörden über Grenzen hinweg zusammenarbeiten, könnten solche KI-Institute ihre Erkenntnisse künftig weltweit austauschen. »Eine Instanz kann auch dann Standards schaffen, wenn sie nicht sofort von allen Staaten getragen wird«, sagt Schölkopf.
Ohne solche Prüfstellen dagegen könnten Unternehmen verleitet sein, auch unsichere KI-Systeme schnell auf den Markt zu bringen. Weil für sie viel auf dem Spiel steht.
VERLIERER UND PROFITEURE
Keine Viertelstunde von Metas gigantischer Baustelle im US-Bezirk Richland Parish entfernt, wartet an einer Tankstelle eine Frau namens Donna Collins, 62. Wie so viele hier hat sie große Vorbehalte gegen das neue Rechenzentrum. Collins, eine pensionierte Highschool-Lehrerin, hat sich extra einen kleinen Zettel geschrieben, um nur ja keinen Punkt zu vergessen.
Da wäre zunächst einmal das Wasser, sagt sie. Zuerst während der sechsjährigen Bauzeit, dann aber für die Kühlung im laufenden Betrieb werde die Serverfarm eine enorme Menge benötigen, obwohl Wasser in der Gegend ohnehin knapp sei. Und dann der Strom. Drei neue Gaskraftwerke sollen für das Rechenzentrum gebaut werden. Diese werden vom regionalen Energieversorger bezahlt und die Kosten dafür wohl auf dessen Kunden umgelegt. »Das kommt am Ende auf unsere Stromrechnung«, sagt Collins.
Dabei würden die Lebenskosten schon jetzt steigen. Seitdem Meta baue, seien die Grundstücks- und Mietpreise in der Region enorm gestiegen, und damit auch die Grundsteuer der eingesessenen Anwohner. Die, erklärt Collins, orientiere sich in Louisiana am Marktwert von Grund und Boden. »Umziehen aber kommt für viele hier nicht infrage«, sagt Collins. »Die Gegend ist viel zu arm, das kann sich keiner leisten.«
In Richland Parish zeigt sich ein Muster, das typisch ist für die Entwicklung von KI. Eine Technik, die angepriesen wird, allen zugutezukommen, teilt die Menschen in Verlierer und Profiteure.
Nicht nur die Bewohner in der Nähe von Giga-Rechenzentren leiden unter dem KI-Boom. Das Training vieler KI-Modelle beruht darauf, dass Menschen aus den maschinellen Antworten solche aussortieren, die etwa sexuelle Gewalt an Kindern oder Selbstverletzungen beschreiben. Über Subunternehmen lagern KI-Firmen diese Arbeit oft für einen Lohn von wenig mehr als einem Dollar pro Stunde nach Kenia oder Venezuela aus. Dem SPIEGEL sagte einer der ehemaligen Angestellten, die diese Tätigkeit für die Firma OpenAI erledigten, die Arbeit habe ihn auch Monate später nicht losgelassen: »Wir haben die Kugeln abgefangen, um ChatGPT sicher zu machen. Wir müssen mit den Wunden leben.«
Eine Super-KI dürfte die Arbeitswelt noch weitaus umfangreicher verändern, wobei sich Fachleute uneinig sind, wen es am stärksten trifft. Einerseits könnte es zu einer »Uberisierung« kommen, behauptet der Wirtschaftswissenschaftler Carl Benedikt Frey von der Universität Oxford: Was der Taxidienstleister Uber mit Taxifahrern angestellt habe, drohe dann Büroangestellten, von Programmierern bis zu Marketingfachleuten – KI demokratisiert den Zugang zu einst privilegierten Jobs. Andererseits wären in der neuen Arbeitswelt vor allem erfahrene Fachkräfte zur Kontrolle der smarten Systeme gefragt, heißt es in einer Veröffentlichung der Harvard Business School. Junge Menschen dürften es somit deutlich schwerer haben, ins Berufsleben einzusteigen.
Und der Energiehunger der KI führt zu einem weiteren Problem: Eine Untersuchung des unabhängigen deutschen Öko-Instituts für die Umweltschutzorganisation Greenpeace ergab, dass sich der Energiegebrauch von KI-Datenzentren weltweit bis zum Ende des Jahrzehnts verelfen könnte, auf 550 Terawattstunden im Jahr – das wäre mehr als der gesamte derzeitige Energiegebrauch von Deutschland. Allein mit Energie aus Sonne, Wasser und Wind ließe sich der Bedarf nicht decken, heißt es in dem Papier. Bis eine Superintelligenz also mal eben eine CO₂-freie Energiequelle erfindet, treibt die Technik auf unbestimmte Zeit die Erderwärmung voran. Dass darunter ärmere Menschen überdurchschnittlich leiden, nehmen Technikoptimisten in Kauf: Es dient ja einem höheren Zweck.
Wie sicher sich die Unternehmen sind, dass eine Superintelligenz jeden Preis wert ist, kann man an Meta beobachten. Während das Unternehmen die IT-Branche in den Zehnerjahren mit seinen Plattformen Facebook, Instagram und WhatsApp dominierte, verpasste es bei KI den Anschluss. Der Firmengründer Mark Zuckerberg möchte das nun ändern. Dahinter steckt weniger eine große akademische Vision, sondern vor allem wirtschaftliches Kalkül. Er brachte es auf die Formel »Superintelligenz für alle«.
Ende Juli verkündete Zuckerberg in einem Video die Gründung der Meta Superintelligence Labs. Dafür kaufte er für mehr als 14 Milliarden Dollar knapp die Hälfte der Anteile am Start-up Scale AI, spezialisiert auf das Training von künstlicher Intelligenz, und machte dessen Mitgründer Alexandr Wang zu seinem neuen Superintelligenz-Chef. Um Angestellte von anderen KI-Firmen abzuwerben, bietet sein Unternehmen, so berichten es Medien, Prämienzahlungen von bis zu 300 Millionen Dollar über vier Jahre für einen einzelnen Angestellten. Obendrauf kommt noch das Gehalt.
Meta dementiert diese Zahlen, wenn auch halbherzig, nicht aber die Ambitionen. »Ich glaube, dass dies der Beginn einer neuen Ära der Menschheit sein wird, und ich werde alles dafür tun, dass Meta die Führungsrolle übernimmt«, schrieb Zuckerberg in einem internen Memo an seine Beschäftigten, so berichtete es der Sender CNBC. Seine »Superintelligenz für alle« soll nicht nur die enormen Gehälter seiner neuen Abteilung wieder einspielen, auch für die Aktionäre des Konzerns soll noch genügend abfallen.
Bislang schneiden die hauseigenen KI-Modelle in wesentlichen Vergleichstests schlechter ab als die Konkurrenz von Google, OpenAI und Anthropic. Zuckerberg hat dafür einen Vorteil: Marktmacht. Allein Facebook wird von mehr als drei Milliarden Menschen weltweit genutzt, Instagram und WhatsApp sind global mit führend. Sie bieten Zuckerberg die Chance, KI-Anwendungen wie einen persönlichen Assistenten breit auszurollen. Damit würden die Nutzerinnen und Nutzer dem Konzern für das Training der KI-Modelle zudem noch kostenfrei wertvolle Daten bereitstellen.
Und so sieht die Technikjournalistin Karen Hao, die seit vielen Jahren zur KI-Branche recherchiert, in dem Rennen nach höherer künstlicher Intelligenz eine »fantastische Allzweckausrede« für KI-Unternehmen, um »nach mehr Reichtum und Macht zu streben«. In ihrem Buch »Empire of AI« vergleicht sie die Firmen mit Imperien, die eine moderne kolonialistische Weltordnung befördern würden. »Für einen Großteil der Menschen zahlt sich die technologische Revolution bislang nicht aus. Die Vorteile aus generativer KI nutzen vor allem den Reichen.«
Die großen Versprechen hinter Superintelligenz, selbst die lautstarken Warnungen vor ihr, ordnet Rainer Mühlhoff, Professor für Ethik der KI an der Universität Osnabrück, ebenfalls in diese Logik ein. In seinem kürzlich erschienenen Buch »Künstliche Intelligenz und der neue Faschismus« schreibt er, der Diskurs um AGI diene als »einflussreiches Vehikel, um die Euphorie von Investor:innen, Politiker:innen und Laien zu schüren, indem er nahelegt, dass eine bahnbrechende Entwicklung unmittelbar bevorstehe«.
Die wahre Bedrohung durch KI liegt dann nicht darin, dass sie die Menschheit auslöscht. Sondern darin, dass sie immer mehr Geld und Macht in wenigen Händen konzentriert.
NEUROTRANSMITTER UND GEFÜHLE
In einer Deobatte, die zwischen dem Untergang der Menschheit und einer fantastischen Traumwelt schwingt, gehen Zwischentöne leicht verloren. Die Neurowissenschaftlerin Jie Mei beherrscht diese leisen Töne. »Ich höre immer, die Superintelligenz sei um die Ecke«, sagt sie. »Aber ich weiß nicht, wo diese Ecke sein soll. Ich kann sie einfach nicht finden.«
Mei ist Professorin an der Interdisciplinary Transformation University IT:U im österreichischen Linz, einer im vergangenen Jahr gestarteten Universität mit dem Schwerpunkt auf Digitalisierung und KI. Mit ihren 32 Jahren ist sie für eine Professorin außergewöhnlich jung. An den Hals hat sie sich die Strukturformeln chemischer Moleküle tätowieren lassen, Sauerstoff und Stickstoff, Einfach- und Doppelbindungen.
Mit ihrer Arbeitsgruppe ergründet Mei, was sich die Entwickler von KI vom Gehirn abschauen können. Viele heutige KI-Modelle basieren auf sogenannten künstlichen neuronalen Netzen. Und doch, sagt Mei, seien sie eine grobe Vereinfachung des Originals. Erst dadurch sei es möglich geworden, die Modelle auf heutigen Computern laufen zu lassen. Sie vergleicht es mit dem Flugzeug: Ingenieure hätten sich das Prinzip des Fliegens von Vögeln abgeschaut und dennoch kämen Flugzeuge ohne Federn aus.
In dieser Beschränkung des Technischen liegt eine Chance.
Besonders interessiert sich Mei für jene Moleküle, die sie als Tattoo an ihrem Hals trägt: Neurotransmitter wie Serotonin, aber auch Dopamin. Allgegenwärtig sei der Einfluss dieser Moleküle auf das Gehirn, sagt sie. Sie sorgen beispielsweise mit dafür, dass Menschen eine innere Motivation verspüren, neugierig sind und lernen wollen. Und sie stärken die emotionale und soziale Seite des Menschen, die Fähigkeit, eigene und fremde Gefühle wahrzunehmen, sich in sein Gegenüber einzufühlen. »Neurotransmitter«, sagt Mei, »formen die Grundlage für das, was unser Wesen ausmacht.«
Noch gibt es keinen Weg, die Kraft der Neurotransmitter in die technische Domäne zu übertragen. Jie Mei arbeitet daran, KI mit Funktionen auszustatten, die sie von der modulierenden Wirkung der Moleküle auf das Gehirn ableitet. Doch allzu bald dürfte das nicht vollumfänglich gelingen. »Wissen Sie«, sagt Mei, als würde sie ein Geheimnis teilen: »Was KI-Unternehmen uns als Vision einer Super-KI verkaufen, ist in Wahrheit eine sehr eingeschränkte Form der Intelligenz.«
Das Rennen um Superintelligenz könnte so auch dem Menschen einen unerwarteten Entwicklungsschub bringen: wenn er sich darauf besinnt, worin er bis auf Weiteres einzigartig ist.
Simon Book, Angela Gruber, Marc Hasse, Max Hoppenstedt, Martin Schlak
