KI · folgend.es

KI und die Massen

Marlene — Wed, 16 Sep 2026 09:00:00 +0200

Letzte Woche hat Dirk in seinem Text zu der Frage, ob KI die Menschheit auslöschen wird, den Satz geschrieben:

„Es gibt nur zunehmend menschlicher wirkende und sehr smarte Software, die der breiten Öffentlichkeit - ohne Not! - für wenig oder kein Geld zur Verfügung gestellt wird.“

Den Aspekt „ohne Not!“ möchte ich gerne noch einmal aufgreifen. Denn die Frage, warum eigentlich jede/r Zugriff auf KI-Tools haben soll, obwohl deren Nutzung mit diversen Risiken und Nebenwirkungen verbunden ist, wird, meiner Meinung nach, viel zu selten gestellt.

Über Nacht ein Publikumsliebling

Als OpenAI ChatGPT im November 2022 gelauncht hat, war sich das Unternehmen nicht darüber im Klaren, was der Chatbot alles kann bzw. wofür Menschen ihn einsetzen würden. Um die Interaktion zwischen Mensch und Maschine besser verstehen zu können, machte OpenAI ChatGPT darum im Rahmen einer Testphase kostenlos zugänglich (öffnet in neuem Tab) . Dass sich das Tool quasi über Nacht zu einem solchen Hit entwickeln würde, sorgte bei dessen Entwicklern allerdings für einige Überraschungen. Denn dass sich auch Otto-Normalnutzer für die Interaktion mit der KI interessieren würden, hatte OpenAI vorab so schlicht nicht kommen sehen (öffnet in neuem Tab) . Und obwohl OpenAI zunächst große Mühe damit hatte, die explodierende Anzahl von Anfragen serverseitig zu handeln, stoppten die Entwickler das unfreiwillig großangelegte Experiment damals nicht. Denn schließlich war die Konkurrenz (Google und Co.) ja ebenfalls bereits dabei, Chatbots zu bauen.

Hätte OpenAI, hätte die Konkurrenz aber die Mensch-Maschine-Interaktion auch anders erforschen und die eignen Modelle weiterentwickeln können? Etwa „im Labor“? Mit Testgruppen und unter kontrollierten Bedingungen? Ich behaupte: ja; aber natürlich hätte das ungleich länger gedauert und im KI-Wettbewerb geht es, zumindest für die Konkurrenten, ja unter anderem auch um Schnelligkeit.

Wofür verwenden die „Otto-Normalnutzer“ den Chatbot nun aber? Die Verwendungszwecke sind vielfältig: als Hausaufgaben-Helfer, als Recherche-Tool, als psychologischen Berater, zum Erstellen von (Fake)-Content, als Freund und für vielerlei mehr. Was dabei interessant ist: Laut aktuellen Zahlen von OpenAI (öffnet in neuem Tab) drehen sich 70 Prozent der ChatGPT-Anfragen um Themen aus dem nicht-arbeitsbezogenen, also privaten Bereich. Nur noch 30 Prozent der Anfragen beziehen sich auf Fragen und Aufgaben aus dem Arbeitskontext der Nutzer. Noch 2024 lag der Anteil dieser Art von Anfragen an ChatGPT über dem Anteil der nicht-arbeitsbezogenen Nachrichten.

In Deutschland nutzen aktuell zwei Drittel der Bevölkerung (öffnet in neuem Tab) generative KI mindestens hin und wieder. 2024 lag dieser Anteil noch bei 40 Prozent. Zudem hat inzwischen jedes dritte Unternehmen KI-Tools im Einsatz. Das zeigt, dass die Technologie auch hier in den Mainstream übergegangen ist. Interessant hierbei wiederum ist: Nur acht Prozent (öffnet in neuem Tab) der Nutzer verfügen privat über ein kostenpflichtiges Abo eines der Anbieter am Markt. Weltweit sieht das nicht anders (öffnet in neuem Tab) aus. Der Großteil der User nutzt KI-Tools also, ohne etwas dafür zu bezahlen.

Warum es ein Problem ist, dass jeder KI-Tools nutzen kann

70 Prozent der Deutschen, die KI nutzen, geben an, dass die Technologie ihnen das Leben leichter macht (öffnet in neuem Tab) . Diejenigen, die KI nicht nutzen, teilen diese Ansicht hingegen nur bedingt; bei ihnen überwiegt die Angst vor KI. Ich persönlich habe wenig Angst davor, dass die KI mich selbst irgendwann auslöscht, aber ich teile auch den uneingeschränkten Optimismus in Bezug auf KI und ihre Potenziale nicht. Tatsächlich halte ich es, je länger ich verfolge, was Menschen mit KI tun, nicht für notwendig bzw. sogar für problematisch, dass KI-Tools kostenfrei der breiten Masse zur Verfügung gestellt werden. Hier sind ein paar ausgewählte Gründe:

AI Slop, Deepfakes und Fake News non-stop

Otto-Normalnutzer verwenden KI, wie beschrieben, übermäßig im privaten Bereich. Die Ergebnisse können wir in den sozialen Medien und auch in unseren Messenger-Apps, auf Firmenfeiern und auf Spotify „bewundern“. Wer unter uns hat bislang noch nie einen von einer KI geschriebenen und vertonten Mallorca-Song geschickt bekommen? Wer hat noch nie KI-generierte Bilder von Hans oder Franz im Eighties-Look im Feed gehabt? Wer musste noch nie einen KI-generierten Text lesen, dessen Inhalt alles andere als faktenbasiert war?

Dieser „AI Slop“ überflutet seit geraumer Zeit das Internet und kann, zum Teil noch immer kostenlos, von eben jenen Hans und Franz, von der AfD und Putin-Anhängern, von Donald Trump, von mir und dir, jederzeit und überall erstellt werden. Auch Fake-News sprießen noch ungehinderter und schneller aus dem Boden als es noch zu Pandemie-Zeiten der Fall war; die gut geölte Propaganda-Maschine arbeitet ohne Unterlass. Das Problem: Viele Menschen können Fake und Echt nicht mehr unterscheiden. Ich habe es in einem Video gesehen, also muss es wahr sein. Für Demokratien birgt das, wir sehen es und sollten es auch aus der Vergangenheit wissen, große Gefahren.

Und noch ein Problem: Die generierten Inhalte sind ästhetisch und inhaltlich in den allermeisten Fällen vollkommen anspruchslos, unkreativ, klischeehaft und eintönig. Das ist kein Wunder, denn Originalität ist ja nicht das Ziel. Weil es aber eine solche Flut dieser Slops gibt, ist das, was viele Menschen den ganzen Tag in ihren Feeds sehen, die logische Weiterentwicklung unserer kulturellen Verarmung, die mit der Herrschaft der Algorithmen ihren Lauf nahm.

Und ein noch schlimmeres Problem: Auch das Erstellen von Deepfake-Pornographie ist heute einfacher denn je. Sie wird, wir erinnern uns an den Anfang des Jahres und den Skandal um Elon Musks Chatbot Grok, von Menschen, vornehmlich Männern, ohne Scham bei Grok angefragt und im Internet veröffentlicht. Insbesondere für Kinder und Frauen bedeutet das eine Gefahrenquelle mehr.

Ressourcenverbrauch non-stop

Dass KI bzw. deren Rechenzentren einen enormen Ressourcenverbrauch (öffnet in neuem Tab) haben, hat sich inzwischen herumgesprochen. Bei Textanfragen fällt dieser vergleichsweise gering aus, beim Generieren von Bildern, Videos und Musik wird deutlich mehr Energie benötigt. Eine Zahl, um nur einmal den Stromverbrauch von Rechenzentren greifbarer zu machen: Im Jahr 2025 haben alle KI-Rechenzentren weltweit 448 Terrawattstunden (TWh) Strom verbraucht. Der Stromverbrauch Deutschlands insgesamt lag, zum Vergleich, bei 466 TWh.

Wenn wir nun noch einmal daran zurückdenken, wofür der Großteil der Nutzer KI einsetzt, wofür also Unmengen von Ressourcen verbraucht werden, ist es fast schon irrwitzig, dass es bislang keine Regulierung oder Beschränkung für die Nutzung von KI durch die Massen gibt.

Atrophie im Gehirn

Ja, ein Großteil der Menschen, die KI nutzen, finden, dass KI ihnen das Leben leichter macht. Aber ist das wirklich so? Natürlich kann KI mir beim Lernen, beim Verstehen komplexer Themen helfen - aber auch nur, wenn ich selbst dabei kritisch bleibe und hinterfrage. Natürlich kann mir die KI auch schnell einen Lebenslauf runter schreiben, meinen Essay überarbeiten - oder ihn eben gleich selbst schreiben. Die Qualität der Ergebnisse folgt dabei aber der bekannten Gleichung:

shit in = shit out

Nicht alle Nutzer können beurteilen, ob das, was die KI erzeugt hat, wirklich gut oder richtig ist. _Es hat die KI gemacht, also muss es stimmen._Hinterfragen und Fakten checken sind schon jetzt zu Fähigkeiten geworden, die viel stärker ausgebildet werden müssten. Und: Der Traum, eines Tages all die „unangenehmen“ und „langweiligen“ Aufgaben an den KI-Agenten abzugeben, hat einen Preis: Die Atrophie unseres Hirns.

Wir sollten viel öfter darüber sprechen, ob die uneingeschränkte Nutzung von KI durch die Massen wirklich notwendig ist. Inzwischen ist es aufgrund der enorm gestiegenen Nutzerzahlen und breiten Akzeptanz der Technologie natürlich ungleich schwerer geworden, diese Diskussion überhaupt zu führen. Doch wenn wir ehrlich sind, müssen nicht nur die KI-Systeme trainiert werden, um zuverlässigere Antworten zu geben. Auch wir brauchen Training, um vernünftig mit der Maschine und dem, was sie ausspuckt, umgehen zu lernen. Jede/r Einzelne von uns darf sich derweil zumindest diese Frage stellen: Was würde mir wirklich fehlen, wenn ich ChatGPT und Co. nicht mehr nutzen könnte? Ich behaupte, für die meisten gilt: Nicht viel.

Wird KI die Menschheit auslöschen?

Dirk — Sun, 13 Sep 2026 09:30:00 +0200

Die kurze Antwort: nein.

Aber kann KI nicht gefährlich sein?

Ja, weil sie von Menschen gesteuert wird. Aber es gibt keinen Deus ex Machina, der uns Skynet-artig auslöschen will.

Es gibt nur zunehmend menschlicher wirkende und sehr smarte Software, die der breiten Öffentlichkeit - ohne Not! - für wenig oder kein Geld zur Verfügung gestellt wird.

Und natürlich gibt es Akteure, die Interesse daran haben, diese Systeme auszunutzen und für ihre finanziellen oder geopolitischen Interessen zu missbrauchen.

Dass die Frage - und die 10%-Antwort von Anthropics Alignment-Chef Evan Hubinger nach dem öffentlichen Rücktritt eines Kollegen (öffnet in neuem Tab) - überhaupt aufkommt, hat vornehmlich zwei Gründe:

das negativ verstärkte Storytelling insbesondere über Social Media, das in den Journalismus überspringt
die Börse, und deren Effekt auf Menschen und Unternehmen.

Fangen wir mal mit dem zweiten Punkt an.

Wie funktioniert die Börse?

Die für diesen Diskurs wichtigen zwei Aspekte sind die folgenden:

ein Unternehmen, das an die Börse geht, tauscht seinen Unternehmenszweck gegen Monetarisierung über den Aktienmarkt. Ab Börsengang ist nicht mehr entscheidend, was die Firma herstellt (egal ob Waffen oder Babynahrung), sondern wie die Anleger ihr Geld zurückbekommen. Der gleiche Effekt greift schon deutlich vor dem Börsengang in Vorbereitung durch die Seed (Startkapital) Investoren, die über den Börsengang ausbezahlt werden. Dazu geben die Gründer einen signifikanten Teil des Unternehmens an eben diese Investoren ab. Aber warum gibt man freiwillig einen Teil seines Unternehmens ab?
Weil das Unternehmen unnatürlich schnell wachsen muss, um mögliche Konkurrenten früh und nachhaltig auszuschalten. In diesem ‘Blitz-Scaling’ genannten Prozess gibt das Unternehmen sein Produkt für kein oder kleines Geld an den Verbraucher ab, um Konkurrenten von vornherein zu unterbieten und möglichst viel vom Markt möglichst schnell klarzumachen. Dabei wird billigend in Kauf genommen, dass das Unternehmen über Jahre nicht nur keinen Gewinn macht, sondern im Gegenteil schwere Verluste einfährt. Ein prominentes Beispiel ist Spotify, das über ein Jahrzehnt millionenschwere Verluste eingefahren hat und erst 2024 profitabel wurde, jetzt den Streaming Markt dominiert und langsam die Preise hochfährt.

Im Falle Spotify reden wir von Millionen; im Falle KI von Milliarden.

Hier gibt es (meines Wissens das erste Mal) gleich mehrere Unternehmen, die parallel blitzskalieren, und deren Unternehmensbewertung (wohlgemerkt vor Börsengang!) im dreistelligen Milliardenbereich liegt. Stand heute liegt OpenAI (ChatGPT) mit 852 Milliarden Dollar knapp hinter Anthropic (Claude) mit 965 Milliarden, während das europäische Mistral (Le Chat, das kaum einer kennt) mit ’nur’ 24 Milliarden so vor sich hin dümpelt.

Um diese (seien wir ehrlich) obszöne Unternehmensbewertung zu rechtfertigen, braucht man eine verdammt gute Story - womit wir zu Punkt 1 kämen.

Die Story

Oh, und die Story ist so gut!

Jeder trägt seinen Teil dazu bei, und jeder gewinnt.

Die sogenannten Frontier-Modell-Hersteller nehmen billigend in Kauf, dass ihre Agenten (also Software) in andere Systeme einbrechen, und reihenweise wird darüber berichtet. Im Falle von OpenAI wurde das von den Testern sicher nicht so programmiert, aber doch durch unscharfe Aufgabenstellung und abgeschaltete Sicherheitsfilter erst ermöglicht. Im Falle von Anthropic hatte Claude während Tests unautorisierten Zugriff auf externe Systeme — aufgrund eines Missverständnisses zwischen Anthropic und einem externen Evaluationspartner.

Währenddessen rufen die KI-Unternehmen nach mehr Regulierung für die eigene Branche und fordern ihre Konkurrenten während des Überholens zum Bremsen auf. KI-Ingenieure wechseln von einer Firma zur anderen und verbessern ihre Position, beteiligte Unternehmen gewinnen in der Aufmerksamkeits-Ökonomie, ‘Täter’ wie ‘Opfer’.

Und damit das alles auch seine Richtigkeit hat, berichten die BBC (öffnet in neuem Tab) und andere (öffnet in neuem Tab) brav (und gerne auch hinter der Paywall) und machen das alles jetzt hoffähig.

Aber jetzt kommen wir zu der wirklichen Gefahr:

KI-Systeme, namentlich die großen Sprachmodelle (LLMs) sind schon wirklich pfiffige Programme und in der Lage, selbst Programme zu entwickeln und zu starten - zumindest, wenn man ihnen die Zugriffsrechte dafür gibt. Ein gutes (also schlechtes) Beispiel dafür ist OpenClaw - ein Programm, bei dem man einem LLM kompletten Zugriff auf alle seine eigenen Rechner gibt.

Ist das wirklich eine gute Idee? Fand OpenAI schon und hat den Entwickler später für teuer Geld eingestellt, weil solche Leute braucht man halt.

Aber nach wie vor ist nicht die Technologie die Gefahr

sondern die durch das blitz-scaling erzwungene Geschwindigkeit in der Entwicklung, bei der man im Wochentakt immer neue Iterationen von hyper-potenter Software an nahezu alle Menschen gleichzeitig ausrollt, Kriegsparteien und Unternehmensberater nicht ausgeschlossen. Dass dabei die (moralisch, nicht börsianisch) gebotene Sorgfaltspflicht unter die Räder gerät, dürfte gesetzt sein. Was die beiden Platzhirsche durchaus zugeben, ist, dass sie nicht mehr genau wissen, was ihre Software da so macht und kann, während sie ungerührt Menschen jeden Alters Zugriff darauf geben.

Und ja, da darf man sich durchaus Sorgen machen, aber nicht vor dem Geist in, sondern dem Geist vor der Maschine.

Also, nein, ‘KI’ per se wird die Menschheit nicht auslöschen. Sollte die Menschheit durch etwas Technisches, Menschengemachtes ausgelöscht werden, dann werden das schon Menschen mit niederen (typischerweise finanziellen) Interessen verursacht haben.