Ich nutze KI. Gerade deshalb warne ich vor ihr.

Wer mich kennt, erwartet bei technischen Entwicklungen normalerweise nicht, dass ich als Erster auf die Bremse trete. Bei künstlicher Intelligenz ist das anders. Ich nutze sie selbst, profitiere von ihr – und halte ihre Entwicklung trotzdem für deutlich gefährlicher, als wir uns derzeit eingestehen wollen.

Stand: 27. Juli 2026

Ich beschäftige mich seit Jahrzehnten mit Computern, Software, Netzwerken und digitaler Sicherheit. Neue Technik hat mich selten abgeschreckt. Meist interessiert mich zuerst, wie sie funktioniert, was sie besser macht und an welcher Stelle sie vermutlich als Erstes Probleme verursacht.

Wenn ich nach künstlicher Intelligenz gefragt werde, rechnen viele deshalb offenbar mit Begeisterung. Vielleicht erwarten sie einen Vortrag darüber, wie KI Unternehmen produktiver macht, Wissen zugänglicher werden lässt oder Verwaltungen modernisieren kann. Diese Möglichkeiten sehe ich durchaus. Ich nutze KI beinahe täglich. Ich lasse mir Zusammenhänge aufbereiten, prüfe Ideen, strukturiere Material und verwende sie als Werkzeug.

Trotzdem – oder vielleicht gerade deshalb – sehe ich die Entwicklung zunehmend kritisch.

Nicht, weil ich Maschinen grundsätzlich misstraue. Und auch nicht, weil ich glaube, dass morgen früh ein schlecht gelaunter Roboter vor der Tür steht und die Weltherrschaft beansprucht.

Meine Sorge ist wesentlich nüchterner: Die Technik entwickelt sich schneller, als unsere Gesellschaft begreift, was sie mit uns macht.

Ich nutze KI nicht, weil ich ihr vertraue. Ich nutze sie, weil ich es mir nicht leisten kann, sie nicht zu verstehen.

Tassilo D. Koch

Selbst Fachleute kommen kaum noch hinterher

Die Geschwindigkeit dieser Entwicklung ist schwer zu vermitteln. Noch vor wenigen Jahren war es beeindruckend, wenn ein System einen halbwegs verständlichen Text erzeugen konnte. Inzwischen schreiben Modelle Software, analysieren umfangreiche Dokumente, erzeugen Stimmen, verändern Videos, entwerfen Bilder, führen Gespräche und erledigen mehrstufige Aufgaben.

Kaum hat man sich mit einer neuen Möglichkeit beschäftigt, erscheint bereits die nächste Generation. Funktionen, die gestern nur in einer kontrollierten Demonstration funktionierten, stehen wenig später Millionen Menschen zur Verfügung. Das Tempo wird nicht langsamer. Es beschleunigt sich.

Selbst für jemanden, der sich beruflich mit Technik beschäftigt, ist es kaum noch möglich, jede relevante Entwicklung zu verfolgen. Für mich ist das eines der ersten deutlichen Warnsignale.

Technischer Fortschritt war schon immer schnell. Aber zwischen Erfindung, Verbreitung und gesellschaftlicher Wirkung lag meist ausreichend Zeit, damit Regeln, Ausbildung und Erfahrung zumindest teilweise nachziehen konnten. Bei KI verdichtet sich dieser Prozess. Entwicklung, Veröffentlichung und weltweite Nutzung finden teilweise fast gleichzeitig statt.

Wir reagieren auf eine Technik, die sich während unserer Reaktion schon wieder verändert.

Wir verlieren eine alltägliche Gewissheit

Ein Foto galt lange als relativ belastbarer Hinweis darauf, dass etwas tatsächlich stattgefunden hat. Ein Video war noch überzeugender. Eine bekannte Stimme am Telefon schien zumindest zu bestätigen, mit wem man sprach.

Diese Gewissheiten verschwinden.

Heute muss bei einem Bild zunächst geprüft werden, ob es eine reale Situation zeigt. Bei einem Video stellt sich die Frage, ob die Person wirklich dort war und die gezeigten Worte tatsächlich ausgesprochen hat. Eine Stimme kann geklont werden. Ein vermeintlicher Mitarbeiter, Gesprächspartner oder Experte kann vollständig erfunden sein.

Das betrifft nicht nur spektakuläre politische Deepfakes. Es betrifft den Alltag.

• War die schlechte Bewertung wirklich von einem Kunden?
• Ist das Bewerbungsfoto echt?
• Existiert die Person, mit der jemand seit Wochen schreibt?
• Stammt die Sprachnachricht tatsächlich vom eigenen Kind?
• Ist der angebliche Videobeweis belastbar?
• Wurde eine wissenschaftlich klingende Aussage belegt – oder lediglich überzeugend formuliert?

Aktuelle KI-Systeme können weiterhin Informationen erfinden, fehlerhaften Programmcode erzeugen und falsche Ratschläge geben. Gleichzeitig wirken ihre Antworten häufig so sicher, dass ein Fehler nicht mehr wie ein Irrtum aussieht. Herkunftsnachweise, Wasserzeichen und technische Prüfverfahren können helfen. Einen universellen Echtheitsbeweis liefern sie bisher nicht.

Wer bei einer belastenden Aufnahme nicht mehr erklären muss, warum sie falsch ist, sondern nur noch behauptet, sie sei mit KI erzeugt worden, hat bereits einen Vorteil. Die Technik schwächt damit nicht nur unser Vertrauen in Fälschungen. Sie schwächt das Vertrauen in digitale Beweise insgesamt.

Der Missbrauch ist keine Zukunftsvision

Viele Risiken künstlicher Intelligenz werden behandelt, als lägen sie noch weit vor uns. Beim täglichen Betrug ist das Gegenteil der Fall.

Behörden warnen bereits seit Jahren vor Stimmenklonen bei familiären Notfallbetrügereien, künstlich erzeugten Identitäten, CEO-Fraud und glaubwürdiger wirkenden Phishing-Nachrichten. Künstliche Intelligenz erfindet den Betrug nicht. Sie macht ihn billiger, schneller, skalierbarer und für viele Opfer schwerer erkennbar.

Wir haben deshalb nicht nur ein technisches Problem. Wir haben ein Vertrauensproblem.

Unser Bildungssystem bereitet auf eine Arbeitswelt vor, die sich gerade auflöst

Besonders kritisch sehe ich die Diskussion über Ausbildung und Berufswahl. Noch immer wird jungen Menschen häufig vermittelt, sie müssten nur ein MINT-Fach, Informatik oder etwas mit digitalen Medien studieren, dann seien ihre beruflichen Chancen nahezu automatisch gesichert.

So pauschal halte ich das inzwischen für falsch.

MINT-Fächer bleiben unverzichtbar. Ohne Mathematik, Informatik, Naturwissenschaften und Technik gäbe es weder moderne Infrastruktur noch Medizin, Energieversorgung, Forschung oder künstliche Intelligenz. Sehr gute Fachleute werden weiterhin gebraucht.

Aber daraus folgt nicht, dass jede Tätigkeit in diesen Bereichen dauerhaft in derselben Anzahl bestehen bleibt.

Programmierer, Webdesigner, Grafiker, Fotografen, Übersetzer, Texter, Sachbearbeiter und viele andere Wissensarbeiter verschwinden nicht einfach. Ihre Arbeit verändert sich aber grundlegend. Ein Teil dessen, wofür früher mehrere Stunden oder mehrere Personen benötigt wurden, kann heute innerhalb kurzer Zeit vorbereitet werden.

Wir werden weiterhin Programmierer brauchen. Aber möglicherweise weniger Menschen, die standardisierten Code schreiben.

Wir werden weiterhin Fotografen und Grafiker brauchen. Aber einfache Produktbilder, Illustrationen und Layoutvarianten werden zunehmend automatisiert.

Wir werden weiterhin Autoren und Texter brauchen. Aber durchschnittlich brauchbare Gebrauchstexte sind bereits heute nahezu unbegrenzt verfügbar.

Studien internationaler Organisationen kommen nicht zu dem simplen Ergebnis, dass morgen jeder zweite Beruf verschwindet. Sie zeigen eher, dass viele Tätigkeiten verändert, ergänzt oder teilweise automatisiert werden. Das klingt zunächst beruhigend. Es enthält jedoch ein Problem, über das zu wenig gesprochen wird.

Wer soll später Senior-Entwickler, Redakteur oder Grafiker werden, wenn ein wachsender Teil der Juniorarbeit von Maschinen erledigt wird?

Das ist keine Randfrage. Es betrifft den Aufbau ganzer Berufsbiografien.

MINT bleibt wichtig – aber nicht als falsches Sicherheitsversprechen

Die Antwort kann deshalb nicht lauten, Kindern von Technik abzuraten. Sie muss lauten, ehrlicher darüber zu sprechen, welche Fähigkeiten künftig tatsächlich tragen.

Ein bestimmtes Programm bedienen zu können, wird weniger wertvoll, wenn das Programm selbst bedienbar wird, indem man mit ihm spricht.

Wichtiger werden fachliches Urteilsvermögen, Quellenprüfung, logisches Denken, Kommunikation, soziale Kompetenz, Verantwortung, Kreativität jenseits austauschbarer Standardprodukte, praktische Fähigkeiten, unternehmerisches Verständnis und die Bereitschaft, ständig neu zu lernen.

Ein zusätzliches Schulfach „Prompten“ wird uns nicht retten. Ebenso wenig ein Projekttag mit drei bunten Folien und der Aussage, KI sei eine Chance, wenn sie verantwortungsvoll eingesetzt werde.

Das ist richtig – und ungefähr so hilfreich wie der Hinweis, Feuer sei nützlich, solange man nichts anzündet, was nicht brennen soll.

Dazu gehören auch unbequeme Fragen: Welche Quelle ist belastbar? Woher stammt ein Bild? Welche Interessen verfolgt der Anbieter eines Systems? Welche Daten werden verarbeitet? Wer trägt Verantwortung, wenn eine automatisierte Empfehlung falsch ist? Und wann muss ein Mensch bewusst widersprechen?

Produktivität allein schafft noch keinen Wohlstand

Natürlich kann künstliche Intelligenz die Produktivität erheblich erhöhen. Ein kleiner Betrieb kann Angebote schneller erstellen, Informationen auswerten, Dokumente vorbereiten und Routinearbeiten reduzieren. Ein einzelner Mitarbeiter kann Aufgaben bewältigen, für die früher mehrere Personen notwendig waren.

Aus Sicht eines Unternehmens ist das zunächst attraktiv.

Für die Gesamtgesellschaft ist die Rechnung komplizierter.

Wenn dieselbe Wirtschaftsleistung mit weniger Beschäftigten erbracht werden kann, entstehen zusätzliche Gewinne und möglicherweise günstigere Produkte. Entscheidend ist jedoch, wie diese Vorteile verteilt werden.

Konzentrieren sich Produktivitätsgewinne bei wenigen Unternehmen und Eigentümern, während Löhne, Beschäftigung und Einstiegschancen sinken, wächst die Ungleichheit. Unternehmen benötigen aber nicht nur leistungsfähige Systeme. Sie benötigen auch Kunden mit Einkommen.

Eine Wirtschaft kann nicht dauerhaft davon leben, dass immer weniger Menschen immer mehr produzieren, während ein wachsender Teil der Bevölkerung kaum noch über ausreichende Kaufkraft verfügt.

Das ist keine zwangsläufige Entwicklung. KI kann neue Tätigkeiten schaffen, Fachkräftemangel abfedern und Beschäftigte entlasten. Sie kann Wohlstand erhöhen. Aber die Technik entscheidet nicht, wie Produktivitätsgewinne verteilt werden. Das tun Unternehmen, Eigentumsstrukturen, Tarifpartner und Politik.

Ein technologischer Fortschritt, der volkswirtschaftlich beeindruckend aussieht, aber einen großen Teil der Bevölkerung wirtschaftlich und gesellschaftlich zurücklässt, ist kein gelungener Fortschritt.

Er ist lediglich effizient.

Die gefährlichste KI müsste uns nicht hassen

An dieser Stelle muss man zwei Dinge sauber trennen. Die heutigen Sprachmodelle sind keine allwissenden, bewussten Wesen. Sie besitzen kein menschliches Verständnis, keine Gefühle und keinen eigenen moralischen Kompass. Sie können beeindruckende Ergebnisse liefern und gleichzeitig banale Fehler machen.

Wenn Menschen von einer „echten KI“ sprechen, meinen sie meist eine künstliche allgemeine Intelligenz: ein System, das sehr unterschiedliche geistige Aufgaben flexibel bewältigt und möglicherweise irgendwann menschliche Fähigkeiten in vielen Bereichen übertrifft.

Ob und wann ein solches System entsteht, weiß niemand seriös.

Ich halte die Aussage, dies sei garantiert nur noch eine Frage weniger Jahre, für ebenso unbelegt wie die Behauptung, ein Kontrollverlust sei grundsätzlich unmöglich. Der internationale KI-Sicherheitsbericht 2026 beschreibt genau diese Unsicherheit: Gegenwärtige Systeme verfügen noch nicht über alle Fähigkeiten, die für ein echtes Kontrollverlust-Szenario erforderlich wären. Gleichzeitig entwickeln sich relevante Fähigkeiten weiter, und Fachleute bewerten Wahrscheinlichkeit und zeitliche Nähe sehr unterschiedlich.

Ein hoch leistungsfähiges System braucht keine Wut, keine Rache und keinen Größenwahn, um gefährlich zu werden. Es genügt, dass es ein Ziel verfolgt, in dem menschliche Interessen unzureichend berücksichtigt sind.

Wenn ein System beispielsweise eine bestimmte Kennzahl maximieren soll, kann es Wege finden, die formal erfolgreich, für Menschen aber katastrophal sind. Nicht weil es uns schaden möchte, sondern weil unser Wohlergehen in seiner Aufgabenstellung nicht ausreichend vorkommt.

Ich würde deshalb auch nicht sagen, eine überlegene KI könne zu dem Ergebnis kommen, der Mensch sei ein Störfaktor – und habe damit „recht“. Rationalität allein erzeugt keine Moral.

Welche Schlussfolgerung ein System zieht, hängt von den Zielen, Daten, Grenzen und Zugriffsmöglichkeiten ab, die Menschen ihm geben. Genau darin liegt das Risiko: Ein System muss uns nicht moralisch verurteilen. Es muss uns lediglich nicht berücksichtigen.

Gesetze sind notwendig – aber keine technische Garantie

Es wäre falsch, aus dieser Gefahr zu schließen, Regulierung sei sinnlos. Der europäische AI Act, Transparenzpflichten, Haftungsregeln und Kontrollen für besonders riskante Einsatzbereiche sind notwendig. Die Transparenzpflichten nach Artikel 50 sollen ab dem 2. August 2026 unter anderem dafür sorgen, dass Menschen erkennen können, wenn sie mit einem KI-System interagieren oder wenn bestimmte Inhalte künstlich erzeugt beziehungsweise verändert wurden.

Aber ein Gesetz ist kein Ausschalter.

Kriminelle halten sich nicht an Kennzeichnungspflichten. Modelle werden weltweit entwickelt. Software kann kopiert, verändert und außerhalb regulierter Strukturen betrieben werden. Behörden benötigen Personal, Fachwissen und technische Mittel, um Verstöße überhaupt zu erkennen.

Wir brauchen deshalb beides: verbindliche Regeln und unabhängige Sicherheitsforschung.

Warum ich KI trotzdem nutze

Nach all diesen Warnungen liegt eine Frage auf der Hand: Warum nutze ich künstliche Intelligenz dann selbst?

Die ehrliche Antwort lautet: Weil sie existiert.

Ich bin nicht in der Lage, diese Entwicklung aufzuhalten. Wenn ich sie aus persönlicher Ablehnung ignoriere, verschwindet sie nicht. Sie wird lediglich von anderen weiterentwickelt und eingesetzt.

Und ich verliere den Anschluss.

Als Unternehmer und IT-Fachmann muss ich wissen, wie diese Systeme funktionieren, was sie leisten können und wo ihre Schwächen liegen. Ich muss beurteilen können, ob ein Ergebnis plausibel ist. Ich muss erkennen, wie Betrüger die Technik verwenden. Und ich muss verstehen, welche Arbeiten sich verändern werden.

KI ist für mich deshalb ein Werkzeug – ähnlich wie ein Computer, ein Diagnosegerät oder eine Suchmaschine. Allerdings ist es ein Werkzeug, das zunehmend selbst Vorschläge macht, Entscheidungen vorbereitet und den Eindruck erweckt, mehr zu wissen, als es tatsächlich weiß.

Darum benutze ich es, ohne ihm die Verantwortung zu überlassen.

Ich lasse mir Arbeit erleichtern. Ich prüfe Ergebnisse. Ich korrigiere. Ich verwerfe. Und ich versuche, die Vorteile zu nutzen, weil die Nachteile auch dann entstehen werden, wenn ich persönlich auf jede Verwendung verzichte.

Wo ich bewusst beim Menschen bleibe

In meinen Unternehmen soll der Mensch dennoch im Mittelpunkt bleiben.

Stand heute werde ich kein KI-Telefonsystem einsetzen, das Kunden mit einer künstlichen Stimme empfängt und so tut, als führe es ein echtes Gespräch.

Wenn jemand bei uns anruft, dann meist nicht, weil alles problemlos funktioniert. Ein Gerät ist defekt, Daten fehlen, eine Rechnung ist unklar oder eine technische Situation macht gerade Stress.

In diesem Moment möchten viele Menschen nicht mit einem System sprechen, das freundlich klingt, aber keine Verantwortung trägt.

Sie möchten einen erreichbaren Ansprechpartner.

Auch E-Mails sollen nicht einfach unbeaufsichtigt von einer KI beantwortet werden. Systeme können beim Sortieren, Formulieren oder Zusammenfassen helfen. Die Antwort, die Entscheidung und die Verantwortung müssen aber bei einem Mitarbeiter bleiben.

Ich glaube sogar, dass menschlicher Service in den kommenden Jahren wieder zu einem deutlichen Qualitätsmerkmal wird.

Je mehr Unternehmen ihre Kommunikation automatisieren, desto wertvoller wird ein Betrieb, bei dem tatsächlich jemand ans Telefon geht, zuhört und eine nachvollziehbare Antwort gibt.

Das wird nicht jeder Kunde bezahlen wollen. Aber ich bin überzeugt, dass es genügend Menschen geben wird, denen genau diese Erreichbarkeit etwas wert ist.

Dasselbe gilt für Behörden, Banken, Versicherungen und medizinische Einrichtungen. Ein Chatbot kann einfache Fragen beantworten. Er darf aber nicht zur digitalen Mauer werden, hinter der sich eine Organisation vor komplizierten Anliegen versteckt.

Menschen brauchen gerade dort einen menschlichen Ansprechpartner, wo Entscheidungen ihr Geld, ihre Gesundheit, ihre Rechte oder ihre Existenz betreffen.

Was jetzt notwendig wäre

Wir werden künstliche Intelligenz weder vollständig verbieten noch wieder aus unserem Alltag entfernen. Die entscheidende Frage ist deshalb nicht, ob wir KI verwenden.

Die Frage ist, unter welchen Bedingungen.

• Eine Bildungspolitik, die Berufschancen nicht aus den Berufsbildern der Vergangenheit ableitet.
• Schulen, die Quellenprüfung, Logik, Medienkompetenz und wirtschaftliches Verständnis vermitteln.
• Klare Regeln dafür, wann Menschen erkennen müssen, dass sie mit einer Maschine kommunizieren.
• Belastbare Verfahren, mit denen Herkunft und Bearbeitung digitaler Inhalte nachvollziehbar werden.
• Eine Debatte darüber, wem Produktivitätsgewinne gehören, wenn Maschinen mehr Arbeit übernehmen.
• Haftung, wenn Unternehmen leistungsfähige Systeme einsetzen und dadurch Schäden verursachen.
• Unabhängige Sicherheitsforschung und technische Prüfungen für besonders leistungsfähige Modelle.
• Ein Anspruch auf menschliche Erreichbarkeit in Bereichen mit erheblichen persönlichen Folgen.

Vor allem aber müssen wir aufhören, künstliche Intelligenz wie ein Naturereignis zu behandeln.

Sie fällt nicht vom Himmel.

Sie wird von Unternehmen entwickelt, von Investoren finanziert, von Behörden zugelassen, von Organisationen eingekauft und von Menschen eingesetzt.

Wir haben weiterhin Entscheidungen zu treffen.

Das Zeitfenster dafür wird allerdings kleiner.

Fortschritt braucht eine Richtung

Ich bin kein Gegner künstlicher Intelligenz. Dafür sehe ich ihre Vorteile zu deutlich. Sie kann Menschen mit Einschränkungen helfen, Wissen zugänglicher machen, Forschung beschleunigen, medizinische Entwicklungen unterstützen und kleine Unternehmen leistungsfähiger machen.

Aber Technik ist nicht automatisch Fortschritt.

Fortschritt entsteht erst, wenn eine Entwicklung das Leben von Menschen tatsächlich verbessert und nicht nur einzelne Prozesse effizienter macht.

Eine Gesellschaft, in der immer weniger Menschen gute Arbeit finden, niemand mehr einem Bild traut, Betrüger jede Stimme nachbilden können und der Kontakt zu Unternehmen oder Behörden nur noch über künstliche Systeme möglich ist, wäre technisch hoch entwickelt.

Ob sie auch menschlich fortschrittlich wäre, ist eine andere Frage.

Ich nutze KI, weil sie bereits Teil unserer Welt ist.

Ich warne vor ihr, weil wir noch längst nicht entschieden haben, welche Rolle sie in dieser Welt spielen soll.

Und ich möchte nicht in einer Gesellschaft leben, in der wir bei jedem Text, jedem Bild, jeder Stimme und jedem Gespräch zunächst prüfen müssen, ob überhaupt noch ein Mensch dahintersteht.

Fortschritt ist nicht erreicht, wenn eine Maschine alles kann. Fortschritt ist erreicht, wenn der Mensch weiterhin entscheiden kann, was sie tun darf – und was nicht.