Wenn über künstliche Intelligenz gesprochen wird, geht es oft zuerst um Effizienz, Automatisierung und Produktivität. KI kann Berichte schreiben, Informationen strukturieren, Daten auswerten, Systeme orchestrieren und wiederkehrende Aufgaben massiv beschleunigen. Gleichzeitig wächst aber ein Bereich, der in vielen Unternehmen noch zu wenig strategisch gedacht wird: KI-Datensicherheit.
Genau darum ging es in der neuen Folge des MARKETING MEETS TECHNOLOGY-Podcast. Timon Hartung von WOXOW kam dabei ins Gespräch mit Curt Simon Harlinghausen, CNO and Solution Engineer. Im Zentrum stand die Frage, wie Unternehmen KI produktiv nutzen können, ohne dabei die Kontrolle über sensible Daten, Prozesse und Zugriffe zu verlieren.
Inhaltsverzeichnis
- Wie KI-Automatisierung Abläufe verändert
- Human in the Loop bleibt der entscheidende Sicherheitsfaktor
- Agentic AI vs Generative AI: Warum der Unterschied so wichtig ist
- Datenqualität entscheidet über Nutzen und Risiko
- Datensparsamkeit ist oft die bessere Strategie
- On-Premise und die Rückkehr zur Kontrolle
- KI-Sicherheit: Die realen Bedrohungen
- KI-Datensicherheit beginnt schon bei der Architektur
- KI braucht nicht weniger Mensch, sondern bessere Zusammenarbeit zwischen Mensch und Maschine
- Die wichtigsten Learnings
- FAQ
Wie KI-Automatisierung Abläufe verändert
Viele Beispiele auf LinkedIn wirken übertrieben – komplette Teams durch KI ersetzen und vollautomatische Systeme, die alles erledigen? Die Realität ist differenzierter.
Curt Simon Harlinghausen beschreibt die Lage sehr klar: „Man kann irre viel schon machen heutzutage.“ Aber nicht blind oder ohne saubere Grundlagen. Denn die eigentliche Herausforderung ist nicht mehr die pure Verfügbarkeit von KI, sondern der kluge und sichere Einsatz. Und dabei ist nicht jede Automatisierung sinnvoll.
1. Google Core Update
In Unternehmen gibt es bereits heute eine Reihe von Bereichen, in denen KI sehr wirksam eingesetzt werden kann:
- Reporting und Finanzanalysen
- Zusammenfassungen von Meetings und Dokumenten
- Analyse großer Datenmengen
- Unterstützung im Coding und Code Review
- Bewerbungs- und Assessment-Prozesse
- Monitoring und Überwachung digitaler Prozesse
Besonders bei wiederkehrenden Aufgaben ist der Fortschritt enorm, betont Harlinghausen: „Ich kann heutzutage schon hochrepetitive Aufgaben im digitalen Umfeld schon zum größten Teil automatisieren. Nicht zu 100 Prozent, aber ich sag mal, wir kommen schon zu 95 Prozent.“
Human in the Loop bleibt der entscheidende Sicherheitsfaktor
Ein Begriff, der im Gespräch immer wieder auftaucht, ist der Human in the Loop. Gerade im Kontext von IT-Sicherheit und Künstlicher Intelligenz ist der Ansatz zentral.
Was meint der Begriff “Human in the Loop”?
Der Begriff „Human in the Loop“ bedeutet: Der Mensch bleibt Kontrollinstanz. Die KI kann vorbereiten, ausführen, analysieren und Vorschläge machen. Aber insbesondere bei sensiblen Entscheidungen, kritischen Daten oder weitreichenden Aktionen sollte ein Mensch prüfen, freigeben oder korrigieren.
Warum ist das wichtig?
- KI kann halluzinieren
- KI kann falsche Zusammenhänge herstellen
- KI kann Daten falsch interpretieren
Und vor allem: „Wir haben eine höhere Autonomie, aber auch die Gefahr, dass (Falsch-) Informationen rausgegeben werden.“ Die Entscheidung, dass bei sensiblen Daten oder wichtigen Entscheidungen KI nicht allein agieren darf, ist ein Ausdruck professioneller Systemgestaltung.
Agentic AI vs Generative AI: Warum der Unterschied so wichtig ist
Viele Unternehmen setzen sich gerade erst mit generativer KI auseinander. Doch der nächste Entwicklungsschritt, Agentic AI, ist deutlich weitreichender.
Was generative KI macht
Generative KI erzeugt Inhalte auf Anfrage. Sie reagiert auf Prompts und liefert Text, Bilder, Code oder Zusammenfassungen zurück. Das ist nützlich und in der Regel kontrollierbar.
Was Agentic AI verändert
Curt Simon Harlinghausen beschreibt agentische Systeme als echten Wendepunkt. Sie sind „innerhalb der gesamten Entwicklung im Bereich KI ein kompletter Gamechanger.“ Denn Agentic AI geht weiter. Diese Systeme können:
- Ziele verfolgen
- Zwischenschritte selbst planen
- Tools aktiv nutzen
- Entscheidungen innerhalb definierter Rahmen treffen
- Prozesse eigenständig fortsetzen
Deshalb ist der Vergleich zwischen Agentic AI und generativer AI nicht nur ein technischer Vergleich, sondern auch eine Frage der KI-Sicherheit. Es verlangt ein neues Verständnis von Verantwortung. Wer einem System Zugriff auf Dateien, E-Mails, Logins oder interne Prozesse gibt, muss wissen, was dieses System darf, was es lernen kann und wie man es begrenzt.
Datenqualität entscheidet über Nutzen und Risiko
Ein weiterer Kernpunkt der Folge ist die Qualität der Daten. Denn auch die beste KI liefert keine guten Ergebnisse, wenn die Datenbasis schwach, veraltet oder unvollständig ist.
Der Experte formuliert das sehr direkt: „Shit in, shit out.“ Das klingt hart, ist aber weiterhin einer der ehrlichsten Sätze in jeder KI-Debatte. Gute Ergebnisse entstehen nur dann, wenn die Daten sauber sind. Er verweist im Gespräch auf das 6C-Modell, das Unternehmen sehr gut als Denkrahmen nutzen können.
Demnach sollten Daten sein:
- correct
- complete
- consistent
- contemporary
- compliant
- contextual
Gerade der letzte Punkt ist entscheidend. Daten ohne Kontext sind oft wertlos. Eine KI, die Informationen nicht richtig einordnen kann, trifft mitunter falsche Schlüsse:
- schlechte Daten → schlechte Ergebnisse
- fehlender Kontext → falsche Entscheidungen
Datensparsamkeit ist oft die bessere Strategie
Doch nicht alle KI-Tools brauchen alle Daten. Timon Hartung spricht dabei die Spannbreite an: Es gibt aktuell zwei Lager. Die einen wollen der KI gar keine Daten geben. Die anderen geben ihr Vollzugriff. Beides ist selten sinnvoll und dazwischen liegt der professionelle Weg. Denn ein zentraler Baustein von KI-Datensicherheit ist Datensparsamkeit.
Statt einem Modell pauschal Vollzugriff zu geben, sollten Unternehmen bei der Nutzung von KI kontinuierlich prüfen:
- Welche Daten sind wirklich notwendig?
- Welche Daten sollten anonymisiert werden?
- Welche Prozesse können mit abstrahierten oder modellierten Informationen laufen?
- Welche Informationen dürfen das interne System niemals verlassen?
Harlinghausen rät dazu, erst klein und isoliert zu starten, Erfahrungen zu sammeln, das Verhalten zu verstehen und erst dann schrittweise mehr freizugeben.
On-Premise und die Rückkehr zur Kontrolle
Besonders spannend wird es, wenn es um lokale KI-Infrastruktur geht. Harlinghausen erklärt, dass er viele Systeme On-Prem betreibt. Also lokal, auf eigener Hardware bzw. auf eigenen Server, getrennt von sensiblen Umgebungen und ohne unnötige externe Verbindungen. „Zieh das Kabel ab … und lass alles lokal laufen“, bringt es der Experte auf den Punkt.
Das hat mehrere Vorteile:
- bessere Kontrolle über Daten
- geringere Abhängigkeit von Cloud-Anbietern
- reduziertes Risiko externer Datenabflüsse
- Möglichkeit, sensible Informationen intern zu verarbeiten
Jedoch sollte man beachten, dass diese Möglichkeit verbunden ist mit:
- höherem Setup-Aufwand
- technische Komplexität
Lokale Modelle wie Mistral und Llama sind nicht automatisch die perfekte Lösung, aber sie bieten Unternehmen dort einen klaren Vorteil, wo Datenschutz, Vertraulichkeit und Verfügbarkeit kritisch sind. Curt rät Unternehmen dazu, verschiedene Systeme zu testen und zu vergleichen, statt sich auf ein einziges Modell zu verlassen.
Warum lokale KI-Systeme wirtschaftlich sein können
Lokale KI-Nutzung klingt für viele zunächst teuer. Doch KI-Datensicherheit und Wirtschaftlichkeit schließen sich nicht aus. Harlinghausen beschreibt, dass sich leistungsfähige Systeme schon innerhalb eines Jahres amortisieren können. Insbesondere dort, wo viele Tokens für Reporting, Datenverarbeitung oder Automatisierung verbraucht werden.
KI-Sicherheit: Die realen Bedrohungen
Klassische IT-Sicherheit entwickelt sich gerade rasant weiter, weil auch Angreifer KI nutzen. Automatisierung ist nicht nur ein Werkzeug für produktive Unternehmen, sondern auch für Cyberkriminalität.
Zu den wachsenden Risiken gehören unter anderem:
- Ransomware-Angriffe
- Session- und Token-Diebstahl
- Prompt Injection
- Code Injection
- Manipulation von KI-Kontexten
- Missbrauch von Zugriffsrechten
Ein besonders kritischer Punkt: „Wenn jemand dein Token hat, kann er alles machen, was du kannst“, so der Experte.
Die unspektakulären Basics bleiben extrem wichtig
Trotz aller KI-Technologie bleiben die wichtigsten Schutzmaßnahmen erstaunlich simpel:
- starke Passwörter
- Zwei-Faktor-Authentifizierung
- Hardware-Keys
- getrennte Systeme
- regelmäßige Passwortwechsel
- keine unnötigen Freigaben
- saubere Rechteverwaltung
Besonders beim Thema Authentifizierung wird also klar: Ransomware-Schutz bietet nicht nur die Technik, sondern auch das Vermeiden von simplen Nachlässigkeiten. „Two-factor-authentication ist schon mal das A und O. Das ist ein Must für jeden.“
Hardware-Schlüssel eignen sich besonders für kritische Zugänge. Denn wer hochsensible Systeme, Cloud-Logins oder Administrationsbereiche absichert, sollte sich nicht allein auf Passwörter verlassen.
KI-Datensicherheit beginnt schon bei der Architektur
Viele Probleme entstehen nicht erst dann, wenn ein Angriff stattfindet, sondern schon früher: beim falschen Setup der Systemarchitektur.
Das betrifft zum Beispiel:
- überdimensionierte Modelle
- unklare Datenquellen
- fehlende Rechtekonzepte
- zu breite Zugriffsrechte
- schlecht getrennte Umgebungen
- fehlende Qualitätssicherung im Prozess
Der Data Security -Experte warnt davor, alles sofort monolithisch lösen zu wollen. Stattdessen empfiehlt er einen iterativen, kontrollierten Aufbau, um sich „wirklich schön treppchenmäßig dem Endziel zu nähern.“
KI braucht nicht weniger Mensch, sondern bessere Zusammenarbeit zwischen Mensch und Maschine
Trotz aller technischen Tiefe ist die Grundbotschaft der Podcast-Folge überraschend klar: Es geht nicht darum, Menschen vollständig zu ersetzen. „Der Horizont des Menschen ist das Limit und nicht das System.“, betont Harlinghausen. Es geht stattdessen darum, Formen der Zusammenarbeit zu schaffen.
Timon Hartung vergleicht es mit früheren Technologiewechseln, etwa dem Übergang von der Schreibmaschine zum Computer oder mit dem Prinzip des Pair Programmings. KI wird dann besonders wertvoll, wenn sie nicht isoliert betrachtet wird, sondern als leistungsfähiger Partner in einem gut gestalteten Prozess.
Warum Unternehmen jetzt nicht zu spät einsteigen sollten
Wer jetzt anfängt, mit KI zu arbeiten, erlebt die Entwicklung live mit. Das hilft dabei, Grenzen, Fehlerquellen und Potenziale zu verstehen. Wer dagegen erst in einigen Jahren einsteigt, nutzt womöglich nur noch fertige Oberflächen, ohne das System dahinter zu begreifen. Genau darin sieht Harlinghausen ein gesellschaftliches und berufliches Risiko: „Wir werden in eine Zweispaltung der Gesellschaft kommen. Nämlich die einen, die das komplett durchdrungen haben und die anderen, die die Anwender sind.“
Unternehmen, Teams und Einzelpersonen, die heute lernen, wie Architektur, Datenflüsse, Berechtigungen und Modellgrenzen funktionieren, bauen sich einen echten Vorsprung auf.
WOXOW unterstützt euch dabei!
Die wichtigsten Learnings im Überblick
- KI-Automatisierung ist schon heute in vielen Bereichen produktiv einsetzbar.
- Je autonomer Systeme werden, desto wichtiger wird klare Governance.
- Der Human in the Loop bleibt für Qualität und Sicherheit zentral.
- Datensparsamkeit reduziert Risiko und verbessert Kontrolle.
- On-Prem-Setups können bei sensiblen Daten eine starke Option sein.
- Schlechte Daten führen auch mit KI zu schlechten Ergebnissen.
- Klassische IT-Sicherheitsmaßnahmen sind weiterhin unverzichtbar.
- Unternehmen sollten jetzt lernen, statt später nur noch zu reagieren.
Mehr über Curt Simon Harlinghausen
Wer Curt Simon Harlinghausen folgen oder mit ihm in Kontakt treten möchte, findet ihn auf LinkedIn. Auch auf Instagram gibt er Einblicke. Timon erreichst du hier auf LinkedIn.
Die gesamte Marketing Meets Technology Podcast-Folge mit Curt Simon Harlinghausen kannst du außerdem hier auf YouTube oder Spotify anhören.
FAQ zu KI-Datensicherheit
Was sind Agentic AI Tools und wie können Unternehmen sie sicher verwenden?
Agentic AI Tools ermöglichen es, dass KI eigenständig Ziele verfolgt und Prozesse steuert – etwa über n8n AI Agents bzw. n8n Automation. Wer Agentic AI Unternehmen einführen möchte, muss dabei klare Sicherheitskontrollen definieren, Zugriffsrechte begrenzen und die menschliche Kontrolle einbauen, um unbeabsichtigte Aktionen zu verhindern.
Wie lässt sich Claude KI oder ChatGPT datenschutzkonform im Unternehmen einsetzen?
Beim Einsatz von ChatGPT oder Claude AI Datenschutz und Compliance zentrale Themen. Insbesondere dann, wenn Mitarbeitende vertrauliche Daten eingegeben oder Dokumente hochladen. Unternehmen sollten per Richtlinie dokumentiert festhalten, welche Informationen in ein KI-System eingegeben werden dürfen, um Verstöße gegen regulatorische Anforderungen zu vermeiden.
Wann macht es Sinn, AI lokal zu installieren oder ein eigenes KI-Modell zu trainieren?
Wenn Claude lokal betrieben oder ein eigenes KI-Modell trainiert wird, ist es möglich, die volle Kontrolle darüber zu behalten, wo Daten gespeichert werden. Das ist besonders im Gesundheitswesen sinnvoll, wo Datendiebstahl oder Verstöße gegen regulatorische Anforderungen ernsthafte Konsequenzen haben können.
Warum ist die Klassifizierung der Daten vor dem KI-Einsatz so wichtig?
Bevor ein Unternehmen KI einführt, sollte es bestimmen, welche Daten in welche Kategorie fallen. Nur wer vertrauliche von unkritischen Informationen unterscheiden kann, ist in der Lage zu identifizieren, wo Compliance-Risiken auftreten – und kann gezielt Ressourcen für Sicherheitskontrollen dort einsetzen, wo sie wirklich nötig sind.
Wie lässt sich verhindern, dass KI unbeabsichtigt Daten kopiert oder weitergibt?
Um sich davor zu schützen, dass die KI unbeabsichtigt Daten kopiert oder weitergibt, müssen Zugriffsrechte klar geregelt und Systeme segmentiert sein. Unternehmen sollten außerdem dokumentieren, bei welchen Daten das Speichern erlaubt ist und regelmäßig prüfen, ob Mitarbeitende die definierten Richtlinien einhalten.
Wie schützt man sich gegen KI-basierte Angriffe und Ransomware?
Wichtige grundlegende Maßnahmen bleiben weiterhin starke Passwörter, Zwei-Faktor-Authentifizierung, Hardware-Keys, segmentierte Systeme, saubere Backups, Monitoring sowie die minimale Rechtevergabe. Zusätzlich sollten Unternehmen Angriffsvektoren wie Token-Diebstahl, Prompt Injection und unsichere Integrationen in ihre Sicherheitsstrategie aufnehmen. Auch die Mitarbeitenden müssen regelmäßig geschult werden.
Warum ist Datensparsamkeit beim KI-Einsatz so wichtig?
Datensparsamkeit reduziert das Risiko, gegen Datenschutzbestimmungen verstoßen und sensible Informationen unnötig offengelegt, verarbeitet oder kompromittiert zu werden. Gleichzeitig hilft sie dabei, Systeme klarer zu strukturieren. Gute KI-Prozesse arbeiten nicht mit maximalen Datenmengen, sondern mit genau den Informationen, die für den jeweiligen Anwendungsfall wirklich notwendig sind.
