Im Podcast „Marketing Meets Technology“ spricht Host Johanna Hartung mit Inga Lüders – KI-Ethikerin, ehemalige Google-Mitarbeiterin und Mitgründerin von AI Horizon. Das Thema ist eines der wichtigsten unserer Zeit: KI-Ethik.
Es geht nicht nur um Technologie. Es geht um Verantwortung. Und um Vertrauen. „Die Technologie soll der Gesellschaft dienen – und nicht umgekehrt“, erklärt Inga Lüders. Doch was bedeutet das konkret? Was ist AI-Ethik? Welche Rolle spielt Transparenz in der KI-Ethik? Und wie können Unternehmen KI-Compliance sinnvoll umsetzen?
Was ist KI-Ethik?
Beginnen wir mit einer klaren Definition von KI-Ethik. Sie beschreibt die moralischen, gesellschaftlichen und regulatorischen Fragen rund um die Entwicklung von KI-Systemen und die Nutzung von KI.
Wenn wir eine klassische Ethik-Definition zugrunde legen, geht es um moralisch vertretbares Handeln auf Basis gemeinsamer Werte und Normen. Übertragen auf künstliche Intelligenz bedeutet das:
- Wie wirken KI-Systeme auf Menschen?
- Wo entstehen Risiken der künstlichen Intelligenz?
- Welche Verantwortung tragen Unternehmen, die KI nutzen?
- Wie verhindern wir systemische Diskriminierung durch KI?
Die Ethik der künstlichen Intelligenz ist damit keine akademische Randnotiz, sondern eine strategische Kernfrage für Wirtschaft und Gesellschaft.
Wenn KI gesellschaftliche Realität spiegelt
Inga Lüders war über elf Jahre bei Google tätig und baute dort früh eine interne Struktur für KI-Ethik im Unternehmen auf. Zu einer Zeit, als das Thema künstliche Intelligenz und Ethik noch kaum im öffentlichen Fokus stand.
Ein besonders prägnantes Beispiel aus dieser Phase zeigt, wie relevant diese Arbeit ist: Bei bestimmten Suchanfragen in der Bildersuche wurden diskriminierende Ergebnisse ausgespielt.
Die Ursache war keine bewusste Entscheidung, sondern schuld waren historische Datenmengen, die bestehende gesellschaftliche Verzerrungen reproduzierten.
„Die KI schaut in die Vergangenheit. Und unsere Daten sind alt, konservativ und voller Bias“, erklärt Inga Lüders.
Hier wird eine zentrale ethische Herausforderung von KI deutlich: KI-Systeme lernen aus Daten, die nicht neutral sind. Genau deshalb müssen künstliche Intelligenz und Ethik von Anfang an zusammen gedacht und fest im Unternehmen verankert werden.
Chancen und Risiken künstliche Intelligenz
Die Diskussion um künstliche Intelligenz und ihre Chancen sowie Risiken sollte differenziert und ausgewogen geführt werden.
Chancen
- Effizienzsteigerung im Unternehmen
- Automatisierung durch intelligente Systeme
- KI für nachhaltige Entwicklung
- Schnellere Verarbeitung großer Datenmengen
- Personalisierte Anwendungen
- Einsatz von KI im Learning-Umfeld
Gerade durch Tools wie ChatGPT erleben wir aktuell, wie leistungsfähig KI-Technologien geworden sind.
Risiken
- Manipulation durch Deepfakes
- Vertrauensverlust in digitale Inhalte
- Diskriminierung in HR oder Kreditvergabe
- Fehlentscheidungen durch verzerrte Algorithmen
- Gefährdung der Privatsphäre
- Gefahren und Risiken der künstlichen Intelligenz im gesellschaftlichen Kontext
„Ich sehe keinen Kontrollverlust – ich sehe einen Vertrauensverlust“, so Inga Lüders.
Und genau dieser Vertrauensverlust ist eines der größten Risiken der künstlichen Intelligenz für die Gesellschaft.
EU AI Act: Der Rahmen für vertrauenswürdige KI
Mit dem EU AI Act setzt Europa einen verbindlichen regulatorischen Rahmen für den verantwortungsvollen Einsatz von KI-Systemen. Die neuen KI-Ethik-Richtlinien der EU verfolgen das klare Ziel, eine vertrauenswürdige KI zu etablieren, die transparent arbeitet, diskriminierungsfrei agiert, nachvollziehbar ist und höchste Standards im Bereich KI-Datenschutz erfüllt.
Für Unternehmen wird damit sowohl KI-Compliance als auch das konkrete EU-KI-Gesetz zu einer strategischen Priorität. Zentrale Elemente sind unter anderem die KI-Transparenzpflicht, umfassende Dokumentationsanforderungen, eine systematische Risikobewertung von KI-Systemen sowie die Nachvollziehbarkeit algorithmischer Entscheidungen.
Damit soll das sogenannte Blackbox-Problem reduziert werden. Unternehmen stehen künftig stärker in der Verantwortung, zu erklären, wie ihre Algorithmen funktionieren, welche Daten verarbeitet werden und wie Datenschutz sowie Privatsphäre geschützt bleiben.
Wir haben hier alle wichtigen Infos zum EU AI Act zusammengefasst:
Bitte beachte: Dies stellt keine rechtliche Beratung dar!
Welche Rolle spielt Transparenz in der KI-Ethik?
Die kurze Antwort: eine entscheidende!
Für Inga Lüders ist Transparenz ein zentrales Fundament verantwortungsvoller KI-Systeme – besonders im zunehmenden Einsatz von künstlicher Intelligenz in Unternehmen und Gesellschaft. Sie unterscheidet dabei zwei Ebenen:
- Human-Readable Labeling – eine Kennzeichnung, die für Menschen unmittelbar sichtbar ist
- Machine-Readable Labeling – technische Markierungen, die von Systemen ausgelesen werden können
Doch das reicht aus ihrer Sicht noch nicht:
„Wir sollten nicht nur Fakes kennzeichnen – sondern Echtheit zertifizieren.“
Transparente KI bedeutet deshalb mehr als ein kleines Label. Sie umfasst nachvollziehbare Entscheidungswege, dokumentierte Trainingsdaten, klar definierte Verantwortlichkeiten und überprüfbare Systeme. Gleichzeitig gewinnt die gesetzliche KI-Transparenzpflicht zunehmend an Bedeutung, da Unternehmen offenlegen müssen, wie ihre KI-Systeme funktionieren und welche Daten sie verarbeiten.
Nur wenn diese Voraussetzungen erfüllt sind, entsteht eine vertrauenswürdige KI, die auch in Unternehmen langfristig tragfähig ist.
Diskriminierung durch KI: Ein reales Risiko
Ein anschauliches Beispiel aus dem HR-Bereich verdeutlicht die Problematik: Wenn historische Daten zeigen, dass ein bestimmter Beruf überwiegend von Frauen (z.B. soziale Berufe) ausgeübt wurde, kann ein KI-System männliche Bewerber automatisch als ungeeigneter bewerten. Oder eben andersherum. Dabei handelt es sich nicht um ein bewusstes moralisches Urteil, sondern um eine statistische Verzerrung, die aus vergangenen Mustern und bestehenden gesellschaftlichen Strukturen & Bias entsteht.
Gerade hier wird deutlich, wie wichtig KI-Verantwortung ist. Unternehmen müssen sicherstellen, dass:
- ethische Prinzipien konsequent berücksichtigt werden,
- KI-Systeme kontinuierlich überprüft werden,
- menschliche Kontrolle erhalten bleibt
- und eine normative Bewertung ergänzend zur reinen Datenanalyse erfolgt.
Eine rein deskriptive KI reproduziert die Vergangenheit. Eine verantwortungsvolle KI hingegen orientiert sich an moralischen Leitlinien und übernimmt bewusst gesellschaftliche Verantwortung.
KI-Compliance als strategische Aufgabe
KI-Compliance ist längst kein Nice-to-have mehr, sondern eine strategische Notwendigkeit. Unternehmen sollten sich frühzeitig mit Themen wie KI-Compliance, KI-Datenschutz, klaren internen Leitlinien, der Rolle eines möglichen KI-Compliance-Beauftragten sowie professioneller KI-Compliance-Beratung auseinandersetzen.
Im Kern geht es dabei immer auch um KI und ethische Verantwortung. Wer trägt die Verantwortung für Entscheidungen von KI-Systemen? Wer prüft Risiken? Wer sorgt für Transparenz? Unternehmen, die diese Fragen klar beantworten und Prozesse sauber strukturieren, reduzieren regulatorische Risiken und vermeiden hohe Folgekosten durch Fehlentscheidungen oder Sanktionen.
KI und Bildung: Kritisches Denken stärken
Ein besonders spannender Aspekt ist der KI-Ethik-Unterricht. Schon in der Schule sollte der reflektierte Umgang mit KI-Systemen gefördert werden. Idealerweise orientiert an klaren Leitlinien für KI-Ethik, die Transparenz, Verantwortung und kritisches Denken stärken.
Schülerinnen und Schüler müssen lernen:
- Antworten kritisch zu hinterfragen,
- Quellen sorgfältig zu prüfen
- und zwischen Fakten und KI-generierten Inhalten zu unterscheiden.
Gerade junge Menschen brauchen diese Kompetenzen, um intelligente Systeme richtig einzuordnen, verantwortungsvoll zu nutzen und ein gesundes Maß an kritischer Distanz mit AI Agenten zu entwickeln.
KI und Ethik: Globale Unterschiede in der Regulierung
Europa setzt bewusst auf Regulierung und klare Leitlinien, während andere Regionen vor allem Geschwindigkeit und technologische Performance priorisieren. Kurzfristig mag das wie ein Wettbewerbsnachteil wirken. Langfristig jedoch kann genau dieser wertebasierte Ansatz zum entscheidenden Vorteil werden.
„Vertrauen ist am Ende stärker als perfekte Performance“, erklärt Inga Lüders.
Vertrauenswürdige KI-Unternehmen werden nachhaltiger erfolgreich sein als rein von Performance getriebenen Firmen. Denn dauerhafter Erfolg entsteht dort, wo Innovation und Verantwortung zusammen gedacht werden.
KI-Ethik: Kein Trend, sondern Voraussetzung für eine nachhaltig vertrauenswürdige KI
Ob im Marketing, im HR, in der Kreditvergabe oder im Bildungsbereich: Der Einsatz von KI-Systemen wird weiter zunehmen. Die Entwicklung von KI schreitet rasant voran – technologisch wie wirtschaftlich. Doch mit jeder neuen Anwendung wächst auch die Verantwortung.
KI kann Prozesse effizienter machen, datengetriebene Entscheidungen unterstützen und Innovation beschleunigen. Gleichzeitig entstehen neue Risiken künstlicher Intelligenz: Vertrauensverlust, Diskriminierung, Intransparenz oder problematische Automatisierung in sensiblen Bereichen.
Genau deshalb ist KI-Ethik keine Option – sondern eine strategische Notwendigkeit.
Unternehmen, die heute auf transparente, nachvollziehbare und verantwortungsvolle KI-Systeme setzen, investieren nicht nur in Compliance. Sie investieren in langfristiges Vertrauen, gesellschaftliche Akzeptanz und nachhaltigen Erfolg.
Die entscheidende Frage lautet nicht mehr, ob wir KI einsetzen. Sondern wie. Und genau hier beginnt echte ethische Verantwortung.
👉 Jetzt Podcast hören: MARKETING MEETS TECHNOLOGY – KI-Ethik, Transparenz & EU AI Act: Was Unternehmen jetzt verstehen müssen
FAQ
Was ist KI-Ethik?
Ethik und KI betreffen die moralischen und gesellschaftliche Fragen rund um die Entwicklung und Nutzung von KI-Systemen. KI-Ethik befasst sich mit Verantwortung, Transparenz, Diskriminierung, Datenschutz und fairen Algorithmen. Ziel ist es, künstliche Intelligenz so zu gestalten, dass sie ethisch vertretbar, sicher und vertrauenswürdig eingesetzt wird.
Welche Chancen und Risiken bringt künstliche Intelligenz mit sich?
Künstliche Intelligenz bietet enorme Chancen wie Effizienzsteigerung, Automatisierung und datenbasierte Innovation. Gleichzeitig birgt künstliche Intelligenz Risiken, etwa Diskriminierung durch KI, Manipulation oder Datenschutzprobleme. Die Ethik der künstlichen Intelligenz gewinnt daher zunehmend an Bedeutung. Unternehmen müssen Chancen und Risiken sorgfältig abwägen und ethische Prinzipien konsequent berücksichtigen.
Warum ist KI-Compliance für Unternehmen wichtig?
KI-Compliance stellt sicher, dass KI-Systeme gesetzliche Vorgaben wie das EU-KI-Gesetz vollständig und rechtskonform erfüllen. Dazu gehören Transparenzpflicht, Dokumentation und Risikobewertung. Wer frühzeitig in KI-Compliance-Beratung investiert oder einen KI-Compliance-Beauftragten benennt, reduziert rechtliche Risiken und stärkt das Vertrauen von Kunden.
Warum ist Ethik und künstliche Intelligenz ein zentrales Zukunftsthema?
Leitlinien im Bereich Ethik und künstliche Intelligenz definieren klare moralische und ethische Standards für die Entwicklung und den Einsatz von KI-Systemen. Sie regeln Transparenz, Fairness, Verantwortung sowie KI und Datenschutz. Ziel ist es, künstliche Intelligenz so zu gestalten, dass sie gesellschaftlichen Nutzen bringt und Risiken minimiert werden.
Welche Rolle spielt Executive Search bei Ethik und Regulierung von KI?
Executive-Search-Ethik und Regulierung von KI gewinnen an Bedeutung, weil Unternehmen qualifizierte Expert:innen für KI-Entwicklung und Compliance benötigen. Führungskräfte müssen deshalb ethische Standards verstehen, regulatorische Anforderungen umsetzen und Prinzipien in den Entwicklungsprozess integrieren, um verantwortungsvolle KI-Anwendungen sicherzustellen.
