Ki Risiken ernst nehmen, aber nicht dramatisieren

Künstliche Intelligenz entwickelt sich rasant weiter und ist längst Bestandteil unseres Alltags. Unternehmen nutzen KI für Automatisierung, Kundenservice, Datenanalyse, Marketing, Softwareentwicklung und viele weitere Aufgaben. Gleichzeitig entstehen neue Fragen: Welche KI Risiken gibt es? Wo liegen die Grenzen künstlicher Intelligenz? Welche Gefahren können durch KI entstehen und wie lassen sie sich vermeiden?

Die Diskussion über Risiken von künstlicher Intelligenz bewegt sich häufig zwischen zwei Extremen. Auf der einen Seite wird KI teilweise als große Gefahr dargestellt, auf der anderen Seite werden mögliche Probleme unterschätzt. Eine sachliche Betrachtung ist deshalb besonders wichtig.

KI ist weder automatisch gefährlich noch automatisch harmlos. Entscheidend ist, wie künstliche Intelligenz entwickelt, eingesetzt, kontrolliert und überwacht wird. In diesem Artikel erklären wir die wichtigsten KI Risiken, zeigen konkrete Beispiele und erläutern, welche Maßnahmen Unternehmen und Privatpersonen ergreifen können.

Was sind KI Risiken?

Unter KI Risiken versteht man mögliche negative Auswirkungen, die durch die Entwicklung oder Nutzung künstlicher Intelligenz entstehen können.

Diese Risiken können sehr unterschiedlich sein. Manche betreffen einzelne Nutzer, andere Unternehmen oder ganze Gesellschaften. Dazu gehören beispielsweise:

• falsche oder erfundene Informationen

• Datenschutzprobleme

• Sicherheitsrisiken

• Manipulation und Desinformation

• Verzerrungen durch Trainingsdaten

• Abhängigkeit von KI-Systemen

• Arbeitsplatzveränderungen

• Missbrauch von KI

• Urheberrechtsfragen

• mangelnde Transparenz

• fehlerhafte automatisierte Entscheidungen

Dabei ist wichtig, zwischen unterschiedlichen Arten von Risiken zu unterscheiden. Ein KI-Chatbot, der eine falsche Information liefert, stellt beispielsweise ein anderes Risiko dar als ein automatisiertes System, das Bewerbungen bewertet oder Kreditentscheidungen unterstützt.

Künstliche Intelligenz kann große Mengen an Informationen verarbeiten und Aufgaben automatisieren. Genau diese Leistungsfähigkeit macht KI interessant – sie kann aber auch dazu führen, dass Fehler schneller und in größerem Umfang entstehen.

Ein Mensch kann beispielsweise eine falsche Information an zehn Personen weitergeben. Ein automatisiertes System kann dieselbe falsche Information innerhalb kurzer Zeit an Tausende Nutzer ausspielen. Das bedeutet jedoch nicht, dass KI grundsätzlich gefährlich ist. Vielmehr zeigt es, dass Kontrolle, Qualitätssicherung und verantwortungsvoller Einsatz eine wichtige Rolle spielen.

Ein sinnvoller Umgang mit KI besteht deshalb nicht darin, künstliche Intelligenz grundsätzlich abzulehnen. Stattdessen sollten Unternehmen und Nutzer verstehen, welche Risiken bei welcher Anwendung entstehen.

Die Risiken künstlicher Intelligenz lassen sich in verschiedene Bereiche aufteilen.

1. Falsche Informationen und KI-Halluzinationen

Eine der bekanntesten Schwachstellen moderner KI-Systeme sind sogenannte Halluzinationen. Damit ist gemeint, dass ein KI-System eine Information erzeugt, die plausibel klingt, aber tatsächlich falsch ist. Das Problem: Die Antwort kann sprachlich überzeugend formuliert sein.

Beispiel

Ein Nutzer fragt eine KI:

„Welche wissenschaftliche Studie belegt diese Aussage?“

Das System nennt möglicherweise einen Autor, einen Titel und sogar eine Jahreszahl. Bei einer Überprüfung stellt sich jedoch heraus, dass die Studie gar nicht existiert. Für einfache kreative Aufgaben ist ein solcher Fehler möglicherweise relativ unproblematisch. In medizinischen, rechtlichen, finanziellen oder technischen Bereichen kann eine falsche Information dagegen erhebliche Konsequenzen haben.

Was hilft?

KI-generierte Informationen sollten bei wichtigen Entscheidungen überprüft werden.

Besonders wichtig sind:

• Primärquellen

• offizielle Dokumentationen

• wissenschaftliche Veröffentlichungen

• Behördeninformationen

• vertrauenswürdige Fachquellen

KI sollte daher nicht automatisch als letzte Instanz betrachtet werden.

Ein weiteres wichtiges Thema bei den KI Risiken ist der Datenschutz. Viele KI-Systeme verarbeiten große Mengen an Informationen. Nutzer können beispielsweise Texte, Dokumente oder andere Inhalte in ein KI-System eingeben.

Dabei stellt sich die Frage:

Welche Informationen dürfen überhaupt an ein KI-System übermittelt werden?

Besonders kritisch können sein:

• personenbezogene Daten

• Kundendaten

• interne Unternehmensinformationen

• Zugangsdaten

• Vertragsunterlagen

• Gesundheitsdaten

• Finanzinformationen

• vertrauliche Geschäftsgeheimnisse

Beispiel aus einem Unternehmen

Ein Mitarbeiter möchte eine E-Mail von einer KI verbessern lassen und kopiert dafür einen kompletten Kundenverlauf inklusive Name, Telefonnummer und Vertragsdaten in ein KI-System. Das kann datenschutzrechtlich problematisch sein. Besser wäre es, personenbezogene Informationen vor der Verarbeitung zu entfernen oder eine dafür freigegebene Unternehmenslösung zu verwenden.

Interne Verlinkung: → KI in Unternehmen » So verändert künstliche Intelligenz moderne Unternehmen

KI kann nicht nur für produktive Zwecke verwendet werden. Auch Cyberkriminelle können KI-Technologien missbrauchen. Beispielsweise können KI-Systeme dabei helfen, überzeugende Texte für Phishing-Nachrichten zu erstellen. Früher waren viele Phishing-E-Mails relativ leicht zu erkennen. Schlechte Grammatik, merkwürdige Formulierungen oder offensichtliche Übersetzungsfehler konnten Warnsignale sein.

KI kann dagegen dabei helfen, professionell wirkende Nachrichten zu erstellen.

Beispiel

Eine Person erhält eine E-Mail, die angeblich von der eigenen IT-Abteilung stammt:

„Aufgrund einer Sicherheitsaktualisierung müssen Sie Ihr Konto bestätigen.“

Die Nachricht ist sprachlich fehlerfrei und professionell formuliert. Das bedeutet jedoch nicht, dass sie echt ist. KI kann somit sowohl bei der Verteidigung gegen Cyberangriffe als auch beim Erstellen überzeugender Angriffe eingesetzt werden.

Ein weiteres großes Thema sind Deepfakes. Dabei können KI-Technologien verwendet werden, um Bilder, Videos oder Audioinhalte künstlich zu erzeugen oder zu verändern. Dadurch können beispielsweise realistisch wirkende Stimmen oder Videos entstehen, die eine Person scheinbar etwas sagen oder tun lassen, was tatsächlich nie passiert ist.

Beispiel

Ein gefälschtes Video zeigt eine bekannte Person, die angeblich eine bestimmte Aussage macht. Wer das Video nur oberflächlich betrachtet, könnte es für echt halten. Das Problem wird dadurch verstärkt, dass die Qualität generativer KI immer besser wird.

Deshalb wird es zunehmend wichtig, digitale Inhalte kritisch zu prüfen und nicht jede Aufnahme automatisch als authentisch zu betrachten.

KI-Systeme lernen häufig aus großen Datenmengen. Diese Daten können jedoch Fehler, gesellschaftliche Verzerrungen oder unausgewogene Informationen enthalten. Dadurch kann ein KI-System bestimmte Gruppen unterschiedlich behandeln.

Dieses Problem wird häufig als Bias bezeichnet.

Beispiel

Ein Unternehmen verwendet ein KI-System zur Unterstützung bei Bewerbungen. Wenn die Trainingsdaten historische Entscheidungen enthalten, die bestimmte Bewerbergruppen systematisch bevorzugt haben, könnte ein automatisiertes System diese Muster möglicherweise übernehmen.

Das zeigt:

KI ist nicht automatisch neutral, nur weil eine Maschine die Entscheidung unterstützt. Deshalb müssen Daten, Modelle und Ergebnisse regelmäßig überprüft werden.

Bei manchen KI-Systemen ist für Nutzer schwer nachvollziehbar, warum ein bestimmtes Ergebnis entstanden ist. Das kann besonders problematisch sein, wenn KI bei wichtigen Entscheidungen eingesetzt wird.

Beispielsweise könnte ein Unternehmen fragen:

„Warum wurde diese Bewerbung schlechter bewertet?“

Wenn niemand nachvollziehen kann, welche Faktoren das System berücksichtigt hat, wird die Kontrolle schwieriger. Transparenz und Nachvollziehbarkeit spielen deshalb eine wichtige Rolle beim verantwortungsvollen Einsatz von KI.

Die Diskussion über KI Risiken für den Arbeitsmarkt gehört zu den bekanntesten Bereichen. Künstliche Intelligenz kann bestimmte Aufgaben automatisieren. Dadurch können sich Tätigkeiten verändern und in einigen Bereichen können Arbeitsplätze unter Druck geraten. Gleichzeitig kann KI auch neue Aufgaben und Berufsfelder schaffen.

Besonders betroffen sein können Tätigkeiten mit vielen wiederholbaren digitalen Prozessen.

Dazu gehören beispielsweise:

• Dateneingabe

• einfache Textproduktion

• Standard-Kundenservice

• bestimmte Analyseaufgaben

• Routineprogrammierung

• Dokumentenverarbeitung

Das bedeutet nicht automatisch, dass ganze Berufe verschwinden. Häufig verändert sich vielmehr die Tätigkeit innerhalb eines Berufs.

Beispiel

Ein Mitarbeiter im Kundenservice könnte früher einen großen Teil seiner Arbeitszeit damit verbracht haben, Standardfragen zu beantworten. Mit einem KI-System können solche Anfragen teilweise automatisiert werden. Der Mitarbeiter kann sich anschließend stärker auf komplexe Fälle konzentrieren.

KI kann somit gleichzeitig Risiko und Werkzeug für den Arbeitsmarkt sein. Interne Verlinkung: → KI Nutzen » Welche Vorteile künstliche Intelligenz für Unternehmen bietet

Ein unterschätztes KI Risiko ist die zunehmende Abhängigkeit von automatisierten Systemen. Wenn Menschen sich daran gewöhnen, für jede Aufgabe eine KI zu verwenden, können eigene Fähigkeiten weniger genutzt werden.

Das betrifft beispielsweise:

• Recherche

• Schreiben

• Programmieren

• Problemlösung

• Analyse

• Entscheidungsfindung

Beispiel

Ein Entwickler lässt sich jeden Code automatisch von einer KI erstellen. Wenn er den Code anschließend nicht mehr versteht, kann ein Fehler schwer erkannt werden. Die bessere Strategie besteht darin, KI als Werkzeug und Unterstützung einzusetzen und wichtige Ergebnisse weiterhin selbst zu verstehen und zu überprüfen.

KI wird zunehmend eingesetzt, um Entscheidungen zu unterstützen. Dabei kann ein Fehler besonders problematisch werden, wenn die Entscheidung direkte Auswirkungen auf Menschen hat.

Beispiele können sein:

• Bewerbungen

• Kreditentscheidungen

• Betrugserkennung

• Versicherungen

• Kundenklassifizierung

• Risikobewertungen

Hier sollte die Entscheidung nicht einfach blind von einem KI-System übernommen werden. Eine menschliche Kontrolle kann insbesondere bei wichtigen oder folgenreichen Entscheidungen sinnvoll sein.

Generative KI kann Texte, Bilder, Musik, Videos und Software erzeugen. Dadurch entstehen neue Fragen rund um Urheberrecht und geistiges Eigentum. Beispielsweise kann ein Unternehmen KI-generierte Bilder für eine Werbekampagne verwenden.

Dabei können Fragen entstehen:

• Welche Daten wurden zum Training des Modells verwendet?

• Wem gehört das erzeugte Ergebnis?

• Darf das Ergebnis kommerziell verwendet werden?

• Wurde geschütztes Material verarbeitet?

• Welche Rechte gelten für die verwendeten Inhalte?

Die rechtliche Bewertung kann vom konkreten Fall und der jeweiligen Rechtsordnung abhängen. Unternehmen sollten deshalb bei kommerzieller Nutzung die geltenden rechtlichen Anforderungen prüfen.

KI kann Inhalte nicht nur erzeugen, sondern auch personalisieren. Dadurch können Informationen gezielter auf bestimmte Personen zugeschnitten werden. Das kann beispielsweise im Marketing sinnvoll sein.

Es kann aber auch problematisch werden, wenn Menschen gezielt manipuliert oder getäuscht werden. Ein Beispiel wäre eine automatisch erzeugte Nachricht, die genau auf die Interessen einer bestimmten Person zugeschnitten ist und sie zu einer Handlung bewegen soll. Hier verschwimmt die Grenze zwischen Personalisierung und Manipulation.

Je stärker KI-Systeme mit anderen Systemen verbunden werden, desto wichtiger wird die technische Absicherung.

Ein KI-System könnte beispielsweise Zugriff auf:

• Unternehmensdaten

• Cloud-Dienste

• Software

• Datenbanken

• E-Mail-Systeme

• Automatisierungsplattformen

Je mehr Berechtigungen ein System besitzt, desto größer kann das potenzielle Schadensausmaß eines Fehlers oder Missbrauchs sein.

Deshalb sollte das Prinzip gelten:

So viele Rechte wie nötig, aber so wenige wie möglich.

Eine differenzierte Betrachtung ist wichtig. Nicht jedes KI Risiko ist automatisch eine Katastrophe. Viele Risiken lassen sich durch technische, organisatorische und rechtliche Maßnahmen reduzieren.

Ein Taschenrechner kann beispielsweise ebenfalls falsche Ergebnisse liefern, wenn eine Eingabe falsch ist. Trotzdem würde niemand daraus schließen, dass Taschenrechner grundsätzlich gefährlich sind. Ähnlich sollte KI betrachtet werden.

Die entscheidende Frage lautet nicht:

„Ist KI gefährlich?“

Sondern:

„Welche Risiken entstehen bei dieser konkreten Anwendung und wie können wir sie kontrollieren?“

KI begegnet uns inzwischen in vielen Situationen.

Beispiel 1: KI beim Schreiben

Eine Person lässt sich eine wichtige geschäftliche E-Mail von einer KI schreiben. Das Risiko ist relativ gering, solange der Text anschließend kontrolliert wird. Problematisch wird es, wenn die Nachricht ungeprüft versendet wird und die KI beispielsweise falsche Informationen ergänzt.

Beispiel 2: KI bei Bewerbungen

Ein Unternehmen nutzt KI, um Bewerbungen vorzuselektieren.

Mögliche Risiken:

• Verzerrungen in den Trainingsdaten

• falsche Bewertung

• fehlende Transparenz

• Benachteiligung bestimmter Bewerbergruppen

Eine menschliche Kontrolle kann hier eine wichtige zusätzliche Kontrollinstanz darstellen.

Beispiel 3: KI in der IT

Ein IT-Mitarbeiter nutzt KI, um einen Fehler in einem Skript zu finden. Das kann viel Zeit sparen. Wenn der vorgeschlagene Code jedoch ungeprüft auf einem Produktivsystem ausgeführt wird, kann ein Fehler möglicherweise Systeme beeinträchtigen.

Deshalb gilt:

KI-Vorschläge verstehen, testen und anschließend kontrolliert einsetzen.

Beispiel 4: KI bei Nachrichten

Ein Nutzer sieht ein realistisch wirkendes Video einer bekannten Person. Er teilt es sofort weiter. Später stellt sich heraus, dass das Video mit generativer KI manipuliert wurde.

Das Risiko liegt hier nicht nur in der Technologie selbst, sondern auch darin, wie Menschen mit digitalen Informationen umgehen.

Die Risiken künstlicher Intelligenz lassen sich nicht vollständig beseitigen. Sie können jedoch durch geeignete Maßnahmen reduziert werden.

1. KI-Ergebnisse überprüfen

Besonders wichtige Informationen sollten nicht ungeprüft übernommen werden.

2. Keine vertraulichen Daten eingeben

Nutzer sollten genau wissen, welche Daten sie an ein KI-System übertragen.

3. Menschliche Kontrolle behalten

Bei wichtigen Entscheidungen sollte eine verantwortliche Person die Ergebnisse überprüfen.

4. Zugriffsrechte begrenzen

KI-Systeme sollten nur auf die Daten und Systeme zugreifen können, die sie tatsächlich benötigen.

5. Mitarbeiter schulen

Unternehmen sollten ihre Mitarbeiter über Chancen und Risiken künstlicher Intelligenz informieren.

6. KI-Richtlinien definieren

Eine interne KI-Richtlinie kann beispielsweise festlegen:

• Welche KI-Tools dürfen verwendet werden?

• Welche Daten dürfen verarbeitet werden?

• Welche Systeme dürfen KI verwenden?

• Wann ist eine menschliche Kontrolle erforderlich?

• Wer ist für Ergebnisse verantwortlich?

Je stärker KI in Unternehmen und Alltag integriert wird, desto wichtiger wird KI-Kompetenz. Dabei geht es nicht nur darum, gute Prompts schreiben zu können.

KI-Kompetenz bedeutet auch:

• Ergebnisse kritisch zu hinterfragen

• Fehler zu erkennen

• Quellen zu überprüfen

• Datenschutz zu verstehen

• Risiken einzuschätzen

• KI sinnvoll einzusetzen

• Grenzen von KI zu kennen

Ein guter KI-Nutzer weiß deshalb nicht nur, was KI kann, sondern auch, was KI nicht zuverlässig kann. Interne Verlinkung: → KI Learning » Wie Maschinen mit künstlicher Intelligenz lernen

Auch auf europäischer Ebene werden Risiken künstlicher Intelligenz berücksichtigt. Der EU AI Act verfolgt einen risikobasierten Ansatz. Dabei werden KI-Anwendungen je nach möglichem Risiko unterschiedlich behandelt.

Grundsätzlich bedeutet das:

Nicht jede KI-Anwendung wird gleich reguliert. Ein einfaches KI-System für eine alltägliche Anwendung kann anders behandelt werden als ein System, das in einem besonders sensiblen Bereich eingesetzt wird. Für Unternehmen bedeutet das, dass sie sich mit den für ihre konkreten KI-Anwendungen geltenden Anforderungen beschäftigen sollten.

Interne Verlinkung: → AI Act EU » Regeln und Pflichten für Unternehmen

Für Unternehmen können KI Risiken insbesondere in fünf Bereichen relevant werden:

Datenschutz

Unternehmen müssen darauf achten, welche personenbezogenen oder vertraulichen Daten verarbeitet werden.

IT-Sicherheit

KI-Systeme müssen angemessen abgesichert werden.

Qualität

Automatisch erzeugte Inhalte müssen kontrolliert werden.

Recht

Unternehmen müssen relevante gesetzliche und regulatorische Anforderungen berücksichtigen.

Verantwortung

Es sollte klar sein, wer für KI-gestützte Prozesse verantwortlich ist. Eine KI sollte deshalb nicht einfach eingeführt werden, weil sie technisch interessant ist.

Unternehmen sollten vorher klären:

Welches Problem soll die KI lösen?

Welche Daten benötigt sie?

Welche Risiken entstehen?

Wer kontrolliert die Ergebnisse?

Auch Privatpersonen können von KI Risiken betroffen sein.

Besonders relevant sind:

• Deepfakes

• Betrug

• Phishing

• gefälschte Nachrichten

• Datenschutz

• Fake-Bewertungen

• Identitätsmissbrauch

• manipulierte Bilder und Videos

Ein wichtiger Grundsatz lautet deshalb:

Nicht alles glauben, nur weil es realistisch aussieht. Gerade bei ungewöhnlichen Nachrichten, Geldforderungen oder Aufforderungen zur Herausgabe persönlicher Daten sollte man zusätzliche Prüfungen durchführen.

„KI wird irgendwann automatisch die Kontrolle übernehmen“

Solche Szenarien werden häufig in Filmen und populären Diskussionen dargestellt. Für die praktische Bewertung heutiger KI-Anwendungen ist jedoch viel wichtiger, konkrete Risiken zu betrachten: fehlerhafte Ergebnisse, Datenschutz, Cybersecurity, Missbrauch, Verzerrungen und mangelnde Kontrolle.

„KI macht immer alles richtig“

Das Gegenteil kann ebenfalls problematisch sein. Moderne KI kann beeindruckende Ergebnisse liefern, ist aber nicht automatisch fehlerfrei. Eine überzeugend formulierte Antwort ist nicht automatisch eine korrekte Antwort.

„KI ist grundsätzlich gefährlich“

Auch diese pauschale Aussage greift zu kurz. KI kann beispielsweise bei Übersetzungen, Recherche, Barrierefreiheit, Softwareentwicklung, Datenanalyse oder Automatisierung nützlich sein. Das Risiko hängt stark von der konkreten Anwendung ab.

Diese Gegenüberstellung zeigt: KI ist ein Werkzeug mit Chancen und Risiken.

Ein verantwortungsvoller Umgang mit künstlicher Intelligenz lässt sich auf einige grundlegende Prinzipien reduzieren:

1. Verstehen

Man sollte wissen, wofür ein KI-System eingesetzt wird.

2. Prüfen

Wichtige Ergebnisse sollten kontrolliert werden.

3. Schützen

Sensible Daten sollten nicht unüberlegt verarbeitet werden.

4. Begrenzen

KI sollte nur die notwendigen Zugriffsrechte erhalten.

5. Überwachen

Automatisierte Systeme sollten regelmäßig überprüft werden.

6. Verantwortung übernehmen

Die Verantwortung für einen Prozess sollte nicht einfach an eine KI abgegeben werden.