Künstliche Intelligenz braucht menschliche Verantwortung
Die Entwicklung künstlicher Intelligenz erreicht eine neue Stufe. Moderne Sprachmodelle können inzwischen nicht nur Texte verfassen, Daten auswerten oder Programme erstellen. Sie werden zunehmend auch für komplexe wissenschaftliche und technische Untersuchungen eingesetzt.
Ein aktuelles Beispiel aus der Sicherheitsforschung zeigt diese Entwicklung besonders deutlich. Anthropic berichtet, dass das Modell Claude Mythos Preview sehr schwer erkennbare Schwachstellen in verbreiteten Softwaresystemen und kryptografischen Anwendungen identifizieren konnte. Viele der gefundenen Probleme waren zuvor über Jahre hinweg weder von Menschen noch von automatisierten Prüfverfahren entdeckt worden. Die Ergebnisse werden jedoch nicht ungeprüft übernommen, sondern von Fachleuten bewertet, validiert und anschließend kontrolliert an die betroffenen Entwickler weitergegeben.
Dieses Beispiel zeigt das große Potenzial künstlicher Intelligenz. Es zeigt aber ebenso deutlich, warum der Mensch weiterhin unverzichtbar bleibt.
Die KI liefert Ergebnisse – der Mensch trägt die Verantwortung
Ein KI-Modell kann große Datenmengen untersuchen, Muster erkennen und Lösungsansätze entwickeln. Es kann jedoch nicht selbst bestimmen, welches Unternehmensziel verfolgt werden soll und welche Risiken akzeptabel sind.
Der Mensch muss weiterhin
- den Auftrag und das gewünschte Ergebnis festlegen,
- die Qualität der verwendeten Daten beurteilen,
- Ergebnisse kritisch prüfen,
- fehlerhafte oder unvollständige Antworten erkennen,
- über die weitere Verwendung entscheiden und
- die Verantwortung für die Folgen übernehmen.
Je leistungsfähiger ein KI-System wird, desto wichtiger werden diese Aufgaben. Eine überzeugend formulierte Antwort ist noch keine richtige Antwort. Auch hoch entwickelte Systeme können Fehler machen, Zusammenhänge falsch bewerten oder eine Lösung vorschlagen, die technisch möglich, aber rechtlich oder ethisch nicht vertretbar ist.
Menschliche Kontrolle ist deshalb keine Übergangslösung, bis KI-Systeme „besser“ geworden sind. Sie ist ein grundlegender Bestandteil eines verantwortungsvollen KI-Einsatzes.
Warum die europäischen Regeln notwendig sind
Mit dem EU AI Act hat die Europäische Union einen umfassenden Rechtsrahmen für künstliche Intelligenz geschaffen. Sein Ziel ist es, eine menschenzentrierte und vertrauenswürdige Nutzung von KI zu fördern und gleichzeitig Gesundheit, Sicherheit und Grundrechte vor schädlichen Auswirkungen zu schützen.
Die Regulierung folgt dabei einem risikobasierten Ansatz. Nicht jede KI-Anwendung wird gleich behandelt. Ein einfaches System zur Erkennung unerwünschter E-Mails verursacht andere Risiken als ein KI-System, das Bewerber bewertet, medizinische Entscheidungen unterstützt oder sicherheitsrelevante Infrastruktur steuert.
Für Anwendungen mit höheren Risiken sieht der EU AI Act deshalb unter anderem Anforderungen vor an:
Risikomanagement,
Qualität der verwendeten Daten,
Nachvollziehbarkeit und Dokumentation,
Genauigkeit und Cybersicherheit,
laufende Überwachung und
wirksame menschliche Aufsicht.
Bei Hochrisiko-KI muss die menschliche Aufsicht so ausgestaltet sein, dass verantwortliche Personen die Funktionsweise verstehen, Risiken erkennen, Ergebnisse hinterfragen und erforderlichenfalls eingreifen oder das System stoppen können.
Hinzu kommt die Bedeutung der sogenannten KI-Kompetenz. Seit Februar 2025 gelten bereits erste Vorschriften des EU AI Act, darunter Anforderungen an die AI Literacy. Unternehmen müssen sich daher damit befassen, ob die Personen, die KI-Systeme einsetzen oder überwachen, über ausreichende Kenntnisse und Fähigkeiten verfügen.
Sicherheit und Innovation sind keine Gegensätze
Die europäischen Regeln werden teilweise als Belastung für Unternehmen und Innovation dargestellt. Diese Sichtweise greift zu kurz.
Unternehmen werden künstliche Intelligenz nur dauerhaft einsetzen, wenn sie den Ergebnissen vertrauen können. Auch Kunden, Beschäftigte und Geschäftspartner müssen darauf vertrauen können, dass Daten geschützt, Entscheidungen nachvollziehbar und Fehler kontrollierbar bleiben.
Klare Regeln schaffen daher nicht nur Pflichten. Sie schaffen auch Rechtssicherheit und Akzeptanz. Sie helfen Unternehmen, frühzeitig festzulegen:
Für welche Aufgaben darf KI eingesetzt werden?
Welche Daten dürfen in ein Modell eingegeben werden?
Welche Ergebnisse müssen durch Menschen kontrolliert werden?
Wer darf Entscheidungen freigeben?
Wie werden Fehler und Sicherheitsvorfälle dokumentiert?
Wann muss ein KI-System abgeschaltet oder ersetzt werden?
Gerade für den Mittelstand ist ein solcher Rahmen wichtig. Nicht jedes Unternehmen benötigt eine große eigene Compliance-Abteilung. Verständliche Regeln, klare Verantwortlichkeiten und ein nachvollziehbarer Prüfprozess können deshalb einen erheblichen praktischen Nutzen haben.
Nicht immer ist das größte und schönste Modell die beste Lösung
Die Auswahl eines KI-Systems sollte nicht allein nach dessen Leistungsfähigkeit erfolgen. Entscheidend sind drei Fragen:
Welcher Anwendungsfall soll gelöst werden?
Eine Zusammenfassung, eine Rechnungskontrolle oder die Vorbereitung eines Standardangebots benötigt meist weniger Leistung als eine wissenschaftliche Analyse oder die Suche nach einer bisher unbekannten Lösung.
Welche Leistung wird tatsächlich benötigt?
Je klarer das Unternehmen seine Regeln, Prozesse und Qualitätsanforderungen definiert hat, desto weniger muss das Modell selbst interpretieren. Häufig reicht dann ein kleineres und besser kontrollierbares System.
Wie sensibel sind die verarbeiteten Daten?
Öffentliche Informationen sind anders zu behandeln als personenbezogene Daten, Kalkulationen, Vertragsinformationen oder Geschäftsgeheimnisse.
Erst nach dieser Prüfung sollte entschieden werden, ob ein großer kommerzieller Anbieter, ein europäischer Dienst oder ein intern betriebenes Modell eingesetzt wird.
Unternehmenswissen muss in klare Prozesse überführt werden
In vielen Unternehmen ist das notwendige Wissen längst vorhanden. Beschäftigte wissen, wie ein gutes Angebot aussieht, welche Angaben in ein Protokoll gehören, wie eine Kalkulation geprüft wird und welche Freigaben erforderlich sind.
Das Problem besteht häufig nicht darin, dass das KI-Modell zu schwach ist. Es fehlt vielmehr ein Prozess, in dem das vorhandene Wissen eindeutig dokumentiert und für das System nutzbar gemacht wird.
Wer seine Regeln, Zuständigkeiten und Prüfschritte festlegt, benötigt häufig kein besonders großes Modell. Zugleich sinken die Risiken, weil die KI innerhalb klarer Grenzen arbeitet.
Fazit
Künstliche Intelligenz kann Menschen bei anspruchsvollen Aufgaben unterstützen und Erkenntnisse ermöglichen, die zuvor kaum erreichbar erschienen. Sie kann jedoch weder Verantwortung noch Urteilskraft ersetzen.
Der entscheidende Erfolgsfaktor bleibt der Mensch: Er formuliert das Ziel, steuert den Prozess, bewertet das Ergebnis und trägt die Verantwortung.
Die Regeln der Europäischen Union sind dabei kein Gegensatz zur technologischen Entwicklung. Sie schaffen einen notwendigen Rahmen für Sicherheit, Transparenz und Vertrauen. Damit ermöglichen sie einen KI-Einsatz, der nicht nur technisch beeindruckend, sondern auch wirtschaftlich sinnvoll und gesellschaftlich verantwortbar ist.