Die Verordnung über künstliche Intelligenz und bald verbotene Praktiken
Mit der am 12.07.2024 veröffentlichten Verordnung über künstliche Intelligenz (sog. KI-VO) versucht der europäische Gesetzgeber, den schädlichen Auswirkungen von KI-Systemen rechtlich Herr zu werden. Dazu hat er Verbote bestimmter Praktiken im KI-Bereich aufgestellt, die bereits ab dem 02.02.2025 gelten sollen. Die gesamte Verordnung gilt erst ab dem 02.08.2026.
Zweck der KI-VO soll es sein, die Funktionalität des Binnenmarktes zu bewahren und einen rechtlichen Rahmen für eine auf den Menschen ausgerichtete vertrauenswürdige KI zu gewährleisten. Dabei soll eine dem Menschen als Instrument dienende und sein Wohlergehen verbessernde KI als „menschzentrierte Technologie“ gefördert und gesichert werden.
Dem Gesetzgeber ist dies mit den in Art. 5 KI-VO geregelten Verboten jedoch nur in Ansätzen gelungen. Gerade Unbestimmtheit, Unklarheit, Widersprüchlichkeit, fehlende praktische Umsetzbarkeit sowie Übersetzungsfehler führen zu einem erheblichen Bedarf an Nachbesserung, Korrektur und Präzisierung. Die benannten Unstimmigkeiten sollen im Folgenden beispielhaft beleuchtet werden.
So untersagen die Verbote in Art. 5 KI-VO beispielsweise das Inverkehrbringen, die Inbetriebnahme und die Verwendung bestimmter KI-Systeme. Die Entwicklung und Herstellung solcher Systeme sind jedoch nicht untersagt, was widersprüchlich erscheint.
Zum Beispiel unbestimmt ist der Regelungsinhalt des Art. 5 Abs. 1 lit. c KI-VO, der die Bewertung oder Einstufung von natürlichen Personen oder Gruppen von Personen über einen bestimmten Zeitraum auf der Grundlage ihres sozialen Verhaltens oder bekannter, abgeleiteter oder vorhergesagter persönlicher Eigenschaften oder Persönlichkeitsmerkmale regelt (wohl an das chinesische Socialcredit-System angelehnt). Dies muss nach dem Gesetzgeber zu einer Schlechterstellung oder Benachteiligung bestimmter Personen oder Gruppen führen, die im Hinblick auf ihr soziales Verhalten oder dessen Tragweite ungerechtfertigt oder unverhältnismäßig ist. Dabei bleibt jedoch unklar, wann das der Fall sein soll. Auch der dazugehörige Erwägungsgrund aus Art. 31 KI-VO hilft nicht über diese Unklarheiten hinweg.
Als weiteres Beispiel ist Art. 5 Abs. 1 lit. g KI-VO zu betrachten. Dieser betrifft Systeme zur biometrischen Kategorisierung, mit denen natürliche Personen individuell auf der Grundlage ihrer biometrischen Daten kategorisiert werden, um ihre Rasse, ihre politischen Einstellungen, ihre Gewerkschaftszugehörigkeit, ihre religiösen oder weltanschaulichen Überzeugungen, ihr Sexualleben oder ihre sexuelle Ausrichtung zu erschließen oder abzuleiten. Systeme zur biometrischen Kategorisierung sind gem. Art. 3 Ziff. 40 KI-VO KI-Systeme, die dem Zweck dienen, natürliche Personen auf der Grundlage ihrer biometrischen Daten bestimmten Kategorien (z. B. Geschlecht, Alter oder Religion) zuzuordnen, „sofern es sich um eine Nebenfunktion eines anderen kommerziellen Dienstes handelt und aus objektiven technischen Gründen unbedingt erforderlich ist“. Dieser Zusatz ist im Deutschen fehlerhaft; es müsste heißen: „sofern es sich [nicht] um eine Nebenfunktion … handelt“. Dies zeigt ein Vergleich mit der englischen Sprachfassung („unless it is ancillary to another commercial service“). Diese Unstimmigkeit hat jedoch eine völlig andere Bedeutung dieser eigentlichen Ausnahmeregelung zur Folge.
Der anhand dieser Beispiele veranschaulichte Bedarf an Korrektur und Präzisierung wird nur noch deutlicher, wenn man sich überblicksartig vor Augen führt, dass sich Art. 5 KI-VO durch die Verwendung widersprüchlicher (z B biometrische Daten, Art. 3 Ziff. 34 KI-VO iVm Erwägungsgrund 14 KI-VO vs.?Art. 4 Ziff. 14 DS-GVO) und unklarer (z B. „Personen“ in Art. 5 Abs. 1 lit. a und b KI-VO) Begriffe sowie sehr allgemein gehaltener Formulierungen (z. B. „Schlechterstellung oder Benachteiligung … die im Hinblick auf ihr soziales Verhalten oder dessen Tragweite ungerechtfertigt oder unverhältnismäßig ist“, Art. 5 Abs. 1 lit. c KI-VO) auszeichnet. Hinzu treten besagte Übersetzungsfehler („sofern es sich“, Art. 5 Abs. 1 lit. g 40 KI-VO iVm Art. 3 Ziff. 40 KI-VO), praktisch schwer nachvollziehbare Regelungen (z. B. Ableitung politischer Einstellungen aus biometrischen Daten, Art. 5 Abs. 1 lit. g KI-VO) und unglücklich formulierte Ausnahmen (Art. 5 Abs. 1 lit. f und g KI-VO).
Selbst bei einer zeitnahen Nachbesserung all dieser Punkte wird die KI-VO einen erhöhten rechtlichen Beratungsbedarf für Unternehmer auf diesem Gebiet mit sich bringen. Eine Beseitigung der hier nur beispielhaft aufgeführten Unsicherheiten wird wohl in der Praxis nur zu einer bedingten Rechtssicherheit führen können.