Die KI-Verordnung der Europäischen Union

Am 14. Juni 2023 hat das Europäische Parlament die weltweit erste KI-Verordnung angenommen. Die darin enthaltenen Vorschriften sollen dafür garantieren, dass die in der EU entwickelten und eingesetzten KI-Anwendungen den Rechten und Werten der Europäischen Union entsprechen. Welche gesetzlichen und gesellschaftlichen Rahmenbedingungen das KI-Gesetz noch enthält und was Unternehmen schon jetzt wissen sollten, um sich auf den sogenannten "AI Act" der EU bestmöglich vorzubereiten, erfahren Sie jetzt in diesem Beitrag.

Inhalt:

Was fällt in den Bereich KI-Systeme?

Welche Regelungen fordert die EU für KI-Anwendungen?

Sicherheit und Schutz stehen im Fokus der EU KI-Verordnung

Die 4 Risikoklassen von KI-Systemen

Generative KI wie ChatGPT im AI Act

Für wen ist die EU KI-Verordnung relevant?

Wie können sich Unternehmen auf die KI-Verordnung vorbereiten?

Was fällt in den Bereich KI-Systeme?

KI-Technologien sind computerbasierte Anwendungen oder Programme, die die Fähigkeit zur eigenständigen Entscheidungsfindung und Problemlösung nachahmen oder kopieren können. Um Aufgaben auszuführen, die normalerweise menschliche Intelligenz erfordern würden, verwenden KI-Systeme Algorithmen, Daten und maschinelles Lernen. KI-Systeme kommen mittlerweile in fast jedem Unternehmen zur Anwendung: Von der Administration und Gesundheitsversorgung, über Finanzdienstleistungen bis hin zu Industrie und Produktion. Seit dem verstärkten Einsatz sogenannter generativer KI, wie verschiedene Textgeneratoren (z. B. ChatGPT) oder Bildgeneratoren (z. B. Midjourney) sind KI-Systeme breitenwirksam in der Gesellschaft angekommen.

Welche Regelungen fordert die EU für KI-Anwendungen?

Der eigentliche Sinn der KI-Verordnung liegt zum einen darin, dass alle Vorteile der Künstlichen Intelligenz genutzt werden können. Zum anderen sollen verschiedene Risiken durch das KI-Gesetz reguliert und so gering wie möglich gehalten werden. 

Mit dem AI Act übernimmt die Europäische Union eine internationale Vorreiterrolle. Nach der Verabschiedung soll das erste KI-Gesetz ein integraler Bestandteil in der weitreichenden Digitalstrategie der EU sein.

Sicherheit und Schutz stehen im Fokus der EU KI-Verordnung

Neben den eingangs erwähnten Grundsatz, dass KI-Systeme den Rechten und Werten der EU entsprechen müssen, enthält das KI-Gesetz weitere Grundsätze, die ein vertrauenswürdiges Umfeld im Bereich von KI-Anwendungen gewährleisten sollen. Diese lauten:

• KI-Technologien müssen von Menschen beaufsichtigt werden, um mögliche Risiken zu minimieren
• KI-Systeme müssen den geltenden Anforderungen an Sicherheit hinsichtlich Datenschutz und Transparenz entsprechen
• KI-Systeme müssen für Menschen erkennbar, nachvollziehbar und erklärbar sein
• Niemand darf durch Einsatz von KI-Anwendungen benachteiligt oder diskriminiert werden
• Weder Gesellschaft noch Umwelt dürfen durch KI-Systeme geschädigt werden

Die 4 Risikoklassen von KI-Systemen

Gemäß dem risikobasierten Ansatz der EU KI-Verordnung werden KI-Systeme in vier Kategorien mit unterschiedlich hohen Risiken eingeteilt. In welche Klasse ein KI-System eingeteilt wird, hängt von dessen Fähigkeiten und Risiken für die Gesundheit und Sicherheit sowie von persönlichen Grundrechten ab. 

1. KI-Systeme mit minimalem Risiko (z. B. KI-fähige Videospiele und Spam-Filter)
   
   
2. KI-Systeme mit begrenztem Risiko (z. B. Chatbots)
   
   
3. KI-Systeme mit hohem Risiko, sog. Hochrisiko-Systeme (Robot-Recruiting-Systeme oder Systeme zur Prüfung der Kreditwürdigkeit)
   
   
4. KI-Systeme mit unzulässigem bzw. inakzeptablem Risiko (Social-Scoring-Systeme zur Überwachung der Gesellschaft oder Systeme zur biometrischen Identifizierung wie Datenbanken zur Gesichtserkennung)

Generative KI wie ChatGPT im AI Act

Generative KI-Modelle (z. B. zur Generierungen von Texten, Bildern oder Videos) wurden im ursprünglichen Entwurf der KI-Verordnung nicht berücksichtigt. Seit der Einführung von ChatGPT durch das US-Unternehmen OpenAI werden im aktuellen Entwurf Regulierungsmöglichkeiten und Auflagen für generative KI-Anwendung diskutiert und vorgeschlagen.

Für wen ist die EU KI-Verordnung relevant?

Das KI-Gesetz ist für alle anwendbar, die KI-Systeme anbieten oder nutzen. Dabei gelten als Anbieter natürliche oder juristische Personen, die KI-Anwendungen entwickeln oder solche innerhalb der EU in Umlauf bringen. Als Nutzer gelten natürliche oder juristische Personen, die außerhalb des persönlichen Bereiches (also im Berufsumfeld) ein KI-System verwenden. Für private Endnutzer oder Konsumenten ist die KI-Verordnung nicht anwendbar.

Wie können sich Unternehmen auf die KI-Verordnung vorbereiten?

Mit der Annahme der ersten KI-Verordnung durch das EU-Parlament im Juni 2023 können nun die Verhandlungen mit den EU-Mitgliedstaaten über den endgültigen Gesetzestext beginnen. Erwartet wird, dass der AI Act spätestens 2026 in Kraft treten wird.

Obwohl noch nicht sicher ist, ob alle vorgestellten Auflagen der KI-Verordnung verabschiedet werden, steht bereits fest, dass die Bereitschaft künstliche Intelligenz zu regulieren, innerhalb der EU sehr hoch ist. Damit ist es sehr wahrscheinlich, dass das KI-Gesetz mit seinen 4 definierten Risikoklassen verabschiedet werden wird. 

Nach der Verabschiedung des KI-Gesetzes beginnt für Unternehmen eine zweijährige Übergangsphase. Damit wird ausreichend Zeit zur Verfügung gestellt, um KI-Anwendungen und die damit verbundenen Prozesse gesetzeskonform anpassen zu können. Bei Nichteinhaltung des KI-Gesetzes können Bußgelder in der Höhe bis zu 30 Millionen Euro bzw. 6 % eines weltweiten Jahresumsatzes ausgesprochen werden. Deshalb ist es empfehlenswert, alle KI-Systeme frühzeitig an die Anforderungen des EU KI-Gesetzes anzupassen bzw. eine Risikoklassifizierung für jedes KI-System vornehmen zu lassen.

Vorschau: Die kommunale Wärmewende und das GEG

Neben dem Einsparen von Wärmeenergie ist die verstärkte Nutzung von erneuerbaren Energien ein weiteres Ziel der Wärmewende. In diesem Sinne sieht das GEG vor, dass ab Januar 2024 grundsätzlich jede neu eingebaute Heizung mit 65 Prozent erneuerbarer Energie betrieben werden muss. Darüber hinaus muss bundesweit auch jede Kommune in spätestens fünf Jahren konkrete Pläne über ihre zukünftige Wärmeversorgung vorlegen.

Sie haben noch Fragen zur KI-Verordnung oder zur Risikoklassifizierung Ihrer KI-Systeme? Auch wenn Sie mehr über die Mitgliedschaft in der Energiegemeinschaft erfahren möchten, freuen wir uns, Ihnen weiterhelfen zu können.

Kontaktieren Sie uns gerne.