Die Europäische Union hat mit der Verabschiedung der neuen Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz, KI-Verordnung, (AI Act) am 21.Mai 2024 einen bedeutenden Schritt zur Regulierung von Künstlicher Intelligenz (KI) gemacht. Die KI-Verordnung wird unmittelbar in allen Mitgliedsstatten gelten.
Dieser rechtliche Rahmen ist international einzigartig und zielt darauf ab, ein sicheres, transparentes und vertrauenswürdiges Umfeld für die Nutzung von KI-Technologien zu schaffen, während gleichzeitig Innovationen gefördert werden. Die Verordnung ist eine Produktregulierung und bezieht sich nicht auf die Entwicklungsaktivitäten.
Die KI-Verordnung unterteilt KI-Systeme in verschiedene Risikokategorien, je höher das Risiko, desto höher sind die Anforderungen.
Systeme mit unvertretbarem Risiko sind verboten, beispielsweise KI-gestützte Systeme zur sozialen Bewertung von Personen durch staatliche Behörden. Hochrisikosysteme unterliegen strengen Auflagen und umfassen Anwendungen in Bereichen wie Gesundheitswesen, Strafverfolgung und kritische Infrastrukturen. Diese Systeme erfordern umfassende Sicherheits- und Transparenzmaßnahmen. Systeme mit geringem Risiko müssen bestimmte Transparenzanforderungen erfüllen, wie die Kennzeichnung von KI-generierten Inhalten. Systeme mit dem geringsten Risiko sind weitgehend unreguliert und umfassen die meisten derzeit auf dem EU-Binnenmarkt erhältlichen KI-Anwendungen, wie KI-gestützte Videospiele und Spam-Filter.
Für hochriskante KI-Systeme gelten umfangreiche Anforderungen. Anbieter müssen ein Risikomanagementsystem implementieren, um potenzielle Gefahren frühzeitig zu erkennen und zu minimieren. Es ist eine umfassende technische Dokumentation erforderlich, die die Entwicklung, das Training und den Betrieb des KI-Systems beschreibt. Anbieter müssen sicherstellen, dass die zur Entwicklung und zum Training verwendeten Datensätze von hoher Qualität sind und keine Verzerrungen aufweisen. Nutzer müssen über die Funktionsweise und die Risiken des KI-Systems aufgeklärt werden. Es bestehen weitere vielfältige Pflichten, wie auch Marktüberwachungs- und Meldepflichten und die Durchführung einer Konformitätsbewertung, sowie der Konformitätskennzeichnung.
Hier einige Beispiele für die unterschiedlichen Risikoklassen
Beispiele für verbotene KI-Systeme
- Verwendung, Inverkehrbringen oder Betrieb von KI-Systemen, die unvereinbar mit den Grundrechten der Europäischen Union sind.
- Systeme, die geeignet sind, das Verhalten von Menschen zu manipulieren, gezielt manipulierte Inhalte in Social Media zur Verfolgung kommerzieller oder politischer Ziele.
- Bewertungssysteme (Social Scoring), bei denen persönliche Merkmale von Menschen ausgewertet werden und daraus Konsequenzen gezogen werden.
Beispiele für Hochrisiko-Systeme
- Diagnosetools oder KI-Komponenten in Medizinprodukten
- KI-Systeme im Bereich Human Resources für die Bewertung und Auswahl von Bewerbern
- KI-Systeme zur Bewertung von Personen für den Abschluss einer Lebensversicherung
- KI-Systeme in kritischen Infrastrukturen
Beispiele Systeme mit begrenztem Risiko
- Chats und virtuelle Assistenten, die klar als KI-Systeme gekennzeichnet sein müssen
- KI-gestützte Filter für soziale Medien zur Erkennung und Blockierung von Spam oder unangemessenen Kommentaren
Beispiele für Systeme mit minimalem Risiko
- Spam-Filter
- KI-Systeme zur Personalisierung von Werbung
Aufgrund der hohen Anforderungen ist eine sorgfältige Abgrenzung der als Hochrisiko-System einzustufenden KI notwendig und es ist ratsam sich frühzeitig mit den Pflichten und der KI-Verordnung auseinanderzusetzen. KI-Systeme, die nicht als Hochrisiko eingestuft werden, stellen kein bedeutendes Risiko für die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen dar. Dies ist der Fall, wenn die KI-Systeme lediglich eingeschränkte, prozessuale Aufgaben übernehmen, die Ergebnisse von zuvor abgeschlossenen menschlichen Tätigkeiten verbessern oder Entscheidungsmuster und Abweichungen erkennen sollen, ohne eine vorherige menschliche Beurteilung zu ersetzen oder zu beeinflussen. Voraussetzung ist, dass eine ordnungsgemäße menschliche Überprüfung stattgefunden hat.
Neben diesen Anbieterpflichten, sind jedoch auch Pflichten für Betreiber, Einführer und Händler geregelt. Insbesondere für Betreiber, also Personen oder Behörden die eine KI-System, das als Hochrisiko- System eingestuft ist, in eigener Verantwortung verwenden, ergeben sich zahlreiche Pflichten, soweit diese nicht nur privat eingesetzt werden.
Künstliche Intelligenz (KI) wird zunehmend in verschiedenen Lebensbereichen eine wichtige Rolle spielen. Mit der KI-Verordnung wurde eine erste Regelung geschaffen, mit der weitreichenden Verbreitung werden jedoch auch zahlreiche neue rechtliche Herausforderungen und Fragen entstehen.
Dank unserer sorgfältigen Vorbereitung auf die KI-Verordnung und unserem engagierten Team aus Spezialisten – bestehend aus Informatikern, Ingenieuren, Apothekern und Juristen – entwickeln und implementieren wir bereits konforme Lösungen, um Ihnen innovative und sichere KI-Anwendungen zu bieten.
Unsere Dienstleistungen umfassen ausführliche Innovationsberatung, die Ihnen hilft, KI optimal in Ihre Geschäftsprozesse zu integrieren. Wir unterstützen Sie bei der Implementierung von KI in PSP- (Patient Support Programms) und HCP-Systemen (Healthcare Professional Systems), sowie bei der Nutzung von KI für interne Konzernanwendungen und für den Außendienst. Darüber hinaus bieten wir maßgeschneiderte Schulungen und Fortbildungen an, um sicherzustellen, dass Ihr Team bestens mit den neuesten KI-Entwicklungen vertraut ist und diese effektiv nutzen kann. Unsere Expertise garantiert Ihnen eine nahtlose Integration von KI, die Ihren Unternehmenswert steigert und Ihnen Wettbewerbsvorteile verschafft.
Deutsch 
English