Dieser ist thematisch aufgebaut und nach Unterseiten sortiert.
Der Rat der 27 EU-Mitgliedstaaten hat am 21. Mai 2024 das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz verabschiedet. Das Gesetz wird häufig unter den Namen “AI Act” oder KI-Verordnung (KI-VO) referenziert. Die KI-VO soll sicherstellen, dass KI-Systeme sicher für alle Bewohner: innen in der EU und im Einklang mit den europäischen Werten eingesetzt werden. KI-Systeme werden in der Verordnung nach ihrem Risiko klassifiziert. Je nach Risikogruppe gelten unterschiedlich strenge Regulierungen. In der KI-VO wird zwischen verschiedenen Akteuren (z.B. Betreibende, Anbietende) unterschieden und ihre Pflichten festgelegt.
Ein weiterer zentraler Punkt der KI-VO sind die weitgehenden Transparenzpflichten für KI-Systeme und die Verpflichtung zur Sicherstellung von KI-Kompetenz. Ziele der KI-VO sind einerseits die Rechte der EU Bürger: innen zu schützen und andererseits eine rechtliche Grundlage für Innovation und Fortschritt im KI-Bereich zu schaffen.
Hinweis: Die hier aufgeführten Informationen sind sorgfältig recherchiert. Diese stellen jedoch keinen juristischen Text dar. Informationen auf dieser Seite können veraltet sein und sind nur selbstverantwortlich zu verwenden.
Die KI-VO bezweckt mit ihren Vorschriften die Gesundheit, Sicherheit, Grundrechte, Demokratie, Rechtsstaatlichkeit sowie die Umwelt zu schützen. Aus diesem Grund werden KI-Systeme abhängig von ihrem Gefahrenrisiko für die Gesellschaft in 4 Risikogruppen eingeteilt:
- Verbotene Anwendungen/Unannehmbares Risiko: Bsp. Social Scoring, Emotionserkennung an Arbeitsplätzen und Bildungseinrichtungen, schädliche KI-basierte Manipulation und Täuschung
- Hohes Risiko: Bsp. KI-Systeme zur Bewertung von Prüfungsergebnissen, die dadurch den Zugang und den Verlauf des Berufslebens bestimmen können, KI-Sicherheitskomponenten in kritischen Infrastrukturen, KI-Systeme für die Justizverwaltung
- Begrenztes Risiko: Bsp. Deepfakes, Chatbots, Generierung synthetischer Audio-, Bild-, Video- oder Textinhalte
- Geringes Risiko: Bsp. Spamfilter
Der EU AI Act geht mit einem gestaffelten Zeitplan in die Umsetzung. Wichtige Meilensteine finden Sie auf dem Zeitstrahl abgebildet. Die KI-VO betrifft nicht nur die Wirtschaft, sondern auch öffentliche Einrichtungen wie die deutschen Hochschulen. Um Entwicklern, Anbietern und Betreibern die Einhaltung der KI-VO zu ermöglichen, sieht das Gesetz angemessene Übergansfristen vor. Ein besonders wichtiger Punkt ist die Einführung der Verpflichtung zur Sicherstellung von KI Kompetenz ab Februar 2025.
Anbieter und Betreiber von KI‑Systemen ergreifen Maßnahmen, um [...] sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI‑Systemen befasst sind, über ein ausreichendes Maß an KI‑Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung [...] und der Kontext, in dem die KI‑Systeme eingesetzt werden sollen, sowie die Personen [...], bei denen die KI‑Systeme eingesetzt werden sollen, zu berücksichtigen sind.
Art. 4 KI-VO
die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI‑Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden
Art. 3 KI-VO
eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI‑System in eigener Verantwortung verwendet, es sei denn, das KI‑System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet
Art. 3 KI-VO
eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI‑System oder ein KI‑Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI‑System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich
Art. 3 KI-VO
Die Verpflichtung zur Sicherstellung von KI-Kompetenz betrifft Anbieter und Betreiber von KI-Systemen. Diese zentrale Anforderung ist am 2. Februar 2025 in Kraft getreten und sie soll sicherstellen, dass alle (beruflichen) Benutzer über das notwendige Wissen und die Fähigkeiten verfügen, um KI sachgemäß einzusetzen. Dies umfasst:
- Technisches Wissen: Fähigkeit, Software korrekt zu nutzen und ein Verständnis der involvierten Prozesse
- Regulatorisches Wissen: Kenntnisse über gesetzliche Vorgaben und ethische Prinzipien
- Anwendungsspezifische Fähigkeiten: KI sicher und sachgemäß in verschiedenen Bereichen einsetzen zu können und sich der möglichen Risiken und Schäden bewusst zu sein
Anwender und Betreiber müssen sicherstellen, dass Mitarbeitende entsprechend geschult sind. Die nötige KI-Kompetenz kann durch Weiterbildungen und Schulungen sowie Zertifikate erlangt und nachgewiesen werden.
Ein zentraler Punkt der KI-VO ist die eingeführte Transparenzpflicht nach Art.50 KI-VO. So soll Vertrauen in KI-Anwendungen geschaffen und Missbrauch, durch z.B. Manipulation, verhindert werden. Diese Pflicht gilt nicht, falls die KI-Anwendung für legale Zwecke wie die Verbrechensaufdeckung eingesetzt wird.
Anbieter von KI-Systemen müssen sicherstellen, dass ihre Nutzer erkennen können, wenn sie mit einer KI interagieren. Synthetisch generierte Inhalte wie z.B. Deepfakes müssen als künstlich erzeugt gekennzeichnet werden. Setzt ein Unternehmen KI zur Erkennung von Emotionen oder zur biometrischen Kategorisierung ein, müssen die Nutzer ebenfalls informiert werden. Wird ein KI-System eingesetzt, um einen Text zu generieren oder zu manipulieren, der die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren soll, muss dieser als KI generiert oder manipuliert gekennzeichnet werden.
Trägt eine natürliche oder juristische Person die redaktionelle Verantwortung für den veröffentlichten Text und wurde der Text einer menschlichen Überprüfung unterzogen, gilt diese Kennzeichnungspflicht nicht.
Durch den gestaffelten Zeitrahmen der KI-VO tritt diese erst nach und nach in Kraft. Es muss sorgfältig geprüft werden, welche Gesetzte und Vorschriften zum jeweiligen Zeitpunkt gelten.
Viele Rechtsentscheidungen zu konkreten Fällen stehen noch aus. Die KI-VO ist zwar sehr umfangreich, jedoch ist die fallspezifische rechtliche Auslegung im Detail noch unklar. Für die Forschung gelten laut Verordnung besondere Ausnahmen:
Diese Verordnung gilt nicht für KI‑Systeme oder KI‑Modelle, einschließlich ihrer Ausgabe, die eigens für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden.
Anwendungsbereich - Art. 2 KI-VO Nr. 6
Diese Verordnung gilt nicht für Forschungs-, Test- und Entwicklungstätigkeiten zu KI‑Systemen oder KI‑Modellen, bevor diese in Verkehr gebracht oder in Betrieb genommen werden. Solche Tätigkeiten werden im Einklang mit dem geltenden Unionsrecht durchgeführt. Tests unter Realbedingungen fallen nicht unter diesen Ausschluss.
Anwendungsbereich, Art. 2 KI-VO Nr. 8
In der folgenden Übersicht finden Sie zahlreiche Ressourcen und weiterführende Links zum Thema KI-VO, und deren Bedeutung für Hochschulen allgemein.
der TÜV AI-Act Risk Navigator ist ein Klassifizierungstool zur einfachen Einordnung von KI-Systemen und KI-Modellen in die Risikoklassen der KI-VO
Basierend auf ihrem Umsetzungsleitfaden bietet Bitkom ein passendes Click-Through-Tool, das unterstützen soll, die rechtlichen Vorgaben der KI-VO erfolgreich und im Sinne des Gesetzgebers zu implementieren.
Der EU AI Act Essential Kurs vermittelt folgende Inhalte:
- Einführung in den EU AI Act: Ziele, Struktur und Grundprinzipien
- Überblick über verwandte EU-Gesetze und deren Zusammenspiel mit dem AI Act
- Zeitplan und wichtige Meilensteine der Implementierung
- Praktische Beispiele und Use Cases für die verschiedenen Risikoklassen
- Überblick über die zentralen Akteure im AI Act (Provider, Deployer, National Authority)
