Die ersten Vorschriften des Gesetzes über künstliche Intelligenz (EU Artificial Intelligence Act) sind am 02.02.2025 in Kraft getreten. Dazu gehören die Definitionen von KI-Systemen, KI-Kompetenz sowie eine sehr begrenzte Zahl verbotener KI-Anwendungsfälle, die in der KI-Verordnung aufgeführt sind und in der EU unannehmbare Risiken bergen. Das heißt in der Praxis, alle in der EU ansässigen Unternehmen, die KI entwickeln oder einsetzen, müssen ihre Systeme nach dem Grad des Risikos bewerten und geeignete Maßnahmen ergreifen, um den gesetzlichen Anforderungen gerecht zu werden. Diese Risikograde sind:
- Minimales Risiko: Die meisten KI-Systeme, z. B. Spamfilter und KI-gestützte Videospiele, unterliegen keinen besonderen Verpflichtungen, doch Unternehmen können freiwillig zusätzliche Verhaltenskodizes aufstellen.
- Besondere Transparenzverpflichtungen: Systeme wie Chatbots müssen ihre Nutzer*innen deutlich darauf hinweisen, dass sie es mit einer Maschine zu tun haben, und bestimmte durch KI erzeugte Inhalte müssen als solche gekennzeichnet werden.
- Hohes Risiko: Für KI-Systeme, die als hochriskant eingestuft werden (z. B. KI-basierte medizinische Software oder KI-Systeme für die Personaleinstellung), gelten strenge Anforderungen, z. B. im Hinblick auf Risikominderungssysteme, hochwertige Datensätze, klare Informationen für die Nutzer*innen, menschliche Aufsicht usw.
- Unannehmbares Risiko: KI-Systeme, von denen eine klare Bedrohung für die Grundrechte der Menschen ausgeht, sind verboten. Dies gilt z. B. für Systeme, die Behörden oder Unternehmen eine Bewertung des sozialen Verhaltens ermöglichen (Social Scoring). Das heißt, KI-Programme, die Menschen nach sozialem Verhalten bewerten, sind nun verboten.
Leitlinien zur Definition von KI-Systemen
Um Innovationen im Bereich der KI zu erleichtern, wird die Kommission Leitlinien zur Definition von KI-Systemen veröffentlichen. Damit soll die Industrie dabei unterstützt werden, festzustellen, ob ein Softwaresystem ein KI-System ist. Die Kommission wird auch ein Live-Archiv für KI-Kompetenzverfahren veröffentlichen, das von Anbietern und Betreibern von KI-Systemen gesammelt wurde. Das wird das Lernen und den Austausch zwischen ihnen fördern und gleichzeitig sicherstellen, dass die Nutzer, die für den wirksamen Einsatz von KI-Technologien erforderlichen Kompetenzen und Kenntnisse entwickeln.
Leitlinien zu verbotenen KI-Praktiken
Um die Einhaltung des KI-Gesetzes sicherzustellen, wird die Kommission Leitlinien zu verbotenen KI-Praktiken veröffentlichen, die unannehmbare Risiken für die Sicherheit und die Grundrechte der Bürgerinnen und Bürger darstellen. In diesen Leitlinien werden die rechtlichen Konzepte erläutert und praktische Anwendungsfälle auf der Grundlage der Beiträge der Interessenträger bereitgestellt. Sie sind nicht verbindlich und werden erforderlichenfalls aktualisiert.
Hintergrund
Die Kommission hat mehrere Initiativen zur Förderung von KI-Innovationen auf den Weg gebracht, von dem KI-Innovationspaket zur Unterstützung von Start-up-Unternehmen und KMU bis hin zu den künftigen KI-Fabriken, die Zugang zu der massiven Rechenleistung bieten werden, die Start-ups, Industrie und Forscher benötigen, um ihre KI-Modelle und -Systeme zu entwickeln.
Die EU will im Bereich der sicheren KI eine weltweite Führungsrolle übernehmen. Durch die Entwicklung eines starken Regelungsrahmens, der auf Menschenrechten und Grundwerten basiert, kann die EU ein KI-Ökosystem aufbauen, das allen Beteiligten Vorteile bringt.
Anmerkung: Diese EU-Regulierung betont schon heute – weltweit einzigartig – Risikoszenarien, statt zunächst die Chancen auszuloten. Betrachtet man die Vorreiterrolle der EU in Sachen »Klimaneutralität«, die mit massiven Wohlstandseinbußen für den einzelnen Bürger und einer beispiellosen Rezession bezahlt wird, muss man gespannt sein, ob die weltweit berüchtigte Regelungswut der EU in eine goldene KI-Zukunft führt. Oder doch wiederholt ins Abseits.
© infodienst.info. Alle Rechte vorbehalten, all rights reserved. Nachdruck und Weitergabe an Dritte untersagt.
