In den letzten Jahren hat die künstliche Intelligenz (KI) erheblich an Bedeutung gewonnen und viele Branchen maßgeblich beeinflusst. Doch mit der wachsenden Verbreitung dieser Technologien steigt auch die Notwendigkeit, sie regulativ zu begleiten. Vor diesem Hintergrund hat die Europäische Union die neue EU-KI-Verordnung ins Leben gerufen, die darauf abzielt, einheitliche Standards und Regelungen für den Umgang mit KI-Systemen zu schaffen.
Wen betrifft diese KI-Verordnung?
Ab dem 2. Februar 2025 sind Unternehmen gemäß der EU-KI-Verordnung (AI Act) verpflichtet, sicherzustellen, dass ihre Mitarbeitenden, die mit KI-Systemen arbeiten, über ausreichende KI-Kompetenz verfügen. Diese Verpflichtung betrifft sowohl Anbieter als auch Betreiber von KI-Systemen sowie gewerbliche Nutzer (kommerzieller Anwender) von KI-Systemen.
Als potenzieller kommerzieller Anwender tragen Sie, wenn auch in eingeschränktem Maße, Verantwortung. Sie dürfen keine verbotenen KI-Systeme einsetzen und sollten sicherstellen, dass Ihre Mitarbeiter ein Bewusstsein für die Chancen und Risiken beim Einsatz von KI entwickeln. Zudem sind die von KI betroffenen Personen, wie beispielsweise die Nutzer von Chatbots im Kundenservice, über die Verwendung dieser Systeme zu informieren. Wenn in Ihrem Unternehmen mit einem KI-System Bilder erstellt oder geändert werden (z. B. für Ihre Webseite) oder Texte wie Blogartikel generiert werden, werden Sie voraussichtlich in Zukunft offenlegen müssen, dass diese Inhalte von einer KI erstellt oder verändert wurden.
Kategorisierung von KI-Systemen
Ein zentrales Element der EU-KI-Verordnung ist die Risikokategorisierung von KI-Systemen. Die Verordnung unterteilt KI-Anwendungen in vier Kategorien:
- Unakzeptables Risiko: Systeme, die eine Bedrohung für die Sicherheit, die Lebensqualität oder die Grundrechte darstellen, sind verboten. Dazu gehören beispielsweise Programme zur sozialen Bewertung von Bürgern.
- Hohes Risiko: Diese KI-Systeme unterliegen strengen Anforderungen hinsichtlich Transparenz, Nachvollziehbarkeit und Überwachung. Dazu zählen unter anderem Anwendungen in den Bereichen Gesundheitswesen, Verkehr und Strafverfolgung.
- Gerichtetes Risiko: Hier werden KI-Anwendungen, die klare Risiken bergen, aber nicht als hochriskant eingestuft werden, reguliert. Anbieter müssen transparente Informationen zur Verfügung stellen.
- Minimalrisiko: Für viele KI-Anwendungen, wie z.B. Chatbots oder Empfehlungsalgorithmen, gelten keine spezifischen Anforderungen. Dennoch werden Best Practices empfohlen.
Die Schulungspflicht umfasst ein grundlegendes Verständnis der Funktionsweise von Künstlicher Intelligenz, einschließlich Sprachmodellen, sowie der damit verbundenen gesellschaftlichen und datenschutzrechtlichen Risiken. Insbesondere Verantwortliche für KI-Projekte sollten zudem detaillierte Kenntnisse über die spezifischen Pflichten des AI Acts besitzen.
Die EU-KI-Verordnung ist ein ambitionierter Schritt zur Schaffung eines sichereren und verantwortungsvolleren Umfelds für den Einsatz von KI-Technologien in Europa. Während die Umsetzung und Durchsetzung der Verordnung noch einige Herausforderungen mit sich bringen wird, bietet sie gleichzeitig eine Chance, Europa als Vorreiter im Bereich der Ethik und Sicherheit in der KI zu positionieren. Unternehmen sollten sich frühzeitig mit den neuen Regelungen auseinandersetzen, um sich optimal auf die kommenden Veränderungen einzustellen und von den sich bietenden Möglichkeiten zu profitieren.