Kennzeichnungspflicht für KI-Systeme: Was muss sie enthalten?

Kennzeichnungspflicht für KI-Systeme: Was muss sie enthalten?
6:13

Dieser Artikel soll einen Einblick in die aktuellen Entwicklungen und Vorgaben der Kennzeichnungspflicht für KI-Systeme auf europäischer Ebene geben.

Hintergrund und Entstehung der Kennzeichnungspflicht

Im Juni 2023 wurde im Bundestag eine Kennzeichnungspflicht bei Einsatz von KI-Systemen gefordert. Diese Forderung entstand unter anderem vor dem Hintergrund der Vorschläge der Bürgerinnen und Bürger der Konferenz zur Zukunft Europas (COFOE).

Am 13.03.2024 wurde auf Europa-Ebene über ein KI-Gesetz abgestimmt und Pionierarbeit geleistet. Dieses weltweit erste KI-Gesetz hat zum Ziel, Grundrechte, Demokratie, Rechtsstaatlichkeit und ökologische Nachhaltigkeit vor Hochrisiko-KI-Systemen zu schützen und gleichzeitig Innovationen anzukurbeln. Die Verordnung legt bestimmte Verpflichtungen für KI-Systeme fest, abhängig von den jeweiligen Risiken und Auswirkungen.

Die Hintergründe und Entstehung der Kennzeichnungspflicht für KI-Systeme verdeutlichen das Bestreben, die potenziellen Risiken und Auswirkungen dieser Technologie zu regulieren und zu kontrollieren.


Quelle: tagesschau.de

Verabschiedete Inhalte und Vorgaben des Europaparlaments

Die verabschiedeten Inhalte des KI-Gesetzes auf europäischer Ebene wurden in einer Pressemeldung des Europaparlaments veröffentlicht. Das Gesetz zielt darauf ab, Grundrechte, Demokratie, Rechtsstaatlichkeit und ökologische Nachhaltigkeit vor Hochrisiko-KI-Systemen zu schützen und gleichzeitig Innovationen zu fördern.

"Die neuen Regeln zielen darauf ab, Grundrechte, Demokratie und Rechtsstaatlichkeit sowie ökologische Nachhaltigkeit vor Hochrisiko-KI-Systemen zu schützen. Gleichzeitig sollen sie Innovationen ankurbeln und dafür sorgen, dass die EU in diesem Bereich eine Führungsrolle einnimmt. Die Verordnung legt bestimmte Verpflichtungen für KI-Systeme fest, abhängig von den jeweiligen möglichen Risiken und Auswirkungen." - Auszug aus der Pressemeldung des Europaparlaments vom 13.03.2024

Einige der verabschiedeten Inhalte und Vorgaben sind:

  • Verbotene Anwendungen, wie die biometrische Kategorisierung auf der Grundlage sensibler Merkmale, Emotionserkennungssysteme am Arbeitsplatz und in Schulen sowie das Bewerten von sozialem Verhalten mit KI. Es gibt jedoch Ausnahmen für Strafverfolgungsbehörden.
  • Transparenzanforderungen, die sicherstellen, dass künstlich erzeugte oder bearbeitete Bilder, Audio- und Videoinhalte, wie sogenannte Deepfakes, eindeutig als solche gekennzeichnet werden müssen.

Diese Inhalte und Vorgaben wurden entwickelt, um die Risiken von KI-Systemen zu minimieren und gleichzeitig den Schutz von Grundrechten und die Förderung von Innovationen sicherzustellen.

Verbotene Anwendungen und Transparenzanforderungen

Im Rahmen der Kennzeichnungspflicht für KI-Systeme wurden bestimmte Anwendungen verboten. Dazu gehören die biometrische Kategorisierung auf der Grundlage sensibler Merkmale, Emotionserkennungssysteme am Arbeitsplatz und in Schulen sowie das Bewerten von sozialem Verhalten mit KI. Es gibt jedoch Ausnahmen für Strafverfolgungsbehörden.

Darüber hinaus müssen künstlich erzeugte oder bearbeitete Bilder, Audio- und Videoinhalte, wie sogenannte Deepfakes, eindeutig als solche gekennzeichnet werden. Diese Transparenzanforderungen sollen sicherstellen, dass die Nutzung von KI-Systemen transparent und nachvollziehbar ist.

Die verbotenen Anwendungen und Transparenzanforderungen sind wichtige Bestandteile der Kennzeichnungspflicht und dienen dem Schutz der Grundrechte und der Förderung von Transparenz und Vertrauen in KI-Systeme.

Auswirkungen auf die tägliche Arbeit im Agenturumfeld

Die Kennzeichnungspflicht für KI-Systeme wird auch Auswirkungen auf die tägliche Arbeit der Agenturen im Marketing & Sales Umfeld haben.

Einerseits gilt es sicher zu stellen, dass die in der Agentur verwendeten KI-Systeme den Vorgaben der Kennzeichnungspflicht entsprechen, verbotenen Anwendungen ausschließen und Transparenzanforderungen einhalten. Mit ziemlicher Gewissheit wird das Anpassungen an die vorherrschenden Arbeitsweisen, Systeme und IT-Infrastrukturen erfordern.

Andererseits gilt es die Agenturkunden über die Kennzeichnungspflicht zu informieren und sicherstellen, dass die Vorgaben im Rahmen von zum Beispiel Marketing Kampagnen, Sales Aktionen und Content Produktionen eingehalten werden. Es empfiehlt sich, hier gemeinsam mit den Kunden eine gemeinsame Sprachregelung und Vorgehensweise zu definieren.

Die Auswirkungen auf die tägliche Arbeit erfordern auf jeden Fall eine gründliche Auseinandersetzung mit den Vorgaben der Kennzeichnungspflicht und eine proaktive Anpassung der Arbeitsabläufe.

Virtuelle Expertensysteme bei straight.

Als führende Agentur im Bereich Creative Inbound Marketing, setzen wir aktiv auf die Einführung und Nutzung fortschrittlicher KI-Technologien. Im Einklang mit unserer Verpflichtung zu Transparenz und ethischem Handeln, etablieren wir klare Richtlinien für den Einsatz dieser Technologien. Ein Code of Conduct AI (CoCAI) sowie interne KI-Richtlinien unterstreichen unser Engagement für:

  • Innovation und Kreativität
  • Effizienzsteigerung interner Prozesse
  • Unterstützung unseres Teams (Team En-AI-blement)

 

Nächste Schritte und viele weitere Fragen

Die Verordnung zur Kennzeichnungspflicht für KI-Systeme wird nun von Rechts- und Sprachsachverständigen abschließend überprüft. Anschließend muss der Rat die neuen Vorschriften noch förmlich annehmen. Die Verordnung tritt 20 Tage nach ihrer Veröffentlichung im Amtsblatt der EU in Kraft und ist – bis auf einige Ausnahmen – 24 Monate nach ihrem Inkrafttreten uneingeschränkt anwendbar.

Wir sind gespannt, wie die Antworten auf diese konkreten Fragen aussehen werden:

  • Wann soll der AI Act in Kraft treten?
  • Was ist bei der Nutzung von KI zu beachten?
  • Welche Gesetze und Regeln müssen in Hinblick auf den Datenschutz bei KI Technologien beachtet werden?
  • Braucht es eine KI-Kennzeichnung?
  • Für wen gilt der AI Act?
Wo kann KI nicht eingesetzt werden?
 

AI