EU KI Act – warum Unternehmen ab sofort KI Kompetenz den Mitarbeitenden vermitteln müssen | Gespräch mit Stephan Schmidt #531

Im Podcast spreche ich mit dem IT-Fachanwalt Stephan Schmidt über den EU AI Act und die seit 2. Februar relevante KI Kompetenz, die jedes Unternehmen, das mit KI arbeitet, seinen Mitarbeitern vermitteln muss. Wie genau das aussieht, welche Sanktionen entstehen können und was man ansonsten noch zu dem Thema wissen sollte, bespreche ich mit meinem Podcast-Gast. Hört euch den Podcast also am besten gleich und komplett an.

Was ist der EU AI Act genau?

Der AI Act der Europäischen Union etabliert ein einheitliches Regelwerk für den Einsatz von Künstlicher Intelligenz (KI) innerhalb der EU. Ziel ist es, den Binnenmarkt zu stärken und gleichzeitig die Auswirkungen von KI auf Gesundheit, Sicherheit und Grundrechte zu minimieren. Kernstück der Verordnung ist eine risikobasierte Klassifizierung von KI-Systemen in vier Stufen:

1. Unzulässiges Risiko: KI-Systeme, die als besonders gefährlich für Grundrechte eingestuft werden, sind verboten. Dazu zählen beispielsweise Social Scoring oder Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen.
2. Hohes Risiko: Systeme, die erhebliche Beeinträchtigungen von Grundrechten verursachen können, wie etwa im Bildungsbereich, Personalmanagement oder bei der Strafverfolgung, unterliegen strengen Anforderungen. Diese umfassen unter anderem Risikomanagement, Transparenz und menschliche Aufsicht.
3. Begrenztes Risiko: Für Systeme mit besonderen Transparenzverpflichtungen, die zur Manipulation von Menschen genutzt werden könnten, wie Chatbots oder KI-generierte Inhalte, muss für die Nutzenden erkennbar sein, dass sie mit einer Maschine interagieren.
4. Minimales Risiko: Für Systeme mit geringem Risiko bestehen keine besonderen Anforderungen.

Die Verordnung gilt für Anbieter und Betreiber von KI-Systemen innerhalb der EU sowie für ausländische Unternehmen, deren Systeme oder Inhalte in der EU genutzt werden. Ausgenommen sind jedoch KI-Systeme, die ausschließlich für militärische Zwecke oder die nationale Sicherheit konzipiert sind. Bei Verstößen drohen empfindliche Geldbußen von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Vorjahresumsatzes.

Mit dem AI Act strebt die EU an, eine menschenzentrierte und vertrauenswürdige KI zu fördern, die Demokratie, Rechtsstaatlichkeit und Umwelt schützt.

Unternehmen müssen KI Kompetenz den Mitarbeitenden vermitteln

Seit dem 2. Februar 2025 und gemäß Artikel 4 des EU AI Acts sind Unternehmen, die KI-Systeme entwickeln oder einsetzen, verpflichtet, dass ihre Mitarbeiter über ausreichende KI-Kompetenz verfügen. Dies umfasst technisches Wissen, Erfahrung sowie entsprechende Aus- und Weiterbildung. Ziel ist es, einen sachkundigen und verantwortungsvollen Umgang mit KI-Systemen zu gewährleisten.

Diese Verpflichtung gilt übrigens unabhängig von der Größe des Unternehmens und betrifft alle Mitarbeiter, die mit KI-Systemen arbeiten. Unternehmen sollten daher geeignete Maßnahmen ergreifen, um die erforderlichen Kompetenzen zu vermitteln und kontinuierlich zu fördern.

Wie kann man KI Kompetenz nach der EU AI Verordnung sicherstellen?

Da es aktuell noch keine Sanktionen und genaue Vorgehensweise gibt, wie Unternehmen die KI Kompetenz bei ihren Mitarbeitenden sicherstellen und gewährleisten können, gibt es keine Verpflichtung. Dennoch sollte man sich als Unternehmen vorbereiten. Folgende Maßnahmen sind daher denkbar:

Theoretische Schulungen

Angebot von Kursen, die Grundlagen der Künstlichen Intelligenz, relevante gesetzliche Bestimmungen und ethische Aspekte abdecken.

Praktische Trainings

Durchführung von Workshops und Übungen, in denen Mitarbeitende den Einsatz von KI-Systemen in realen Szenarien erproben können.

E-Learning-Module

Nutzung digitaler Lernplattformen, die flexible und ortsunabhängige Weiterbildung ermöglichen.

Dokumentation der Schulungsmaßnahmen

Auch eine Möglichkeit ist die zusätzliche Dokumentation, die wie folgt aussehen könnte:

• Teilnehmerlisten – Erfassung der an Schulungen teilnehmenden Mitarbeitenden.
• Schulungsinhalte – Archivierung der verwendeten Materialien und Präsentationen.
• Zertifikate – Ausstellung von Teilnahmebestätigungen oder Zertifikaten nach Abschluss der Schulungen.
• Protokolle – Führung von Aufzeichnungen über durchgeführte Schulungen und deren Inhalte.

Sicherstellung der kontinuierlichen Kompetenz

KI entwickelt sich sehr schnell weiter. Neue Anbieter, neue Funktionen und daher sollte man die Mitarbeitenden regelmäßig schulen und auf dem aktuellen Stand halten. Das könnte, wie folgt umgesetzt werden:

• Regelmäßige Auffrischungskurse – Planung von Fortbildungen, um Wissen aktuell zu halten und neue Entwicklungen zu integrieren.
• Feedback-Schleifen – Einholung von Rückmeldungen der Mitarbeitenden zur Effektivität der Schulungen und Identifizierung von Verbesserungsmöglichkeiten.
• Anpassung der Schulungsprogramme – Kontinuierliche Überprüfung und Aktualisierung der Schulungsinhalte basierend auf technologischem Fortschritt und gesetzlichen Änderungen.

Link aus dem Podcast

In diesem Verzeichnis werden konkrete Beispiele für Maßnahmen gesammelt, mit denen Unternehmen die erforderlichen KI-Kompetenzen gemäß Art. 4 der KI-Verordnung sicherstellen. Die Verpflichtungen aus Art. 4 KI-Verordnung gelten seit dem 2. Februar 2025 für Anbieter und Betreiber von KI-Systemen.

• 140 Seiten inkl. Beispiele für die Umsetzung (Link)

Fragen aus dem Podcast mit Stephan Schmidt

• Was bedeutet die neue EU-KI-Verordnung für die Unternehmen?
• Was ist eine Schatten-KI und sollte man als Unternehmen kennen?
• Kannst du ein Beispiel für mögliche Risiken durch Schatten-KI nennen?
• Wie sollte ein Unternehmen KI Kompetenz seinen Mitarbeitenden vermitteln?
• Für wen gilt die neue EU-Verordnung?
• Was passiert, wenn ein Unternehmen trotz relevanter KI-Nutzung keine Schulungen anbietet?
• Wenn ein Unternehmen mit einem Haftungsfall konfrontiert ist, wie sollte es reagieren?
• Haben die Arbeitgeber diese Änderung auf dem Schirm?

Weitere Podcast Episoden mit Stephan Schmidt

• Erneute Abmahnwelle wegen Google Fonts, was tun? Im Gespräch mit RA Stephan Schmidt #417 (Link)
• Transatlantischer Datentransfer neu in „Trans-Atlantic-Data-Privacy-Framework“ geregelt – das solltet ihr wissen #455 (Link)

Podcast anhören – im Browser direkt, bei Apple, Spotify & Co.

Unser Podcast kann direkt hier im Artikel angehört werden. Zudem sind wir bei iTunes für alle iOS und Apple-Devices kostenlos verfügbar. Auch könnt ihr unseren Podcast bei YouTube, Spotify, Amazon Music oder anderen Podcast-Plattformen anhören.