Pflicht zur KI-Kompetenz – Was bedeutet das?

Ab dem 2. Februar 2025 müssen Anbieter und Betreiber von KI-Systemen, sicherstellen, dass Mitarbeitende und andere involvierte Personen über ein „ausreichendes Maß an KI-Kompetenz“ verfügen.

KI-Kompetenz beinhaltet

• Grundlegendes Verständnis der Funktions­weise von KI-Systemen (z. B. maschinelles Lernen, Logik-Regel-Verfahren)
• Kenntnisse über potenzielle Risiken von KI-Systemen (z. B. Diskriminierung, Fehlentscheidungen, Bias)
• Fähigkeit zur sicheren und verantwortungsvollen Nutzung von KI-Systemen – inkl. menschlicher Aufsicht und Monitoring
• Vertrautheit mit den rechtlichen und ethischen Rahmenbedingungen beim Einsatz von KI (z. B. Datenschutz, Grundrechte)
  Die Pflicht zur KI-Kompetenz rückt damit die menschliche Komponente und Organisations­struktur ins Zentrum – nicht nur Technik und Produkte.

Fazit

Betreiber von KI-Systemen tragen nach dem EU-AI-Act eine erhebliche Verantwortung. Sie müssen sicherstellen, dass KI-Systeme ordnungsgemäß eingesetzt, überwacht und Risiken rechtzeitig erkannt sowie gesteuert werden. Wer diese organisatorischen und rechtlichen Anforderungen frühzeitig umsetzt, vermeidet Haftungsrisiken und stärkt das Vertrauen in den verantwortungsvollen Umgang mit KI.

Hierbei unterstützen wir Sie umfassend – von der rechtlichen Einordnung Ihrer KI-Systeme über die Gestaltung sicherer Verträge mit Anbietern bis hin zur Entwicklung von Compliance-Strukturen und Schulungskonzepten für Ihre Mitarbeitenden. So stellen Sie sicher, dass Ihr Unternehmen den Anforderungen der KI-Verordnung nicht nur entspricht, sondern diese als Chance für Transparenz, Sicherheit und Wettbewerbsvorteile nutzt.