KI und Digitalisierung

AI ACT und KI-Kompetenz – Was Unternehmen und Mitarbeitende jetzt wissen sollten

Der AI Act ist eine Verordnung der Europäischen Union, die darauf abzielt, Künstliche Intelligenz (KI) sicher und vertrauenswürdig zu gestalten. Sie wurde entwickelt, um Risiken im Zusammenhang mit KI-Anwendungen zu minimieren und gleichzeitig Innovation zu fördern. Der Act klassifiziert KI-Systeme je nach Risiko in verschiedene Kategorien: von minimalem Risiko bis zu hohem Risiko, wobei letztere besonders strengen Anforderungen unterliegen.

Das Hauptziel des AI Acts ist es, eine sichere Nutzung von KI zu gewährleisten, indem die Risiken für die Gesellschaft und die Rechte der Einzelnen berücksichtigt werden. Der Act fordert Unternehmen auf, Transparenz, Rechenschaftspflicht und Sicherheit bei der Entwicklung und Nutzung von KI zu gewährleisten. 

Im Unternehmenskontext betrifft der AI Act vor allem Unternehmen, die KI-Systeme entwickeln oder einsetzen.

 

Was bedeutet das, für Unternehmen und Mitarbeitende?

Wichtig zu wissen ist, dass die KI-Kompetenz durch Betreiber und Anbieter von KI-Systemen gewährleistet werden soll. Nutzen Ihre Mitarbeitenden KI im Arbeitsalltag? Dann gelten Sie unter Umständen bereits als Betreiber. Wenn eine natürliche oder juristische Person im Rahmen einer beruflichen Tätigkeit ein KI-System in eigener Verantwortung verwendet, ist sie Betreiber gemäß Art. 3 Nr. 4 KI-VO und unterfällt somit Artikel 4 KI-VO. Und als Betreiber sollten Unternehmen die KI-Kompetenz der Mitarbeitenden sicherstellen. Die Pflicht zur Vermittlung angemessener KI-Kompetenz tritt bereits am 2. Februar 2025 in Kraft (geregelt in Art. 113 AI Act). Im Vergleich zu anderen Pflichten, die beim Betrieb und der Entwicklung von KI-Systemen zu beachten sind, gilt hierfür ab Inkrafttreten der Verordnung nur eine sechsmonatige Frist. Anbieter, Betreiber, Einführer und Händler von KI-Systemen sollten daher schon jetzt damit beginnen, sich Gedanken über die Schulung und Sensibilisierung ihrer Mitarbeiter zu machen.

Neben IT-Abteilungen, die sicherstellen müssen, dass die KI-Anwendungen den Vorgaben des Acts entsprechen und Rechtsabteilungen, welche sicherstellen, dass die rechtlichen Anforderungen erfüllt werden sollen die Mitarbeitenden KI-Kompetenzen entwickeln.

Welche Bereiche sollen bei der KI-Kompetenz abgedeckt werden?

  • Verstehen und Anwenden: Mitarbeitende sollten in der Lage sein, KI-basierte Prozesse zu verstehen und sicher anzuwenden.
  • Risiken minimieren: Die richtigen Kenntnisse helfen dabei, Risiken wie Verzerrungen, Fehler und rechtliche Fallstricke zu vermeiden.
  • Rechtssicherheit: Der AI Act besagt, dass Unternehmen ihre Mitarbeitenden auf den neuesten Stand zu aktuellen Rechtsvorschriften bringen müssen – um Haftungsrisiken zu vermeiden.

 

Wir möchten Sie dabei unterstützen und bieten schon jetzt Veranstaltungen im Bereich Künstliche Intelligenz an.