EU-Gesetz zu künstlicher Intelligenz

Seit dem 01. August 2024 ist die Verordnung der Europäischen Union zu künstlicher Intelligenz (EU AI Act) in Kraft. Diese soll Nutzer vor Risiken durch den Einsatz von KI-Systemen schützen. Dabei wird die Nutzung von Künstlicher Intelligenz (KI) in vier Risikokategorien eingeteilt. Alle Anwendungen die als „inakzeptables Risiko“ eingestuft werden, sind grundsätzlich verboten. Dazu zählen alle KI-Systeme, die eine Bedrohung für die Menschen und ihre Grundrechte darstellen und gegen die Werte der Europäischen Union (EU) verstoßen. Dazu zählen beispielsweise Social Scoring Systeme. Anwendungen mit hohem Risiko, wie bei einer Kreditwürdigkeitsprüfung, unterliegen besonderen rechtlichen Anforderungen. Die Systeme mit begrenztem Risiko, wie beispielsweise Chatbots, unterliegen nur gewissen Transparenzpflichten. Wird ein KI-System z.B. zur vorausschauenden Wartung genutzt, besteht nur ein niedriges Risiko. Alle Anwendungen, die ein niedriges Risiko aufweisen, werden zunächst nicht reguliert.

Was bedeuten diese Neuerungen nun für Unternehmen?

Aus dem AI Act ergeben sich ebenfalls Anforderungen an Unternehmen im Hinblick auf die KI-Kompetenzanforderungen für Mitarbeiter, welche bereits seit dem 02. Februar 2025 in Kraft getreten sind. Der entsprechende Artikel Nr. 4 der Verordnung verpflichtet Unternehmen zur Förderung der KI-Kompetenz ihrer Mitarbeiter, sofern sie KI-Systeme anbieten oder betreiben. Unternehmen müssen sicherstellen, dass Mitarbeitende sachkundig im Umgang mit künstlicher Intelligenz sind.
Im Fokus stehen dabei Kenntnisse über Chancen, Risiken und potenzielle Fehler von KI, rechtliche Rahmenbedingungen, ethische Aspekte der Nutzung von künstlicher Intelligenz sowie die Sicherstellung einer dauerhaften menschlichen Aufsicht über KI gestützte Prozesse.
Eine explizite Schulungspflicht geht aus Artikel Nr. 4 nicht hervor, jedoch haben Unternehmen Maßnahmen zu ergreifen, „um nach bestem Wissen und Gewissen sicherzustellen, dass ihr Personal und andere Personen, […] über ausreichende KI-Kompetenz verfügen“.

Doch wie können diese Maßnahmen nun konkret umgesetzt werden?

Neben der Erstellung von unternehmensinternen KI-Richtlinien und der Benennung eines KI-Beauftragten, können Schulungen zur KI-Nutzung angeboten werden. Sollte im Unternehmen das erforderliche Know-how zur Schulung der Mitarbeiter fehlen, lohnt sich ein Blick in die Angebote externer Schulungsanbieter, wie beispielsweise Soluzione.
Soluzione bietet ein innovatives Schulungsprogramm an, das von der allgemeinen Arbeit mit KI über KI-Schulungen für Führungskräfte bis hin zu speziellen Kursen zu ChatGPT oder M365 Copilot reicht.

Webcast

Digitale Fitness steigern:

Messbare Trainingserfolge für Ihre Organisation

Machen Sie Ihre Mitarbeitenden fit im Umgang mit Microsoft 365 und KI

KI-Readiness – besser jetzt als später

Obwohl noch keine detaillierten Leitlinien zur Kontrolle der Umsetzung des KI-Act veröffentlicht wurden, drohen im Schadensfall rechtliche Konsequenzen, wenn der Schaden nachweislich auf mangelnde Kenntnisse über KI-Systeme zurückzuführen ist. Für den schlimmsten Fall wurden hier Strafen in Höhe von bis zu 35 Mio. Euro oder 7% des Jahresumsatzes angekündigt. Wie und in welcher Höhe diese Anwendung finden, bleibt abzuwarten. Darauf sollten Sie sich allerdings nicht ausruhen, sondern bereits jetzt aktiv werden und Ihren Mitarbeitern das Wissen rund im KI zur Verfügung stellen, welches sie benötigen. Denn der Einsatz von künstlicher Intelligenz spielt eine immer größere Rolle, um Produktivität, Effizienz und Leistungsfähigkeit Ihres Unternehmens auch in Zukunft zu gewährleisten.

Wir stehen Ihnen jederzeit für Fragen rund um Ihre IT zur Verfügung und freuen uns auf Ihre Kontaktaufnahme.