KI und Recht   Künstliche Intelligenz im Arbeitsalltag

Der Einsatz Künstlicher Intelligenz (KI) in Unternehmen gewinnt zunehmend an Bedeutung und hat das Potenzial enorme Wettbewerbsvorteile zu schaffen. Während diese Technologie also enorme Effizienzvorteile verspricht, wirft sie aber gleichzeitig komplexe rechtliche Fragen auf. 

Die Diskussion um KI und Recht hat sich in den letzten Monaten intensiviert, seitdem die Europäische Union im Juni 2024 mit der KI-Verordnung das weltweit erste umfassende Regelwerk zur Regulierung von KI verabschiedet hat. Auch bei bdp setzen wir uns intensiv mit der laufenden Entwicklung von KI und Recht auseinander. Darauf aufbauend entwickeln wir Strategien und Leitfäden, um den sicheren Umgang mit KI bei gleichzeitig größtem Nutzen zu vereinbaren. Gerne informieren wir Sie über den aktuellen Stand in unserem nachfolgenden Artikel.

KI und Datenschutz

Bezüglich des Einsatzes von KI ergeben sich vielfältige Anwendungsmöglichkeiten. Textgenerierende Systeme wie ChatGPT bzw. Chatbots können bei Korrespondenzen mit Kunden unterstützen, während spezialisierte KI-Tools in gesundheitlichen Berufen bei der Diagnosestellung eingesetzt werden. Doch gerade diese praktischen Vorteile bergen auch Risiken, insbesondere im Bereich des Datenschutzes.

Die Datenschutz-Grundverordnung (DSGVO)

Die Eingabe von Daten in KI-Systeme kann zu unzulässigen Datenverarbeitungen führen, wenn nicht sorgfältig zwischen allgemeinen Informationen und personenbezogenen Daten unterschieden wird.

Die DSGVO stellt hierbei weiterhin den zentralen rechtlichen Rahmen dar. Ihre Grundprinzipien - insbesondere die Rechtmäßigkeit der Verarbeitung (bspw. durch Einwilligung der betroffenen Person), die Zweckbindung und die Datenminimierung - gelten uneingeschränkt auch für den Einsatz von KI. Besondere Sensibilität ist bei der Verarbeitung sogenannter besonderer Kategorien personenbezogener Daten gemäß Artikel 9 DSGVO geboten, zu denen unter anderem Gesundheitsdaten oder Informationen über politische Meinungen zählen.

„Halluzination bei KI“

Ein besonderes Problem stellt das Phänomen der "Halluzinationen" bei KI-Systemen dar. Damit bezeichnet man die Tendenz mancher KI-Modelle, überzeugend formulierte, aber inhaltlich falsche oder erfundene Aussagen zu generieren. Aus haftungsrechtlicher Perspektive bleibt dabei stets der Anwender verantwortlich - die KI als solche kann nicht zur Verantwortung gezogen werden.

Leitfäden und Schulungen

Um diese (haftungsrechtlichen) Risiken zu minimieren, sollten Unternehmen ihren Mitarbeitern klare interne Richtlinien für den Umgang mit KI an die Hand geben. Dazu gehört die Festlegung, welche Systeme überhaupt genutzt werden dürfen (ChatGPT, Copilot, …) welche Daten eingeben werden können und welche Qualitätskontrollen durchzuführen sind. Ergebnisse von KI’s sollten immer auf falsche oder gar diskriminierende Inhalte geprüft werden. Auch KI-spezifische Einstellungen zur Risikominimierung, wie die Deaktivierung der Funktion die Nutzereingaben als zukünftige Trainingsdaten zu benutzen, gehören zu den Grundlagen. Besonders wichtig ist die Schulung aller Mitarbeiter, die mit KI arbeiten. Nicht nur um das Bewusstsein für die spezifischen Risiken dieser Technologie zu schaffen, sondern auch um von den Chancen von KI zukünftig zu profitieren. Denn es ist zu erwarten, dass KI die Arbeitswelt in vielerlei Hinsicht transformieren wird.

Wichtig für alle Unternehmer: Die EU hat in der KI-VO festgelegt, dass Unternehmen seit Februar 2025 verpflichtet sind, ihre eigenen Mitarbeiter im Umgang mit KI zu schulen, sofern diese KI im Rahmen ihrer Arbeitstätigkeit nutzen. Und in vielen Fällen ist der Geschäftsführung vermutlich nicht einmal bekannt, dass KI bereits intensiv durch Mitarbeiter eingesetzt wird. Daher ist die Vermittlung von KI-Kompetenz umso essenzieller für den sicheren Umgang mit KI. Kommen Unternehmen dieser Schulungspflicht nicht nach, drohen empfindliche Bußgelder.

Fazit

Aus dem KI-Einsatz ergeben sich sowohl Chancen als auch Fragen. Einerseits kann KI dazu beitragen, Arbeitsprozesse zu beschleunigen und Kosten zu senken. Andererseits sollten Unternehmen sich vergewissern, dass der Einsatz von KI durch die eigenen Mitarbeiter sicher ist und die gesetzlichen Anforderungen an Datenschutz etc. erfüllt sind. Interne Richtlinien bzw. Leitfäden sind hierfür zwingend notwendig und die Schulung der Mitarbeiter Pflicht. Gerne helfen wir bei bdp Ihnen bei der Erstellung von Richtlinien bzw. Leitfäden und unterrichten bei Bedarf auch Ihre Mitarbeiter im Hinblick auf den sicheren Umgang mit KI in Ihrem Unternehmen. Auf Anfrage machen wir Ihnen gerne ein Angebot für einen auf Ihr Unternehmen konkret zugeschnittenen Workshop.