Als externer Datenschutzbeauftragter und Sicherheitsingenieur für Unternehmen bekommt Georg Schütz, Geschäftsführer von KaMUX aus Pirmasens, „extrem Bauchschmerzen“, wenn User KI-Tools wie ChatGPT „ungefragt mit Daten anderer Nutzerinnen und Nutzer füttern“ und damit die KI trainieren.
Doch am Einsatz von KI – das weiß auch Schütz – kommen viele Unternehmen und Organisationen sowie deren Beschäftigte längst nicht mehr vorbei; schon allein um effizienter wirtschaften und fehlende Fachkräfte ersetzen zu können.
Unternehmen sind beim Datenschutz skeptisch
Auf Unternehmensseite bestehen aktuell große Bedenken, dass der Einsatz von KI nicht den gesetzlichen Vorgaben entspricht. So gaben für den aktuellen „AI Governance: Balancing Policy, Compliance, and Commercial Value“-Report in einer weltweit durchgeführten unabhängigen Umfrage 36 Prozent der befragten KI-Entscheidungsträger und -Berater in großen und mittelständischen Unternehmen an, dass sie befürchten, der Einsatz von KI würde nicht mit den gesetzlichen Vorgaben übereinstimmen.
Braucht es also einen neuen gesetzlichen Rahmen, der die seit 2018 geltende Datenschutz-Grundverordnung (DSGVO) ersetzt, damit der flächendeckende Einsatz von KI-Tools rechtssicher möglich wird?
Schütz widerspricht: „Wenn man die Regularien, die wir haben, auf Anbieter- und Nutzerseite vernünftig umsetzen würde, bräuchte es über die seit 2018 geltende Datenschutz-Grundverordnung hinaus keine neuen Regelungen für die KI. Vielleicht müssten bestimmte Detailregelungen noch ergänzt werden.“
Solange die Privatsphäre Dritter berücksichtigt würde, könnten Daten auch verarbeitet werden, so Schütz. „Wenn Unternehmen datenschutzkonform arbeiten und die personenbezogenen Daten nicht zum Training der KI benutzt werden, sondern nur dazu, einen Output zu generieren, dann ist alles gut.“
Die EU will für die KI klare Grenzen setzen
Schütz empfiehlt: „Unternehmen und User sind aufgefordert, mit dem Einsatz persönlicher Daten sensibler umzugehen.“ Dabei könnten sie Tools wie Nele.AI einsetzen, mit denen die datenschutzkonforme Nutzung von generativer KI möglich ist.
Geht es nach den Abgeordneten im EU-Parlament, braucht es in jedem Fall schärfere Regeln für den Einsatz von KI-Systemen – zum Beispiel für die Nutzung biometrischer Echtzeit-Gesichtserkennung im öffentlichen Raum wie beispielsweise in China. Dazu verabschiedete das EU-Parlament Mitte Juni 2023 den „Artificial Intelligence Act“ (AIA), der von den Mitgliedsstaaten und der EU-Kommission aber noch ratifiziert werden muss. Laut Gesetzestext sollen demnach künftig Anwendungen verboten oder stark eingeschränkt werden, die mit hohen Risiken für die Sicherheit von Menschen verbunden sind.
Das Land Schleswig-Holstein will beim Datenschutz mit gutem Beispiel vorangehen und gab bereits im Juni 2023 grünes Licht für den gesetzeskonformen Einsatz von ChatGPT und anderen KI-gestützten Systemen in der Landesverwaltung.