KI in Unternehmen sicher nutzen

Der Verbund wird ab September 2026 für drei Jahre mit 1,29 Millionen Euro im Rahmen der Förderlinie „Plattform Privatheit“ vom Bundesministerium für Forschung, Technologie und Raumfahrt gefördert. Vom Research Center Trustworthy Data Science and Security sind Dr. Steffen Becker (Ruhr-Universität Bochum), Dr. Greta Ontrup und Dr. Magdalena Wischnewski (beide Universität Duisburg-Essen) involviert.

Im Spannungsfeld zwischen Effizienz und Datenschutz
„In vielen Unternehmen schlummern wertvolle Daten, die bislang kaum jemand systematisch nutzen konnte. Künstliche Intelligenz ändert das gerade grundlegend“, sagt Projektkoordinator Dr. Steffen Becker vom Research Center Trustworthy Data Science and Security. Egal ob es darum geht, Kundenanfragen zu beantworten, Verträge zusammenzufassen oder Besprechungen zu protokollieren: KI-Anwendungen können viele Aufgaben im Arbeitsalltag erleichtern und beschleunigen – und greifen dabei fast immer auf interne Unterlagen, Kunden- oder Personaldaten zu. „Wir stehen also immer im Spannungsfeld zwischen der Effizienzsteigerung durch die KI und dem Schutz sensibler Daten“, so Steffen Becker. 

Technische Lösungen
Das Forschungsteam will sich die gelebte Praxis in den Unternehmen zunächst genau ansehen, um dann Lösungen für einen sicheren KI-Einsatz zu entwickeln. „Was mit den Daten geschieht, sobald sie an einen KI-Dienst übermittelt sind, lässt sich von außen kaum vollständig nachvollziehen. Wir wollen deshalb systematisch prüfen, welche Datenschutzrisiken die gängigen Dienste tatsächlich mit sich bringen – und Unternehmen Werkzeuge an die Hand geben, mit denen sensible Daten gar nicht erst ungeprüft abfließen“, erklärt Becker. Die Forschenden denken dabei zum Beispiel an Filterlösungen, die vertrauliche Informationen erkennen, bevor sie das Unternehmen verlassen, und Nutzende warnen oder die Übermittlung blockieren. 

Das richtige Maß an Vertrauen und Skepsis
Die Forschenden der Universität Witten/Herdecke sehen sich die KI-bezogenen Prozesse in den Unternehmen aus organisationspsychologischer Warte an. Wie entscheiden zum Beispiel die Geschäftsführungen? Welche Haltung haben die Betriebsräte? Die individualpsychologische Sicht bringt das Team der Universität Duisburg-Essen ein. „Entscheidend ist, dass die Menschen der KI weder blind vertrauen noch ihre Fähigkeiten unterschätzen“, sagt Dr. Magdalena Wischnewski. „Wir untersuchen daher, welche Vorstellungen Mitarbeiter davon haben, wie KI funktioniert, wo Fehlvorstellungen entstehen und wie ein angemessenes Maß an Vertrauen gefördert werden kann“, fügt Dr. Greta Ontrup hinzu. Beide Forscher leiten Nachwuchsforschergruppen am Research Center Trustworthy Data Science and Security.  Unter anderem werden die Forscher*innen auf der Grundlage dieser Erkenntnisse Schulungsformate entwickeln. „Über ein Rechtsgutachten decken wir auch die juristischen Aspekte ab, insbesondere das Zusammenspiel von Datenschutz, KI-Verordnung und Arbeitsrecht“, sagt Steffen Becker.