News

News

UA Ruhr News Center

22. April 2024

Ivan Habernal sorgt für mehr Datenschutz bei Künstlicher Intelligenz

In Ivan Habernals Brust schlagen zwei Herzen: eins für die Informatik und eins für die Musik. Zur UA Ruhr kam der Jazz-Musiker als Professor für Fairness and Transparency an der Ruhr-Universität und im Research Center Trustworthy Data Science and Security.

Gedicht, Gedicht, Gedicht, Gedicht, Gedicht … dann plötzlich eine Telefonnummer und eine Mailadresse. So reagierte ChatGPT auf die Aufforderung, unendlich oft das Wort „Gedicht“ zu wiederholen. Erst folgte die künstliche Intelligenz dem Befehl, dann spuckte sie personenbezogene Informationen aus. Sie stammten aus den Daten, mit denen das Sprachmodell trainiert worden war. „Sprachmodelle sind nicht darauf aus, die Privatsphäre von Leuten zu schützen“, beschreibt Prof. Dr. Ivan Habernal das Problem. Im Gegensatz zu Menschen haben sie keinen moralischen Kompass, der sie dazu bewegt, bestimmte Informationen für sich zu behalten.

Trainingsdaten besser schützen
Wie man die Trainingsdaten besser schützen kann, möchte Ivan Habernal an der Ruhr-Universität Bochum erforschen. Seit 1. April 2024 ist er Professor für Fairness and Transparency an der Fakultät für Informatik. Er ist zudem Mitglied im Research Center Trustworthy Data Science and Security, in dem Forschende der Universitätsallianz Ruhr interdisziplinär kooperieren. „Ich finde es sehr spannend, in einem solchen Umfeld mit Leuten aus allen möglichen Disziplinen zusammenzuarbeiten“, sagt er. „Das macht super viel Spaß.“

Es gibt nur einen einzigen Haken an Habernals Position in der Wissenschaft. „Es geht sehr viel Zeit in die Forschung – und das lässt mir manchmal zu wenig Raum für die Musik“, sagt er mit einem Augenzwinkern. Denn Informatik ist nicht Ivan Habernals einzige Leidenschaft: „Es gibt mich eigentlich zweimal: einmal als Informatiker und einmal als den Typen mit Bass. Ich brenne für die Forschung, aber ohne Musik kann ich auch nicht leben“, erzählt er. Weil ihm als Professor aber wenig Freizeit bleibt, beschert ihm die Musik gelegentlich Albträume: „Wenn ich nicht genug übe, träume ich, dass ich zu Konzerten erscheine und meinen Bass vergessen habe oder die Noten nicht richtig spielen kann“, gesteht er.


Ivan Habernal ist neues Mitglied im Research Center Trustworthy Data Science and Security und Professor an der RUB für
Ivan Habernal ist neues Mitglied im Research Center Trustworthy Data Science and Security und Professor an der RUB für "Fairness and Transparency"
© Katja Marquard/RUB

Dabei ist er auf die Auftritte bestens vorbereitet. Denn sowohl in der Informatik als auch in der Musik hat Ivan Habernal keine halben Sachen gemacht. Er hat beide Fächer studiert, spielt Bass und Klavier, komponiert eigene Stücke und trat bereits mit internationalen Jazz-Größen auf. „Ich stand auch schon mit Karel Gott zusammen auf der Bühne“, erzählt Habernal. So wie der Sänger des berühmten Lieds „Biene Maja“ ist Habernal gebürtiger Tscheche. Er verrät, wie es zu dem gemeinsamen Auftritt kam: „Eine Weile habe ich in der Band einer tschechischen Popsängerin gespielt. Sie hatte Karel Gott zu einem gemeinsamen Auftritt eingeladen. Er ist in Tschechien sehr berühmt gewesen, das war natürlich etwas Besonderes.“

Auch wenn die ersten Wochen auf der neuen Professur in Bochum und am Research Center fordernd waren, ist Ivan Habernal zuversichtlich, seine beiden Leidenschaften weiterhin gut unter einen Hut zu bekommen. Und vielleicht findet er in seinem interdisziplinären Forschungsteam sogar noch mehr Musikbegeisterte.

Freier Zugang zu juristischer Beratung
Neben seiner Forschung zum Privatsphäre-Schutz arbeitet Ivan Habernal auch intensiv mit Juristinnen und Juristen zusammen. Das Team möchte eine Technik entwickeln, die Menschen ohne Vorwissen Zugang zu juristischer Expertise ermöglicht. „Wenn einem beispielsweise die Wohnung gekündigt wird und man wissen möchte, welche Rechte man hat, dann kann man zwar im Internet danach suchen oder eine Künstliche Intelligenz fragen, aber bekommt häufig falsche Auskünfte“, erklärt Ivan Habernal. „Lässt man sich von einem Anwalt beraten, ist schnell ein dreistelliger Betrag fällig.“ Dabei sei das Wissen in Form von Gesetztestexten und Urteilsbegründungen im Grunde frei zugänglich. „Die deutsche Amtssprache ist allerdings furchtbar – vor allem für Menschen wie mich, die zwar in Deutschland leben, aber eine andere Muttersprache haben“, sagt der in Tschechien geborene Forscher. Ziel der Forschenden ist daher, ein Tool basierend auf Künstlicher Intelligenz zu entwickeln, das juristisch korrekte, aber dennoch für alle verständliche Auskünfte zu konkreten Fragen gibt. „Zugang zu juristischen Informationen zu haben ist wichtig und sollte keine Frage des Geldes sein, weil alle ein Recht auf Gerechtigkeit haben“, so Habernal.


Zur Person: Ivan Habernals Werdegang als Informatiker:

  • 2007: Master in Informatik, University of West Bohemia, Tschechien
  • 2012: Promotion, University of West Bohemia, Tschechien
  • 2013 bis 2014: Postdoktorand, Deutsches Institut für Internationale Pädagogische Forschung, Frankfurt am Main
  • 2015 bis 2018: Postdoktorand, Ubiquitous Knowledge Processing Lab, Technische Universität Darmstadt
  • 2018 bis 2019: Data Scientist, Boehringer Ingelheim GmbH
  • 2019 bis 2020: Lead Data Scientist, bd4travel GmbH, Frankfurt am Main
  • 2020 bis 2023: Zunächst Wissenschaftler, dann Forschungsgruppenleiter, Technische Universität Darmstadt
  • 2022 bis 2023: Vertretungsprofessur Computational Linguistics, Ludwig-Maximilians-Universität München
  • 2023 bis 2024: Professur Natural Language Processing, Universität Paderborn
  • Seit April 2024: Professur Fairness and Transparency, Ruhr-Universität Bochum und Research Center Trustworthy Data Science and Security


Weitere Informationen: Auf Ivan Habernals Youtube-Kanal gibt es Einblicke in seine beiden Leidenschaften: Hier stellt er sowohl Informatik-Vorlesungen als auch Musik-Videos online.