Generative KI und wie man sie findet

Prof. Dr. Barbara Hammer, Universität Bielefeld

Populäre KI-Modelle wie das Sprachmodell GPT zur Generierung von Texten oder das Modell Sora zur Videogenerierung finden einen immer stärkeren Eingang in unseren Alltag. Doch welche Einsatzbereiche gibt es für generative KI etwa in der Wissenschaft, welche Herausforderungen müssen beim Training solcher Modelle adressiert werden, wie geht man mit KI-generierten Inhalten um und kann man diese überhaupt erkennen? In meinem Vortrag möchte ich beispielhaft auf einige dieser Aspekte eingehen. Zunächst betrachte ich in einem Beispiel das Potential, das von generativen KI-Modellen im Bereich der Medizin ausgeht, und adressiere kurz, die Herausforderungen beim Entwurf entsprechender Modelle [1]. Danach stelle ich eine Methode vor, die es erlaubt, KI-generierte Videos effizient zu erkennen, die gleichzeitig einen Schwachpunkte KI-generierter Inhalte aufdeckt [2]. Schließlich möchte ich am Beispiel des oft in diesem Zusammenhang eingesetzten CLIP-Models zeigen, wie neue Ansätze im Rahmen der Erklärbarkeit von KI Modellen hier weitere Einsichten und mögliche Fehler aufdecken können [3].

[1] Generating synthetic genotypes using diffusion models, Philipp Kenneweg, Raghuram Dandinasivara, Xiao Luo, Barbara Hammer, Alexander Schönhuth, Generating synthetic genotypes using diffusion models, Bioinformatics, 41, Supplement 1, i484-i492, 2025, https://doi.org/10.1093/bioinformatics/btaf209

[2] AI-Generated Video Detection via Perceptual Straightening, Christian Internò, Robert Geirhos, Markus Olhofer, Sunny Liu, Barbara Hammer, David Klindt, The Thirty-ninth Annual Conference on Neural Information Processing Systems, NeurIPS25, https://openreview.net/forum?id=LsmUgStXby

[3] Explaining Similarity in Vision-Language Encoders with Weighted Banzhaf Interactions, Hubert Baniecki, Maximilian Muschalik, Fabian Fumagalli, Barbara Hammer, Eyke Hüllermeier, Przemyslaw Biecek, The Thirty-ninth Annual Conference on Neural Information Processing Systems, NeurIPS, 2025, https://openreview.net/forum?id=on22Rx5A4F

Barbara Hammer ist ordentliche Professorin für Maschinelles Lernen am CITEC-Forschungszentrum der Universität Bielefeld. Sie promovierte 1999 in Informatik und erhielt 2003 ihre Venia legendi an der Universität Osnabrück auf einer Position als Leiterin einer unabhängigen Forschungsgruppe im Bereich der Neurosymbolik. Im Jahr 2004 nahm sie eine Professur an der Technischen Universität Clausthal an, bevor sie 2010 an die Universität Bielefeld wechselte. Mehrere Aufhalte als Gastwissenschaftlerin führten sie an das CAIR in Bangalore, die Rutgers University in den USA, die Universitäten Padua und Pisa in Italien, die Birmingham University in UK, sowie die Sorbonne in Paris. Barbaras Forschung adressiert die Entwicklung und mathematische Substantiierung von maschinellen Lernverfahren, die zuverlässig mit begrenzten Daten und unter realistischen Bedingungen arbeiten und dabei die speziellen Anforderungen menschlicher Akteure berücksichtigen können. Neben der reinen Algorithmenentwicklung steht der Transfer in gesellschaftlich relevante Anwendungen, etwa bei der kritischen Infrastruktur, ingenieurtechnischen Herausforderungen oder der Analyse biomedizinischer Daten. Barbara war Vorsitzende mehrerer Komittees von der IEEE Computational Intelligence Society. Sie ist Mitglied des Wissenschaftlichen Direktoriums Schloss Dagstuhl und gewählt als stellvertretende Sprecherin für das Fachkollegium Informatik der Deutschen Forschungsgemeinschaft. Sie ist an einer Reihe von Großprojekten beteiligt, unter anderem leitet sie die KI-Akademie OWL und ist eine von vier Principal Investigators im ERC-Synergy-Grant „Smart Water Futures“. Sie ist Mitglied der Academia Europaea.