„Die Zusammenarbeit mit Cristina Conati bereichert unser Forschungsspektrum in besonderer Weise“, betont Prof. Dr. Elisabeth André. „Sie bringt eine einzigartige Kombination aus KI-Methodenkompetenz und menschzentrierter Perspektive mit – ideal für unsere interdisziplinäre Ausrichtung.“

Gefördert wird der Aufenthalt durch die Alexander von Humboldt-Stiftung, die mit ihrem Forschungspreis internationale Spitzenforscherinnen und -forscher für ihre bisherigen wissenschaftlichen Leistungen auszeichnet und ihnen langfristige Kooperationen mit Forschungseinrichtungen in Deutschland ermöglicht.

Personalisierte Erklärbarkeit statt Black Box

Cristina Conati zählt zu den international führenden Expertinnen im Bereich künstliche Intelligenz, Human-Computer Interaction (HCI) und Kognitionswissenschaft. Im Zentrum ihrer Arbeit steht die Frage, wie KI-Systeme so gestaltet werden können, dass sie die kognitiven Zustände, Bedürfnisse und Erwartungen ihrer Nutzerinnen und Nutzer berücksichtigen – und dabei zugleich transparent und nachvollziehbar bleiben.

Ein besonderer Schwerpunkt liegt dabei auf dem Forschungsfeld der erklärbaren KI (Explainable AI). Ziel ist es, Systeme zu entwickeln, die nicht nur technisch leistungsfähig sind, sondern auch Vertrauen schaffen, indem sie ihre Entscheidungsprozesse offenlegen. Bereits bei einem früheren Aufenthalt 2023 am Lehrstuhl von Prof. Dr. André entstand eine gemeinsame Publikation zur sogenannten Alterfactual-Methode – einem Verfahren, das aufzeigt, welche Merkmale für die Entscheidung einer KI irrelevant sind. Die Kommunikation irrelevanter Merkmale ist unter anderem dann von Bedeutung, wenn Menschen wissen möchten, ob die KI möglicherweise voreingenommen ist und etwa Personen aufgrund ihrer Herkunft bei Entscheidungsprozessen benachteiligt.

Vielfältige Anwendungsfelder – von der Bildung bis zur Medizin

Während ihres aktuellen Forschungsaufenthalts in Augsburg arbeitet Prof. Dr. Conati gemeinsam mit dem Team von Prof. Dr. André an der Anwendung dieser Konzepte in unterschiedlichen gesellschaftlich relevanten Kontexten. Dazu zählen etwa die Analyse von Blickbewegungsdaten als Indikator für kognitive Lernprozesse, die Entwicklung von KI-gestützter Diagnostik in der Medizin oder adaptive Trainingssysteme im Sport.

Methodisch kombiniert sie dabei datenbasierte Verfahren mit psychologischen Erkenntnissen zu menschlichem Lernen und Verhalten. Das Ziel: KI-Systeme, die nicht nur informieren, sondern individuell unterstützen – und dies auf eine Weise, die Nutzerinnen und Nutzern verständlich bleibt.

Wissenschaftliche Exzellenz mit internationaler Ausstrahlung

Cristina Conati ist Professorin für Informatik an der University of British Columbia und in zahlreichen internationalen Fachgesellschaften aktiv. Sie war unter anderem Präsidentin der HUMAINE Association for Research on Emotion in Human-Computer Interaction sowie Programm- und Konferenzvorsitzende der renommierten ACM Conference on Intelligent User Interfaces (IUI). Zudem ist sie ein Mitglied der AAAI, der Association for the Advancement of AI, und Chefredakteurin des Journal of AI in Education. Für ihre Beiträge zur Nutzerzentrierung in der KI wurde sie mehrfach ausgezeichnet, unter anderem mit dem Test of Time Award der Educational Data Mining Society.

Ihr Aufenthalt in Augsburg steht nicht nur für eine enge wissenschaftliche Kooperation, sondern auch für eine Forschung, die den Menschen in den Mittelpunkt technischer Entwicklungen stellt. Die gemeinsamen Projekte mit dem Lehrstuhl von Prof. Dr. André tragen dazu bei, die Schnittstelle von Technik, Kognition und gesellschaftlicher Relevanz weiter auszubauen.

tb