Vertrauenswürdige Verwendung von Künstlicher Intelligenz

Informatikerin Prof. Dr. Ute Schmid von der Universität Bamberg ist als Expertin für erklärbare Künstliche Intelligenz (KI) bei den Verbraucherrechtstagen 2021 am 12. Juli eingeladen. Ausgerichtet wird die Veranstaltung vom Bundesministerium der Justiz und für Verbraucherschutz. Das Thema lautet: Künstliche Intelligenz: Wie gelingt eine vertrauenswürdige Verwendung in Deutschland und Europa?

KI begegnet der Verbraucherin oder dem Verbraucher im eigenen Zuhause, zum Beispiel in Form von Sprachassistenten. KI-Systeme kommen auch in vielen weiteren Lebensbereichen zum Einsatz: bei der Inanspruchnahme von Finanzdienstleistungen, im Versicherungswesen oder auf dem Arbeitsmarkt. Die Technologien sind geeignet, den Alltag erheblich zu erleichtern. Gleichwohl gehen mit KI-Anwendungen auch Risiken einher. Der Blick fällt dabei zum Beispiel auf den Bereich des Datenschutzes: Da KI häufig aus Daten „lernt“ und die Menge und Qualität an verfügbaren Daten oft über die Qualität der Anwendung entscheidet, drohen Risiken für die informationelle Selbstbestimmung der oder des Einzelnen. Und aufgrund ihrer Eigenschaft des Selbstlernens, das die Technologie zu einer Black Box machen kann, treten Anforderungen an die Transparenz und Nachvollziehbarkeit des Algorithmus der jeweiligen KI-Anwendung in den Vordergrund.

Über die Nachvollziehbarkeit von KI-Systemen aus technischer Sicht spricht Ute Schmid in ihrem Vortrag im dritten Teil der Verbraucherrechtstage: Verbraucherschutz durch die Nachvollziehbarkeit und Überprüfbarkeit von KI-Systemen. Ute Schmid ist Professorin für Angewandte Informatik, insbesondere Kognitive Systeme an der Universität Bamberg. Seit mehr als 15 Jahren vertritt sie dort das Gebiet Künstliche Intelligenz in Forschung und Lehre. Forschungsschwerpunkte sind interpretierbares maschinelles Lernen, erklärbare KI und Lernen auf relationalen Daten, insbesondere induktive Programmierung. Aktuelle Forschungsthemen sind Generierung multimodaler Erklärungen, Intelligente Tutorsysteme sowie interaktives maschinelles Lernen.

Ute Schmid ist Diplom-Informatikerin und Diplom-Psychologin. Sie kombiniert ihre Forschung im Bereich KI mit kognitionspsychologischen Arbeiten zum menschlichen Lernen und zur Wirkung von Erklärungen in Mensch-KI-Interaktionen. Für ihr Engagement zur Förderung von Mädchen und Frauen in der Informatik hat sie 2018 den Minerva Gender Equality Award von Informatics Europe für ihre Universität gewonnen. Seit 2005 gibt sie Informatik-Workshops für Kinder und Jugendliche. Für ihr Engagement zur Vermittlung von Grundkonzepten der KI und Informatik für die Öffentlichkeit wurde sie 2020 mit dem Rainer-Markgraf-Preis geehrt. Ute Schmid ist Sprecherin des AK KI in Schulen des Fachbereichs KI der Gesellschaft für Informatik. Sie ist Mitglied im Bayerischen KI-Rat, Direktorin am Bayerischen Institut für Digitale Trans-formation (bidt) und leitet die Fraunhofer IIS-Forschungsgruppe Comprehensible AI.