Robuste und transparente KI

Autos, die autonom fahren. Ein Programm, das selbständig das Computerspiel Angry Birds meistert. Um solche Aufgaben bewältigen zu können, müssen Systeme ständig dazulernen, zuverlässig und transparent sein. Mit diesen und ähnlichen Fragestellungen beschäftigen sich Bamberger Informatikerinnen und Informatiker. Beispielhaft werden drei Projekte zum Thema Schlussfolgern mit grober und unsicherer Information für robuste und transparente KI vorgestellt:

Verantwortungsvoller Einsatz von maschinellem Lernen

Maschinelles Lernen erlaubt einerseits, selbst komplexe Steuerungsaufgaben autonom durchzuführen, kann jedoch aufgrund seiner Intransparenz zu unerwartetem und fatalem Fehlverhalten führen. Das Projekt DISL - Dependable Intelligent Software Lab erforscht den verantwortungsvollen Einsatz von maschinellem Lernen in sicherheitskritischen Anwendungen. Im Rahmen dieses durch das BMBF geförderten Projekts werden Methoden entwickelt, um die zuverlässige und robuste Anwendung von Verfahren des maschinellen Lernens mit künstlichen neuronalen Netzen in cyber-physikalischen Systemen zu ermöglichen. Die Projektförderung zielt auf den Aufbau eines KI-Labors ab, welches auch dem Austausch mit der Industrie dient.

Methodisch stellt das Projekt einen Schulterschluss zwischen KI und Softwaretechnik her, insbesondere zu formalen Methoden zum Nachweis von Sicherheit. Es werden effiziente Überwachungstechniken für Entscheidungen auf Basis maschinellen Lernens entwickelt, die fatale Fehlentscheidungen zuverlässig unterbinden können. Außerdem werden Methoden zur Analyse gelernter Modelle untersucht. An dem Projekt sind insgesamt vier Bamberger Lehrstühle und Professuren beteiligt:

• Professur für Angewandte Informatik, insbesondere Smart Environments
• Professur für Angewandte Informatik, insbesondere Kognitive Systeme
• Professur für Grundlagen der Informatik
• Lehrstuhl für Praktische Informatik, insbesondere Softwaretechnik und Programmiersprachen

Wie können Computer physikalische Alltagsprobleme so gut wie Menschen lösen?

Um diese Frage zu beantworten, wird ein internationaler wissenschaftlicher Wettbewerb rund um das Computerspiel Angry Birds organisiert – das Team der Otto-Friedrich-Universität ist zum zweiten Mal Weltmeister: Bereits zweimal konnte das maßgeblich von Studierenden getragene Team Bambirds die AI-Birds-Weltmeisterschaft gewinnen, die seit einigen Jahren im Rahmen der renommiertesten Tagung für Künstliche Intelligenz, der International Joint Conference on Artificial Intelligence (IJCAI), stattfindet.

Gesucht ist jeweils das spielstärkste Programm, welches selbständig zuvor unbekannte Spielstufen von Angry Birds meistert. Die BamBirds entwickelten hierfür einen sogenannten intelligenten Agenten. Dieses Computerprogramm ist zu eigenständigem Handeln und Lernen fähig und kann Schlussfolgerungen aus dem laufenden Spiel ziehen, um seine Strategie anzupassen. Bei der Entwicklung galt es, Aufgaben der Bildverarbeitung und Objekterkennung, der Handlungsplanung und Spielstrategie zu bewältigen.

Was vordergründig wie ein unterhaltsamer Zeitvertreib aussieht, berührt zahlreiche noch ungelöste Forschungsfragen der Künstlichen Intelligenz. Das Meistern von Angry Birds erfordert es beispielsweise, physikalische Zusammenhänge begreifen und ausnutzen zu können. Die hierfür erforschten Techniken helfen schon heute autonomen Robotern in der Industrie und könnten beispielsweise in Zukunft Haushaltsrobotern helfen, neue Aufgaben zu erlernen.

Sicherheit im Straßenverkehr durch robuste KI

Radfahrerinnen und -fahrer sind im Straßenverkehr häufig ungeschützt und haben deshalb bei Unfällen ein besonders hohes Verletzungs- und Todesrisiko. Falsches Lenk- oder Bremsverhalten oder auch spontane, unvorhersehbare Fahrbahnüberquerungen bergen unter Umständen enorme Risiken.  

Künstliche Intelligenz soll es den Fahrzeugen künftig ermöglichen, solche Situationen zu erkennen und lebensrettend einzugreifen: Hochmoderne Kamera- und Sensortechnologien zur beschleunigten Objekterkennung erlauben es beispielsweise, angemessen auf Verkehrsschilder und Geschwindigkeitsbegrenzungen zu reagieren oder das Verhalten von anderen Verkehrsteilnehmerinnen und -teilnehmern zu erfassen und deren Handlungen vorauszusehen. Hierzu möchte eine Bamberger Promotion in Kooperation mit der Continental AG einen Beitrag leisten: Es werden Verfahren untersucht, wie Fehlfunktionen der KI aufgedeckt und ausgemerzt werden können, um genügend Robustheit und Sicherheit für den praktischen Einsatz zu gewährleisten.