Softwaretechnik zum Unterbinden von Fehlverhalten in KI-Software, insb. in Zusammenhang mit künstlichen neuronalen Netzen, um den verantwortungsvollen Einsatz in cyber-physikalischen Systemen zu ermöglichen.

DISL ist ein Forschungs- und Transferprojekt der Universität Bamberg, gefördert durch das Bundesministerium für Bildung und Forschung (BMBF). Beteiligt sind die Professur für Angewandte Informatik, insbes. Kognitive Systeme, Professur für Angewandte Informatik, insbes. Smart Environments, Professur für Grundlagen der Informatik sowie der Lehrstuhl für Praktische Informatik, insbesondere Softwaretechnik und Programmiersprachen.

Im Rahmen dieses Projekts werden Methoden entwickelt, um den Einsatz von Lernverfahren in cyber-physikalischen Systemen zielführend und zuverlässig durchführen zu können und Qualifizierungsmaßnahmen zur Entwicklung verlässlicher KI-Software konzipiert und durchgeführt.

Maschinelle Lernverfahren, insbesondere künstliche neuronale Netze (KNNs), sind von zunehmender Bedeutung in immer mehr Anwendungsgebieten. Oftmals werden die verwendeten Modelle noch zur Laufzeit mit neuen Daten verbessert und passen sich somit über die Zeit fortlaufend an. Dabei gibt es jedoch eine Vielzahl an Herausforderungen, die adressiert werden müssen um verlässliche Softwaresysteme mit diesen Lernverfahren zu realisieren. (1) Kontra-intuitive Generalisierung kann zu unerwartetem Verhalten und leichter Manipulierbarkeit führen; (2) nicht-repräsentative Trainingsdaten resultieren in einer systematischen Fehlklassifikation, eine Überprüfung der Trainingsdaten ist jedoch in vielen Fällen nicht möglich; (3) Lernverfahren sind für das klassische Methodenportfolio der Verifikation meist nicht zugänglich und nur eine Laufzeitverifikation ist möglich; (4) Neue Komponenten müssen in die bisherige Infrastruktur integriert werden.

Basierend auf diesen Herausforderungen stellen sich die Forschungsziele des Projekts wie folgt dar:

1. Extraktion von automatisch analysierbarer Information aus gelernten Modellen künstlicher neuronaler Netze: Whiteboxing von Blackbox-Lernverfahren
2. Entwicklung einer modal-relationalen Domain-Specific-Language zur Spezifikation von cyber-physikalischen Systemen mit integrierten künstlichen neuronalen Netzen, die unter Umständen nebenläufig agieren.
3. Entwicklung von Algorithmen zur automatischen Laufzeitverifikation von Systementscheidungen unter Ausnutzung der für künstliche Intelligenz spezialisierten Hardware, d.h. parallelisierte Implementierung auf für numerische Operationen optimierte parallelisierte Hardware (GPU).

Die Forschungsziele werden dabei in engem Austausch mit industriellen Partnern vorangetrieben.

Im Rahmen der 43. internationalen Tagung über Künstliche Intelligenz der Gesellschaft für Informatik (e.V.) KI2020 findet ein Workshop zum Thema dependable Artificial Intelligence statt, am 1.4.2022 ein Workshop zur Diskussion der Ergebnisse und Arbeiten rund um das Thema verlässliche KI.

Am Labor beteiligte Forschungsgruppen und Personen:

• Prof. Dr. Diedrich Wolter, Professur für Smart Environments
• Prof. Dr. Gerald Lüttgen, Lehrstuhl Softwaretechnik und Programmiersprachen
• Prof. Michael Mendler, PhD, Professur für Grundlagen der Informatik
• Prof. Dr. Ute Schmid, Professur für kognitive Systeme
• Dr. Joaquin Aguado
• Dr. Jin Woo Ro
• M.Sc. Tobias Schwartz
• M.Sc. Sarem Seitz

Mit der auslaufenden Anschubfinanzierung können wir nun das KI-Labor in die vielen (neuen) Hände der Kolleginnen und Kollegen aus KI und allen an der Entwicklung zuverlässiger Systeme beteiligten Gruppen legen. Wir veranstalten daher einen KI-Tag mit Forschenden, Studierenden und Partnern aus der Industrie(694.9 KB). 

• Freitag, 1. April 2022
• virtueller Erba-Campus http://join.adventure.uni-bamberg.de/dependable-ai (keine separate Anmeldung erforderlich; im virtuellen Erba-Campus gibt es die Möglichkeit, sich frei zu bewegen und 2-, 4- oder n-Augengespräche zu führen)
• Programm:
  • 14.00–14.45 Uhr: Keynote von Prof. Dr. Christoph Benzmüller (AI Systems Engineering, Bamberg): Ethico-Legal Governance of AI Systems (im virtuellen Hörsaal WE5/00.022)
  • 14.45–15.00 Uhr: Kaffeepause
  • 15.00–16.00 Uhr: Postersession und Themenbörse (im virtuellen Innenhof)
  • Postersession: Wir präsentieren und diskutieren Arbeiten aus dem DISL-Labor
  • Themenbörse: Kooperationspartner aus der (lokalen) Wirtschaft und Arbeitsgruppen stellen Themen für mögliche Qualifikationsarbeiten vor.

Wir freuen uns über Ihr Kommen!

Haben Sie Interesse, eigene Themen im Zusammenhang mit zuverlässiger KI zu bewerben? Bitte nehmen Sie Kontakt mit uns auf!