Universität Bamberg
Suche öffnen
Sie befinden sich hier:

Pressemitteilungen

  1.  Otto-Friedrich-Universität Bamberg
  2. Infos speziell für...
  3. Presse
  4. Wissenschaftliche Expertise zum AI Act

Wissenschaftliche Expertise zum AI Act

Ab Februar gelten erste Regeln aus dem AI Act der Europäischen Union

Am 1. August 2024 ist der Artificial Intelligence Act (AI Act) in der Europäischen Union in Kraft getreten. Das Gesetz entstand, um die sichere und vertrauenswürdige Entwicklung und den Einsatz von KI in der EU zu fördern. Während die vollständige Durchsetzung des AI Acts im August 2026 beginnt, gelten bestimmte Regeln bereits ab Februar 2025. Wissenschaftlerinnen und Wissenschaftler des Bamberger Zentrums für Künstliche Intelligenz (BaCAI) beschäftigen sich mit dem AI Act. Sie stehen für Interviews konkret zu diesem Thema, aber auch zu weiteren Themen rund um Künstliche Intelligenz zur Verfügung. 

Eine ausführliche Liste mit Informationen zur Expertise am BaCAI finden Sie unter: https://www.uni-bamberg.de/presse/expertise-an-der-universitaet/artikel/expertise-bacai/

Speziell zum AI Act können folgende Forschende Auskunft geben:
 

Vertrauenswürdige KI als Innovationstreiber und Qualitätsmerkmal
Prof. Dr. Ute Schmid, Lehrstuhl für Kognitive Systeme, Sprecherin des BaCAI:

„Der EU AI Act hat zum Ziel, dass KI-Systeme – insbesondere solche, die auf komplexen, aus Daten gelernten Modellen basieren – zentrale Qualitätsstandards erfüllen. Entsprechend wurden Kriterien für vertrauenswürdige KI formuliert, die KI-Systeme erfüllen müssen. Zentrale Anforderungen sind Performanz und Robustheit, Transparenz und Erklärbarkeit, Diskriminierungsfreiheit sowie menschliche Kontrolle und Aufsicht. Um diese Anforderungen umzusetzen, werden am Lehrstuhl für Kognitive Systeme neue KI-Methoden entwickelt, die die Kernmethoden des maschinellen Lernens erweitern. Ziel ist die Entwicklung partnerschaftlicher KI-Systeme, die Menschen dabei unterstützen, komplexe Probleme effizient und angemessen zu lösen.“

E-Mail: ute.schmid(at)uni-bamberg.de 

Aktuelle Forschungsprojekte: https://www.uni-bamberg.de/kogsys/forschung/projects/ 

Forschungsschwerpunkte:

  • Erklärbare Künstliche Intelligenz
  • Human-in-the-loop machine learning
  • Interpretierbares (ultra-strong) maschinelles Lernen
  • Partnerschaftliche KI-Systeme
  • Einsatz von Generativer KI für Programmieraufgaben und Software-Entwicklung
  • Anwendungen in den Bereichen Bildung, Gesundheit, Nachhaltigkeit, Produktion 

Publikation:

Schmid, U. (2024). Trustworthy Artificial Intelligence: Comprehensible, Transparent and Correctable. In: Werthner, H., et al. Introduction to Digital Humanism. Springer, Cham. https://doi.org/10.1007/978-3-031-45304-5_10 


AI Act: Sichere KI durch formale Methoden?
Prof. Dr. Christoph Benzmüller, Lehrstuhl für KI-Systementwicklung:

„Können Teile des AI Acts beziehungsweise die sich daraus ergebenden rechtlichen Anforderungen an KI-Systeme und deren Anwendungen mit Methoden der Logik und der symbolischen KI (also mit White Box KI) modelliert, formalisiert und gegebenenfalls sogar als unüberwindbare Schutzmechanismen in komplexeren KI-Anwendungskontexten automatisiert werden? Wie ist der Stand der Forschung in diesem Bereich und welche Möglichkeiten ergeben sich in Richtung „sichere KI“? Wie können die Paradigmen „Ethics by Design“ und „Machine Ethics“ durch die Explikation von Wertepräferenzen im interdisziplinären Austausch möglicherweise auch auf technischer Ebene in ein fruchtbares Wechselspiel gebracht werden, um zentrale Anforderungen des AI Acts zu adressieren?“

E-Mail: christoph.benzmueller(at)uni-bamberg.de 

Fachwissen zu:

  • Herausforderungen bei der Formalen Modellierung von Teilen des AI Acts
  • Rationales, formales Argumentieren und normatives Schließen im Computer
  • Formale Logiken zur Modellierung von Ethik und Recht
  • Modellierung von Werte-Ontologien und Werte-Präferenzen
  • Universelle Wissensrepräsentation
  • KI-Methoden zur Formalisierung und Autoformalisierung natürlichsprachiger Texte in Recht und Ethik
     


SAVE THE DATE:

Der AI Act steht auch im Zentrum eines Workshops bei der Zweiten Oberfränkischen Fachtagung KI. Diese findet am Donnerstag, 13. Februar 2025, an der Universität Bamberg statt und bietet die Chance, die KI-Expertinnen und -Experten der Universität Bamberg kennenzulernen. Die Tagung richtet sich an alle KI-interessierten Personen, insbesondere an kleine und mittlere Unternehmen (KMUs), die mehr über die Potenziale und Herausforderungen von KI erfahren möchten. Fokusthema der Tagung ist „KI Sicherheit“. Die Anmeldung zur kostenfreien Veranstaltung ist noch bis Montag, 10. Februar, möglich. Die Fachtagung wird vom KMU-KI-Erfahrungszentrum (KMU-KI-EZ) in Kooperation mit dem Bamberger Zentrum für Künstliche Intelligenz (BaCAI) an der Otto-Friedrich-Universität und der vbw – Vereinigung der Bayerischen Wirtschaft e. V. Bezirksgruppe Oberfranken veranstaltet.

Weitere Informationen zur Fachtagung unter: https://www.uni-bamberg.de/kogsys/forschung/projects/kmu-ki-ez/ 

Weitere Informationen zum Bamberger Zentrum für Künstliche Intelligenz unter: https://www.uni-bamberg.de/bacai/ 

 

Weiterführende Informationen für Medienvertreterinnen und -vertreter:

Medienkontakt:
Hannah Fischer
Pressestelle/Pressereferentin
Tel.: 0951/863-1445
redaktion.presse@uni-bamberg.de