30.01.2025 UNI.BLOG: Wissenschaftliche Expertise zum AI Act

Am 1. August 2024 ist der Artificial Intelligence Act (AI Act) in der Europäischen Union in Kraft getreten. Das Gesetz entstand, um die sichere und vertrauenswürdige Entwicklung und den Einsatz von KI in der EU zu fördern. Während die vollständige Durchsetzung des AI Acts im August 2026 beginnt, gelten bestimmte Regeln bereits ab Februar 2025. Wissenschaftlerinnen und Wissenschaftler des Bamberger Zentrums für Künstliche Intelligenz (BaCAI) beschäftigen sich mit dem AI Act. Sie stehen für Interviews konkret zu diesem Thema, aber auch zu weiteren Themen rund um Künstliche Intelligenz zur Verfügung. 

Eine ausführliche Liste mit Informationen zur Expertise am BaCAI finden Sie unter: https://www.uni-bamberg.de/presse/expertise-an-der-universitaet/artikel/expertise-bacai/

Vertrauenswürdige KI als Innovationstreiber und Qualitätsmerkmal
Prof. Dr. Ute Schmid, Lehrstuhl für Kognitive Systeme, Sprecherin des BaCAI:

„Der EU AI Act hat zum Ziel, dass KI-Systeme – insbesondere solche, die auf komplexen, aus Daten gelernten Modellen basieren – zentrale Qualitätsstandards erfüllen. Entsprechend wurden Kriterien für vertrauenswürdige KI formuliert, die KI-Systeme erfüllen müssen. Zentrale Anforderungen sind Performanz und Robustheit, Transparenz und Erklärbarkeit, Diskriminierungsfreiheit sowie menschliche Kontrolle und Aufsicht. Um diese Anforderungen umzusetzen, werden am Lehrstuhl für Kognitive Systeme neue KI-Methoden entwickelt, die die Kernmethoden des maschinellen Lernens erweitern. Ziel ist die Entwicklung partnerschaftlicher KI-Systeme, die Menschen dabei unterstützen, komplexe Probleme effizient und angemessen zu lösen.“

Weiterlesen