Durch das Erleichtern von Informationsrecherche und Texterstellung könnte generative KI eine Hilfe bei der Verbreitung von Informationen darstellen. Durch die einfache und schnelle Generierung von überzeugenden Fehlinformationen könnte generative KI jedoch auch zu einer Bedrohung werden und ein noch nie dagewesenes Maß an öffentlicher Verwirrung erzeugen.

Obwohl der Fehlinformationsforschung große Aufmerksamkeit zuteilwird, konzentriert sie sich bisher überwiegend auf Lösungen zur Aufdeckung oder Aufklärung von Fehlinformationen und vernachlässigt Techniken zur Vermeidung von Fehlinformationen. Daher zielt dieses Forschungsprojekt darauf ab, Nutzer:innen widerstandsfähiger gegen generative KI-Fehlinformationen zu machen und deren Auswirkungen von vornherein zu verhindern. 

In Zusammenarbeit mit der University of Melbourne wollen die Wissenschaftler:innen der Universität Bamberg ein tieferes Verständnis für generative KI-Fehlinformationen entwickeln, um deren Auswirkungen auf die einzelnen Nutzer:innen abzuschätzen und die Entwicklung und den Einsatz generativer KI in der Gesellschaft zu unterstützen. Grundsätzlich soll das Forschungsprojekt Behörden und Organisationen dabei helfen, verschiedene Arten von generativer KI-Fehlinformation zu identifizieren, zu verstehen, wie Social Media Nutzer:innen diese wahrnehmen, und ihre Widerstandskraft und Resilienz gegenüber diesen zu erhöhen.

Projektdauer: 01.01.2024 - 31.12.2025
Ansprechperson: Marie Langer