Veronika Solopova hat ihre Promotion in NLP an der FU Berlin mit Bestnote verteidigt: Hybride KI-Systeme in der automatisierten Inhaltsmoderation und -analyse

Veronika Solopova, die Mitglied des AISE-Teams von Prof. Christoph Benzmüller an der U Bamberg war, hat im Juli 2024 ihre Promotion am Fachbereich Mathematik und Informatik der FU Berlin mit der höchstmöglichen Note verteidigt und den Titel Dr. rer. nat. erhalten.  Inzwischen ist Veronika weitergewandert und arbeitet als PostDoc an der TU Berlin.

Thema ihrer Dissertation: Hybride KI-Systeme in der automatisierten Inhaltsmoderation und -analyse

Zusammenfassung: Automatisierte Inhaltsmoderation im modernen Sinne nimmt viele Formen an: Moderation von sozialen Medien, Debatten, Therapietagebüchern und studentischen Lernprozessen wie dem Schreiben von Aufsätzen. Zur Bewältigung dieser Aufgaben können verschiedene KI-Techniken eingesetzt werden, wie z. B. Klassifizierungen, Information Retrieval, Chatbots, symbolisch-logische Reasoner und manchmal auch alle diese Techniken, die zu sogenannten hybriden KI-Systemen kombiniert werden. Die Kombination und der vernetzte Betrieb mehrerer KI-Komponenten mit unterschiedlichen Eigenschaften oder die Verwendung eines Modells zur Erläuterung eines anderen stellt eine praktikable Alternative zu durchgängigen Systemen dar. Dies liegt vor allem daran, dass sie überschaubar und transparent sind und eine potenzielle Verbesserung gegenüber End-to-End-Systemen bieten. Darüber hinaus können sie die verschiedenen Elemente der menschlichen Kognition genauer abbilden, indem sie belastbares Lernen mit schneller Mustererkennung und logischen Operationen kombinieren. In dieser Arbeit werden zwei Beispiele für hybride KI-Systeme in Kombination mit zwei Anwendungsfällen der Inhaltsmoderation entwickelt. „Check News in One Click“ ist eine Webanwendung, die für eine vereinfachte Überprüfung von Nachrichten entwickelt wurde. Sie beinhaltet eine Verschmelzung von statistischen linguistischen, transformatorischen und regelbasierten Komponenten, die ich entwickelt und in ein produktives System mit einer benutzerfreundlichen Schnittstelle integriert habe. Konkret ist diese Anwendung auf die Überprüfung von Inhalten aus konventionellen Nachrichtenquellen und Social-Media-Nachrichtenkanälen spezialisiert, wobei der Schwerpunkt auf der Erkennung von manipulativer Sprache und kremlfreundlicher Propaganda liegt, was angesichts der russischen Invasion in der Ukraine zu einem großen Problem wurde. PapagAI ist eine Online-Plattform für Hochschulstudenten, auf der ich ein KI-Modul für die automatische Moderation von reflektierenden Essays entwickelt, kombiniert und implementiert habe, das überwachte Modelle, ein Clustering, ein linguistisches Verarbeitungsmodul und einen heuristischen Determinator verwendet, der eine Prompt-Datenbank nach geeigneten Fragen und Verbesserungsvorschlägen durchsucht. Mit dieser Anwendung wollte ich der Forderung des deutschen Bildungssystems nachkommen, die Verbleibsquote von Lehramtsstudenten an den Universitäten zu verbessern und die Arbeitsbelastung der Tutoren durch eine Vereinfachung des Feedback-Prozesses zu verringern. Neben den Nutzertests zur Evaluierung der entwickelten Systeme diskutiere ich hier auch Fragen zur Ethik der KI, zum rechtlichen Rahmen der Europäischen Union in Bezug auf automatisierte Inhaltsmoderation sowie zur Interpretierbarkeit und Nachhaltigkeit von Deep-Learning-Modellen.