Wir freuen uns, unsere Reihe über den Einsatz von SUMMETIX in wissenschaftlichen Arbeiten fortzusetzen. SUMMETIX engagiert sich intensiv für die Unterstützung der Spitzenforschung im Bereich KI und LLM und leistet auch einen aktiven Beitrag in der Forschungsgemeinschaft (Neuigkeiten folgen in Kürze!).
Diese Woche präsentieren unsere langjährigen Kooperationspartner von der Dialogue Systems Group der Universität Ulm gemeinsam mit der Tensor AI Solutions GmbH und der Universität Bamberg im Rahmen der 28. Europäischen Konferenz für Künstliche Intelligenz (ECAI) einen Beitrag zum 3. Internationalen Workshop zu Argumentation für erklärbare KI (ArgXAI).
Die Arbeit trägt den Titel „Towards a Deeper Understanding: Effects of Domain Knowledge Integration for Conversational XAI” und untersucht, wie die Integration von Domänenwissen (DK) in erklärbare KI (XAI) das menschliche Verständnis und die Modelltransparenz in KI-Systemen verbessern kann. Zu diesem Zweck integrieren die Autoren strukturiertes Domänenwissen – teilweise mit Hilfe der SUMMETIX Argument Search API – in interaktive Dialogsysteme.
Die Ergebnisse zeigen, dass DK das Engagement der Nutzer steigern (längere Dialoge) und unter bestimmten domänenspezifischen Bedingungen die wahrgenommene Plausibilität und Zustimmung zu den Entscheidungen der KI verbessern kann – dieser Effekt hängt jedoch stark von der Domäne und dem zugrunde liegenden Wissen ab. Die Autoren kommen zu dem Schluss, dass die Integration von DK zwar vielversprechend für die dialogorientierte XAI ist, Designer jedoch die Zuverlässigkeit der Erklärungen sicherstellen, Szenarioabhängigkeiten und die Vertrautheit der Nutzer berücksichtigen und vor unzulässiger Beeinflussung schützen müssen.
