TRR 318 - Ein dialogbasierter Ansatz zur Erkl?rung von Modellen des maschinellen Lernens (Teilprojekt B01)

Im Gegensatz zu aktuellen Modellen algorithmischer Transparenz, die von einer rein algorithmischen Konstruktion einer Erkl?rung ausgehen, verfolgt das Projekt B01 einen ko-konstruktiven Ansatz für den interaktiven und dom?nenspezifischen Prozess zwischen Erkl?rendem und Adressaten. Das Ziel ist es, ein Dialogprotokoll zu entwickeln und zu ko-konstruieren, das in einer spezifischen Dom?ne von sozialer Relevanz (Gesundheit, Versicherung oder Polizeiarbeit) verwendet wird. Das interaktive Frage-Antwort-Protokoll wird sich auf kontrafaktische Fragen konzentrieren, die das Verst?ndnis dafür verbessern, wie Eingaben mit den Ausgaben eines Klassifikators zusammenh?ngen.

Die Wissenschaftler*innen im Projekt B01 arbeiten an einem System mit künstlicher Intelligenz (KI), das Rückfragen auf sprachlicher Ebene angemessen beantworten kann. Im medizinischen Bereich soll das System beispielsweise gegenüber ?rzt*innen einen Behandlungsvorschlag begründen k?nnen und Fragen und Unsicherheiten von Patient*innen in Bezug auf den Behandlungsplan kl?ren. Die Informatiker*innen und Soziolog*innen beziehen in ihre Forschung die Sichtweise der Nutzer*innen ein. Dafür beobachten sie, wie beispielsweise Klinikmitarbeitende das KI-System annehmen und welche Anforderungen sie an das System stellen. Aus den Ergebnissen entwickeln die Forschenden ein Dialogsystem, das in verschiedenen Gesellschaftsbereichen eingesetzt werden kann.