UIG 2022 – Dr. Ekaterina Jussupow -Menschliche Entscheidungsprozesse mit KI-basierten Systemen - Ergebnisse aus dem Projekt Digilog@BW

Durch die rasante Entwicklung von Methoden zur Künstlichen Intelligenz (KI) sind Algorithmen in der Lage immer mehr und komplexere Entscheidungen zu treffen. Sie können bereits medizinische Befunde erzeugen oder bei juristischen Entscheidungen unterstützen. Durch ihren datengetriebenen Ansatz können KI-Systeme jedoch auch soziale Untergleichheiten verstärken, z.B. kann es sein, dass diskriminierende Zusammenhänge aus den Daten gelernt werden.  Erklärungen für die Entscheidungen von KI-Systemen können dazu beitragen, die negativen Folgen von Verzerrungen in den Daten zu verhindern, indem sie es den einzelnen Entscheidungsträgern ermöglichen, die Entscheidungsempfehlungen von KI-Systemen zu validieren. 

Dr. Ekaterina Jussupow befasst sich mit kognitiven Entscheidungsprozessen bei der Nutzung von KI-Systemen. Konkret präsentiert sie die Ergebnisse von zwei Online-Experimenten mit über 500 Teilnehmern, die aufzeigen, wie sich Individuen in ihrer Bewertung von Erklärungen für ein KI-System mit diskriminierenden Entscheidungen im Vergleich zu einem neutralen KI-System unterscheiden. In ihrem Vortrag diskutiert sich auch welche Rolle ein entsprechendes Bewusstsein über Diskriminierung (Stigma Consciousness) dabei spielt. In diesem Vortrag erfahren sie welche Einstellung von Entscheidungsträger die Interaktion mit KI-Systemen und die Bewertung von KI-Erklärungen beeinflussen können. Was muss sichergestellt werden, dass sich diskriminierende Entscheidungen von KI-Systemen nicht auf die Entscheidungsträger auswirken?

Dr. Ekaterina Jussupow promovierte nach ihrem Studium in Psychologie im Fachgebiet Wirtschaftsinformatik an der Universität Mannheim. In ihrer Dissertation befasste sie sich vorrangig mit der Auswirkung von KI-basierten Systemen auf medizinische Entscheidungsprozesse. In ihrer aktuellen Forschung untersucht sie wie Menschen mit KI-basierten Systemen interagieren und wie diese Interaktion gestaltet werden muss, damit digitale Inklusion erreicht werden kann. Dabei untersucht sie, wie diskriminierende KI-basierte Systeme durch menschliche Nutzer bewertet werden und wie implizite Einstellungen von menschlichen Nutzern diese Bewertungen beeinflussen können.