(openPR) Ob Trainingsplanung mit einem KI-Trainer, Investitionen an der Börse oder autonomes Fahren: KI-Systeme begleiten uns in vielen Entscheidungssituationen. „Als Teildisziplin des Forschungsbereichs Mensch-Computer-Interaktion beschäftigen wir uns mit KI-basierten Agenten, die Entscheidungshilfen bieten“, ordnet der Wirtschaftsinformatiker Prof. Stefan Smolnik die Forschung an seinem Lehrstuhl ein.
Finanzielles, soziales und gesundheitliches Risiko
Typische Beispiele für solche KI-Systeme zur Entscheidungsunterstützung sind Chatbots für personalisierte Produktempfehlungen, medizinische Bildanalysen für präzise Diagnosen in Kliniken sowie Robo-Advisor zur Unterstützung von Finanzanlagen. „Es gibt nicht die KI“, betont Strunk. „Entscheidend ist, ob Menschen Vertrauen zu den Systemen aufbauen können. Die Nutzung muss daher immer auch im Kontext betrachtet werden, der häufig mit verschiedenen Risikofaktoren und -facetten einhergeht.“
Zentral für seine Forschung ist daher das Konzept des Vertrauens als Voraussetzung für die Akzeptanz von KI-Empfehlungen. Je stärker das Vertrauen in die KI ausgeprägt ist, desto eher wird ihren Vorschlägen gefolgt. Die Forschung hat den Einfluss der verschiedenen Risikofacetten (finanziell, sozial und gesundheitlich) auf die Akzeptanz von KI-Empfehlungen bislang jedoch noch nicht vollständig untersucht. Um diese Lücke zu schließen, haben die FernUni-Wissenschaftler prototypische KI-Anwendungen unter anderem für Online-Experimente entwickelt. „Aus unseren Ergebnissen lässt sich ableiten, dass ein psychosoziales Risiko am ehestens in Kauf genommen wird gefolgt vom physischen Risiko“, fassen Prof. Stefan Smolnik und Jobin Strunk als zentrales Ergebnis zusammen. „Die höchste Aversion zeigt sich beim finanziellen Risiko.“ Viele Menschen würden also eher einem medizinischen Diagnosesystem vertrauen als einer KI, die ihr Vermögen verwaltet.
Zurück auf den Hagener Trainingsplatz: Inwiefern gewinnt der KI-Trainer dort an Stellenwert? Das Triathlon-Team hat anhand eines Prototyps sein Training inklusive Planung und Nachbesprechung durchgespielt. „Die Transparenz und Nachvollziehbarkeit von Trainingsempfehlungen und die imitierte menschenähnliche Interaktion können das Vertrauen in KI-basierte Trainer erhöhen“, fasst Jobin Strunk zusammen. „Sportlerinnen und Sportler vertrauen dem KI-Trainer nicht allein deshalb, weil dieser technisch plausibel wirkt, sondern auch, weil ein Gefühl von Unterstützung, Sicherheit und sozialer Interaktion vermittelt wird."
Emotionale Ebene der Athleten-Trainer-Beziehung
Dabei muss berücksichtigt werden, dass die Athleten-Trainer-Beziehung eine hohe emotionale Ebene beinhaltet. So sahen es manche Testpersonen durchaus kritisch, ob ein KI-Trainer ihre Emotionen und Empfindungen beim Training verstehen kann. Die FernUni-Studie unterstreicht daher die Notwendigkeit eines vertrauenszentrierten Designs für KI-Trainer, das auf die Bedürfnisse von Freizeitsportlern zugeschnitten ist. Förderlich sind darüber hinaus Datenkontrollmechanismen.
Am Lehrstuhl von Prof. Dr. Stefan Smolnik wird auch zukünftig weiter rund um die KI-Agenten geforscht, schon allein, weil die Wachstumsraten explodieren. Eine Folgenutzung von KI-Trainern ist mit dem Hagener Triathlon-Team zwar noch nicht vereinbart. Grundsätzlich ist die Gruppe aber bereit, an weiteren Studien teilzunehmen. So viel Vertrauen in den KI-Trainer ist also bereits vorhanden.
wissenschaftliche Ansprechpartner:
Prof. Stefan Smolnik, ,
Jobin Strunk,
