KI und der Wunsch nach mehr Kontrolle

Ob es um die Suche nach neuen Werkstoffen, das Finden von betrügerischen Abrechnungen oder die autonome Autofahrt geht: Anwendungsfälle über alle Branchen hinweg zeigen bereits, welches Potenzial in künstlicher Intelligenz steckt. Einige der Entscheidungen auf Basis intelligenter Algorithmen können das Leben von Menschen auf unmittelbare Art beeinflussen, etwa bei der Personalauswahl oder der Vergabe von Krediten. In diesen Fällen müssen die Verantwortlichen Licht ins Dunkel der KI-Entscheidungen bringen. Das reicht von der Herkunft und Charakteristika der Trainingsdaten, die eine KI nutzt, über die Durchschaubarkeit und Verständlichkeit des Algorithmus bis hin zum Einhalten regulatorischer Vorgaben sowie ethischer Grundwerte. Der IT-Dienstleister Adesso hat 500 Entscheiderinnen und Entscheider, die in Unternehmen mit KI-Anwendungen arbeiten und die Systeme entwickeln, zum Thema Trustworthy AI befragt. Die wichtigsten Erkenntnisse der Studie:

• Vertrauen in KI: Die Mehrheit der Befragten hat hohe Erwartungen an die Anwendung. So erhoffen sich 88 Prozent, durch den Einsatz von KI bessere Entscheidungen treffen zu können. Genauso optimistisch sind die Studienteilnehmer bei der Frage, wie Anwender zu der Technologie stehen. 61 Prozent sind davon überzeugt, dass Verbraucherinnen und Verbraucher KI als grundlegend vertrauenswürdig einstufen.
• Regulation erwünscht: Trotzdem finden 80 Prozent der Befragten, KI sollte grundsätzlich nicht ohne menschliche Kontrolle eingesetzt werden. 54 Prozent sind zudem der Meinung, dass das Nutzen von KI-Technologien stärker reguliert werden sollte. Im Banken- und Finanzdienstleisterumfeld unterstützen sogar 75 Prozent diese Forderung. 70 Prozent aller Befragten halten darüber hinaus das Etablieren eines internen KI-Ethikgremiums für sinnvoll.
• KI am Arbeitsplatz: Aus Sicht der Befragten müssen Unternehmen ihre Beschäftigten stärker in KI-Projekte einbeziehen, damit diese Vertrauen in die Technologie entwickeln. 70 Prozent der Befragten sehen eine große Herausforderung darin, die eigene Belegschaft auf die Zusammenarbeit mit KI-Anwendungen vorzubereiten. Besonders kritisch bewerten die Studienteilnehmenden aus der Automotive-Branche die Situation: Hier befürchten 91 Prozent, dass es schwierig wird, die eigenen Teams von der Mensch-Maschine-Kooperation zu überzeugen.

mst/Adesso SE