Expert*innengespräch 2021

Smarte Sprachassistenzsysteme, Online-Banking, Home Schooling – der digitale und technologische Wandel verändert kontinuierlich die unterschiedlichsten Lebensbereiche. Für ein souveränes Handeln in der digitalisierten Gesellschaft benötigen Bürger*innen deshalb Kompetenzen. Auf dem Expert*innengespräch steht dieses Mal der Umgang mit Künstlicher Intelligenz im Fokus. Dabei soll es sowohl um konkrete Kompetenzanforderungen gehen als auch um begünstigende und hemmende Strukturen und Faktoren. Kompetenzanforderungen lassen sich dabei aus normativen Zielen (beispielsweise dem Anspruch der Erklärbarkeit an KI), aus dem Subjektverständnis (Stichwort: Souveränes Handeln), den technologischen Strukturen (wie sind KI-Anwendungen gestaltet) aber auch anderen gesellschaftlichen Strukturen, wie dem Wirtschafts-, dem Bildungssystem oder dem öffentlichen Diskurs ableiten. Im Mittelpunkt steht dabei immer die Frage: Was brauchen wir für einen kompetenten Umgang mit Künstlicher Intelligenz? Digitales Deutschland bringt zu diesem Zweck Expert*innen aus unterschiedlichen Wissenschaftsdisziplinen, der Politik sowie der (pädagogischen) Praxis zusammen. Eine Grundlage dafür bieten fünf Expertisen, die ausgewiesene Expert*innen für das Projekt verfasst haben. Die Ergebnisse des Expert*innengesprächs werden dokumentiert und fließen in die Weiterentwicklung des Rahmenkonzepts.

In der Veranstaltung wurden Perspektiven vertieft, die in einem Rahmenkonzept zur Medien- und Digitalkompetenz und in interdisziplinären Expertisen aus der Informatik, der Verbraucher*innenforschung, der Bildungs- sowie der Kommunikationswissenschaft bereits grundgelegt sind. Die vollständigen Texte sind auf unserer Projektseite zugänglich:

• Dr. Niels Brüggen
• Dr. Harald Gapski
• Prof. Dr. Ira Diethelm
• Prof. Dr. Kerstin Mayrberger
• Prof. Dr. Jörn Lamla

Ausgehend von den interdisziplinären Inputs und deren Diskussion wurden drei Themen in Arbeitsgruppen vertieft und zum Ende der Veranstaltung zusammen getragen.

In Session 1 wurde gefragt, ob ein (tiefergreifendes) Verständnis digitaler Systeme überhaupt möglich sei und welche Kompetenzen es braucht, um die Funktionsweisen der Technologien auch kritisch hinterfragen zu können. Dabei wurde diskutiert, welchen Beitrag informatische Wissensbestände und Fähigkeiten in diesem Zusammenhang leisten. Festgehalten wurde, dass Informatik notwendig, aber nicht hinreichend sei. Informatische Kenntnisse ermöglichen dem Subjekt eine bessere Einschätzung, welche Daten es produziert und was damit gemacht werden kann. Dieses Wissen und diese Fähigkeiten bilden ein Fundament auf dem weitere Kompetenzdimensionen aufgebaut werden können, z.B. Risikokompetenz im Umgang mit digitalen Systemen, Sozialkompetenz und die Fähigkeit zur ethischen Reflexion des Medienhandelns. Neben Informatik und Medienpädagogik werden dabei auch Arbeitsbereiche und Themen der politischen Bildung angesprochen. Die Diskutierenden stellen fest, dass aktuell in der Bildungspraxis eine Lücke zwischen der informatischen Grundbildung und weiterführenden Kompetenzdimensionen festzustellen ist. Das Schließen der Lücke erfordert auf der konzeptionellen Ebene eine Neuverfugung von Wissensbeständen und Kompetenzverständnissen.

In Session 2 wurden insbesondere die Fragen bearbeitet, welche Kompetenzen Personen brauchen, um diskriminierungskritisch und diversitätsbewusst mit KI umzugehen und welche Strukturen es bräuchte, um diese Kompetenzen aktiv zu fördern. Als zentrale Herausforderung wurde hierbei die (Re-)Produktion von sozialer Ungleichheit ausgemacht, welche jedoch weder ausschließlich „innerhalb“ oder „außerhalb“ technologischer Prozesse verortet werden konnte. Ansatzpunkte für eine Kompetenzförderung wurden zunächst in Bezug auf die Förderung von Wissen über KI-basierte Entscheidungen und Empfehlungen diskutiert. Insbesondere ein Wissen darüber „ob“ und „warum“ KI-basierte Prozesse relevant sind, wurde hierbei angesprochen. Außerdem wurde auf die Relevanz von Bildungsarbeit zu den Themen gesellschaftlicher Zusammenhalt und Diversität hingewiesen und darauf, dass es gilt, eine Bildungsarbeit dazu für alle Altersgruppe zu etablieren. Des weiteren wurde es als notwendig erachtet, Personen zu befähigen, Melde- und Klagemöglichkeiten gegen KI-basierte Entscheidungen und Empfehlungen zu nutzen. Seitens anbietender Unternehmen wurde sich mehr Transparenz in Bezug auf Datengrundlage und Funktionsweise der KI-Systeme gewünscht, sodass diese persönlichen Reflexionsprozessen und gesellschaftlicher Debatte zugänglich gemacht werden können. Offen blieb die Frage, welche Rolle die affektive Dimension spielt, wobei die Teilnehmenden sich einig waren, dass gerade diese Dimension eine zentrale Rolle in diesem Problemfeld einnimmt.

Im Fokus von Session 3 stand die Frage, inwiefern auch in der Gestaltung von KI-Technologie Möglichkeiten bestehen, kompetentes Handeln von Subjekten zu ermöglichen oder zumindest besser zu unterstützen. Als eine der entscheidenden Herausforderungen wurde hier die Transparenz sowohl der Bewertungskriterien als auch der Entscheidungsverfahren von KI-Systemen benannt, die eben in der Regel nicht gegeben ist. Häufig entspricht dies auch der Nutzungserwartung, da von Technik die Entlastung im Alltagshandeln erwartet wird – im Falle von Navigationssystemen eben die Entscheidung über die Route. Zugleich sind Navigationsgeräte ein Beispiel, bei dem sich Verfahren etabliert haben, die bestimmte Entscheidungsmöglichkeiten und -pflichten bei den Nutzer*innen belassen. So kann oftmals zwischen einer schnellen, landschaftlich schönen oder ökonomischen Route entschieden werden. Nichtsdestotrotz bleibt aber der Bezug zu den eigentlichen Entscheidungskriterien (nach welchen Kriterien wird bez. Ökonomie entschieden) intransparent. Ansatzpunkte wurden nachfolgend auf drei Ebenen diskutiert: so ist denkbar, dass…

1. Einflussmöglichkeiten bei der Kuration/Entscheidung realisiert werden (wie im Beispiel von Navigationsgeräten),
2. eine stärkere Kontextualisierung von Entscheidungen umgesetzt wird, wodurch den Nutzenden transparent wird, weshalb das KI-System eine bestimmte Entscheidung getroffen hat und schließlich
3. die Verfügbarkeit der Bewertungskriterien anvisiert wird. In diesem Falle würden die Nutzer*innen selbst über Entscheidungskriterien und deren Gewichtung entscheiden können.

Jeweils wären Konzepte auszuarbeiten und zu erproben. Hierfür wurde die Rolle von zivilgesellschaftlichen Institutionen nach dem Vorbild der Stiftung Warentest diskutiert.

Im Verlauf des Expert*innen-Gesprächs wurden viele Impulse eingebracht, die noch weiter im Team ausgewertet und in Bezug zu bisherigen Konzepten gesetzt werden. Zwei ausgewählte Schlaglichter auf erste Schlussfolgerungen wollen wir an dieser Stelle aber bereits skizzieren.

Weiterführen werden wir die Diskussion, inwiefern Selbstbestimmung oder Souveränität geeignete normative Konzepte als Zielstellung darstellen. Dabei ist (wie immer) zu differenzieren zwischen der alltagssprachlichen Verwendung der Begriffe und theoretisch entwickelten Konzepten. Gut anknüpfbar an den Kompetenzdiskurs erscheint dabei der Begriff der Selbstbestimmung. Gemeinhin mit Anrufungen an ein starkes Subjekt verbunden ist dahingegen der Begriff der Souveränität. Dies aber insbesondere, wenn Souveränität als individuell herstellbare Qualität gefasst wird. Zu reflektieren wäre, wie dies in dem wechselseitigen Bedingungsgefüge von sozio-technischen Systemen weiter- oder neu gedacht werden kann. Hier könnte es weitere Verbindungen zur politischen Bildung geben.

Die Intransparenz von Entscheidungen durch ein KI-System steht im Fokus der Überlegungen, welche Kompetenzen auf der Seite der Subjekte für (möglichst) selbstbestimmtes Handeln notwendig sind. Dabei wurde auch diskutiert, welche Schwerpunkte hier in informatischen oder anderen Konzepten gesetzt werden. Bereits für KiTa- und Grundschulkinder gibt es bspw. Konzepte der informatischen Bildung, die die Entwicklung von Kompetenzen erlauben wie bspw. Entscheidungsabläufe von KI-Systemen kennen und bewerten können. Neben den algorithmischen Verfahren ist aber vor allem auch entscheidend, Einblicke zu erhalten, welche Entscheidungskriterien in der Lebenswelt vorhandene KI-Systeme einbeziehen. Hier wird weiter zu diskutieren sein, welche Gesichtspunkte hier in informatischen oder eher medienpädagogisch ausgerichteten Bildungskonzepten angesprochen werden. Eine Perspektive zur Verbindung der Perspektiven kann das Frankfurt Dreieck darstellen. Zudem ist eine Frage, die der weiteren Bearbeitung bedarf, wie eine Brücke von eher basalen algorithmischen Abläufen zu den komplexen Systemen in der Lebenswelt geschlagen werden kann. Hier besteht noch Handlungsbedarf.