Ethische Urteilsfindung im Kontext von KI-Systemen
Kurzbeschreibung
Welche Kompetenzen sind für einen ethischen und verantwortlichen Umgang mit KI-Systemen notwendig? Diese Frage steht im Zentrum der vorliegenden Expertise. Dabei wird zunächst das Phänomen Künstliche Intelligenz näher betrachtet. Was ist Künstliche Intelligenz? Welche Bedeutung hat sie in unserem Alltag? Und welche ethischen Fragen ergeben sich daraus? Daraufhin stehen Kompetenzen zur ethischen Urteilsfindung im Kontext von Künstlicher Intelligenz im Fokus. Ein verantwortungsvoller Umgang mit Künstlicher Intelligenz hängt jedoch nicht allein vom Individuum ab. Deswegen wird abschließend aufgezeigt, wer in der Gesellschaft inwiefern Verantwortung für einen ethisch guten Umgang trägt.
Annahmen über die Folgen der Digitalisierung
Systeme Künstlicher Intelligenz sind mittlerweile in beinahe allen Lebensbereichen präsent. Inzwischen stellt sich also nicht mehr die Frage, ob Künstliche Intelligenz genutzt werden soll, sondern vielmehr wie ein ethischer Umgang damit aussehen kann und welche Kompetenzen dafür notwendig sind. KI-Systeme prägen Wirtschaft und Arbeit genauso wie Politik, Bildung und Wissenschaft. Durch sie löst sich auch die frühere Trennung zwischen Werkzeug, Werkprozess und Werk zunehmend auf. Vor diesem Hintergrund ergeben sich verschiedene ethische Fragen. Denn Künstliche Intelligenz greift in das Welt-Mensch-Verhältnis ein. Sie strukturiert und formt es und wird zugleich durch menschliches Handeln geformt.
Kompetenzanforderungen
Für die Menschen ergeben sich angesichts dessen, dass viele alltägliche KI-Systeme oft nicht als Künstliche Intelligenz wahrgenommen werden, mehrere Anforderungen. Zum einen müssen sie sich mit dem Phänomen Künstliche Intelligenz auseinandersetzen, zum anderen mit der Berichterstattung darüber. Diese gilt es auch zu reflektieren. Weitere Anforderungen an eine ethische Urteilsfindung im Kontext von Künstlicher Intelligenz sind unter der Überschrift Kompetenzdimensionen zusammengefasst.
Kompetenzdimensionen
Instrumentell-qualifikatorische Dimension: Systeme Künstlicher Intelligenz einsetzen können.
Kognitive Dimension: Technisches Wissen über Funktionsweisen von KI-Systemen; verstehen, wie automatisierte Kommunikation funktioniert und wie Rollen in digitalen Räumen definiert sind; zwischen Realität und Virtualität unterscheiden können und sich bewusst sein, dass beides zunehmend eng verknüpft ist; erkennen, welche Bilder und Texte von Menschen und welche durch KI-Technologien erstellt wurden.
Affektive Dimension: Die eigene Stimmung regulieren können; Emotionen verarbeiten und empathisch handeln können; Freude aus Medien ziehen und Inspiration für das eigene Leben gewinnen.
Kreative Dimension: Digitale Lebenswelten aktiv auf eine gerechte und menschenfreundliche Art mitgestalten.
Soziale Dimension: Ethische Argumente in Gemeinschaft ausdiskutieren können; mit anderen Menschen zusammenarbeiten und kommunizieren können auf Basis einer angemessenen Balance zwischen Anpassung und Selbstbestimmung sowie nach einem sensiblen Abwägen zwischen eigenen und fremden Interessen und Bedürfnissen.
Kritisch-reflexive Dimension: Digitale Medien und Systeme sowie deren Produktionsbedingungen reflektieren und bewerten können; sich der Mitarbeit von Menschen, zum Beispiel durch das Zurverfügungstellen von Daten an KI-Systeme, bewusst sein, diese reflektieren und damit einhergehende Machtverhältnisse bewerten; sich darüber bewusst sein, was KI-Systeme sind und welchen Einfluss sie auf das eigene Leben, die Gesellschaft und die ihr zugrunde liegenden Werte- und Normensysteme haben; reflektieren, inwiefern KI-Systeme individuelle Freiheiten vergrößern oder Freiheiten und Rechte einschränken können; dafür sensibel sein, dass KI-Systeme mitbeeinflussen, welche Inhalte wir im digitalen Alltag angezeigt bekommen, und die Auswirkungen dessen hinterfragen.
Zentrale theoretische Annahmen über Kompetenz
Die Autor*innen stellen fest, dass der Dreischritt zur ethischen Urteilsbildung (Sehen - Urteilen - Handeln) auf zentrale Kompetenzbereiche verweist, die für den Umgang mit Künstlicher Intelligenz relevant sind. Für eine ethische Urteilsfindung in Hinblick auf Künstliche Intelligenz sind alle Kompetenzdimensionen (Digitales Deutschland 2021) von Bedeutung.
Perspektive der Kompetenzträger*innen auf Kompetenz einbezogen?
keine Angabe
Lebenskontexte der Kompetenzträger*innen einbezogen?
Die Verantwortung für einen ethisch guten Umgang mit Künstlicher Intelligenz liegt nicht ausschließlich bei Individuen. Weitere Akteure, die dazu einen Beitrag leisten müssen, sind vor allem der Gesetzgeber, die Unternehmen, welche Systeme Künstlicher Intelligenz entwickeln, sowie die Gesellschaft allgemein, gerade mit Blick auf den öffentlichen Diskurs zu Künstlicher Intelligenz. Daneben werden zielgruppenspezifische Bildungsangebote gefordert, um eine ethische Urteilsbildung zu unterstützen. Diese sind aufgrund unterschiedlicher Erfahrungen und Lebensweltbezüge notwendig. Beispiele für unterschiedliche Hintergründe von Zielgruppen sind etwa ihr Alter oder verschiedene Tätigkeitsfelder. Besonders gilt es, vulnerable Gruppen zu berücksichtigen.
Herausforderungen der Erfassung von Kompetenz
keine Angabe
Quellenangabe
Endres, S., & Filipovic A. (2023). Ethische Urteilsfindung im Kontext von KI-Systemen. Digitales Deutschland. https://digid.jff.de/ki-expertisen/ethik-und-ki