Datenschutzrechtliche Prinzipien sollten die Gestaltung von KI bestimmen
Der Forschungsverbund „Forum Privatheit“ zeigt in einem Policy Paper auf, wie KI die Selbstbestimmung des Menschen fördert oder verletzt - und gibt konkrete Empfehlungen, wie diese geschützt und gestärkt werden kann.
Sprachassistenten, Übersetzungssoftware oder Suchmaschinen – in den vergangenen Jahren hat die Entwicklung von KI-Systemen rasante Fortschritte gemacht. Viele der Anwendungen stehen jedoch im Verdacht, die Autonomie oder Selbstbestimmung von Menschen einzuschränken. Auf der anderen Seite bietet künstliche Intelligenz auch viele Chancen und neuen Nutzungsmöglichkeiten. So können digitale Assistenzsysteme im Gesundheitswesen die Selbstbestimmung und Autonomie fördern, indem beispielsweise Menschen mit Seh- oder Hörbehinderung Technologien einsetzen, die die gesprochene Sprache in Text umwandeln (und umgekehrt), um ihre Wahrnehmungseinschränkungen zu kompensieren.
Problematisch sind Technologien der Täuschung und Verhaltensmanipulation
Hingegen greift eine subtile Manipulation der Nutzenden, so genanntes „nudging“ (engl. für "anstoßen", "schubsen" oder "stupsen"), auf Basis der Auswertung großer Datenmengen in die Selbstbestimmung dieser Menschen ein. „Vor allem Technologien wie DeepFakes, also Bilder, Videos oder Sprachdateien, die durch maschinelles Lernen synthetisch hergestellt wurden und die dezidiert zum Zweck der Verhaltensmanipulation und Täuschung entwickelt werden, halte ich für besonders problematisch“, so Dr. Thilo Hagendorff, Medienethiker an der Universität Tübingen und Mitglied im „Forum Privatheit“. Hier seien sowohl der Gesetzgeber aber auch die Entwickler von KI-Technologie selbst gefragt, um Regeln und Grenzen zu definieren. „Nur so kann gesichert werden, dass auch die vielen positiven Potenziale von KI realisiert werden.“
Betroffene Personen sollten den Einsatz von KI selbst bestimmen können
Rechtliche Rahmenbedingungen für KI-Anwendungen müssten weiterentwickelt werden, sodass betroffene Personen selbstbestimmt entscheiden können, ob und welche personenbezogenen Daten verarbeitet werden. "Die Selbstbestimmung eines Menschen ist ein wesentlicher Grundpfeiler unseres Verfassungssystems. Künstliche Intelligenz und selbstlernende Systeme oder Maschinen stellen jedoch das Recht in vielen Bereichen vor enorme Herausforderungen. Dies darf aber nicht dazu führen, dass wir etablierte Grundprinzipien infolge des von der Technik ausgeübten Drucks aufgeben. Vielmehr müssen insbesondere die datenschutzrechtlichen Prinzipien von Transparenz und Erforderlichkeit, die Ausdruck verfassungsrechtlicher Wertungen sind, die Gestaltung von KI bestimmen", fordert Dr. Christian Geminn, Rechtswissenschaftler an der Universität Kassel und Mitglied im „Forum Privatheit“.
Mehr zum Einfluss künstlicher Intelligenz auf die individuelle und kollektive Selbst-bestimmung von Mensch und Gesellschaft sowie konkrete Vorschläge, wie welche Akteure zum Schutz von Selbstbestimmung beitragen können, finden Sie im Policy Paper „Risiken Künstlicher Intelligenz für die menschliche Selbstbestimmung“
