Der Vortrag gibt einen Überblick über verschiedene Methoden des maschinellen Lernens und geht insbesondere auf die Bedeutung der Wahl der Trainingsmethoden und Trainingsdaten für eine effektive und genaue Modellbildung ein. Der zweite Teil widmet sich dem Datenhunger großer KI-Modelle und den damit verbundenen Herausforderungen.

In der Digital- und KI-Ethik wird das Problem der „Biases“ regelmäßig mit dem Thema der „Diskriminierung“ eng verbunden. Der Vortrag diskutiert das (im Kern wissenschaftstheoretische und nicht ethische) Problem, dass lernende Systeme niemals „neutral“ sein können. Er erläutert diesen Punkt und stellt zum einen die Frage, wie das Diskriminierungsproblem trotz der Unvermeidlichkeit solcher Biases angegangen werden kann. Zum zweiten und vor allem zeigt er, dass „ethisches“ Vokabular rund um „Transparenz“ oder auch „Erklärbarkeit“, „Verstehbarkeit“ etc. der Funktionsweise von lernenden Systemen, keinen geeigneten Korridor schafft, um das realen Verhaltens bzw. den Output von KI-Lösungen hinreichend diskriminierungsarm zu gestalten.

Wohl verstandener Datenschutz kann ein Teil der Rahmenbedingungen zum Einsatz von KI-Systemen sein. Lernende Systeme stellen insoweit besondere Anforderungen an das Verständnis datenschutzrechtlicher Grundprinzipien wie der Datenminimierung und der Zweckbindung. Diese Grundprinzipien können aber sinnvoll fortentwickelt werden, um eine menschenzentrierte KI zu ermöglichen.

Lernende Systeme / KI-Anwendungen nehmen derzeit wachsenden Einfluss auf unser Leben. Es erscheint naheliegend, dass dieser Einfluss in der nahen Zukunft noch rasant steigen wird. Doch welche Tätigkeiten dürfen überhaupt an KI ausgelagert werden? Welche Entscheidungen dürfen lernende Systeme treffen, welche dürfen sie vorbereiten? Und unter welchen Voraussetzungen? Der Vortrag versucht, aus rechtlicher Sicht einen aktuellen Überblick zu diesen Fragen zu geben und geht hierbei insbesondere auf die Schufa-Rechtsprechung des EuGH aus 2023 ein.

Die Qualität von Trainingsdaten ist eine der wichtigsten Herausforderungen, damit KI-Systeme qualitativ hochwertige und möglichst verzerrungsfreie Ergebnisse produzieren. Neben objektiven Anforderungen an die Trainingsdaten stellt sich aus Betroffenenperspektive die Frage individueller Einflussmöglichkeiten. Diese wurden im Kommissionsentwurf noch ausgespart, nunmehr jedoch explizit geregelt. Der Vortrag stellt die neuen Rechte dar und setzt sie in Bezug zu den datenschutzrechtlichen Betroffenenrechten.

Anonyme Daten sind eine wesentliche Voraussetzung, um in einer Datenökonomie zugleich viele Daten nutzen zu können und dennoch Datenschutz zu gewährleisten. Dies gilt auch für die Nutzung von Daten für das Anlernen von KI-Systemen.

Der Vortrag erläutert das rechtliche Verständnis von Anonymität, wie es der DSGVO und der Rechtsprechung des EuGH zugrunde liegt. Danach erfordert die Feststellung von Anonymität eine pragmatische Bewertung des Risikos der Identifizierung einer betroffenen Person. Der Vortrag zeigt, welche Differenzierungen für diese Bewertung hinsichtlich der Rolle des Verantwortlichen und hinsichtlich der Anwendungsbereiche für anonyme Daten erforderlich sind. Anonyme Daten unterfallen zwar nicht dem Datenschutzrecht, aber können leicht zu personenbezogenen Daten werden.