Der Vortag wird neben einer kurzen Einführung in die Arbeit des Europäischen Zentrums zur Bekämpfung der Cyberkriminalität (EC3), einen Überblick über bestehenden und möglichen zukünftigen kriminellen Missbrauch von KI Systemen aus polizeilicher Sicht bieten. Dabei sollen aber auch Möglichkeiten aufgezeigt werden, wie diese Risiken minimiert werden können.

Um Cyberangriffe auf Unternehmen erfolgreich abzuwehren, sind viele aufeinander abgestimmte technische und auch organisatorische Maßnahmen erforderlich. Datenzentrierte Ansätze der Künstlichen Intelligenz und des Machinellen Lernens finden hier sinnvolle und nützliche Einsatzgebiete, haben aber auch ihre Grenzen. Die wichtigsten KI-Verfahren werden in Bezug auf ihre Rolle beim Virenschutz iwS in Unternehmen präsentiert.

Die Grundlagen zur automatisierten Manipulation einer medialen Identität mittels KI (sog. Deepfakes) werden erläutert mit dem Fokus auf Face Swapping. Echtzeit-Einsatzmöglichkeiten werden im Kontext der biometrischer Gesichtserkennungs-Systeme diskutiert und die sich ergebenden Gefahren und Gegenmaßnahmen werden anschließend besprochen.

Obwohl künstliche Intelligenz in den vergangen Jahren viele herausfordernde Probleme gelöst hat, so birgt diese Technologie auch großes Potential für Missbrauch: Deepfakes, d.h. computergenerierte Mediendatein, ermöglichen Verleumdung, Betrug und Fake News, und gefährden somit sowohl die Sicherheit des Individuums als auch die unserer Gesellschaft. Wie werden diese Deepfakes erstellt, und welche Möglichkeiten haben wir, uns zur Wehr zu setzen? Wir geben Einblick in die Erstellung von Audio-Deepfakes, die benötigten Trainingsdaten und die Modellarchitektur; und betrachten außerdem die Möglichkeiten und Grenzen von Deepfake-Erkennungsalgorithmen.

Absicherung von KI im Sinne von funktionaler Sicherheit (Safety) und Cyber-Sicherheit (Security) wird heute noch zumeist separat betrachtet. Es gibt jedoch durchaus Beispiele, die nahelegen, dass diese beiden Arten der Absicherung stärker gemeinsam betrachtet werden müssen. Unter dem Stichwort Vertrauenswürdige KI (Trusted-AI) werde ich dies in meinem Vortrag anhand einiger Beispiele aus dem Bereich Hochautomatisiertes Fahren diskutieren.

KI-Systeme werden beliebigen Konformitätsprüfungen unterzogen von der Eigenerklärung bis zur Zertifizierung. Der Vortrag entwickelt die Vorbedingungen für jede Konformitätsprüfung im gesamten Lebenszyklus eines KI-Systems und stellt ein Prüfkonzept vor.

Software developers' programming security mistakes can threaten millions of end users' data. To deepen insights into developers' security behavior around the security-critical task of user-password storage, Naiakshina et al. conducted laboratory, online, and field studies with computer science students, freelancers, and professional developers from various companies. Besides investigating software developers' processes and security practices while storing user passwords in databases, they tested the usability of different application programming interfaces (APIs) and explored the methodological implications of several security-study parameters, including deception task design, sample variety, and the comparison of qualitative with quantitative research approaches.

Nicolas Müller (AISEC),

Alena Naiakshina (RUB),

Arndt von Twickel (BSI DI11),

Kristina Unverricht (BSI WG31)