Mit fortschreitender Entwicklung generativer KI, wird es immer schwieriger, KI-generierte und echte Inhalte zu unterscheiden. Dies birgt erhebliche Risiken: Generative KI wird zunehmend für Manipulation, Betrug und Desinformation eingesetzt. Als Reaktion darauf hat die EU im Rahmen der EU KI-Verordnung eine Kennzeichnungspflicht für KI-generierte Inhalte eingeführt, die im August 2026 in Kraft tritt. Dieser Vortrag beleuchtet die Hintergründe und aktuellen Entwicklungen bei der Kennzeichnungspflicht, und erklärt Ansätze zur Markierung KI-generierter Inhalte.

Viele Unternehmen befinden sich gerade in der Pilotierung von KI-Anwendungen und sehen dort schnell die Mehrwerte, die realisiert werden können. Dabei ist der Pilot nur eine Momentaufnahme und für die dauerhafte Realisierung benötigt es Test-Frameworks, Modell-Lifecycle Management, Monitoring und Fehlermanagement. In meinem Vortrag zeige ich - ohne zu tief in Technik abzutauchen - worauf Unternehmen achten müssen und welche Maßnahmen notwendig sind.

Im klassischen Risikomanagement werden IT-Systeme als klar abgrenzbare, kontrollierbare Assets betrachtet. KI-Systeme, insbesondere Large Language Models, zeichnen sich jedoch durch ein probabilistisches, kontextabhängiges und nicht vollständig vorhersehbares Verhalten aus. Risiken entstehen dabei nicht nur durch technische Schwachstellen, sondern vor allem im Zusammenspiel konkreter Anwendungsszenarien, angebundener Systeme und genutzter Daten. Daher ist eine statische Bewertung von KI-Risiken nicht zielführend, stattdessen sollte sie szenariobasiert erfolgen. In diesem Vortrag zeigen die Security-Experten der usd AG anhand praxisnaher Beispiele, wie Unternehmen KI-Risiken systematisch identifizieren, bewerten und wirkungsvoll in bestehende Governance- sowie ISMS-Strukturen integrieren können. So lassen sich KI‑Systeme sicher betreiben und regulatorische Anforderungen wie der EU AI Act erfüllen.

Der Vortrag untersucht die Risiken, die sich aus der Abhängigkeit von einem einzelnen KI- bzw. Reasoning-Modell ergeben – etwa im Hinblick auf Verfügbarkeit, Manipulationsanfälligkeit, systemische Fehler oder regulatorische Eingriffe. Demgegenüber werden Chancen und Sicherheitsgewinne eines kompetitiven bzw. diversifizierten Multi-Model-Ansatzes dargestellt. Neben technischen und strategischen Aspekten werden auch Governance- und Compliancefragen beleuchtet. Ziel ist eine praxisnahe Bewertung, wie Unternehmen ihre KI-Architektur zukunfts- und sicherheitsorientiert gestalten können.

Sicherheitsbehörden stehen vor der Herausforderung, aus der Flut frei verfügbarer Bild- und Textdaten schnell relevante Informationen zu gewinnen. Der Vortrag zeigt anhand konkreter Einsatzszenarien aus der inneren- und äußeren Sicherheit, wie KI-gestützte Klassifizierung, Geolokalisierung und Objekterkennung offene Quellen in strukturierte Lagebilder überführen – und welche technischen, rechtlichen und operativen Leitplanken dabei gelten.

folgt in Kürze

Der Vortrag zeigt anhand eines Praxisbeispiels aus der Merck KGaA wie AI Governance im Unternehmen konkret umgesetzt werden kann. Im Fokus stehen Transparenz und Risikomanagement: Eine zentrale Übersicht über die eingesetzten KI-Anwendungen schafft Klarheit über die Nutzung im Unternehmen. Darauf aufbauend ermöglicht ein risikobasierter Ansatz, Governance-Maßnahmen gezielt auf kritische Anwendungsfälle zu konzentrieren. So werden Ressourcen effizient eingesetzt, regulatorische Anforderungen erfüllt, ohne unnötige Komplexität zu erzeugen.