Die Notwendigkeit sicherer KI zeigt sich an über 1.000 KI‑bezogenen Regulierungen in mehr als 80 Ländern. Gleichzeitig kann Regulierung mit der dynamischen technologischen Entwicklung, insbesondere agentischer KI, nur schwer Schritt halten. Der Vortrag beleuchtet die Besonderheiten von KI‑Agenten und zeigt auf, welche Maßnahmen Organisationen bereits heute ergreifen können, um die Anforderungen des EU AI Act zu erfüllen und agentische Systeme sicher und regelkonform umzusetzen.

Mit fortschreitender Entwicklung generativer KI, wird es immer schwieriger, KI-generierte und echte Inhalte zu unterscheiden. Dies birgt erhebliche Risiken: Generative KI wird zunehmend für Manipulation, Betrug und Desinformation eingesetzt. Als Reaktion darauf hat die EU im Rahmen der EU KI-Verordnung eine Kennzeichnungspflicht für KI-generierte Inhalte eingeführt, die im August 2026 in Kraft tritt. Dieser Vortrag beleuchtet die Hintergründe und aktuellen Entwicklungen bei der Kennzeichnungspflicht, und erklärt Ansätze zur Markierung KI-generierter Inhalte.

Viele Unternehmen befinden sich gerade in der Pilotierung von KI-Anwendungen und sehen dort schnell die Mehrwerte, die realisiert werden können. Dabei ist der Pilot nur eine Momentaufnahme und für die dauerhafte Realisierung benötigt es Test-Frameworks, Modell-Lifecycle Management, Monitoring und Fehlermanagement. In meinem Vortrag zeige ich - ohne zu tief in Technik abzutauchen - worauf Unternehmen achten müssen und welche Maßnahmen notwendig sind.

Im klassischen Risikomanagement werden IT-Systeme als klar abgrenzbare, kontrollierbare Assets betrachtet. KI-Systeme, insbesondere Large Language Models, zeichnen sich jedoch durch ein probabilistisches, kontextabhängiges und nicht vollständig vorhersehbares Verhalten aus. Risiken entstehen dabei nicht nur durch technische Schwachstellen, sondern vor allem im Zusammenspiel konkreter Anwendungsszenarien, angebundener Systeme und genutzter Daten. Daher ist eine statische Bewertung von KI-Risiken nicht zielführend, stattdessen sollte sie szenariobasiert erfolgen. In diesem Vortrag zeigen die Security-Experten der usd AG anhand praxisnaher Beispiele, wie Unternehmen KI-Risiken systematisch identifizieren, bewerten und wirkungsvoll in bestehende Governance- sowie ISMS-Strukturen integrieren können. So lassen sich KI‑Systeme sicher betreiben und regulatorische Anforderungen wie der EU AI Act erfüllen.

Der Vortrag untersucht die Risiken, die sich aus der Abhängigkeit von einem einzelnen KI- bzw. Reasoning-Modell ergeben – etwa im Hinblick auf Verfügbarkeit, Manipulationsanfälligkeit, systemische Fehler oder regulatorische Eingriffe. Demgegenüber werden Chancen und Sicherheitsgewinne eines kompetitiven bzw. diversifizierten Multi-Model-Ansatzes dargestellt. Neben technischen und strategischen Aspekten werden auch Governance- und Compliancefragen beleuchtet. Ziel ist eine praxisnahe Bewertung, wie Unternehmen ihre KI-Architektur zukunfts- und sicherheitsorientiert gestalten können.

Sicherheitsbehörden stehen vor der Herausforderung, aus der Flut frei verfügbarer Bild- und Textdaten schnell relevante Informationen zu gewinnen. Der Vortrag zeigt anhand konkreter Einsatzszenarien aus der inneren- und äußeren Sicherheit, wie KI-gestützte Klassifizierung, Geolokalisierung und Objekterkennung offene Quellen in strukturierte Lagebilder überführen – und welche technischen, rechtlichen und operativen Leitplanken dabei gelten.

Every large language model integration, agentic AI workflow, and autonomous decision system depends on API calls. APIs are therefore not just a supporting layer for AI, they are its nervous system. Yet most organizations rushing to deploy AI have not extended their API security posture to cover AI-specific attack surfaces: prompt injection through API payloads, shadow AI interfaces, excessive data exposure via LLM-connected APIs, and the growing ecosystem of MCP servers with no authentication enabled by default. This talk, based on KuppingerCole Analysts' Leadership Compass on API Security and Management, maps the AI-specific risks in the API layer, explains why existing API gateways are not sufficient, and outlines what a modern AI-ready API security architecture needs to look like, with concrete examples and practical recommendations for security teams.

Der Vortrag zeigt anhand eines Praxisbeispiels aus der Merck KGaA wie AI Governance im Unternehmen konkret umgesetzt werden kann. Im Fokus stehen Transparenz und Risikomanagement: Eine zentrale Übersicht über die eingesetzten KI-Anwendungen schafft Klarheit über die Nutzung im Unternehmen. Darauf aufbauend ermöglicht ein risikobasierter Ansatz, Governance-Maßnahmen gezielt auf kritische Anwendungsfälle zu konzentrieren. So werden Ressourcen effizient eingesetzt, regulatorische Anforderungen erfüllt, ohne unnötige Komplexität zu erzeugen.