Der Vortrag beschäftigt sich damit, wie sich neuronale Netze sicher nutzen und gleichzeitig ihre Entscheidungen erklären lassen. Dafür wird die sichere Inferenz mittels Mehrparteienberechnung (MPC) mit der Erklärbarkeitsmethode Occlusion Analysis kombiniert. Es wird gezeigt, wie sich diese Methode in eine sichere Inferenz integrieren lässt und wie sich die Qualität der Erklärungen sowie der zusätzliche Rechenaufwand im Vergleich zu einer herkömmlichen Inferenz verhalten.

Die Teilnehmenden erhalten einen Einblick in die Herausforderungen sicherer und erklärbarer KI. Sie

erfahren, dass sich mit der Occlusion Analysis auch im MPC-Setting aussagekräftige Erklärungen

erzeugen lassen, dies jedoch mit einem deutlich höheren Rechenaufwand verbunden ist. Dabei wird deutlich, dass Datenschutz und Erklärbarkeit miteinander vereinbar sind, ihre praktische Umsetzung

jedoch zusätzliche Ressourcen erfordert.