Hacking LLM Applications – Erfahrungen & Einblicke aus unseren Pentests

KI revolutioniert unsere Welt – doch unsichere LLM-Integrationen sind ein leichtes Ziel für Hacker. Erfahren Sie, wie Sie sich wirksam schützen.

Während Unternehmen sich beeilen, Large Language Models (LLMs) in ihren Anwendungen einzusetzen, sind Angreifer oft noch schneller. In diesem Live-Webinar berichten wir über unsere Erfahrungen aus Penetrationstests bei LLM-Implementierungen unserer Kunden und diskutieren grundlegende Methoden des LLM-Security-Testings.

Wir stellen eine bahnbrechende Technik zur Prompt-Extraktion vor – inklusive einer Live-Demonstration – die die bisherigen Sicherheitsannahmen über LLMs auf den Kopf stellt. Sie sehen, wie echte Angreifer allein anhand von Modellausgaben vertrauliche Informationen preisgeben können – trotz etablierter Sicherheitsmaßnahmen. Basierend auf neuesten Forschungsergebnissen zeigen wir, warum aktuelle Tools nicht mithalten können, wie diese Methoden entdeckt wurden und was Sie tun können, um Angreifern einen Schritt voraus zu bleiben.

Speaker

Warren Atkinson, Security Consultant & Trainer
Unser Experte Warren Atkinson ist spezialisiert auf Windows-Exploits, Reverse Engineering und Python-basierte Offensive Tools und betreibt tiefgehenden Forschung im Bereich LLM-Security. Warren hat den neuen „Hacking LLM“-Schulungskurs entwickelt und führt viele der Cloud-, Web- und Infrastruktur-Hacking-Kurse von NotSoSecure durch. Er trainiert regelmäßig auf internationalen Events wie Black Hat und anderen führenden globalen Sicherheitsveranstaltungen.

Agenda:
– Begrüssung & Einführung
– Erkenntnisse aus Pentests mit LLMs
– Methoden & Vorgehen beim Testen
– Neueste Forschungsergebnisse
– Live-Demo
– Fragen & Antworten (Q&A)

Zielgruppe:
– Security-Leads und Security-Teams
– KI/ML-Engineers
– AppSec-Fachkräfte
– DevOps-Engineers
– CISOs

Verantwortliche für Produktsicherheit:
Technische Entscheider, die LLM-basierte Systeme entwickeln oder schützen