AI Hacking Lab

Ausgebucht

Das von Michel Perez und Philipp Leo für die ETH Zürich entwickelte Ausbildungsformat vermittelt einen einzigartigen, praxisnahen Einblick in die Sicherheitsrisiken moderner Large Language Models und ihre Auswirkungen auf Unternehmen und Organisationen.

Generative KI verändert Unternehmen rasant. Gleichzeitig entstehen neue Angriffsflächen. Prompt Injection, Jailbreaks, Datenextraktion oder die Umgehung von Guardrails sind längst keine theoretischen Konzepte mehr, sondern reale Herausforderungen.

Den Auftakt bildet ein kompakter Impulsbeitrag, der aktuelle Angriffstechniken, Bedrohungen und Schutzmechanismen einordnet und die fachliche Grundlage für das anschliessende Lab schafft.

Im rund dreistündigen AI Hacking Lab werden die Teilnehmenden selbst zu Angreifern. Sie greifen verschiedene Large Language Models mit unterschiedlichen Sicherheitsarchitekturen und Schutzmechanismen gezielt an, testen deren Widerstandsfähigkeit und erleben aus erster Hand, welche Angriffe erfolgreich sind, welche Schutzmechanismen greifen und wo moderne Guardrails an ihre Grenzen stossen.

Vorkenntnisse und Skills
Technische Vorkenntnisse sind von Vorteil, aber nicht erforderlich. Entscheidend sind Neugier, analytisches Denken und die Bereitschaft, die Perspektive des Angreifers einzunehmen. Wer die Risiken künstlicher Intelligenz verstehen will, muss sie selbst erleben.