Zum Campus
Classroom

KI in der Cybersecurity – Angriff und Verteidigung im Zeitalter von LLMs und Deepfakes

Du lernst, wie Angreifende generative KI nutzen und wie du Large Language Models (LLM) selbst einsetzt, um deine Verteidigung zu automatisieren.

LERNZIELE

  • Du durchschaust die Methoden der Angreifer und führst KI-unterstützt selbst bestimmte Angriffsschritte durch, bevor es Kriminelle tun.
  • Du nutzt generative KI, um die Verteidigung deiner Organisation zu automatisieren.
  • Du integrierst KI-Funktionen sicher in dein Unternehmen, kennst dabei die Grenzen und Schwachstellen der Technik und stoppst riskante Schatten-KI.

LIVE-EVENT

16 April

INHALT

Künstliche Intelligenz verändert die Spielregeln der IT-Sicherheit. Dieser Classroom blickt auf die Schnittmenge von Security und generativer KI. Du erfährst, was Sprachmodelle wirklich leisten und warum ein sicheres Modell noch lange kein sicheres System darstellt.

Du lernst den gesamten Lebenszyklus vertrauenswürdiger KI kennen und erfährst, wie du Modelle auswählst. Du verstehst, wie du mit RAG (Retrieval Augmented Generation) und dem Model Context Protocol (MCP) eine Infrastruktur aufbaust, die den Datenschutz achtet. Ein Schwerpunkt des Classrooms liegt auf der Janusköpfigkeit der Technik: Angreifer finden mit "Vibe Hacking" Schwachstellen so schnell und einfach wie noch nie, gleichzeitig können aber auch Verteidiger massiv aufrüsten.

Statt blind auf Vollautomatisierung zu setzen, erfährst du, wie KI-Assistenten deine Arbeit unterstützen (Augmentierung). Du lernst, mit Coding-Agenten bestehende Tools zu verbinden und eigene Sicherheitswerkzeuge zu bauen, deine Angriffsfläche per OSINT zu verringern und dein Patch-Management zu beschleunigen. In späteren Sessions lernst du deine LLM-Systeme gegen Prompt Injections zu härten und errichtest wirksame Leitplanken zu ihrem Schutz (Guardrails).

Mit einer Mischung aus theoretischem Fundament und Demos aktueller Open-Source-Werkzeuge macht dich dieser Classroom fit für das Zeitalter der KI-gestützten Sicherheit.

SESSIONS

Generative KI im Cybercrime – Wie Hacker künstliche Intelligenz für Malware und Social Engineering nutzen
02.06.2026
07:00 – 11:00

Du erfährst, wie Hacker KI im Angriff einsetzen und lernst, dich davor zu schützen.

  • Sprachmodelle tief in die Kommandozeile und den Terminalemulator integrieren
  • Codegenerierung mit Coding-Agenten wie Claude Code und OpenAI Codex CLI
  • (KI-)Automatisierung von OSINT und Malware-Erzeugung
  • (KI-)Automatisierung von Audits, Netzwerk- und Webapp-Pentesting – sowie aktuelle Grenzen
  • (KI-)Automatisierung von Reverse Engineering
  • (KI-)Automatisierung von Audit- und Pentest-Berichten
  • Social Engineering durch Voice Cloning für Phishing mit Stimme (Vishing), Bild und (Live-)Videofälschung (Deepfakes)
  • CLI-Tools, Werkzeuge mit MCP-Schnittstelle / MCP-Server für Angreifer
  • Überblick über kommerzielle Anbieter
Generative künstliche Intelligenz für Verteidiger und das Purple Team
Beendet
19.05.2026
Aufzeichnung

Du erfährst, wie LLMs und KI-Agenten dich und dein Team im Alltag unterstützen.

  • Automatisierungen, KI-Automatisierungen und Agenten entwickeln mit der Open-Source-Automatisierungsplattform n8n
  • Secure Code Reviews mit KI in einem sicheren Software-Entwicklungszyklus (SDLC)
  • (KI-)Automatisierung für Deception / Honigtöpfe
  • (KI-)Automatisierung von Malware-Analyse
  • (KI-)Automatisierung von Schwachstellenpriorisierung, Bedrohungsmodellierung und Threat Intelligence
  • (KI-)Automatisierung von Playbooks, Tabletops und für CISOs
  • (KI-)Automatisierung der Loganalyse, Incident Response und warum das "vollautomatisierte SOC" noch auf sich warten lässt
  • CLI-Tools, Werkzeuge mit MCP-Schnittstelle / MCP-Server für Verteidiger und das Purple Team
  • Überblick über kommerzielle Anbieter
LLM-Ökosystem sicher aufbauen – mehr Produktivität und vertrauenswürdige Infrastruktur
Beendet
05.05.2026
Aufzeichnung

Du lernst, dem Wildwuchs von KI-Anwendungen in deinem Unternehmen zu begegnen und damit für Sicherheit zu sorgen.

  • Schatten-KI im Unternehmen aufspüren
  • Strategie: Kaufen (Microsoft Copilot, ChatGPT Enterprise) oder Selbermachen (Ollama, vLLM)?
  • Google Workspace mit Gemini-Modellen (Gemini, Gemini Deep Research) als Start für ein vertrauenswürdiges Konsumenten-LLM und Anbindung an Entra ID
  • Schnelleinstieg in Retrieval Augmented Generation (RAG) mit NotebookLM
  • Model Context Protocol (MCP): Chancen und Sicherheitsrisiken
  • KI-Plattformen der Cloud-Riesen: Azure AI Foundry, Google Vertex und AWS Bedrock
  • Eigenes Unternehmens-ChatGPT hosten mit LibreChat und Open WebUI
  • Daten schützen: Anonymisierung mit Presidio
OWASP Top 10 für LLM – Sprachmodelle und KI-Agenten sicher implementieren
Beendet
28.04.2026
Aufzeichnung

Du lernst, was passiert, wenn eine Bewerbung per E-Mail Befehle enthält, die deinen HR-Agenten kapert.

  • "Tödliche Dreierkombination" von Fähigkeiten nach Simon Willison: Zugriff auf unternehmensinterne Daten, Kontakt mit nicht vertrauenswürdigen Inhalten und die Fähigkeit, extern zu kommunizieren
  • Bedrohungsmodellierung von und Angriffe auf Sprachmodelle, Chatbots und Agenten: Von Prompt Injection bis Insecure Output Handling
  • OWASP Top 10 for Large Language Model Applications, Agentic Applications, weitere OWASP-Ressourcen und MITRE ATLAS
  • Jailbreaking und Red Teaming: Wie man KI-Modelle knackt und welche Tools dabei helfen, Lücken zu finden
  • Datenschutz beim Einsatz von KI-Anwendungen, die Drittanbieter entwickelt haben (z. B. Browser-Erweiterungen)
  • Angriffe auf das Model Context Protocol (MCP)
  • Sicherheit außerhalb des Modells: Warum Leitplanken (Guardrails) wie NeMo und Llama Guard wichtiger sind als das Modelltraining selbst
  • Frameworks zum sicheren Einsatz, etwa Googles Secure AI Framework (SAIF)
  • Einführung in das AI Vulnerability Scoring System (AIVSS) und Risikomanagement
  • Absichtlich verwundbare KI-Umgebungen
KI-Security Grundlagen – Large Language Models und Transformer-Architektur verstehen
Beendet
16.04.2026
Aufzeichnung

Du lernst die technischen Grundlagen von KI zu verstehen, um einen sicheren Einsatz zu ermöglichen.

  • Kurze Geschichte der künstlichen Intelligenz: Von Machine Learning bis zu modernen LLMs
  • Technische Grundlagen von LLMs mit Generative Pre-trained Transformer (GPT)-Architektur
  • Sicherheitseigenschaften eines nicht-deterministischen Systems: Halluzinationen, Zustandslosigkeit und warum Kontext alles ist
  • Grundierung und Retrieval Augmented Generation (RAG)
  • Überblick über Sprachmodelle, mit Fokus auf extern bereitgestellte Modelle, die via API angesprochen werden
  • Modell der geteilten Verantwortung bei KI
  • Der KI-Lebenszyklus: Risiken in der Design-, Trainings- und Deployment-Phase
  • Von Automatisierung bis Autonomie: Automatisierung, KI-Automatisierung (Workflows) und KI-Agenten; Human in the Loop
  • Arten von LLMs aus Unternehmenssicht: Interne LLM-Systeme, öffentliche Chatbots und Konsumenten-LLMs
  • Reifegradmodelle für KI-Anwendungen

VORAUSSETZUNGEN

Grundlegendes Verständnis von IT-Sicherheit, Netzwerken, Webtechnologien sowie der Arbeit auf der Kommandozeile werden vorausgesetzt. Vorerfahrungen mit ChatGPT oder Cloud-Umgebungen erleichtern den Einstieg, sind aber nicht notwendig.

DEIN EXPERTE

Frank Ully
Principal Consultant Cybersecurity & Head of CORE (Cyber Operations and Research) | Corporate Trust Business Risk & Crisis Management GmbH

Frank Ully ist erfahrener Pentester und Head of Research bei Corporate Trust in München. In dieser Funktion beschäftigt er sich schwerpunktmäßig mit relevanten Entwicklungen in der offensiven IT-Sicherheit. Frank Ully hält regelmäßig Vorträge und veröffentlicht Artikel in Fachzeitschriften wie der iX.

Nach dem berufsbegleitenden Masterstudium Security Management mit Schwerpunkt IT-Security wurde er zum Offensive Security Certified Expert (OSCE) und Offensive Security Certified Professional (OSCP) zertifiziert. Darüber hinaus verfügt er über weitere Zertifikate wie Certified Red Team Operator (CRTO), Certified Red Team Professional (CRTP) und GIAC Reverse Engineering Malware (GREM).

Foto von Frank Ully

KI in der Cybersecurity – Angriff und Verteidigung im Zeitalter von LLMs und Deepfakes

ab 895,00 € im Einzelkauf
oder mit 25+ weiteren Classrooms
im
PROFESSIONAL PASS
inkl. MwSt. | 752,1 € netto
Preise und Pakete vergleichen

Du hast Fragen zu unseren academy Classrooms? Wir helfen dir gerne weiter.

Fülle ganz einfach und bequem das Kontaktformular aus und wir werdendeine Fragen schnellstmöglich beantworten.

Kontaktformular