Hands-on Azure OpenAI: Schritt für Schritt zur sicheren KI-Anwendung

Azure OpenAI unterscheidet sich vom "reinen" OpenAI-SaaS u. a. durch Azure-typische Betriebs- und Sicherheitsmodelle, regionale Bereitstellung und tiefgehende Integration ins Azure-Ökosystem (z. B. Entra ID, Netzwerke, Monitoring). Dieser Workshop vermittelt die praktische Umsetzung mit Fokus auf reproduzierbare Deployments, sichere Anbindung und realistische Betriebsmodelle.

Nach Teilnahme am Workshop können Sie ...

• Azure OpenAI einordnen und Unterschiede zu OpenAI SaaS für Architektur und Betrieb bewerten.

• Azure OpenAI-Instanzen bereitstellen, manuell im Portal und automatisiert mit Bicep/OpenTofu.

• Zugriffs- und Sicherheitskonzepte anwenden, einschließlich RBAC, Managed Identity und Content Filtering.

• Netzwerkisolation umsetzen und Azure OpenAI sicher über Private Endpoints und VNets einbinden.

• Containerisierte Web-App mit Azure-OpenAI-Backend deployen und betreiben.

• Good Practices zu Kosten, Skalierung, Rollout-Strategien und Betrieb anwenden.

Inhalte

Der Workshop ist als durchgängiges Live-Beispiel aufgebaut: Sie starten mit einer kompakten Einführung zu Azure OpenAI und den wichtigsten Unterschieden zu OpenAI. Danach deployen Sie eine vollständige Azure-Umgebung, zuerst manuell im Portal, um die Konzepte direkt zu sehen, und anschließend automatisiert mit Infrastructure-as-Code über Bicep und/oder OpenTofu.

Im Sicherheitsblock härten Sie den Zugriff: Sie konfigurieren Azure RBAC für fein granulare Berechtigungen, nutzen Managed Identities für die serverseitige Authentifizierung ohne Secrets und setzen Content Filtering ein. Anschließend isolieren Sie das Netzwerk durch VNet-Integration und Private Endpoints für Azure OpenAI.

Im nächsten Schritt setzen Sie Azure Dynamic Sessions ein für kurzlebige, isolierte Codeausführung. Sie setzen alles in einer containerisierten Web-Anwendung (Node.js/Next.js) um, die über die Private-Endpoint-gesicherte Azure-OpenAI-Instanz läuft. Der gesamte Tag folgt einem klaren roten Faden: es gibt keinen Folienmarathon, sondern nachvollziehbare Schritte vom leeren Azure-Abo bis zur laufenden KI-App.

Themen in der Übersicht

• 1. Einführung und Grundlagen

  • Überblick: Azure OpenAI im Vergleich zu OpenAI SaaS

  • Architektur, Regionen, Quoten, Governance und Betriebsmodelle

  • Einordnung in das Azure-Ökosystem (Entra ID, Netzwerke, Monitoring)

• 2. Deployment – der erste Einstieg

  • Manuelles Deployment im Azure-Portal: Aufbau und Funktionstests

  • Verständnis der grundlegenden Ressourcen und Abhängigkeiten

• 3. Deployment automatisieren (Infrastructure as Code)

  • Automatisierte Bereitstellung mit Bicep und/oder OpenTofu

  • Wiederholbare Deployments und Integration in CI/CD-Pipelines

• 4. Sicherheit und Zugriffskontrolle

  • Azure RBAC: Rollen, Berechtigungen und Best Practices

  • Managed Identities: Authentifizierung ohne Secrets

  • Content Filtering: Richtlinien und Schutzmechanismen

• 5. Netzwerk & Isolation

  • Integration von Azure OpenAI in VNets

  • Konfiguration von Private Endpoints und DNS

  • Sichere Kommunikation und Zugriffspfadgestaltung

• 6. Isolierte Ausführung mit Azure Dynamic Sessions

  • Konzept und Einsatzmöglichkeiten

  • Aufbau sicherer, kurzlebiger Compute-Umgebungen

• 7. Von der Plattform zur Anwendung

  • Aufbau einer containerisierten Web-App (Node.js/Next.js) mit Azure-OpenAI-Backend

  • Verbindung über Private Endpoints

  • Deployment, Betrieb und Monitoring

• 8. Abschluss und Diskussion

  • Zusammenfassung der zentralen Erkenntnisse

  • Offene Fragen, Austausch und individuelle Vertiefung

Zielgruppe

• Softwareentwickler und DevOps-Engineers, die erste praktische Erfahrungen mit Azure OpenAI sammeln und lernen möchten, wie sich KI-Modelle sicher in Azure-Workloads integrieren und betreiben lassen.

• Softwareentwickler, DevOps-Engineers und Tech Leads, die bereits Azure nutzen und Cloud-seitige Sicherheits- und Netzwerkmechanismen praktisch anwenden wollen.

Voraussetzungen

Vorkenntnisse

• Basiswissen über Azure (Ressourcen, RBAC, Abonnement/Resource Groups)

• Sicherer Umgang mit Konsole/CLI

• hilfreich, aber nicht zwingend: Grundkenntnisse Container/CI

Technische Voraussetzungen

• Azure-Account mit Berechtigungen zum Erstellen/Verwalten von Ressourcengruppen, Anwendungsregistrierungen, Service Principals, Netzwerken, Private Endpoints & Rollen

• Azure CLI (aktuell) inkl. Bicep-Erweiterung

• Visual Studio Code

• Node.js (aktuelle LTS)

• Optional, empfohlen für den App-Teil: Docker Desktop oder kompatible Container-Runtime

Leistungen Ihres Workshoptickets

• Sie erhalten Ihre Schulungsunterlagen in digitaler Form. So können Sie selbst entscheiden, ob Sie diese elektronisch bearbeiten und archivieren oder lieber ausdrucken möchten.

• Mit der Teilnahmebescheinigung unterstreichen Sie Ihr Weiterbildungsengagement und verbessern Ihre Perspektiven für interne Karriereschritte oder neue berufliche Wege.

Durchführung

• Sie nehmen über Zoom am Workshop teil, wobei die Verbindung über einen lokal gehosteten, DSGVO-konformen On-Premises-Connector erfolgt.

• Um einen intensiven Austausch zwischen dem Trainer und den Teilnehmenden zu gewährleisten, erfolgt die Schulung in Gruppen von maximal 20 Personen.

• Der Workshop endet um 16:30 Uhr. Danach, bis max. 17:30 Uhr ist Zeit für Diskussionen und individuelle Fragen.

• Sollte die Durchführung der Veranstaltung aufgrund höherer Gewalt, der Verhinderung eines Referenten, von Störungen am Veranstaltungsort oder wegen zu geringer Teilnehmerzahl nicht möglich sein, werden die Teilnehmenden so früh wie möglich informiert.