LLMOps - Sprachmodelle produktiv einsetzen

In diesem Kurs erfahren Sie, wie Sie große Sprachmodelle wie GPT oder LLaMA im Unternehmensumfeld betreiben. Sie automatisieren LLM-Workflows, steuern APIs und binden LLMs mit LangChain oder eigenen Modulen in produktive Prozesse ein.
<br>
<br>Dabei berücksichtigen Sie Datenschutz, Monitoring, Versionierung und Prompt-Management – und entwickeln Strategien für stabile, sichere und kontrollierbare KI-Anwendungen.
<br>
<br>Dieses Seminar ist ein Angebot der PC-COLLEGE - Gruppe.
<br><br>
<b>Inhalt:</b>
<ul>
<li>Einführung in LLMOps</li>
<li>- Unterschiede zu MLOps</li>
<li>- Typische Herausforderungen im produktiven Einsatz</li>
<li>LLM-Architekturen und Deployment-Strategien</li>
<li>- Hosted APIs vs. On-Premise</li>
<li>- Modellwahl und Infrastruktur</li>
<li>Tooling und Frameworks</li>
<li>- LangChain, BentoML, FastAPI, Docker</li>
<li>- Model- und Prompt-Management</li>
<li>Monitoring und Logging</li>
<li>- Antwortqualität, Prompt-Auswertung, LLM-Observability</li>
<li>- Tools: Weights & Biases, LangSmith, OpenTelemetry</li>
<li>Sicherheit und Compliance</li>
<li>- Datenschutz, Auditierbarkeit, Governance-Regeln</li>
<li>Kostenkontrolle und Skalierung</li>
<li>- Token-Tracking, Caching, Request-Management</li>
<li>Beispielprojekt</li>
<li>- Aufbau einer LLM-basierten Anwendung mit Logging, Prompt-Debugging und Monitoring</li>
</ul>

Gute Kenntnisse in Python, API-Nutzung und Container-Technologien. Erfahrungen mit DevOps-Tools, ML-Pipelines oder Cloud-Umgebungen sind hilfreich.

Das Seminar richtet sich an technische Fachkräfte, die den produktiven Einsatz von Sprachmodellen verantworten – in Entwicklung, Betrieb oder Architektur.

Im Preis enthalten sind PC-COLLEGE - Zertifikat, Pausenverpflegung, Getränke und Kursmaterial.

PC-COLLEGE-Schulungshaus

Weiterführende Informationen auf der Seite des Anbieters