Einführung in LLMOps - Strategien und Best Practices für den Betrieb von Large Language Models

Objectives

In dieser dreitägigen Schulung "Einführung in LLMOps - Strategien und bewährte Methoden für den Betrieb von Large Language Models" erhalten Sie ein grundlegendes Verständnis von Large Language Models (LLMs) und deren Anwendungsbereichen in der Industrie. Sie erwerben umfassendes Wissen über LLMOps, einschließlich der Herausforderungen und Lösungen beim Betrieb von LLMs sowie Kenntnisse über gängige Tools und Plattformen wie Databricks und MLflow. Sie lernen bewährte Methoden für den erfolgreichen Betrieb von LLMs kennen und erfahren, wie Sie diese Tools effektiv konfigurieren und anwenden können.

Die Schulung vermittelt außerdem Fähigkeiten zur Überwachung, Qualitätssicherung, Automatisierung und Synchronisation von LLMs. Ethik und Compliance im Umgang mit LLMs werden ebenfalls behandelt, und Sie lernen, LLMs in verschiedenen Umgebungen zu skalieren und bereitzustellen.

Target audience

• Entwickler
• IT-Entscheidungsträger
• Operations- und Infrastruktur-Experten

Requirements

• Grundkenntnisse in Machine Learning
• Erfahrung mit Python
• Verständnis von Cloud-Plattformen
• Basiskompetenz in Data Operations

Agenda

Einführung in LLMOps und Grundlagen

• Einführung in Large Language Models
• Grundlagen von LLMOps
• Automatisierung und Synchronisation
• Hands-On Session: Einführung in Tools
  • Verwendung von Tools wie Databricks, MLflow
  • Einrichtung der Umgebung für LLMOps
  • Praktische Übungen zur Automatisierung und Synchronisation

Überwachung, Qualität und Ethik

• Überwachung von Large Language Models
• Qualitätssicherung und Testen
• Ethik und Compliance
• Hands-On Session: Überwachung und Qualität
  • Einrichtung von Überwachungstools
  • Durchführung von Qualitätskontrollen
  • Praktische Übungen zur Überwachung und Qualitätssicherung

Skalierung, Deployment und Best Practices

• Skalierung von Large Language Models
• Deployment-Strategien
• Fallstudien und Erfolgsgeschichten
• Abschluss-Workshop und Netzwerken
  • Abschlussprojekt: Implementierung eines End-to-End LLMOps-Prozesses
  • Praktische Übungen zur Skalierung und Bereitstellung
  • Netzwerkmöglichkeiten und Diskussion über zukünftige Trends