Schulungsübersicht
Einführung in die Modelloptimierung und -bereitstellung
- Überblick über DeepSeek-Modelle und Herausforderungen beim Einsatz
- Verständnis der Modelleffizienz: Geschwindigkeit vs. Genauigkeit
- Wichtige Leistungsmetriken für AI-Modelle
Optimierung von DeepSeek-Modellen für Leistung
- Techniken zur Reduzierung der Inferenzlatenz
- Modellquantisierung und Pruning-Strategien
- Verwendung optimierter Bibliotheken für DeepSeek-Modelle
Implementierung von MLOps für DeepSeek-Modelle
- Versionskontrolle und Modellverfolgung
- Automatisieren von Modellumschulung und Bereitstellung
- CI/CD-Pipelines für KI-Anwendungen
Bereitstellung von DeepSeek-Modellen in Cloud- und On-Premise-Umgebungen
- Auswahl der richtigen Infrastruktur für die Bereitstellung
- Bereitstellung mit Docker und Kubernetes
- Verwalten von API-Zugriff und Authentifizierung
Skalierung und Überwachung von KI-Einsätzen
- Lastausgleichsstrategien für KI-Dienste
- Überwachung von Modelldrift und Leistungsverschlechterung
- Implementierung der automatischen Skalierung für KI-Anwendungen
Gewährleistung von Sicherheit und Compliance in KI-Implementierungen
- Verwaltung des Datenschutzes in KI-Workflows
- Einhaltung von KI-Vorschriften im Unternehmen
- Best Practices für sichere KI-Implementierungen
Zukünftige Trends und KI-Optimierungsstrategien
- Fortschritte bei den Techniken zur Optimierung von KI-Modellen
- Aufkommende Trends in MLOps und KI-Infrastruktur
- Erstellung einer KI-Implementierungs-Roadmap
Zusammenfassung und nächste Schritte
Voraussetzungen
- Erfahrung mit der Bereitstellung von KI-Modellen und Cloud-Infrastrukturen
- Beherrschung einer Programmiersprache (z. B. Python, Java, C++)
- Verständnis von MLOps und Optimierung der Modellleistung
Zielgruppe
- KI-Ingenieure, die DeepSeek-Modelle optimieren und bereitstellen
- Datenwissenschaftler, die an der Leistungsoptimierung von KI arbeiten
- Spezialisten für maschinelles Lernen, die Cloud-basierte KI-Systeme verwalten
Erfahrungsberichte (2)
the ML ecosystem not only MLFlow but Optuna, hyperops, docker , docker-compose
Guillaume GAUTIER - OLEA MEDICAL
Kurs - MLflow
I enjoyed participating in the Kubeflow training, which was held remotely. This training allowed me to consolidate my knowledge for AWS services, K8s, all the devOps tools around Kubeflow which are the necessary bases to properly tackle the subject. I wanted to thank Malawski Marcin for his patience and professionalism for training and advice on best practices. Malawski approaches the subject from different angles, different deployment tools Ansible, EKS kubectl, Terraform. Now I am definitely convinced that I am going into the right field of application.