LLMOps and AI Deployment

Deploy, monitor and maintain LLM applications in production: versioning, evaluation, cost control and incident response.

ASA-W12 24 ساعة مباشر عبر الإنترنت متقدم

ماذا ستتعلّم

  • Package and deploy LLM services
  • Version prompts and models
  • Set up evaluation and monitoring
  • Control cost and latency
  • Handle incidents and rollbacks

Deploy, monitor and maintain LLM applications in production: versioning, evaluation, cost control and incident response.

Duration: 4 days (proposed). Delivery: face-to-face at your premises or live online; available as a private corporate session.

Practical exercises

  • Containerise an LLM service
  • Add an evaluation pipeline
  • Create a monitoring dashboard

المنهج

  1. LLM serving options · 4 h
  2. Packaging and deployment · 5 h
  3. Prompt and model versioning · 4 h
  4. Evaluation pipelines · 5 h
  5. Monitoring, cost and incidents · 6 h

المتطلبات

  • Python
  • Containers (Docker) basics

الفئة المستهدفة

  • DevOps and platform engineers
  • ML engineers

البرامج والمعدات

  • Laptop (8 GB RAM or more) with Python 3.11+ or a free cloud notebook
  • Code editor (VS Code)
  • Docker Desktop

التقييم

Practical deployment assessed against a checklist

تقييمات الطلاب

لا توجد تقييمات بعد.

مقترح لك

تابع مسارك التعليمي

موضوع مشابه
● مباشر EN · ع قيد التطوير
الذكاء الاصطناعي والمهارات الرقمية

Advanced Professional Program in Applied AI Engineering

Working title. A six-month program combining machine learning, LLM engineering, automatio…

240 ساعة مباشر عبر الإنترنت
$4,800
موضوع مشابه
● مباشر EN · ع قيد التطوير
الذكاء الاصطناعي والمهارات الرقمية

Professional Certificate in Secure Enterprise AI Development

Build enterprise-grade LLM applications with secure design, retrieval, evaluation and dep…

120 ساعة مباشر عبر الإنترنت
$2,800
موضوع مشابه
● مباشر EN · ع قيد التطوير
الذكاء الاصطناعي والمهارات الرقمية

Professional Certificate in AI Automation and Agents

Design, build and operate supervised AI agents and automations that connect to business s…

72 ساعة مباشر عبر الإنترنت
$1,600
موضوع مشابه
● مباشر EN · ع قيد التطوير
الذكاء الاصطناعي والمهارات الرقمية

Professional Certificate in Python and Applied AI

From first Python script to practical AI applications: data analysis, machine learning ba…

60 ساعة مباشر عبر الإنترنت
$1,200