Разработка и развертывание приложений искусственного интеллекта/машинного обучения на платформе Red Hat OpenShift AI

Код : AI267

Продолжительность очно : 5 дней

Продолжительность VILT : 5 дней

Формат обучения : очно, Virtual Instructor-Led Training - ONLINE

О курсе

Курс «Разработка и развертывание приложений ИИ/машинного обучения на Red Hat OpenShift AI» (AI267) предоставляет фундаментальные знания для управления полным жизненным циклом современных приложений ИИ с помощью Red Hat OpenShift AI для эффективного обучения, оценки, обслуживания и мониторинга как прогнозных, так и генеративных моделей ИИ в масштабе. Этот курс помогает студентам развить основные навыки использования Red Hat OpenShift AI в качестве унифицированной платформы MLOps и GenAIOps на практике.

Данный курс основан на Red Hat OpenShift® 4.18 и Red Hat OpenShift AI 2.25.

Для кого этот курс

  • Системные администраторы Linux.
  • Инженеры машинного обучения отвечающие за развертывание, автоматизацию и мониторинг задач на протяжении всего жизненного цикла MLOps и LLMOps.
  • Специалисты по анализу данных, которые обучают, развертывают и отслеживают собственные модели с помощью Red Hat OpenShift AI.

Цель

  • Определение OpenShift AI как единой платформы MLOps и GenAIOps и настройка проектов по анализу данных для командной работы.
  • Создание, настройка и управление рабочими средами для разработки ИИ/машинного обучения и подключение к источникам данных.
  • Подготовка, развертывание и запуск моделей с использованием среды выполнения OpenShift AI Model Serving.
  • Развертывание генеративных и прогностических моделей искусственного интеллекта с использованием OpenVINO и vLLM.
  • Отслеживание развернутых моделей на предмет смещения, дрейфа данных и показателей производительности с помощью TrustyAI.
  • Создание и управление конвейерами обработки данных с помощью Elyra и Kubeflow Pipelines SDK.
  • Внедрение расширенных функции конвейера обработки данных, включая компоненты контейнеров, управление артефактами и отслеживание экспериментов.
  • Выбор, оптимизация и оценка больших языковых моделей, используя каталог моделей OpenShift AI и LMEval.
  • Создание готовых к внедрению в производство приложений на основе искусственного интеллекта, включая рабочие процессы RAG и агентного управления с защитными механизмами.

Требуемые знания и навыки

  • Базовое понимание принципов и рабочих процессов машинного обучения.
  • Базовое понимание генеративного искусственного интеллекта и больших языковых моделей (LLM).
  • Базовый опыт работы с Git. 
  • Опыт разработки на Python или завершение курса «Программирование на Python с Red Hat»(AD141).

Приобретаемые навыки

После завершения курса слушатели получат навыки, позволяющие им:

    • Управлять полным жизненным циклом современных приложений искусственного интеллекта, эффективно обучая, тестируя, развертывая и отслеживая как прогностические, так и генерирующие модели искусственного интеллекта в масштабе.
    • Настраивать проекты для совместной работы с данными, эффективно использовать среды workbench и назначать специализированные ресурсы.
    • Готовить, развертывать и обслуживать модели с помощью специализированных сред выполнения.
    • Автоматизировать рабочие процессы MLOps за счет создания передовых конвейеров обработки данных и создания готовых к производству решений GenAI.
    • Обеспечивать надежную и этичную работу ИИ, отслеживая использование развернутых моделей на предмет предвзятости и смещения данных
    • Внедрить защитные ограждения для генерирующих приложений.

Программа

  • Введение в Red Hat OpenShift AI
  • Использование workbench для разработки AI/ML
  • Основы обслуживания моделей
  • Обслуживание прогнозирующих моделей ИИ
  • Мониторинг моделей ИИ
  • Введение в конвейеры ИИ
  • Разработка и эксперименты с расширенными конвейерами Kubeflow
  • Оптимизация и оценка моделей Gen AI
  • Создание агентских приложений GenAI