Descriere
«LLMOps: управление большими языковыми моделями».
Книга посвящена практическим аспектам внедрения и эксплуатации крупных моделей машинного обучения (LLM). Она охватывает полный цикл жизни проектов на базе LLM, начиная от выбора подходящей модели и подготовки данных, заканчивая развертыванием решений и контролем качества.
Основные темы:
- Архитектура и разработка LLM.
- Операционные процессы (LLMOps).
- Адаптация моделей к домену и оптимизация инфраструктуры.
- Безопасность и приватность данных.
- Методы оценки и мониторинга производительности.
Особое внимание уделено решению ключевых проблем внедрения LLM, таких как размер и сложность моделей, скорость обработки запросов, этика и стоимость. Книга предназначена для инженеров, специалистов по данным и менеджеров, желающих эффективно интегрировать LLM в бизнес-процессы.
Об авторе
Аби АРИАН возглавляет собственную компанию Abide AI, исследует искусственный интеллект и машинное обучение, почти 10 лет разрабатывает ML-системы для бизнеса. Работала приглашенным научным сотрудником в Лаборатории когнитивных систем Калифорнийского университета в Лос-Анджелесе. Аби развивает науку в области агентов, распределенных многоагентных систем и GPU для масштабных задач ИИ.
«Эта книга проясняет суть LLMOps, предлагая четкие и практические рекомендации. Идеальный ресурс для инженеров по машинному обучению, команд, отвечающих за платформы, и всех, кто переводит большие языковые модели из стадии прототипа в промышленную эксплуатацию». — Нирмал Будхатоки, старший специалист по обработке данных, Microsoft
Аннотация
Книга "LLMOps: Управление большими языковыми моделями" посвящена практическим аспектам внедрения, эксплуатации и масштабирования систем на базе больших языковых моделей. Автор подробно рассматривает полный жизненный цикл LLM-проектов — от выбора архитектуры и подготовки данных до развертывания, мониторинга и оптимизации решений в промышленной среде.
Особое внимание уделено вопросам надежности, производительности, безопасности и стоимости эксплуатации моделей, а также адаптации LLM под конкретные бизнес-задачи. Рассматриваются современные подходы к организации LLMOps-процессов и интеграции моделей в существующую ИТ-инфраструктуру.