Lex Humanitas показывает, где форма скрывает власть и подменяет смысл.

Google Play Веб-версия

Управление автономными ИИ-системами

От /

От намерения к автономной системе исполнения

Курс не про «как писать промпты агентам», а про управление деятельностью, где исполнителем становится ИИ.

Если агент способен сам планировать, выбирать инструменты, читать внешнюю среду, создавать артефакты, обращаться к другим агентам и несколько часов двигаться к цели, то промпт перестаёт быть главным объектом управления. Главным становится другое:

Как субъект превращает намерение в управляемую систему действий, если непосредственное выполнение передано автономному исполнителю.

Здесь соединяются management, software engineering, systems thinking, requirements engineering и AI engineering.

Курс специально не начинается с LangGraph, CrewAI, OpenAI Agents SDK, MCP и других инструментов. Иначе возникает классическая ловушка: сначала человеку дают готовые категории и интерфейсы, а потом он начинает думать внутри них.

Начинать нужно раньше.

Структура курса: 13 частей и 28 модулей

Подробное содержание каждого модуля вынесено в отдельный документ. Исходная структура курса сохранена: 13 частей и 28 модулей.

Часть I. Что вообще значит «управлять агентом»

  1. Агент не является целью
  2. Делегирование

Часть II. Цель и требования

  1. Goal ≠ Task
  2. Требования к результату
  3. Definition of Done для агента

Часть III. Среда агента

  1. Агент существует не в промпте
  2. Tools как полномочия
  3. Границы полномочий

Часть IV. Планирование

  1. От задачи к плану
  2. Зависимости
  3. Риск и неопределённость

Часть V. Контекст и память

  1. Context engineering
  2. Память

Часть VI. Наблюдаемость

  1. Что агент фактически сделал
  2. State

Часть VII. Контроль качества

  1. Evals
  2. Независимая проверка

Часть VIII. Ошибки и восстановление

  1. Failure taxonomy
  2. Escalation

Часть IX. Multi-Agent Systems

  1. Когда нужен второй агент
  2. Роли агентов
  3. Координация агентов

Часть X. Экономика агента

  1. Cost of autonomy
  2. Budget как ограничение

Часть XI. Архитектура агентной системы

Архитектурная часть связывает цели, состояние, инструменты, память, наблюдения и оценку. Framework-и вводятся только после освоения этих понятий.

Часть XII. Coding Agents

  1. Coding agent как инженер
  2. Репозиторий как среда агента

Часть XIII. Agent Manager

  1. Новая роль человека
  2. Управлять не агентом, а системой

Особенность курса

Никакого:

«Сегодня мы создадим weather agent за 15 минут».

На первых занятиях студент вообще не пишет агента. Он получает плохо сформулированные реальные задачи и должен научиться выявлять:

  • субъекта;
  • намерение;
  • цель;
  • результат;
  • требования;
  • границы;
  • зависимости;
  • риски;
  • полномочия;
  • критерий завершения.

И только потом писать систему.

Самая дорогая ошибка будущего, вероятно, будет не такой:

агент неправильно выполнил команду.

А такой:

агент чрезвычайно эффективно сделал то, чего вообще не следовало делать.

Это настоящий курс по управлению ИИ-агентами, а не очередной туториал по обёртке вокруг while (true) { callLLM(); }. 😄

Предлагаемый формат

Полноценная программа — примерно 30–40 занятий. Вторую половину курса можно построить как последовательное создание одного реального агентного продукта: от исходного намерения до production, evals, observability, budget, escalation и multi-agent architecture.

Этап 1. Формулировка деятельности

  • субъект, потребность и намерение;
  • цель и критерии результата;
  • output, outcome и impact;
  • уровни делегирования;
  • требования, ограничения и non-goals;
  • Definition of Done.

Этап 2. Проектирование автономности

  • среда агента;
  • tools и полномочия;
  • human-in-the-loop;
  • планирование и декомпозиция;
  • зависимости;
  • риски и неопределённость;
  • context и memory.

Этап 3. Инженерия системы

  • state machine;
  • trace и observability;
  • evals;
  • validation;
  • failure taxonomy;
  • escalation и recovery;
  • budget и cost of autonomy.

Этап 4. Реализация

  • simple agent loop;
  • workflow;
  • state machine;
  • graph;
  • event-driven agent;
  • supervisor;
  • multi-agent system;
  • coding agents и репозиторий как среда.

Этап 5. Управление системой

  • распределение ответственности;
  • координация людей и агентов;
  • контроль полномочий;
  • управление ресурсами и рисками;
  • production и feedback;
  • выбор следующего уровня автономности.

Календарный план

Подробный календарь на 36 занятий, практики и домашние задания вынесены в отдельный документ:

Курс рассчитан на 18 недель по два занятия и строится вокруг одного сквозного проекта — агентной системы для реальной деятельности.

Итоговые артефакты курса

К концу курса у студента должны остаться не только код и демонстрация, но и полный пакет управления системой:

  1. Intent Brief.
  2. Модель цели и результата.
  3. Result Requirements.
  4. Definition of Done.
  5. Delegation Map.
  6. Agent Environment Map.
  7. Authority Matrix.
  8. План деятельности и Dependency Register.
  9. Assumption and Risk Register.
  10. Схема контекста и памяти с provenance.
  11. State schema и таблица переходов.
  12. Операционный trace и схема observability.
  13. Набор минимум из 25 eval-кейсов.
  14. Независимые validators.
  15. Failure catalogue и recovery policy.
  16. Escalation Policy.
  17. Cost model и budget policy.
  18. Repository guide для coding agent.
  19. Multi-agent decision record или обоснованный отказ от multi-agent архитектуры.
  20. Production runbook, threat model и rollback plan.
  21. Autonomy Adoption Plan.
  22. Agent Management Playbook.

Финальная оценка должна учитывать не количество вызванных инструментов и не впечатляющий интерфейс, а то, насколько студент способен доказать:

  • какую реальность он пытался изменить;
  • почему агент был подходящим исполнителем;
  • какие полномочия ему переданы;
  • где проходят границы автономии;
  • как система обнаруживает ошибки;
  • как она останавливается и эскалирует;
  • как измеряется результат;
  • сколько стоит автономность;
  • какие решения основаны на evidence;
  • что произойдёт при отказе внешней среды.

Финальная формула курса

Субъект
→ намерение
→ цель
→ требования
→ организация деятельности
→ распределение полномочий
→ человеческие и искусственные исполнители
→ действие
→ реальность
→ feedback

Агент — это не цель и не магическая оболочка вокруг модели. Это исполнитель внутри более крупной системы управления.

Главный навык курса — научиться превращать намерение в такую систему деятельности, в которой автономность увеличивает вероятность нужного результата, а не только скорость производства артефактов.

Subscribe
Прокрутить вверх