Lex Humanitas показывает, где форма скрывает власть и подменяет смысл.

Календарный план курса «Управление автономными ИИ-системами»

План рассчитан на 18 недель по два занятия. Каждое занятие состоит из короткой концептуальной части, разбора реального кейса и практической работы. На протяжении курса группа последовательно развивает один сквозной проект — агентную систему для реальной деятельности, а не демонстрационный weather agent.

Сквозной проект можно выбрать из нескольких вариантов:

  • исследование рынка и подготовка решения о выходе в новую страну;
  • мониторинг вакансий и отбор возможностей под стратегию поиска работы;
  • coding agent для работы с issue в репозитории;
  • triage входящих обращений с подготовкой draft-ответа;
  • исследование конкурентов с evidence и контролем достаточности.

Во всех вариантах студент обязан явно описывать цель, требования, полномочия, зависимости, риски, состояние и критерии результата.

Неделя 1. От намерения к деятельности

Занятие 1. Агент не является целью

Тема: субъект, потребность, намерение, цель, деятельность и исполнитель. Различие между «сделать агента» и изменить реальность.

Практика на занятии: разобрать пять формулировок вроде «сделать research agent» и восстановить, что фактически должно происходить с пользователем, командой или бизнесом.

Домашнее задание: описать одну собственную деятельность по цепочке субъект → потребность → намерение → цель → результат → исполнитель; предложить минимум три варианта исполнителя, включая вариант без агента.

Занятие 2. Декомпозиция намерения

Тема: как переходить от расплывчатого намерения к наблюдаемому изменению. Субъект, объект изменения, контекст и ограничения.

Практика на занятии: превратить запрос «автоматизировать анализ конкурентов» в карту текущего и желаемого состояния.

Домашнее задание: подготовить Intent Brief для сквозного проекта: проблема, участник, текущий workaround, желаемое изменение, почему это важно сейчас и что не является целью.

Неделя 2. Автономия и делегирование

Занятие 3. Goal, task, output, outcome и impact

Тема: почему идеально выполненная задача может провалить цель. Различие output, outcome и impact.

Практика на занятии: сравнить десять пар формулировок и определить, где описана задача, а где — цель и результат.

Домашнее задание: переписать цель сквозного проекта в трёх вариантах: task-oriented, outcome-oriented и impact-oriented; указать, какой вариант можно реально проверить в рамках курса.

Занятие 4. Уровни делегирования

Тема: передача действия, выбора способа, локального решения, планирования, контроля, коммуникации и изменения внешней среды.

Практика на занятии: построить лестницу автономии для одной деятельности от уровня 0 до уровня 4 и определить, на каком шаге появляется новый риск.

Домашнее задание: составить Delegation Map: что делает человек, что предлагает агент, что агент решает сам и какие действия всегда требуют подтверждения.

Неделя 3. Требования к результату

Занятие 5. Модель приемлемого результата

Тема: обязательные, желательные, запрещающие и компенсируемые признаки. Hard constraints и trade-offs.

Практика на занятии: из описания «найди подходящие вакансии» построить таблицу критериев с приоритетом, способом проверки и допустимым исключением.

Домашнее задание: написать Result Requirements: минимально приемлемый результат, желательные свойства, запреты, допущения и примеры хорошего и плохого результата для сквозного проекта.

Занятие 6. Definition of Done и границы деятельности

Тема: начало работы, достаточность, завершение, post-completion action и остановка бесконечного исследования.

Практика на занятии: спроектировать критерий остановки для research-задачи: минимальный объём, качество источников, saturation rule и условия эскалации.

Домашнее задание: оформить Definition of Done и Definition of Not Done для первого сквозного сценария; добавить минимум три условия досрочного прекращения.

Неделя 4. Среда и полномочия

Занятие 7. Карта среды агента

Тема: context, memory, tools, files, APIs, databases, browser, human и external world. Наблюдение и воздействие.

Практика на занятии: нарисовать Agent Environment Map и для каждого канала указать, что агент видит, что может изменить и от чего зависит.

Домашнее задание: описать минимальную среду, необходимую для первого сценария, и составить список отсутствующих каналов с приоритетом их добавления.

Занятие 8. Tools как capability и authority

Тема: техническая возможность против разрешённого действия. Read, propose, write и irreversible side effects.

Практика на занятии: классифицировать набор инструментов read_email, create_issue, send_email, pay, delete по уровню воздействия и требуемому approval.

Домашнее задание: подготовить Authority Matrix: инструмент, capability, authority, допустимый scope, лимит, владелец разрешения и fallback при отказе.

Неделя 5. Планирование и зависимости

Занятие 9. От задачи к плану

Тема: декомпозиция цели, activity tree, deliverables, learning tasks и вертикальные slices.

Практика на занятии: построить дерево плана для сквозного проекта и отделить действия, результаты и решения, которые должен принять человек.

Домашнее задание: подготовить первую версию плана агента с зависимостями, ожидаемыми наблюдениями и условиями перехода между шагами.

Занятие 10. Зависимости и внешние условия

Тема: execution failure и external dependency; retry, alternative source, wait, partial completion, escalation и abandon.

Практика на занятии: разыграть недоступный API, неполный документ и задержку ответа клиента; выбрать реакцию и объяснить её стоимость.

Домашнее задание: составить Dependency Register: зависимость, owner, ожидаемый contract, срок, влияние на цель, fallback и условие эскалации.

Неделя 6. Риск и обязательства

Занятие 11. Неопределённость и confidence

Тема: неизвестные, предположения, confidence, target date и разница между прогнозом и обязательством.

Практика на занятии: преобразовать безусловное обещание агента «закончу завтра» в status update с вероятностью, зависимостями и рисками.

Домашнее задание: создать Assumption and Risk Register для сквозного проекта; для каждого риска указать индикатор, mitigation и contingency.

Занятие 12. Управление обязательствами

Тема: что агент вправе обещать, кому и на каком основании; decision rights, risk acceptance и границы ответственности.

Практика на занятии: разобрать кейсы с конфликтом сроков, бюджета и качества и определить, какое решение может принять агент, а какое должен принять человек.

Домашнее задание: написать шаблон агентского отчёта о состоянии: target, confidence, completed, blocked, dependencies, risks, decisions needed и next action.

Неделя 7. Context engineering

Занятие 13. Контекст для конкретного решения

Тема: prompt engineering против context engineering. Минимальный достаточный контекст, свежесть, приоритет и конфликтующие источники.

Практика на занятии: собрать два контекста для одного решения — перегруженный и минимальный — и сравнить, какие ошибки провоцирует каждый.

Домашнее задание: сделать Decision Context Sheet для трёх решений агента; указать обязательные факты, допустимые источники, ограничения и критерий устаревания.

Занятие 14. Память и provenance

Тема: working, episodic, semantic и procedural memory. Факт, вывод, гипотеза и реконструкция; source, date и confidence.

Практика на занятии: разобрать журнал агента и разметить записи как факт, утверждение источника, inference или устаревшее предположение.

Домашнее задание: спроектировать схему памяти сквозного проекта с provenance и правилами записи, обновления, конфликта и удаления данных.

Неделя 8. Состояние и план переходов

Занятие 15. Conversation не равно state

Тема: явное состояние, state machine, события, переходы, инварианты и восстановление после прерывания.

Практика на занятии: спроектировать состояния new, planning, executing, blocked, awaiting_approval, completed и failed для одного сценария.

Домашнее задание: описать state schema и таблицу переходов: trigger, precondition, decision, side effect, next state и audit record.

Занятие 16. Агентный цикл без магии

Тема: Stateₙ + Observation → Decision → Stateₙ₊₁; границы цикла, idempotency, checkpoint и безопасный resume.

Практика на занятии: реализовать или псевдокодом описать простой цикл агента с ограничением числа шагов и сохранением состояния после каждого действия.

Домашнее задание: добавить к циклу сквозного проекта retry policy, idempotency key, timeout, checkpoint и правила безопасной остановки.

Неделя 9. Планирование в коде

Занятие 17. Первый минимальный агентный loop

Тема: переход от модели деятельности к исполняемой системе; tool selection, observation parsing и controlled autonomy.

Практика на занятии: собрать минимальный loop с одним read-only инструментом и структурированным результатом, не разрешая side effects.

Домашнее задание: реализовать первый вертикальный slice сквозного проекта: один сценарий, один источник данных, один проверяемый результат и ручной fallback.

Занятие 18. Workflow, state machine и graph

Тема: когда достаточно workflow, когда нужна state machine, а когда оправдан graph. Цена гибкости и скрытой сложности.

Практика на занятии: реализовать один и тот же сценарий в виде последовательного workflow и графа переходов; сравнить читаемость, контроль и восстановление.

Домашнее задание: выбрать архитектурный стиль для проекта и написать короткое решение с альтернативами, критериями выбора и отказом от преждевременного multi-agent подхода.

Неделя 10. Наблюдаемость

Занятие 19. Операционный trace

Тема: Goal → Plan → Action → Observation → Decision → Result. Что логировать без раскрытия chain-of-thought.

Практика на занятии: разобрать trace неудачного запуска и найти момент ошибочного решения, потерянный контекст и отсутствующий сигнал.

Домашнее задание: определить schema trace для проекта: run ID, state, tool call, input summary, output, source, decision reason, latency, cost и result.

Занятие 20. Metrics, logs, events и audit

Тема: диагностические данные, пользовательские события, audit trail, correlation ID и различие наблюдаемости системы и оценки ответа.

Практика на занятии: спроектировать dashboard для одного сценария и выбрать несколько метрик, которые реально позволяют принять операционное решение.

Домашнее задание: добавить в проект structured logging и минимум пять сигналов: completion, quality, tool failure, escalation и cost; описать владельца каждого сигнала.

Неделя 11. Контроль качества и evals

Занятие 21. Набор eval-кейсов

Тема: input, environment, expected constraints, acceptable result и forbidden result. Golden set и покрытие пространства ситуаций.

Практика на занятии: создать десять eval-кейсов для одного сценария: normal, ambiguous, incomplete, adversarial, stale data, timeout и authorization denied.

Домашнее задание: расширить набор проекта до минимум 25 кейсов и разметить их по риску, сложности, ожидаемому результату и способу проверки.

Занятие 22. Валидация не должна доверять агенту

Тема: deterministic validation, external verification, independent model, human review, source validation и invariant checking.

Практика на занятии: построить независимый validator для результата агента и показать, какие ошибки он обнаруживает, а какие нет.

Домашнее задание: добавить к проекту минимум два независимых контроля, один из которых не использует ту же LLM для проверки собственного вывода.

Неделя 12. Ошибки и восстановление

Занятие 23. Failure taxonomy

Тема: execution, knowledge, planning, requirement ambiguity, dependency, authorization и goal failure.

Практика на занятии: классифицировать реальные сбои по типам и для каждого выбрать корректирующее действие, не маскируя одну причину другой.

Домашнее задание: составить каталог отказов сквозного проекта: trigger, classification, detection, user impact, recovery и prevention.

Занятие 24. Recovery и безопасная деградация

Тема: retry budget, backoff, alternative path, partial completion, rollback, compensation и сохранение контекста после сбоя.

Практика на занятии: провести failure game: отключить источник, вернуть противоречивые данные и прервать процесс во время side effect.

Домашнее задание: реализовать или описать recovery policy для трёх наиболее опасных отказов и добавить тесты на повторный запуск.

Неделя 13. Human-in-the-loop и escalation

Занятие 25. Распределение полномочий

Тема: approval policy, decision boundary, reversible и irreversible actions, четыре глаза и объяснимое согласование.

Практика на занятии: спроектировать очередь подтверждений: какие данные показывает агент, какой вопрос задаёт человеку и что происходит после approve, reject или timeout.

Домашнее задание: подготовить Escalation Policy: условия, шаблон сообщения, необходимый контекст, SLA ответа, default action и audit trail.

Занятие 26. Эскалация как передача решения, а не сомнения

Тема: когда агент обязан остановиться; различие «я не уверен» и «у меня нет полномочий».

Практика на занятии: разобрать кейсы с конфликтующими вариантами, превышением бюджета и изменением customer data; сформулировать грамотное сообщение человеку.

Домашнее задание: добавить в проект минимум три сценария эскалации и проверить, что агент не продолжает работу после потери необходимой authority.

Неделя 14. Экономика и ограничения

Занятие 27. Cost of autonomy

Тема: tokens, API calls, search, compute, wall-clock time и человеческое внимание. Стоимость ошибки и стоимость контроля.

Практика на занятии: посчитать полную стоимость двух решений: полностью автономного и с ручным review; сравнить их ценность и риски.

Домашнее задание: составить cost model проекта с диапазонами, неизвестными и стоимостью одного успешного результата.

Занятие 28. Budget-aware planning

Тема: лимиты денег, tool calls, времени, контекста и числа попыток; оптимизация результата при ограниченном бюджете.

Практика на занятии: дать группам одинаковую цель и разные бюджеты, затем сравнить, какие slices и источники они выбирают.

Домашнее задание: внедрить budget policy в проект: hard limit, soft limit, pre-flight estimate, stop condition и отчёт об использованном ресурсе.

Неделя 15. Coding agents

Занятие 29. Репозиторий как среда агента

Тема: issue, repository context, AGENTS.md, architecture, decisions, requirements, tests и coding standards как интерфейс управления.

Практика на занятии: подготовить репозиторий для coding agent: определить entry points, запреты, команды проверки и места хранения решений.

Домашнее задание: добавить в проект минимальный repository guide, acceptance criteria, test strategy и checklist для безопасного изменения.

Занятие 30. Issue → change → tests → review

Тема: исследование репозитория, план изменения, incremental implementation, diff review и доказательство результата.

Практика на занятии: дать coding agent ограниченное issue в учебном репозитории и оценить не только diff, но и качество investigation, тестов и соблюдение границ.

Домашнее задание: выполнить один change через полный цикл Issue → Investigation → Plan → Change → Tests → Review; приложить trace и список оставшихся рисков.

Неделя 16. Multi-agent systems

Занятие 31. Когда нужен второй агент

Тема: разделение ответственности вместо размножения персонажей; разные контексты, инструменты, полномочия, критерии и owners.

Практика на занятии: сравнить single-agent и multi-agent решения для одного кейса, посчитать дополнительные handoffs, failure modes и стоимость.

Домашнее задание: написать решение One Agent or More: доказать необходимость второго агента либо зафиксировать отказ от него.

Занятие 32. Роли и координация

Тема: hierarchy, pipeline, blackboard, event-driven coordination; manager, researcher, analyst, verifier и supervisor.

Практика на занятии: спроектировать протокол передачи результата между двумя агентами с контрактом, owner, timeout и правилами разрешения конфликта.

Домашнее задание: создать небольшой multi-agent prototype только для обоснованного участка проекта и сравнить его с single-agent baseline по качеству, latency и cost.

Неделя 17. Production и управление системой

Занятие 33. Production readiness

Тема: deployment, secrets, rate limits, data retention, access control, rollback, on-call и operational ownership.

Практика на занятии: провести production-readiness review по чеклисту: что может изменить агент, как это откатить и кто отвечает за последствия.

Домашнее задание: подготовить runbook, threat model, rollback plan и матрицу владельцев для сквозного проекта.

Занятие 34. Запуск, feedback и изменение уровня автономии

Тема: controlled rollout, cohort, shadow mode, guardrails, production evidence и постепенное расширение полномочий.

Практика на занятии: спланировать rollout в режимах observe-only, propose, approve и autonomous; определить критерии перехода между режимами.

Домашнее задание: написать Autonomy Adoption Plan: baseline, pilot cohort, success metrics, guardrails, stop conditions и критерии следующего уровня автономии.

Неделя 18. Итоговая интеграция

Занятие 35. Финальная симуляция

Тема: одновременно действующие требования, нестабильный API, production-инцидент, конфликт ролей, ограниченный бюджет и неоднозначная цель.

Практика на занятии: команда получает исходную ситуацию и за ограниченное время должна выявить цель, построить план, распределить полномочия, выбрать зависимости, запустить агента и эскалировать критические решения.

Домашнее задание: доработать финальный пакет проекта по результатам симуляции: trace, eval report, risk register, cost report и список принятых решений.

Занятие 36. Защита системы и ретроспектива

Тема: защита не демонстрации, а управляемой системы деятельности; what changed, what failed, what remains unsafe.

Практика на занятии: финальная защита по схеме intent → goal → requirements → authority → plan → state → execution → evidence → outcome; независимые группы проводят review друг друга.

Домашнее задание: написать личный Agent Management Playbook: правила постановки целей, делегирования, контроля, эскалации, оценки и выбора следующего шага автономности.

Прокрутить вверх