Распространённая ловушка:
Agent creates answer
↓
Agent asks LLM:
"Is this answer correct?"
↓
LLM:
"Yes."
🎩🐇
Это не контроль.
Нужно различать:
- deterministic validation;
- external verification;
- independent model;
- human review;
- source validation;
- invariant checking.
Практика
Построить независимый validator для результата агента и показать, какие ошибки он обнаруживает, а какие нет.
Результат модуля
Студент умеет строить контроль, независимый от того же решения, которое проверяется.
