Агентам нужен жизненный цикл, как учётные записи сотрудников и версии моделей: кто может их создавать, кто может авторизовать, как следить за ними во время работы, как приостанавливать их при возникновении аварии и как обрабатывать данные после их устранения. Без конечного автомата нет доверенного уровня исполнения, и невозможно объяснить аудитору, «что в тот момент работало в системе».
критическое состояние
путь жизненного цикла
Регистрация → Оценка рисков и авторизация → Онлайн (Активный) → Непрерывный мониторинг и выборочная проверка → Приостановка по событию → Изменение обновления (с одобрением) → Стратегия вывода из эксплуатации и сохранения
Цель проектирования жизненного цикла: ответ в любое время — какой агент запущен, какая модель используется, к чему можно получить доступ и кто утвердил последнее изменение.
Структура корпоративного управления и управления рисками (сокращенная версия)
| Размеры | Ключевые моменты |
|---|---|
| Право собственности | У каждого Агента есть ответственное лицо, владеющее узлом или платформой; если произошел инцидент, пожалуйста, сначала свяжитесь с владельцем |
| Изменить | Производственные изменения проходят через окно изменений и откатываются; переключение основных моделей может потребовать параллельных оттенков серого |
| Данные | Обучение/хранение журналов и трансграничная передача соответствуют местоположению узла и контракту |
| Безопасность | Депонирование ключей и учетных данных инструмента; запретить агентам постоянно хранить пароли пользователей в виде открытого текста |
| Аудит | Срок хранения журналов ≥ требований к отслеживанию деловых споров; поддержка экспорта для проведения комплексной проверки третьей стороной |
Отсутствие возможности молчаливо приостанавливать и прекращать работу позволяет «агентам-зомби» удерживать просроченные разрешения в течение длительного времени — частый источник утечек данных и штрафов за соблюдение требований.
Принципиальное отличие от «нормально разомкнутого контура» в стиле AutoGPT.
По умолчанию для автономного цикла установлено значение нет четкой конечной точки; жизненный цикл WCN связывает каждый запуск с устарением задачи и авторизацией. Завершение задачи или срок действия авторизации истекает → Вызовы агента следует отклонять или вводить в режиме «только для чтения», а не продолжать «думать» в фоновом режиме.
Одно предложение при объяснении одитору или LP: **Наши агенты подобны контролируемым пакетным работам, а не неутомимым автоматизированным работникам. **