С ростом возможностей AI-агентов компании сталкиваются с проблемой контроля их действий в разных средах. Microsoft предложила решение — открытый стандарт Agent Control Specification (ACS).
Спецификация позволяет командам разработки, безопасности и комплаенса задавать собственные правила для агентов. Политики определяют разрешённые и запрещённые действия, необходимость одобрения человеком и требования к логированию.
Политики проверяются в нескольких точках выполнения задачи: перед получением ввода, перед вызовом инструмента, после возврата результата и перед отправкой ответа. Действие может быть разрешено, заблокировано, отфильтровано или отправлено на утверждение.
Сейчас разработчики используют разрозненные методы — системные промпты, проверки в коде, классификаторы. Это сложно аудировать и переиспользовать. ACS интегрирует контроль в общий слой управления.
Стандарт также поддерживает классификаторы входов/выходов, LLM-«судей» и логику проверки вызовов инструментов. Политики можно упаковывать в файлы, следуя за агентом между фреймворками.
ACS уже доступен как SDK с плагинами для LangChain, OpenAI SDK, Anthropic SDK, AutoGen, CrewAI, Semantic Kernel и других.
0 комментариев