Кто в ответе за ИИ-агента: ITU решил выработать правила игры

Развитие любой новой технологии рано или поздно упирается в необходимость создания единых правил игры. Сейчас по всему миру правительства, отраслевые альянсы и отдельные корпорации пытаются создать стандарты для искусственного интеллекта. Международный союз электросвязи (ITU), выступающий головной организацией для глобального телекома, не мог остаться в стороне от новой технологической революции.

На саммите под названием «AI for Good» (ИИ за все хорошее «ИИ во благо»), который проводится с 2017 года в Женеве, ITU объявил о запуске фокус-группы FG-TIDA. Как сказано в пресс-релизе, она разработает основы для безопасного взаимодействия людей и автономных ИИ-агентов в цифровых системах. Развитие искусственного интеллекта обещает значительный рост производительности, но также создает новые риски. А людям необходимо сохранять контроль над такими задачами, как проведение финансовых транзакций и управление критически важной инфраструктурой.

Если отвлечься от деклараций и перейти к конкретике, то группа займется выработкой терминологии, созданием референсных архитектур для идентификации и обнаружения ИИ-агентов, а также разработкой критериев безопасности. Итогом работы должны стать механизмы интероперабельности цифровых удостоверений и дорожная карта стандартизации. Отчитываться группа будет перед ITU-T Study Group 17, которая отвечает за стандарты безопасности.

Конечно, для ITU искусственный интеллект не в новинку. В публикации отмечается, что другие активные фокус-группы занимаются вопросами применения ИИ в умных городах, «воплощенным» ИИ – роботы, аватары, а также ИИ-нативными сетями. Ранее рассматривались вопросы использования ИИ в автономных сетях, здравоохранении, сельском хозяйстве, беспилотном транспорте. В общем ITU давно работает с ИИ, но в рамках конкретных доменов – сети, транспорт, робототехника. Новая же фокус-группа впервые выносит на уровень стандартизации универсальные вопросы идентичности и доверия для агентов как таковых, независимо от того, в каком теле или среде они существуют.

Конечно, ITU не единственная организация, пытающаяся оседлать эту волну. К примеру, Инженерный совет Интернета (IETF) готовит драфт по аутентификации и обнаружению ИИ-агентов. Институт инженеров по электротехнике и электронике (IEEE) разрабатывает стандарты организационного управления ИИ-агентами. Альянс облачной безопасности (CSA) выпускает руководства по их безопасности. Альянс FIDO разрабатывает стандарты аутентификации агентов при транзакциях от имени пользователей. Технологические гиганты, в свою очередь, создают открытые протоколы: Google продвигает Agent2Agent (A2A), Anthropic – Model Context Protocol (MCP).

Глобальная цель ITU очевидна: организация хочет стать арбитром в мире, где агенты одних компаний, таких как OpenAI, Anthropic или Google, будут постоянно взаимодействовать с агентами других вендоров. Если у каждого разработчика будет свое цифровое удостоверение (или «паспорт» ИИ-агента) и собственная модель доверия, то на интероперабельность можно не рассчитывать. ITU предлагает себя в качестве нейтральной площадки для разработки общих правил, чтобы системы могли понимать друг друга независимо от страны или корпорации-разработчика.

Амбициозная цель. Конечно, ITU имеет богатый опыт международного регулирования такой сложной сферы как радиочастотный спектр. Но проблема кроется в скорости. Процесс стандартизации в структурах ООН, к которым относится и ITU, может занимать годы. Регламент работы фокус-группы предполагает длительные обсуждения, согласование позиций между участниками из разных стран, выпуск промежуточных технических отчетов и их последующее утверждение. ИИ же развивается семимильными шагами.

«Агенты с искусственным интеллектом скоро будут вести переговоры, заключать сделки и принимать решения от нашего имени. Прежде чем это будущее станет реальностью, нам нужны общие международные принципы, которые определят, кто эти агенты, когда им можно будет доверять и как люди смогут сохранять контроль», – отметила сопредседатель фокус-группы Дебора Компарин.

Однако спешим напомнить сопредседателю: этот сценарий уже стал реальностью. Агенты бронируют отели, покупают авиабилеты и совершают платежи без участия человека на каждом шагу. То есть ИИ уже действует самостоятельно, не дожидаясь разработки свода правил доверия и безопасности. Первые две встречи FG-TIDA запланированы в ноябре 2026 года (Париж) и январе 2027-го (Женева) – но, судя по скорости внедрения технологии, за это время в индустрии многое поменяется.