Интернетные духи: захватывают ли искусственные интеллектуальные агенты мир?

Без сомнения, одной из главных технологических звезд последнего года являются агенты искусственного интеллекта.

Как сообщает Valyuta.az, появление систем от таких гигантов, как «OpenAI», «Google» и «Anthropic», способных самостоятельно выполнять сложные задачи, коренным образом изменило понятие цифрового помощника. Более того, уровень автономии, продемонстрированный в последние месяцы открытыми проектами, такими как «OpenClaw», вызвал в интернет-сообществе и восхищение, и серьёзные опасения по поводу безопасности.

Однако, несмотря на весь этот ажиотаж, никто полностью не знал, насколько широко распространены эти агенты и под каким контролем они работают. Индекс агентов искусственного интеллекта 2025 года, опубликованный Лабораторией компьютерных наук и искусственного интеллекта Массачусетского технологического института (CSAIL), впервые устраняет эту неопределённость, показывая масштаб операций систем, свободно действующих в цифровом пространстве.

Исследователи доказывают цифрами, что интерес к агентам искусственного интеллекта — это не мимолётное увлечение. В научных публикациях 2025 года термин «агент искусственного интеллекта» используется чаще, чем за предыдущие четыре года вместе взятые. Кроме того, 62% крупных компаний уже начали экспериментировать с этой технологией. Команда MIT проанализировала 30 самых популярных систем на рынке, классифицировав их как помощников на основе диалогов, браузерных ботов и корпоративных решений. Результаты вызывают тревогу: большая часть этих систем функционирует в цифровом пространстве самостоятельно, без какой-либо системы безопасности.

Цифровая автономия без защитных барьеров

Из 30 исследованных систем только половина имеет публично доступные рамки безопасности. У трети агентов отсутствуют какие-либо документы по безопасности, у 1/5 нет доказательств соответствия юридическим стандартам. Такая ситуация вызывает серьёзную тревогу, учитывая, что около половины исследованных систем способны выполнять сложные задачи без участия человека. Особенно свободно действуют браузерные агенты. Например, функция «Autobrowse» от «Google» перемещается между сайтами, выполняя вход с использованием имени пользователя и завершая операции. Однако такая свобода делает практически невозможным отличить поведение агентов от поведения человека.

Исследование показывает, что 70% систем не уведомляют сайты или конечных пользователей о том, что они искусственный интеллект. Многие используют специальные методы, чтобы интернет-трафик выглядел как трафик реального человека, что фактически исключает возможность сайтов отличать ботовые атаки от настоящего трафика. Некоторые открытые проекты используют «человеко-подобное поведение в интернете» и преодоление защитных барьеров как маркетинговые преимущества. Даже некоторые технологические гиганты утверждают, что эти агенты функционируют как «человеческие помощники» и не должны подпадать под ограничения сбора данных.

Такое бесконтрольное распространение открывает двери для злонамеренных атак. Из-за отсутствия стандартизации тестов безопасности агенты остаются уязвимыми к атакам, способным нарушить их протоколы с помощью скрытых команд. В отчёте MIT отмечается, что многие компании публикуют высокоуровневые этические рамки, но на практике скрывают пробелы в безопасности.

Хотя такие гиганты, как «OpenAI» и «Anthropic», объединяют усилия для создания стандартов, агенты искусственного интеллекта сейчас заполняют рабочие места и интернет с бесконтрольной скоростью. С ростом масштабов технологий остаётся открытым важный вопрос — сможет ли безопасность угнаться за этой скоростью.

Паша Мамедли