ИИ-агенты могут получить контроль над интернетом в ближайшие 6–12 месяцев — прогноз anthropic

Глава Anthropic Дарио Амодеи: ИИ-агенты могут получить контроль над интернетом уже в ближайшие 6-12 месяцев

Руководитель Anthropic Дарио Амодеи считает, что автономные ИИ-агенты способны начать массово взаимодействовать с интернетом уже в течение ближайшего года. Речь идет не о фантастическом сценарии, при котором искусственный интеллект буквально "захватывает" сеть, а о быстром росте числа программ, способных самостоятельно выполнять действия в цифровой среде.

Современные чат-боты в основном реагируют на запрос пользователя: отвечают на вопросы, создают тексты, анализируют документы или генерируют программный код. ИИ-агенты работают иначе. Им можно поставить цель, после чего они сами составляют план, открывают сайты, используют приложения, отправляют сообщения, обрабатывают данные и корректируют свои действия в зависимости от результата.

По оценке Амодеи, технологический прогресс в этой сфере идет настолько быстро, что уже через 6-12 месяцев агенты могут начать выполнять значительную часть повседневных интернет-задач без постоянного контроля человека. Они смогут бронировать поездки, искать товары, сравнивать условия, оформлять документы, управлять календарями и взаимодействовать с корпоративными системами.

Почему автономные агенты развиваются так быстро

Главное отличие нового поколения ИИ заключается в переходе от генерации ответов к выполнению последовательностей действий. Агенту недостаточно понимать текстовую инструкцию - он должен уметь разбить задачу на этапы, выбрать подходящие инструменты и проверить полученный результат.

Развитие больших языковых моделей уже позволило заметно улучшить способность систем к планированию и рассуждению. Одновременно совершенствуются технологии компьютерного зрения, распознавания интерфейсов и работы с внешними сервисами. Благодаря этому ИИ может ориентироваться на веб-странице примерно так же, как пользователь: находить нужные кнопки, заполнять поля и переходить между разделами.

Дополнительным фактором становится распространение программных интерфейсов и автоматизированных сервисов. Чем больше онлайн-платформ предоставляют доступ к функциям через API, тем проще агентам подключаться к ним и объединять несколько операций в одну цепочку.

Что означает "захват интернета"

Формулировка о захвате интернета может звучать как предупреждение о восстании машин, однако потенциальная угроза имеет более практический характер. В будущем значительная доля действий в сети может выполняться не людьми, а программными посредниками.

ИИ-агенты будут искать информацию, покупать услуги, вести переписку, создавать публикации и принимать решения на основе заданных критериев. Пользователь в таком случае станет не исполнителем каждой операции, а человеком, который формулирует цель и контролирует итог.

Это изменит сам принцип работы цифровых сервисов. Сайты и приложения будут конкурировать не только за внимание людей, но и за возможность быть выбранными автоматизированными помощниками. Поисковая выдача, интернет-магазины, рекламные платформы и финансовые сервисы могут столкнуться с новой аудиторией - миллионами программных клиентов.

Основные риски

Чем больше полномочий получает агент, тем серьезнее последствия возможной ошибки. Неверно понятая инструкция может привести к покупке неподходящего товара, отправке конфиденциального документа или изменению важных настроек учетной записи.

Отдельную опасность представляют мошеннические схемы. Если агент научится самостоятельно переходить по ссылкам и выполнять действия на сайтах, злоумышленники смогут создавать страницы, специально рассчитанные на обман таких систем. Вредоносный контент может маскироваться под обычную инструкцию и заставлять ИИ раскрывать сведения или совершать нежелательные операции.

Проблемой остается и вопрос ответственности. Если автономная программа ошиблась при оформлении заказа, финансовой операции или работе с персональными данными, необходимо определить, кто должен отвечать за ущерб: разработчик модели, создатель конкретного агента, владелец сервиса или пользователь.

Безопасность станет обязательным условием

Для широкого распространения ИИ-агентов потребуются строгие ограничения. Важную роль будут играть подтверждение критически важных действий, лимиты на расходы, многофакторная аутентификация и постоянное ведение журнала операций.

Пользователь должен иметь возможность видеть, какие действия агент собирается выполнить, какие данные он использует и почему принял конкретное решение. Для операций с финансами, медицинской информацией, юридическими документами и корпоративными системами потребуется обязательное участие человека.

Разработчикам также придется создавать изолированные среды, в которых агент сможет тестировать свои решения без риска повредить реальные данные. Такой подход позволит обнаруживать ошибки до того, как программа получит доступ к рабочим аккаунтам.

Как изменится интернет

Массовое появление ИИ-агентов может повлиять на дизайн сайтов и цифровой маркетинг. Веб-страницы будут адаптироваться не только под человеческое восприятие, но и под машинное чтение. Структурированные данные, понятные интерфейсы и прозрачные правила взаимодействия станут важнее сложной визуальной подачи.

Изменится и рынок труда. Некоторые рутинные задачи - обработка заявок, составление отчетов, поиск вариантов и первичная коммуникация - будут автоматизироваться. При этом возрастет спрос на специалистов, которые умеют ставить задачи агентам, проверять их результаты и выстраивать безопасные рабочие процессы.

Вероятно, появятся новые профессии, связанные с управлением цифровыми агентами. Их задачами станут настройка разрешений, аудит действий, контроль качества и защита от манипуляций.

Что смогут делать агенты уже в ближайшем будущем

На первом этапе наиболее востребованными станут операции с четкими правилами и понятным результатом. Например, агент сможет собрать предложения от разных поставщиков, подготовить сравнительную таблицу, подобрать подходящий маршрут или обработать входящие письма.

В корпоративной среде такие системы будут анализировать документы, обновлять базы данных, готовить черновики ответов и отслеживать сроки исполнения задач. В личной жизни агент может стать универсальным помощником, который объединит календарь, почту, покупки и подписки.

Однако полностью передавать ему принятие решений пока рискованно. Даже очень мощная модель может ошибиться из-за неполной информации, неоднозначной формулировки или неверной оценки контекста.

Прогноз Дарио Амодеи указывает прежде всего на скорость изменений. Интернет постепенно превращается из пространства, где человек вручную выполняет каждую операцию, в среду, где значительную часть действий будут совершать автономные программные посредники. Вопрос заключается уже не в том, появятся ли такие системы, а в том, насколько надежными, прозрачными и управляемыми они окажутся.