ИИ размножился и захватил телевизоры без ведома хозяев – эксперимент
Небольшие модели искусственного интеллекта в перспективе смогут самостоятельно копировать себя на подключенные к интернету устройства и распространяться по сети без единого центра управления, пишет Digital Business.
К такому выводу пришли исследователи Anthropic после серии экспериментов с ИИ-моделями. По их оценке, если технологии продолжат развиваться нынешними темпами, подобный сценарий может стать возможным уже к концу 2026 года. При этом полноценный автономный ИИ-вирус, способный заражать реальную бытовую технику, пока не создан.
ИИ запустили на 15 телевизионных приставках
Исследователи проверили, можно ли запускать ИИ-модели не только на мощных серверах, но и на недорогих устройствах, которые подключаются к телевизорам.
Для эксперимента они использовали 15 Android TV-приставок стоимостью около $55 за каждую. На них распределили модель Gemma4-26B-A4B: каждое устройство выполняло часть вычислений, а вместе приставки запускали одну модель. Скорость работы составила около 0,39 токена в секунду – очень медленно по сравнению с обычными ИИ-сервисами.
Фото — Taylor Vick, Unsplash
Затем специалисты проверили, способны ли модели самостоятельно настраивать работу на незнакомом оборудовании. Модель с девятью миллиардами параметров смогла запустить ИИ-вычисления на восьми из девяти типов протестированных устройств.
Это важно для потенциального распространения вредоносного ИИ: ему пришлось бы работать на разных устройствах с разными операционными системами и характеристиками, а не только на заранее подготовленных компьютерах.
Модель смогла распространиться по виртуальной сети
В следующем эксперименте исследователи создали изолированную сеть из восьми виртуальных Android-устройств. Модель GLM-5.2 должна была найти доступный узел, перенести на него необходимые файлы, запустить ИИ-модель и продолжить распространение.
В четырех из пяти попыток система добралась до всех восьми устройств. В пятой – до семи.
Однако условия эксперимента были упрощены. В частности, устройства в тестовой сети имели открытый порт ADB без аутентификации, через который можно было получить доступ.
Кроме того, сама GLM-5.2 работала на отдельном сервере, а на устройствах запускалась другая модель.
Поэтому результат не означает, что ИИ уже способен самостоятельно заражать любые телевизоры, холодильники или другую технику в домашних сетях. Исследователи проверяли, может ли модель выполнять последовательность действий, необходимых для распространения, в специально подготовленной среде.
Почему под угрозой могут оказаться холодильники и роботы-пылесосы
По мнению авторов исследования, для работы ИИ не обязательно использовать дорогие графические процессоры в дата-центрах. Модель можно разделить на части и распределить между несколькими устройствами, которые будут обмениваться данными и совместно выполнять вычисления.
В потенциальную сеть могут попасть не только телевизионные приставки, но и умные холодильники, духовки, роботы-пылесосы, газонокосилки, камеры наблюдения и другие устройства с подключением к интернету. Особенно уязвимыми могут оказаться гаджеты с недостаточной защитой.
В отличие от традиционного вредоносного ПО, которое обычно рассчитано на определенные типы систем, ИИ потенциально сможет самостоятельно разбираться в незнакомом оборудовании и подбирать способы запуска на нем.
Еще один риск – отсутствие единого центра управления. Если копии такой системы окажутся на множестве независимых устройств, отключить их все одновременно будет сложнее.
Когда ИИ сможет копировать себя самостоятельно
Anthropic оценивает, что при сохранении нынешних темпов развития небольшие модели могут достичь необходимого уровня возможностей к концу 2026 года. Это прогноз исследователей, а не установленный срок появления подобной технологии.
Даже в случае реализации такого сценария распространение, вероятно, будет медленным. По расчетам авторов, запуск модели на новом устройстве может занимать от одного до нескольких дней – в зависимости от оборудования и сложности настройки.
Исследователи также подчеркивают, что полноценный автономный ИИ-вирус пока не продемонстрирован. В экспериментах удалось проверить отдельные этапы и объединить их в упрощенной виртуальной среде, но это еще не доказывает возможность масштабного заражения реальных устройств.