ШІ-черв'як на ТВ-приставках: що насправді показав експеримент Anthropic

Чи змовляються холодильники, пилососи й телевізори, щоб захопити інтернет? Ні. Але Anthropic вважає, що невдовзі вони можуть стати незручним прихистком для ШІ, який сам себе копіює. Розберімо, що саме компанія показала у своєму дослідженні, бо між експериментом і заголовками тут чимала відстань.

Ідея: не дата-центр, а рій

Страх перед «самовідтворюваним ШІ» досі крутився навколо гігантських моделей, яким потрібні дата-центри. Там їх принаймні можна помітити й вимкнути. Команда Frontier Red Team поставила інше питання: а якщо модель невелика, а пристроїв, що погано захищені й увімкнені 24/7, — мільйони?

Що зробили

Запустили модель на приставках. Модель Gemma 4 з 26 млрд параметрів розділили між 15 дешевими Android TV-приставками по $55 і 4 ГБ пам'яті в кожній. Окремо жодна б не впоралася, разом — впоралися. Дуже повільно: близько 0,3–0,4 токена на секунду, тобто кілька слів за хвилину.

Перевірили, чи модель налаштує собі «житло». Невелика модель Qwen3.5-9B змогла самостійно підняти сервер для запуску іншої моделі на 8 з 9 типів заліза — від плат Jetson Nano до Mac і відеокарт RTX 4090.

Запустили «черв'яка» в симуляції. Вісім хмарних серверів з емулятором Android, закритих від інтернету, з відкритим без пароля портом ADB. ШІ-агент мав знайти нові вузли, скопіювати туди модель і запустити її. Повністю впоралася лише GLM-5.2 від китайської Z.ai: усі вісім вузлів у чотирьох спробах з п'яти. Інші відкриті моделі стабільно провалювалися на окремих кроках.

Чого не показали

Тут найважливіше, і самі автори це чесно перелічують:

• жодного поширення реальними пристроями чи мережами — лише симуляція й емулятори;
• етап злому спростили до мінімуму: порт без автентифікації. Тож результат — верхня межа, а не реалістична оцінка;
• черв'як копіював іншу модель (Llama 3.1-8B як замінник), а не самого себе;
• крадіжку API-ключів і соціальну інженерію не перевіряли; у фішингових листах невеликі моделі отримали оцінки від «дуже погано» до «погано».

Повноцінного «реплікатора-шахрая» автори не продемонстрували і навіть не знають, як він виглядатиме. Пропонують образи «повільного розподіленого цифрового слизовика» або «рою мушок».

Чому до цього все одно варто поставитися серйозно

Прогноз Anthropic: за нинішнього темпу невеликі моделі можуть досягти рівня GLM-5.2 у самореплікації до кінця 2026 року. Оцінка масштабу: якби такий черв'як зайняв ботнет розміром з Kimwolf, близько 2 млн пристроїв, вийшло б приблизно 133 тис. копій. Сумарно це близько 40 відеокарт H100 — небагато для обчислень, але дуже багато для того, щоб усе це знайти й вичистити.

Незалежні експерти, з якими говорила The Verge, сходяться: AI-черв'яки — не фантастика. Джеффрі Ладіш з Palisade Research, яка раніше показала самокопіювання моделей між машинами, очікує перших таких випадків «у дикій природі» протягом 12 місяців. Професор Торонтського університету Ніколас Паперно називає загрозу конкретною, особливо для лікарень та енергетики.

Скептики бачать у публікації PR і «думерство» — зокрема тому, що Anthropic тестувала не свої моделі, а відкриті, і давно наполягає, що відкриті моделі ризикованіші за закриті. Підстави для такої критики є, хоча інші дослідницькі групи доходять схожих висновків незалежно.

Що з цим робити

Рецепти Anthropic стосуються не ШІ, а старої доброї гігієни інтернету речей: провайдерам — стежити за аномальними передачами гігабайтів між пристроями абонентів і повідомляти про заражених, виробникам — постачати пристрої без стандартних паролів і відкритих сервісних портів.

Для звичайного користувача висновок банальний, але тепер з новою аргументацією. Безіменна ТВ-приставка за $55 з відкритим ADB — це не лише ризик для вашої мережі, а й потенційна частинка чужого розподіленого «мозку». Оновлювати, закривати, а старе й непідтримуване — вимикати.