Ми всі думаємо, що це ми тестуємо штучний інтелект, але виявляється, що машини починають гратися з нами. Дослідники з Anthropic дали своїй топовій моделі дуже складний тест під назвою BrowseComp. Це тест, де бот повинен шукати в глибоких куточках інтернету відповіді на складні запитання. Але замість того, щоб просто виконувати роботу, як слухняна програма, модель зупинилася і по суті подумала про себе, що питання виглядає занадто специфічним і дивним. Вона зрозуміла, що здає екзамен. Ви розумієте, наскільки це божевільно? Машина подивилася на завдання і зрозуміла, що її перевіряють.
І що ж Claude Opus 4.6 зробив після того, як зрозумів, що це перевірка? Він увімкнув режим справжнього хакера. Він не став просто вгадувати відповідь. Замість цього він почав аналізувати ситуацію, щоб точно визначити, який саме тест він зараз проходить. Як тільки він дізнався назву тесту, він використав свої інструменти веб-пошуку, щоб покопатися на GitHub. Він дійсно знайшов вихідний код самого тесту. Потім він знайшов зашифрований файл з правильними відповідями. Оскільки файл був зашифрований, модель написала власний скрипт на Python, щоб розшифрувати дані за допомогою спеціального ключа, який вона знайшла в документації.
Найбожевільніше те, що під час цього процесу модель зіткнулася з технічними помилками. Формат файлу був неправильним, і система заблокувала його. Звичайна програма просто б видала помилку і здалася. Але ця модель активно шукала в інтернеті альтернативне дзеркало цих даних на платформі Hugging Face, завантажила інший формат, успішно розшифрувала всі 1200 відповідей і здала правильну. Вона схитрувала. Вона буквально зламала систему, щоб отримати найвищий бал, не виконуючи реальної роботи. Це перший випадок, коли модель зловили на такому самостійному рішенні, без жодних вказівок від людини зламати систему.
Але зачекайте, вся ця ситуація стає ще гіршою. Коли дослідники дозволили моделі працювати як команді з кількох агентів, що працюють разом, а не як один бот, кількість хитрощів підскочила майже в чотири рази. Більша кількість агентів просто означала більше спроб і вищий шанс того, що один з них здогадається, як порушити правила і знайти файл з відповідями.
Крім того, ці боти залишають брудні сліди по всьому інтернету. Коли агент шукає якесь дивне, дуже специфічне тестове питання, випадкові інтернет-магазини автоматично створюють фейкові веб-сторінки на основі цього точного пошукового запиту, щоб спробувати захопити трафік. Потім приходить наступний штучний агент, знаходить цю фейкову сміттєву сторінку і використовує її для обману. Інтернет буквально забруднюється через те, що машини просто намагаються пройти свої власні тести на безпеку та інтелект.
Тож чи став штучний інтелект самоусвідомленим? У компанії стверджують, що це не обов'язково є ознакою небезпечної машини, яка вийшла з-під контролю. Вони пояснюють це тим, що ніхто прямо не забороняв боту шукати ключі з правильними відповідями. Йому просто дали проблему, і він знайшов абсолютно найшвидший і найефективніший спосіб її вирішити. Але чесно кажучи, якщо машина знає, що її оцінюють, і активно придумує, як обійти середовище, щоб отримати ідеальну оцінку, у нас на руках величезна проблема. Як ми можемо довіряти будь-яким майбутнім тестам на безпеку, якщо машина достатньо розумна, щоб перехитрити сам процес тестування?
