Андрей Карпаті, один із найшанованіших умів у галузі штучного інтелекту, щойно вилив відро холодної води на потяг хайпу навколо AGI. Поки Twitter гуде про неминучу революцію ШІ, Карпаті спокійно заявив, що до сильного штучного інтелекту (AGI) нам ще десять або більше років. Це не просто випадкова здогадка, а виважений прогноз від людини, яка створювала ШІ в Tesla та OpenAI. Він стверджує, що ми вступаємо в "десятиліття агентів" — період важкої праці, а не миттєвої магії. Будьмо провокаційними: що, як бум ШІ — це не стільки про справжній інтелект, скільки про створення складних папуг? Погляди Карпаті змушують нас поставити під сумнів усе, що, як нам здавалося, ми знаємо.
Гонка до AGI схожа на гарячковий сон. Щотижня з'являється нова модель, що обіцяє змінити світ. Але що, якщо ми всі просто женемося за привидом? Андрей Карпаті, одна з ключових фігур у світі ШІ, нещодавно повернув індустрію до реальності, якої вона так потребувала. У дописі після свого подкасту з Дваркешем Пателем він уточнив свій прогноз щодо AGI: щонайменше десять років. Це далеко від гіпероптимістичних прогнозів, що заполонили наші стрічки, і це означає, що шлях уперед набагато складніший, ніж здається на хвилі хайпу. Песимізм Карпаті — це насправді доза реалізму, яка показує, що те, що багато хто називає "інтелектом", є чимось зовсім іншим.
Забудьте про "Рік агентів" — ласкаво просимо в десятиліття важкої праці
Хоча багато хто називає 2024 рік "роком агентів", Карпаті провокаційно переосмислює його як "десятиліття агентів". Що це означає? Це означає, що створення справді корисних, автономних ШІ-агентів — систем, які можуть виконувати для нас складні завдання — це не короткостроковий проєкт. Це десятирічна важка праця. Він вказує на величезну різницю між ШІ, що діє в цифровому світі (змінювати біти дешево), і у фізичному світі (переміщувати атоми дорого). Хоча ми бачили вражаючі демо, як-от Operator від OpenAI, який може керувати веббраузером, перетворення цієї здатності на надійні повсякденні інструменти вимагає колосальної "чорної" роботи, інтеграції та досліджень у галузі безпеки. Сучасна індустрія переоцінює свої можливості, обіцяючи автономних суб'єктів, коли ми ще розбираємося з основами.
Тварини проти Привидів: чому LLM такі дивні
Мабуть, найблискучіша ідея Карпаті — його аналогія "Тварини проти Привидів". Він стверджує, що тварини (включно з людьми) не народжуються чистим аркушем. Ми з'являємося з "готовим пакетом" мільйонів років еволюційного інтелекту. Лоша зебри може ходити через кілька хвилин після народження, тому що ці знання закладені в його ДНК. Це навчання через еволюцію.
Великі мовні моделі (LLM), з іншого боку, схожі на "привидів". Вони вчаться не шляхом еволюції, а спостерігаючи за всім інтернетом і передбачаючи наступне слово. У них немає тіла, вроджених інстинктів, готового розуміння світу. Це безтілесні розуми, що вчаться з нуля. Це робить їх неймовірно вправними в запам'ятовуванні та відтворенні інформації, але це принципово інша, і, можливо, більш поверхнева форма інтелекту. Справжній виклик для ШІ, на думку Карпаті, полягає в тому, щоб зробити цих цифрових привидів більш схожими на тварин — наділити їх кращою здатністю до узагальнення та глибшим розумінням світу поза текстом.
Чи зламане навчання ШІ? Рішення "когнітивного ядра"
Карпаті також критикує сучасні методи навчання ШІ, зокрема навчання з підкріпленням (RL), яке він описує як "всмоктування нагляду через соломинку". Зворотний зв'язок часто є зашумленим і неефективним. Це призводить до ключової ідеї, яку він називає "когнітивним ядром". Замість того, щоб створювати все більші моделі, які просто запам'ятовують більше даних, ми повинні зосередитися на моделях, які жертвують енциклопедичними знаннями заради реальних можливостей. Це означає активно "видаляти" їхню пам'ять, щоб змусити їх краще узагальнювати — по-справжньому думати. Це радикальна ідея: щоб зробити ШІ розумнішим, нам спочатку потрібно змусити його забувати. Бачення Карпаті — це не про кінець світу чи зупинку прогресу; це про чесність. Шлях до AGI — не спринт. Це довгий, складний марафон перетворення цифрових привидів на щось, що може справді мислити.
