Давайте чесно. Ви, мабуть, дивитесь на вікно чату як на якогось мудреця. Написали питання, отримали текст і повірили. Але ось вам жорстока правда: ваш цифровий друг часто просто переказує сміття, яке знайшов у темних кутках інтернету. Він не знає правди. Він знає лише те, що написали люди. А люди брешуть. Дуже багато.
Подумайте, як влада грається з інформацією. Це класика. Уявіть країну, де зникло вершкове масло. Раптом у всіх газетах пишуть, що масло — це отрута, холестерин і смерть, їжте маргарин. Через десять років масла стає забагато, і раптом це "суперфуд". ШІ читає і ті, і ті статті. Він не має здорового глузду, щоб зрозуміти економічну причину. Він просто бачить текст. І може видати вам застарілу маячню як медичний факт.
Далі йдуть великі корпорації. Величезні бренди ведуть невидиму війну. Вони платять мільйони за статті, де вони святі, а конкуренти — непотріб. Вони купують фейкові відгуки та проплачені "наукові" дослідження. Це все висить в інтернеті роками. Коли ви питаєте про найкращі кросівки чи надійне авто, ШІ не тестує їх. Він просто цитує ту саму рекламу, яку замаскували під статтю.
Але ще гірше, коли справа доходить до політики. Комуністичні режими та диктатури, як Китай чи Рашка, завжди більше переймаються "картинкою" для світу, ніж власними людьми. Вони витрачають шалені гроші на зовнішню пропаганду. Вони переписують історію, брешуть про війни та викручують факти. Їхні ботоферми пишуть мільйони коментарів.
ШІ всмоктує це все, як пилосос. Він не бачить різниці між підручником історії та методичкою з Кремля п'ятирічної давнини. Тому, коли ви ставите питання про політику чи історію, ви можете отримати відповідь, яку придумали десь на болотах, щоб задурити вам голову.
Звісно, програмісти намагаються це виправити. Коли модель починає нести дичину, вони вручну намагаються її "підкрутити", ставлять обмеження. Але це як клеїти пластир на прорвану греблю. Інтернет занадто великий, а брехні там занадто багато. Модель запам'ятовує цю проплачену інформацію назавжди.
Досить бути наївними. Користуйтеся технологіями, але не вимикайте мозок. Якщо ви будете сліпо вірити ШІ, то дозволите маркетологам і диктаторам керувати вашою думкою. Завжди треба перевіряти відповіді в реальних джерелах. Якщо не перевіряєте — вітаємо, робот вас пошив у дурні.
