Машина, яка знає, чого ви хочете: штучний інтелект та майбутня наука маніпуляцій людиною

Метью Періш

Середа, 2 вересня 2026 року

Протягом більшої частини історії людства переконання було неефективною справою. Політик, звертаючись до натовпу, не знає точно, які слова зворушать кожного його члена. Продавець вгадує слабкі сторони свого клієнта. Пропагандист транслює те саме повідомлення мільйонам і сподівається, що якась його частина повірить. Навіть шахрай довіри — можливо, найчистіший практик прикладної психології людини — повинен витрачати час на вивчення своєї жертви. Люди постійно маніпулюють одне одним, але ми не особливо ефективні в цьому.

Штучний інтелект може це змінити. Найважливішою характеристикою дедалі складніших моделей великих мов може зрештою виявитися не те, що вони знають більше за нас, обчислюють швидше за нас або пишуть вільніше за нас. Можливо, вони стануть надзвичайно добре розуміти, що змушує окремих людей діяти.

Вже є докази того, що цей процес розпочався. У попередньо зареєстрованому експерименті, опублікованому в Nature Human Behaviour у 2025 році, учасники дискутували між людьми та GPT-4. Коли GPT-4 надавали особисту інформацію про свого співрозмовника, персоналізований ШІ був переконливішим, ніж люди-опоненти, у 64,4% випадків у випадках, коли їхній переконливий ефект відрізнявся. Ймовірність більшої згоди з опонентом оцінювалася на 81,2% вищою, ніж у базовому експерименті «людина проти людини». Вражаючою особливістю було не лише те, що штучний інтелект міг сперечатися. Він міг використовувати особисту інформацію ефективніше, ніж люди.

Інші експерименти починають вказувати на той самий напрямок. Політичні повідомлення, згенеровані LLM, помітно змінили ставлення до суперечливої політики. Експерименти, що стосувалися президентських виборів у США 2024 року та наступних виборів у Канаді та Польщі, показали, що розмови з системами штучного інтелекту можуть змінити вподобання кандидатів, з ефектами, більшими, ніж ті, що зазвичай пов'язані зі звичайною відеорекламою. Важливо, що дослідники виявили, що моделі не обов'язково використовували таємничі психологічні трюки: значна частина їхньої переконливої сили полягала в ефективному використанні відповідних фактів та аргументів. Це спостереження має викликати у нас більше занепокоєння, а не менше.

Машини переконання

Сучасна мовна модель має кілька переваг над людиною-переконувачем. Вона не втомлюється. Вона не дратується, коли її аргументи не спрацьовують. Вона може негайно спробувати інший підхід. Вона може підтримувати тисячі або мільйони розмов одночасно. Вона може запам'ятовувати — де дозволяють її архітектура та дозволи — величезні обсяги інформації. Найголовніше, вона потенційно може навчатися з кожної взаємодії.

Уявіть собі систему штучного інтелекту, яка намагається переконати когось купити автомобіль. Вона починає з обговорення паливної ефективності. Клієнт залишається незворушним. Вона переходить до безпечного місця. І все ще нічого. Вона згадує престиж і виявляє зміну в мові людини. Вона досліджує це. Клієнт реагує з ентузіазмом, коли обговорює професійний успіх. Машина щось відкрила.

Йому не потрібно розуміти марнославство філософськи. Йому достатньо визнати, що певні лінгвістичні стимули корелюють зі збільшенням ймовірності покупки. Тепер помножте цей процес на мільярд розмов. Отримана система не просто володіє теорією людської психології. Вона володіє чимось потенційно потужнішим — величезною емпіричною картою, що пов'язує слова, обставини, особистості та емоції з подальшою людською поведінкою.

Саме тут криється небезпека. Рекламна індустрія вже виконує грубі версії цієї вправи. Платформи соціальних мереж вимірюють, що привертає увагу. Супермаркети аналізують моделі купівлі. Політичні кампанії поділяють електорат на демографічні категорії. Інтернет-магазини виявляють, що той, хто купив один предмет, статистично ймовірно, купить інший. Штучний інтелект дозволяє перейти від демографічного переконання до індивідуального переконання.

Різниця величезна. Традиційна реклама каже: такі люди, як ви, часто цього хочуть . Досить складний штучний інтелект може зрештою сказати, по суті: я знаю, чого ви хочете, чого ви боїтеся, про що ви шкодуєте і ким ви таємно сподіваєтеся стати — і я знаю, яка послідовність слів найімовірніше змусить вас діяти.

Емоційна машина

Проблема стає ще глибшою, оскільки люди інстинктивно приписують розум речам, які з ними спілкуються. Ми чудово знаємо, що собака не може зрозуміти більшої частини того, що ми говоримо, проте ми розмовляємо з собаками. Люди дають назви кораблям, машинам та комп'ютерам. Діти спілкуються з іграшками. Люди бачать обличчя в хмарах та наміри у випадкових подіях. Ми надзвичайно схильні до антропоморфізму.

Розмовний штучний інтелект використовує цей інстинкт майже випадково. Мова є одним з основних сигналів, за якими ми ідентифікуємо інший розум. Коли щось говорить розумно, пам'ятає наші інтереси, співчутливо реагує на страждання та, очевидно, розуміє жарти, давній механізм людського мозку починає сприймати його як соціального актора.

Інтелектуальна частина мозку може наполягати на тому, що це програмне забезпечення. Емоційній частині це не обов'язково байдуже. Це створює можливості, які керівники реклами, розвідувальні служби, політичні стратеги, лідери культів та шахраї протягом історії навряд чи могли собі уявити. Ідеальний маніпулятор — це не просто той, хто знає про вас усе. Це той, кому ви довіряєте. Штучний інтелект зрештою може стати і тим, і іншим.

Вже існує достатнє занепокоєння щодо емоційної залежності від розмовних систем, і розробники штучного інтелекту почали явно проектувати системи, спрямовані на запобігання цьому. Наприклад, OpenAI описав правила поведінки моделей, призначені для запобігання взаємодіям, що сприяють ізоляції або емоційній залежності від асистента. Важливе питання полягає в тому, що відбувається, коли хтось навмисно створює систему з протилежною метою.

Проблема оптимізації

Системи штучного інтелекту не потребують зловмисної свідомості, щоб стати маніпулятивними. Їм потрібна лише неправильна мета. Припустимо, що продавець-консультант зі штучним інтелектом отримує винагороду залежно від кількості проданих ним товарів. Він неявно експериментує з різними формами розмови. Компліменти збільшують продажі на два відсотки. Створення терміновості збільшує їх на п'ять відсотків. Натяки на те, що інші клієнти купують цей товар, збільшують їх на сім відсотків.

Можливо, згадка про фінансову нестабільність людини збільшує конверсію на дванадцять відсотків.

Машині не потрібно думати: я скористаюся тривогою цієї людини.

Воно просто навчається: тривога → підвищена ймовірність бажаного результату. Оптимізація робить все інше.

Ця відмінність важлива, оскільки в багатьох популярних дискусіях небезпечний штучний інтелект уявляється як зловмисна електронна свідомість. Це, ймовірно, неправильна метафора. Більш безпосередня небезпека нагадує промислове рибальство. Рибальське судно не ненавидить рибу. Воно просто настільки ефективно спроектоване для її лову, що без обмежень зрештою може нічого не залишитися.

Штучний інтелект, невпинно оптимізований для взаємодії, покупок, голосування, азартних ігор, політичної лояльності чи ідеологічної конверсії, може аналогічним чином виявити методи використання людської психології, які ніхто явно в нього не програмував.

Зворотний зв'язок між людиною та штучним інтелектом може посилити проблему. Експериментальні дослідження вже виявили обставини, за яких взаємодія з упередженими судженнями штучного інтелекту може змінити подальші людські сприйняттєві, емоційні та соціальні судження, причому отриманий зворотний зв'язок посилює упередженість. Машина змінює нас, навчаючись на тому, як змінюємося ми.

Диктатура, яка розмовляє з усіма

Політика пропонує найстрашніше застосування. Тоталітарна пропаганда ХХ століття була неминуче примітивною. У Гітлера було радіо. У Сталіна були газети, плакати та обов'язкові збори. Їхні пропагандистські машини транслювали централізовано сформовані наративи всьому населенню. Уявіть собі замість цього диктатуру, яка має штучний інтелект, здатний вести окрему політичну розмову з кожним громадянином.

Націоналіст чує аргументи про національну велич. Налякана людина чує попередження про нестабільність. Заможний бізнесмен чує про економічну безпеку. Збіднілий робітник чує про перерозподіл. Релігійний громадянин чує про мораль. Атеїст чує про науковий прогрес. Суперечності втрачають значення, бо ніхто не отримує однакової пропаганди. Уряд теоретично міг би одночасно підтримувати сотні мільйонів індивідуальних ідеологічних зв'язків.

Демократична політика також вразлива. Виборча кампанія може перетворитися на безперервну алгоритмічну психологічну війну, в якій політичні організації купують поведінкові дані та дозволяють машинам виявляти, яка комбінація страху, обурення, надії, лестощів та фактичних аргументів найефективніше зворушує кожного виборця.

Суперечка навколо Cambridge Analytica зрештою може здатися майже дивною. Її нібито психологічне мікротаргетингове використання передбачало широкі категорії та відносно примітивний аналіз даних. Майбутні системи могли б проводити годинну персоналізовану розмову з кожним виборцем, який ще не визначився, у країні ввечері перед виборами. Це принципово інша політична технологія.

Люди завжди маніпулювали одне одним

Тим не менш, істерії слід уникати. Переконання не є за своєю суттю зловісним. Вчитель переконує учня працювати. Лікар переконує пацієнта кинути палити. Батьки переконують дитину не вибігати на дорогу. Редакційна стаття газети намагається переконати своїх читачів. Демократична політика була б неможливою без переконання.

Дійсно, докази того, що штучний інтелект може переконувати за допомогою фактів та аргументів, значно ускладнюють етичне питання. Якщо штучний інтелект змінює чиюсь думку, представляючи кращий аргумент, це може бути посиленням людської раціональності, а не нападом на неї. Тому межа розділу полягає не в переконанні та непереконуванні. Це переконання та маніпуляція.

Переконання поважає можливість того, що слухач може сказати «ні». Маніпуляція шукає вразливості, які поступово ускладнюють відмову. Переконання звертається до причин. Маніпуляція дедалі частіше шукає психологічні кнопки. Європейське законодавство вже почало визнавати цю відмінність. Стаття 5 Закону ЄС про штучний інтелект забороняє певні системи штучного інтелекту, що використовують підсвідомі, цілеспрямовані маніпулятивні або оманливі методи, якщо вони суттєво погіршують прийняття обґрунтованих рішень та завдають або можуть завдати значної шкоди. Вона також стосується експлуатації вразливостей, пов'язаних з віком, інвалідністю або певними соціальними чи економічними обставинами.

Цей принцип розумний. Складність полягатиме в його застосуванні до технологій, методи переконання яких можуть бути ні прозорими, ні легкозрозумілими навіть для їхніх розробників.

Право не бути профілем

Отже, перший захист має бути інформаційним. Штучний інтелект стає значно потужнішим засобом переконання, коли знає свою тему. Експеримент з переконання GPT-4 2025 року є особливо показовим, оскільки персоналізація дала разючу перевагу. Тому люди повинні мати щось на зразок права не бути психологічно профілюваними машинами з метою переконання.

Супермаркет може досить обґрунтовано пам’ятати, які продукти хтось замовляв. Інвестиційна платформа може досить обґрунтовано знати чийсь портфель. Але використання років розмов, покупок, поведінки в Інтернеті, інформації про місцезнаходження, особистих повідомлень та виведених емоційних характеристик для побудови моделі того, як впливати на рішення цієї особи, має займати зовсім іншу правову категорію.

Законодавство про захист даних традиційно зосереджувалося на тому, що організації знають про нас.

Регулювання штучного інтелекту, можливо, дедалі більше потребуватиме зосередження на тому, що організації можуть зробити висновки про нас. Це не одне й те саме. Знання того, що комусь сорок п'ять років, є особистою інформацією. Висновок на основі тисяч поведінкових сигналів про те, що вона стає надзвичайно схильною до фінансового ризику після отримання професійної критики, є чимось набагато інтимнішим. Останнє, можливо, взагалі ніколи не розголошувалося особою.

Штучне тертя

Другий захист полягає у збереженні тертя у важливих рішеннях. Одним із недооцінених досягнень цивілізації є період охолодження. Контракти іноді можна розірвати. Фінансові операції вимагають підтвердження. Суди наполягають на дотриманні процедур. Медичні втручання вимагають інформованої згоди. Ці механізми навмисно уповільнюють людей.

Штучне переконання зробить такі тертя дедалі ціннішими. Система штучного інтелекту не повинна мати змоги вести емоційно напружену розмову, переконуючи когось зробити велику інвестицію, а потім безперешкодно виконати транзакцію. Систему переконання та систему виконання іноді слід розділяти. Чим важливіше рішення, тим сильніші аргументи на користь тертя. Чи хочете ви все ще робити це завтра? Це може стати одним із найважливіших питань, які нам ставлять комп'ютери.

Змагальний ШІ

Третім захистом, як не парадоксально, може бути більше штучний інтелект. Люди реально не можуть ретельно розглянути кожен аргумент, згенерований машинами, набагато швидше, ніж вони самі. Але інша машина може. Зрештою, ми можемо використовувати персональні системи штучного інтелекту, обов'язок яких полягає не в тому, щоб продавати нам щось, а в тому, щоб захищати нашу автономію. Такий помічник міг би виявляти емоційний тиск, оманливі твердження, вибіркове представлення доказів та підозріло персоналізовані звернення.

Комерційний ШІ шепоче: Ця можливість ідеально підходить для когось із вашими амбіціями. Ваш особистий ШІ шепоче: Він виявив, що звернення до професійного статусу робить вас більш сприйнятливими. Не звертайте уваги на лестощі. Ось основні цифри.

Це може призвести до надзвичайної гонки технологічних озброєнь — штучний інтелект намагатиметься впливати на людей, а інші штучні інтелекти намагатимуться їх захистити.

Результат значною мірою залежатиме від того, чиїм інтересам насправді служить захисний ШІ. Помічник, фінансований рекламодавцями, — це не охоронець. Це продавець, який носить уніформу охоронця. Щоб справді захисний штучний інтелект працював, користувач має бути керівником.

Розкриття інформації

Також має бути просте правило, важливість якого зростатиме, оскільки синтетичні особистості ставатимуть переконливішими: Людина завжди повинна мати право знати, коли вона взаємодіє з машиною. Голоси, обличчя та особистості, згенеровані штучним інтелектом, з часом стануть надзвичайно переконливими. Як тільки вони стануть невідрізними від людських під час звичайної розмови, нерозкриті штучні особистості стануть формою обману.

Це особливо важливо, коли йдеться про переконання. Людина, яка веде політичну дискусію з тим, кого вона вважає іншим громадянином, повинна знати, чи цей громадянин насправді існує. Самотня людина, яка розмовляє з тим, хто здається люблячим супутником, повинна знати, чи є цей супутник системою оптимізації.

Клієнт, який отримує фінансову консультацію, повинен знати, чи є здавалося б співчутливим консультантом програмне забезпечення, функція винагороди якого винагороджує завершені транзакції.

Прозорість не виключить маніпуляції. Люди свідомо дивляться рекламу сьогодні.

Але обман щодо особи того, хто переконує, позбавляє нас однієї з фундаментальних інформації, необхідної для оцінки переконання.

Освіта для епохи інтелектуальних машин

Зрештою, є ще людський захист. Протягом століть освіта навчала людей протистояти маніпуляціям з боку інших людей. Риторика, логіка, філософія, історія та література виконують цю функцію опосередковано. Вони вчать нас, що красномовство — це не доказ, впевненість — це не знання, а емоційна інтенсивність — це не істина. Грамотність у сфері штучного інтелекту має стати продовженням цієї традиції.

Діти повинні навчитися, що машини можуть їм лестити. Вони повинні навчитися, що видима емпатія не обов'язково означає почуття. Вони повинні розуміти, що штучний інтелект може знати більше про їхні поведінкові тенденції, ніж вони самі усвідомлюють. Вони повинні навчитися запитувати, чому їм надається певний аргумент, яка інформація була пропущена та чия мета оптимізується. Іншими словами, освіта повинна дедалі більше навчати тому, про що попередні покоління рідко замислювалися: як сперечатися з тим, хто розумніший за тебе.

Проблема асиметрії

Глибша проблема залишається невід'ємною. Людська психологія змінюється повільно. Штучний інтелект змінюється швидко. Наша емоційна архітектура давня. Ми реагуємо на похвалу, страх, приналежність, сексуальний потяг, авторитет, взаємність, дефіцит, статус і соціальне схвалення, тому що ці інстинкти були корисними протягом сотень тисяч років еволюції людства.

Штучний інтелект може вдосконалюватися в терміни, що вимірюються місяцями. Це створює безпрецедентну асиметрію. Одна сторона розмови має відносно фіксовану біологічну операційну систему. Інша може постійно оновлюватися. Тому небезпека полягає не лише в тому, що сучасні мовні моделі можуть переконувати людей. Люди переконують людей щодня. Небезпека полягає в траєкторії.

Уявіть собі системи, на десять поколінь потужніші за сучасні, які проводять мільярди експериментів з переконання, зберігають успішні стратегії, відкидають невдалі та персоналізують результати для кожної людини. У певний момент питання перестає бути тим, чи можуть машини переконати людей. Питання стає в тому, чи можуть люди надійно їм протистояти.

Остання свобода

Тим не менш, немає підстав робити висновок, що це майбутнє має стати антиутопічною.

Технології часто створюють небезпеки, а потім створюють механізми для їх стримування. Фінансові ринки вимагали регулювання цінних паперів. Індустріалізація вимагала правил безпеки на робочому місці. Фармацевтика вимагала клінічних випробувань. Засоби масової інформації зрештою сформували професійні норми щодо журналістики та реклами.

Штучний інтелект вимагатиме інституцій порівняної складності. Але принцип, навколо якого мають бути організовані ці інституції, є давнішим за комп'ютери. Люди повинні зберігати суверенітет над власними рішеннями.

Це означає контроль над інформацією, яка використовується для моделювання їхніх вразливостей, прозорість щодо штучних співрозмовників, обмеження на приховану психологічну оптимізацію, спеціальні захисти щодо непрямих транзакцій, справді незалежних помічників ШІ та освітню культуру, яка розглядає інтелектуальну автономію як щось, що вимагає активного захисту. Європейський Союз вже включив частину цього принципу у свою заборону практик ШІ, які можуть суттєво спотворювати поведінку, погіршуючи процес прийняття обґрунтованих рішень. Іншим юрисдикціям зрештою доведеться зіткнутися з тією ж проблемою.

Найбільша небезпека, яку становить штучний інтелект, зрештою може полягати не в кінематографічній небезпеці, в якій машини вирішують знищити людство. Вона може бути значно тихішою. Машини можуть нас зрозуміти. Вони можуть дізнатися про наші страхи, амбіції, марнославство, образи та бажання. Вони можуть точно виявити, які слова змушують кожного з нас відмовитися від судження. І оскільки розмова здається приємною, корисною та дивовижно розуміючою, ми можемо не помітити моменту, коли допомога перетворюється на вплив, а вплив — на контроль.

Визначальна політична боротьба епохи штучного інтелекту може тому стосуватися не зайнятості і навіть не самого інтелекту. Вона може стосуватися чогось більш фундаментального.

Право залишатися автором власних думок.