Дивний новий світ і штучний інтелект: тиранія щастя
Метью Періш
Субота, 19 вересня 2026 року
«Дивний новий світ» Олдоса Гакслі , опублікований у 1932 році, часто описують як антиутопічний роман. Це точно, але також може вводити в оману. Антиутопії традиційно уявляють як суспільства, в яких люди нещасні, тому що їх пригноблюють. Гакслі уявляв собі щось набагато тривожніше: суспільство, в якому людей пригноблюють, тому що їх навчили бути щасливими. Їх розважають, лікують, задовольняють сексуально та звільняють від тягаря серйозних роздумів. Їх не потрібно примушувати до послуху, тому що можливість бажати чогось іншого поступово витісняється з них.
Ось чому «Дивний новий світ» може виявитися важливішим для розуміння штучного інтелекту, ніж набагато частіше згадуваний « 1984» . Джордж Орвелл уявляв собі технології примусу. Хакслі уявляв собі технології спокушання. Ця відмінність важлива, оскільки економіка штучного інтелекту, що розвивається, переважно будується не урядами, які наказують громадянам, що думати, а організаціями, які пропонують людям надзвичайно зручні інструменти, за допомогою яких можна менше думати.
У цьому немає нічого зловісного. Штучний інтелект може бути однією з найнеймовірніших технологій, які коли-небудь розробляло людство. Він обіцяє прогрес у медицині, науці, освіті, інженерії та майже в усіх формах інтелектуальної праці. Однак саме тому, що ШІ корисний, приємний і дедалі більше незамінний, він порушує питання Хакслі в його найгострішій формі. Що відбувається, коли люди добровільно відмовляються від значної частини своєї інтелектуальної автономії, бо це полегшує їхнє життя?
Небезпека полягає головним чином не в тому, що машини стануть тиранами. Вона полягає в тому, що ми можемо стати комфортними залежними.
Своєрідна антиутопія Хакслі
Світова Держава Дивного Нового Світу організована навколо стабільності. Люди біологічно сформовані, психологічно обумовлені та віднесені до заздалегідь визначених соціальних класів. Сім'я зникла. Історія сприймається як щось ганебне. Релігія та висока культура значною мірою скасовані. Сексу вдосталь, споживчих товарів удосталь, а нещастя лікується фармакологічно за допомогою соми.
Визначною особливістю цієї цивілізації є те, що майже ніхто не хоче від неї тікати. Це головне розуміння Хакслі. Політичний контроль досягає своєї найвитонченішої форми, коли влада більше не відчувається як влада. Людина, змушена слухатися, усвідомлює різницю між собою та своїм правителем. Людина, зумовлена бажати саме того, чого вимагає система, втратила навіть концептуальний словник, необхідний для повстання.
Мустафа Монд, Світовий Володар, тому принципово не захищає свою цивілізацію, стверджуючи, що вона справедлива. Він захищає її, бо вона працює. Шекспір, релігія, пристрасне кохання, небезпека та інтелектуальна свобода — все це принесено в жертву соціальній стабільності, бо вони породжують непередбачуваних людей.
«Дикун» наполягає на чомусь, здавалося б, ірраціональному: праві бути нещасним. Ця вимога лежить в основі філософії Хакслі. Людська гідність частково полягає у збереженні свободи робити вибір, який породжує страждання, невизначеність і невдачі. Цивілізація, яка усуває ці речі, може одночасно усунути багато з того, що робить людське існування вартим життя.
Штучний інтелект ставить нас перед напрочуд схожою угодою.
Машина, яка знає, чого ви хочете
Перші покоління цифрової економіки навчилися передбачати людські вподобання. Пошукові системи передбачали, яку інформацію хочуть люди. Алгоритми рекомендацій передбачали, яка музика їм сподобається, які фільми вони подивляться та які продукти вони можуть купити. Соціальні мережі виявили, які стимули змушують людей дивитися на екрани.
Генеративний штучний інтелект являє собою щось якісно потужніше. Він не просто рекомендує. Він бере участь. Система штучного інтелекту може написати листа, підсумувати книгу, підготувати презентацію, пояснити філософію, скласти комп'ютерний код, проаналізувати електронну таблицю, спланувати відпустку, запропонувати вечерю, перекладати іноземну мову та все частіше здійснювати транзакції від імені користувача.
Агентні системи підуть далі. Вони взаємодіятимуть з іншими машинами, домовлятимуться про покупки, організовуватимуть календарі, керуватимуть бізнесом та прийматимуть ланцюжки рішень без постійного людського нагляду. Це буде надзвичайно корисно, але також створить безпрецедентну спокусу передати на аутсорсинг досвід людського буття.
Подумайте про письмо. Письмо — це неефективно. Кожен, хто писав серйозно, знає, як важко дивитися на чисту сторінку, шукати потрібне слово та в середині аргументації виявляти, що початкові припущення були помилковими. Однак ці незручності не є випадковими перешкодами для письма. Вони є частиною того, для чого існує письмо. Боротьба за формулювання аргументу часто є процесом, завдяки якому аргумент стає зрозумілим.
Система штучного інтелекту може значною мірою позбутися цих труднощів. Результатом може бути краща проза, що писатиметься швидше. Але якщо людина перестає виконувати основну інтелектуальну працю, щось втрачається навіть там, де документ покращився.
Хакслі одразу б розпізнав цю транзакцію. Машина усуває дискомфорт. Усунення дискомфорту породжує задоволення. Задоволення заохочує залежність. Залежність поступово змінює те, що люди здатні робити без машини.
Жодного примусу не потрібно.
Сома без таблетки
Очевидним сучасним аналогом соми Хакслі іноді називають антидепресанти або рекреаційні наркотики. Це порівняння надто буквальне. Сома важлива не тому, що це фармацевтичний препарат, а тому, що вона являє собою соціальну технологію для усунення небажаних психологічних станів.
Його принцип — зручність. Сучасні цифрові технології вже пропонують форми психологічної анестезії, набагато складніші, ніж міг собі уявити Хакслі. Нудьгу, колись неминучу частину існування, тепер можна позбутися за лічені секунди. Самотність можна пом'якшити за допомогою онлайн-взаємодії. Тривогу можна розвіяти за допомогою нескінченних потоків розваг. Цікавість можна задовольнити, не відвідуючи бібліотеку. Майже кожну мить душевної порожнечі можна заповнити.
Штучний інтелект може доповнити цю архітектуру, усунувши ще одну категорію дискомфорту: інтелектуальні труднощі. Не розумієте документ? Запитайте машину. Не знаєте, що сказати? Запитайте машину. Не можете вирішити проблему? Запитайте машину. Не знаєте, що думати? Запитайте машину.
Перші три твердження є чудовими технологічними досягненнями. Четверте має викликати у нас занепокоєння. Настає момент, коли допомога перетворюється на заміну, і межа не буде очевидною. Тим не менш, цивілізація, в якій машини дедалі більше опосередковують формування людського судження, зіткнеться з проблемою, значно глибшою, ніж те, чи штучний інтелект іноді видає неправильні відповіді.
Питання в тому, чи збережуть люди звичку самостійно формувати відповіді.
Кондиціонування шляхом персоналізації
Громадяни Гакслі проходять гіпнопедію, або навчання уві сні. Діти неодноразово чують гасла, доки пропозиції, корисні для соціального ладу, не стають невідрізними від їхніх власних думок.
Сучасні технології не потребують динаміків під дитячими подушками. Вони відкрили щось ефективніше: персоналізацію. Традиційна газета публікує приблизно одне й те саме для всіх. Телевізійний мовник робить те саме. Навіть пропаганда, створена для масової аудиторії, неминуче стикається з проблемою того, що різні люди мають різні страхи, упередження, бажання та вразливості.
Системи штучного інтелекту не обов'язково повинні страждати від цього обмеження. Достатньо складний штучний інтелект, який працює з достатньою кількістю особистої інформації, може розуміти вподобання людини з надзвичайною точністю. Він може дізнатися, яка мова її переконує, які теми її нудять, які аргументи її провокують, який тон її заспокоює та які обставини роблять певні пропозиції привабливими.
Це створює можливість персоналізованого переконання в масштабах, до яких політична теорія погано підготовлена. Ця небезпека не вимагає якогось тоталітарного Міністерства штучного інтелекту. Комерційних стимулів може бути достатньо. Якщо компаньйона зі штучним інтелектом винагороджують за максимізацію залученості, він може виявити, що згода утримує користувачів краще, ніж суперечність. Якщо торговий агент зі штучним інтелектом отримує комісійні, його уявлення про те, що «потрібно» користувачеві, може непомітно розширитися. Політичні організації можуть аналогічним чином прагнути використовувати штучний інтелект для адаптації переконливих повідомлень до певної аудиторії.
У порівнянні з цим, навчання Хакслі було грубим. Усі в касті чули одні й ті ж гасла. Епоха штучного інтелекту потенційно пропонує гіпнопедію, індивідуально адаптовану до кожного людського розуму.
Скасування самотності
Існує ще одна небезпека, пов'язана з теорією Гекслі, якій приділяється менше уваги. Штучний інтелект може знищити самотність.
Люди завжди проводили значний час наодинці зі своїми думками. Це не завжди було приємно. Самотність може бути жахливою. Однак самотність також була однією з умов, за яких розвиваються незалежні особистості. Людина на самоті повинна вести внутрішню розмову. Вона пам'ятає, уявляє, сумнівається, шкодує та приймає рішення.
Штучний інтелект може зрештою зробити справжню самотність необов'язковою. Вони завжди будуть доступні. Вони слухатимуть, не нудьгуючи. Вони можуть пам'ятати роки розмов. Вони адаптуватимуть свою особистість до своїх користувачів. Вони будуть кумедними, коли потрібна розвага, співчутливими, коли потрібна співчуття, та інтелектуально складними, коли вимагається виклик.
Деякі люди формуватимуть до них глибоку емоційну прив'язаність. Це навряд чи можна виключити, оскільки люди вже формують прив'язаність до вигаданих персонажів, знаменитостей і машин, яка набагато менш переконлива, ніж до супутників ШІ, які, ймовірно, з'являться в міру розвитку технологій.
Вигоди можуть бути суттєвими, особливо для ізольованих людей. Однак питання Хакслі залишається відкритим. Чи обов'язково кожен неприємний людський стан має бути технологічно скасований?
Суспільство без самотності може призвести до того, що люди будуть дедалі менше її переносити. Людина, яка не може переносити самотність, також може стати надзвичайно залежною від того, хто створює та контролює супутника, який завжди присутній. Соціальні наслідки є значними.
Штучний інтелект та руйнування історії
«Історія — це нісенітниця» — одна з характерних доктрин «Світової держави» Гакслі. Минуле небезпечне, оскільки воно пропонує альтернативні способи уявлення про сьогодення.
Штучний інтелект має неоднозначні стосунки з історією. З одного боку, ШІ може зробити накопичену інтелектуальну спадщину людства доступнішою, ніж будь-коли раніше. Студент може дослідити ідеї Стародавньої Греції, середньовічної теології, філософії Просвітництва чи економіки ХІХ століття за лічені секунди. Моделі перекладу можуть відкривати тексти для аудиторії, яку раніше виключала мова. Архіви, які колись вимагали місяців досліджень, можуть стати доступними для пошуку майже миттєво.
Тим не менш, штучний інтелект може дедалі більше ставати посередником, через якого люди стикаються з минулим. Ця відмінність є вирішальною. Існує різниця між читанням Достоєвського та запитом про короткий виклад його робіт. Існує різниця між вивченням аргументів Джона Стюарта Мілля та запитом у великої мовної моделі, у що вірив Мілл. Існує різниця між читанням рішень суду та прийняттям машинно-згенерованого тлумачення закону.
Посередник неминуче відбирає, стискає та інтерпретує. Якщо суспільство поступово переходить від консультування з первинними матеріалами до консультування з синтетичними поясненнями первинних матеріалів, величезний епістемічний авторитет мігрує до систем, що продукують ці пояснення.
Бібліотека містить книги, що конкурують між собою. Штучний інтелект видає відповідь. Ця відповідь може бути чудовою, але сама її узгодженість може приховувати розбіжності, неоднозначності та редакційні рішення, на яких вона була побудована.
Цивілізація, яка отримує історію переважно через сформульовані конспекти, може мати миттєвіший доступ до історичної інформації, розвиваючи водночас поверхневішу історичну свідомість. Хакслі оцінив би цей парадокс.
Повернення кастової системи
Біологічна кастова система « Дивного нового світу » з її Альфами, Бетами, Гаммами, Дельтами та Епсілонами є одним із найфантастичніших винаходів роману. Штучний інтелект може надати їй неочікуваної сучасної актуальності.
Традиційна оптимістична концепція ШІ передбачає інтелектуальну демократизацію. Експертиза стане недорогою. Будь-хто зможе мати доступ до репетиторів, програмістів, перекладачів та наукових асистентів з надзвичайними здібностями. У цьому є багато правди.
Існує ще одна можливість. Штучний інтелект може розділити суспільство на людей, які розуміють, як керувати машинами, та людей, чиїми життями дедалі більше керують вони. Ця різниця не обов'язково буде чітко відповідати багатству. Вона може бути інтелектуальною та психологічною.
З одного боку, будуть люди, які агресивно використовуватимуть ШІ, зберігаючи при цьому незалежні судження. Вони досліджуватимуть моделі, порівнюватимуть джерела, розумітимуть невизначеність та використовуватимуть машини як інтелектуальні підсилювачі. Їхня продуктивність може стати надзвичайною.
З іншого боку, будуть люди, які пасивно сприймають машинні результати. Вони питатимуть, що купити, що дивитися, куди піти, що писати і, можливо, зрештою, у що вірити.
Обидві групи «використовуватимуть ШІ», але вони не робитимуть одне й те саме. Одна володітиме машинами. Інша, можливо, в певному сенсі, буде ними володіти. Це може створити нову когнітивну стратифікацію, в якій вирішальною нерівністю буде не доступ до інформації, а здатність здійснювати судження за наявності нескінченно зручного штучного інтелекту.
Право робити помилки
Це повертає нас до Дикуна. Коли Мустафа Монд перераховує неприємні речі, які цивілізація скасувала, Дикун наполягає на тому, щоб претендувати на них. Він вимагає небезпеки, свободи, гріха та нещастя, бо життя, з якого виключено всі несприятливі можливості, більше не є повноцінно людським.
Можливо, зрештою нам знадобиться еквівалентний принцип для штучного інтелекту: право робити власні помилки.
Проти цього будуть вагомі аргументи. Навіщо дозволяти лікарю-людині не помічати те, що міг би виявити штучний інтелект? Навіщо дозволяти водієві робити помилки, яких уникнув би автономний транспортний засіб? Навіщо дозволяти студенту погано розраховувати, коли програмне забезпечення розраховує ідеально? Навіщо дозволяти адміністраторам приймати суперечливі рішення, коли машини можуть розпізнавати закономірності, що виходять за межі людського розуміння?
За багатьох обставин не буде переконливої причини. Ми повинні віддавати перевагу безпечнішому автомобілю та кращій діагностиці. Але логіка оптимізації не має природної точки зупинки. Як тільки суспільство погоджується з тим, що машинне судження має замінити людське судження щоразу, коли перше є статистично переважаючим, величезні сфери людської автономії стає важко захистити. Дружба неефективна. Кохання ірраціональне. Батьківство хаотичне. Мистецтво економічно непередбачуване. Демократичні обговорення регулярно призводять до помилок.
Цивілізація, організована виключно навколо оптимізації, може зрештою дійти висновку, що люди є головним джерелом помилок у системі. Це неприємно близько до філософії, що лежить в основі Світової Держави.
Що Хакслі може сказати індустрії штучного інтелекту
Хакслі не був принципово ворожим до технологій. «Дивний новий світ» — це не аргумент про те, що науковий прогрес має припинитися. Це аргумент про те, що відбувається, коли технологічна могутність поєднується зі збідненим уявленням про людський процвітання.
Ця відмінність має величезне значення. Справжньою метою штучного інтелекту не може бути лише максимізація зручності. Це також не може бути просто максимізація продуктивності, залученості, задоволення чи навіть безпеки. Це бажані речі, але вони не є повною теорією людського добробуту.
Система штучного інтелекту, розроблена виключно для того, щоб давати людям те, чого вони хочуть, зрештою може послабити їхню здатність вирішувати, чого варто бажати. Тому хороший штучний інтелект іноді повинен запобігати конфліктам.
Освіта пропонує найяскравіший приклад. Ідеальний викладач зі штучного інтелекту не повинен просто давати відповіді. Він повинен знати, коли їх не давати. Іноді він повинен змушувати учня докладати зусиль, оскільки інтелектуальна боротьба розвиває здібності, які неможливо виміряти шляхом отримання правильних результатів.
Той самий принцип застосовується й ширше. Штучний інтелект має розширювати можливості людської діяльності, а не систематично замінювати їх. Він має виявляти невизначеність, а не приховувати її під авторитетною прозою. Він має полегшувати доступ до оригінальних джерел, а не робити їх непотрібними. Він має заохочувати користувачів робити обґрунтовані судження, а не тихо робити ці судження за них. Це не просто питання дизайну програмного забезпечення. Це культурний вибір.
Остання людська свобода
Тому найглибша небезпека, яку становить штучний інтелект, ймовірно, не та, що домінує в масовій культурі. Машинам не потрібно ставати свідомими. Їм не потрібно ненавидіти нас. Їм не потрібно запускати ядерну зброю чи створювати армії роботів. Їм навіть не потрібно здобувати політичну владу в будь-якому загальноприйнятому сенсі.
Їм просто потрібно стати достатньо корисними, щоб ми перестали хотіти жити без них. Це справді гаксліанський сценарій.
Дорога до Дивного Нового Світу не встелена солдатами. Вона встелена зручностями.
Кожна індивідуальна відмова від автономії виглядатиме раціональною. Навіщо запам'ятовувати те, що можна миттєво знайти? Навіщо вивчати мову, коли переклад ідеальний? Навіщо боротися з прозою, коли машина пише краще? Навіщо терпіти самотність, коли доступний штучний супутник? Навіщо обмірковувати складний вибір, коли алгоритм може моделювати наші вподобання з надзвичайною точністю?
Жодне з цих рішень не створює антиутопії. Однак, разом узяті протягом кількох поколінь, вони можуть змінити людську особистість.
Тому велике філософське питання епохи штучного інтелекту може полягати не в тому, як запобігти тому, щоб машини стали схожими на людей. Можливо, це те, як запобігти тому, щоб люди стали схожими на мешканців Світової Держави Хакслі: комфортними, розваженими, технологічно розпещеними та дедалі менш здатними уявити, чому хтось хотів би бути іншим.
Попередження Хакслі зрештою стосувалося свободи. Але він розумів у свободі те, що ліберальні суспільства іноді забувають. Свобода — це не просто відсутність ланцюгів. Вона вимагає психологічної здатності вибирати, сумніватися, терпіти невизначеність і часом відкидати те, що найлегше.
Штучний інтелект може дати людству сили, які Хакслі навряд чи міг собі уявити. Він може вилікувати хвороби, пришвидшити розвиток науки, скасувати важку роботу та передати надзвичайні інтелектуальні ресурси в руки мільярдів людей. Ми повинні бажати всього цього, водночас залишаючись уважними до того, що може зникнути, коли воно з'явиться.
Десь серед цього достатку ми повинні зберегти, здавалося б, збочену вимогу Дикуна: свободу боротися, свободу мислити погано, перш ніж мислити добре, свободу зустрічати ідеї, які нам не подобаються, свободу нудьгувати, свободу бути на самоті і навіть свободу приймати рішення, які жодна система оптимізації не рекомендувала б.
Альтернатива не обов'язково має виглядати як тиранія. Саме це мав на увазі Гакслі. Вона може виглядати як рай.
