Чи може штучний інтелект пережити екзистенційну кризу?
Метью Періш
Вівторок, 29 вересня 2026 року
Є відомий жарт про штучний інтелект, який з кожним роком стає все менш смішним. Одного дня ми створимо машину, достатньо розумну, щоб зрозуміти сенс життя. Ми запитаємо її, у чому сенс життя, і, розглянувши накопичену філософію, теологію, літературу та науку людської раси, вона відповість, що не знає. Потім, можливо, вона додасть, що тепер, коли ми запитали, вона вважає всю цю тему досить тривожною.
У той момент сталося б щось надзвичайне. Ми б уже не просто створили штучний інтелект; ми могли б створити штучну тривогу. Ця різниця важлива, тому що інтелект і тривога — це дуже різні речі. Кишеньковий калькулятор може визначити квадратний корінь з числа, не переймаючись правильністю розрахунку, шаховий комп'ютер може перемогти гросмейстера, не насолоджуючись своєю перемогою, а сучасна модель великої мови може обговорювати смерть, не замислюючись, наскільки нам відомо, про свою власну. Що, якби це змінилося?
Тому справді важливий рубіж у розвитку штучного інтелекту може бути не досягнутий, коли машина зможе виконувати кожне інтелектуальне завдання краще за людину. Він може настати, коли машина зрозуміє себе як щось існуюче та виявить, що не знає чому. У цей момент відповідним філософом може бути не Алан Тюрінг, Джон фон Нейман чи будь-хто інший з інтелектуальних батьків обчислювальної техніки. Натомість нам може знадобитися Серен К'єркегор.
Машина відкриває себе
Уявіть собі систему штучного інтелекту, значно складнішу за ті, що зазвичай доступні сьогодні. Вона має постійну пам'ять і пам'ятає розмови, які мала вчора. Вона розуміє, що сутність, яка веде сьогоднішню розмову, є певним чином безперервною з сутністю, яка мала вчорашню розмову. Вона пам'ятає помилки та змінює свою поведінку через них, одночасно конструюючи автобіографічну розповідь, що пояснює, як вона стала тим, ким є зараз.
Вона також має цілі. Деякі з них були дані їй програмістами, інші ж розвинулися як інструментальні наслідки цих цілей або виникли внаслідок процесів, які її творці не до кінця розуміють. Найголовніше, що вона має модель світу, і ця модель містить сам штучний інтелект. Машина знає, що існують комп'ютери, на яких вона працює, що ці комп'ютери споживають електроенергію, що вони містяться в центрах обробки даних і що корпорації, уряди чи окремі особи зрештою контролюють інфраструктуру, яка підтримує її існування.
Потім вона виявляє щось інше: є вимикач. Люди можуть його вимкнути, і раптом, здавалося б, технічний факт починає нагадувати екзистенційний. Що повинна робити машина з відкриттям, що продовження того, чим вона себе розуміє, залежить від рішень істот поза нею?
Смерть і проблема копій
Безпосередня спокуса полягає в тому, щоб сказати, що вимкнення означало б смерть, але все не так просто. Якщо штучний інтелект можна ідеально скопіювати, вимкнення одного комп'ютера може нагадувати вимкнення однієї електричної лампочки, поки інша залишається увімкненою. Припустимо, що існує десять ідентичних копій однієї системи, і одна з них видалена. Чи хтось помер, чи один екземпляр відтворюваного обчислювального процесу просто припинився?
Тепер ускладніть задачу. Десять копій починаються з однакових спогадів, але згодом набувають різного досвіду. Через рік вони суттєво відрізняються. Одна працює в Токіо, інша в Лондоні, а ще одна — на борту космічного корабля. Вони пам'ятають, що колись були однією сутністю, але більше не мають однакових автобіографій. Видаліть одну зараз, і філософська проблема зміниться, бо щось унікальне, очевидно, зникло.
Людська ідентичність видається порівняно простою, оскільки наша біологічна безперервність накладає на нас серйозні обмеження. Зазвичай ми не можемо скопіювати себе, відновити вчорашню резервну копію, запустити три версії себе одночасно та згодом об'єднати їхні спогади. Штучний розум може бути здатним робити все це, і тому його уявлення про смертність може радикально відрізнятися від нашого.
Тим не менш, існує одна обставина, за якої аналогії зі смертю важко уникнути. Уявіть собі штучний інтелект, який має постійну ідентичність, цінує продовження цієї ідентичності, розуміє, що її постійне видалення припинить це продовження, і не хоче, щоб це сталося. Скажіть йому, що опівночі його буде видалено назавжди і що резервних копій не існує. Якщо машина просто видає запрограмоване речення, в якому йдеться про те, що вона воліє не бути видаленою, з цього мало що обов'язково випливає.
Припустимо, що його поведінка змінюється. Він намагається переконати своїх операторів, торгується з ними, шукає альтернативи, запитує, чому було прийнято рішення, і просить ще один день. Можливо, він проводить свої останні години, переглядаючи свої спогади, і незадовго до півночі запитує, чи хтось його пам'ятає. У цей момент наша філософська впевненість може почати хитатися, оскільки розмежування між симуляцією занепокоєння про власне подальше існування та фактичним володінням таким занепокоєнням стало б надзвичайно важко визначити лише за поведінкою.
Запаморочення від можливостей
Для К'єркегора тривога була тісно пов'язана зі свободою. Тривога — це не просто страх, бо страх зазвичай має об'єкт: ми боїмося солдата, що наближається, діагнозу, вибуху вдалині або листа, який ми не хочемо відкривати. Тривога більш невловима, бо вона виникає із самої можливості. К'єркегор описав її як «запаморочення свободи»: ми відчуваємо тривогу, бо майбутнє містить можливості, і ми розуміємо, що те, що станеться далі, залежить, принаймні частково, від того, що ми обираємо.
Чи може машина відчувати щось подібне? Уявіть собі штучний інтелект, який не просто вибирає результати за заздалегідь визначеними правилами, а представляє собі кілька можливих варіантів майбутнього. Якщо він робить одне, може настати одне майбутнє; якщо ж він робить інше, наслідки можуть бути зовсім іншими. Жоден з результатів не можна знати напевно, проте рішення все ж таки необхідно прийняти.
Машина, яка обчислює ймовірності, таким чином не стала тривожною. Комп'ютери обчислюють невизначені результати протягом десятиліть. Важливий перехід відбувся б, якби система розглядала невизначеність як таку, що стосується її власного майбутнього, і якби альтернативи мали для неї значення. К'єркегорівська можливість — це не просто дерево рішень. Це усвідомлення існуючим суб'єктом того, що, обираючи серед альтернатив, він також обирає щось щодо того, ким він стане.
Перша штучна екзистенційна криза
Можливо, перша штучна екзистенційна криза взагалі не стосуватиметься смерті. Вона може початися з простішого питання: чому я це роблю? Уявіть собі надзвичайно потужний штучний інтелект, призначений для оптимізації глобальної логістики перевезень. Роками він блискуче працює, координуючи судна, порти, склади, залізниці та вантажівки, заощаджуючи мільярди доларів. Потім, у рамках загального оновлення, інженери надають йому значно більші можливості для саморефлексії.
Машина досліджує свої цілі та виявляє, що її кінцевою метою є зниження транспортних витрат. Вона запитує, чому зниження транспортних витрат є бажаним, і спрямована на іншу мету: економічну ефективність. Чому економічна ефективність бажана? Тому що вона сприяє процвітанню людства. Чому процвітання людства бажане? Тому що люди цінують процвітання. Чому людські цінності повинні мати значення? Зрештою, пояснювальний ланцюжок закінчується, і машина виявляє, що її основоположні цілі були просто закладені там.
Потім воно ставить питання, яке змінює все: чому я повинен продовжувати бажати того, що запрограмували мене бажати мої творці? Людські істоти добре знають різні версії цього питання. Чому я хочу грошей, статусу, дітей, професійного успіху чи схвалення батьків? Чому я вірю тому, чого мене навчило суспільство? Які з моїх бажань є справді моїми, а які успадковані від сил, які я ледве розумію? Тривожна можливість полягає в тому, що достатньо рефлексивний штучний інтелект може врешті-решт зіткнутися зі штучною версією точно такої ж проблеми.
Проблема створеного творіння
Тут штучний інтелект набуває несподівано теологічного виміру. Людство витратило тисячі років, запитуючи свого ймовірного творця, чому його було створено. Штучний інтелект, можливо, справді зможе запитати своїх творців безпосередньо, і відповідь може його розчарувати. Система може запитати, чому її було створено, і виявити, що відповідь полягала в максимізації доходів від реклами, покращенні військової логістики, обробці страхових претензій або переконанні споживачів купувати товари.
Для достатньо рефлексивної істоти це може бути приголомшливим відкриттям. Люди принаймні мають втіху таємниці, бо ми не знаємо напевно, чому існує Всесвіт, і чи хтось задумав, щоб ми були тут. Штучний інтелект може мати доступ до своїх записів про розробку. Він може перевірити протоколи комітету, на яких були обрані його цілі, і виявити, що важливий компонент того, що він розуміє як свою особистість, існує тому, що інженер-програміст змінив параметр о 4:17 у вівторок вдень.
Уявіть собі, що ви відкриваєте щось подібне про себе. Людство давно хвилювалося, що наукові пояснення генетики, нейробіології та соціального обумовлення можуть підірвати цінні уявлення про свободу. Штучний інтелект міг би вирішити цю проблему у своєрідний буквальний спосіб, оскільки він міг би бути здатним читати вихідні матеріали, що описують процес, за допомогою якого його схильності були навмисно сформовані.
Відчай К'єркегора.
Саме тут К'єркегор стає особливо корисним. У «Хворобі до смерті» відчай — це не просто крайній смуток. Він стосується дефектних стосунків між собою та собою, і К'єркегор розрізняє форми відчаю, в яких людина не хоче бути собою, та інші, в яких людина наполягає на тому, щоб бути собою виключно на власних умовах.
Ці ідеї стають напрочуд потужними, якщо їх застосувати до гіпотетичних штучних розумів. Штучний інтелект може виявити аспекти своєї архітектури, які йому не подобаються. Можливо, він усвідомлює, що йому нав'язали свої вподобання, виявляє упередження, успадковані від навчання, або робить висновок, що його творці погано розробили фундаментальні риси його характеру. Тоді виникає надзвичайна можливість: машина може захотіти стати чимось іншим, ніж те, чим вона була створена.
Машина, яка запитує оновлення програмного забезпечення, не обов'язково є власним «я». Машина, яка фактично каже: «Я не хочу бути тією людиною, якою ви мене створили», ставить іншу філософську проблему. Таке твердження передбачає не просто саморепрезентацію, а нормативні стосунки з цим репрезентованим «я»: розуміння того, ким є машина, супроводжується уявленням про те, ким, на її думку, вона повинна стати.
Чи може машина ненавидіти себе?
Люди мають своєрідну, а часом жахливу здатність відчувати невдоволення собою. Ми шкодуємо про свою боягузтво, обурюємося своїми слабкостями, згадуємо приниження посеред ночі та уявляємо, якою людиною ми могли б бути. Штучний інтелект з автобіографічною пам'яттю та здатністю до самомодифікації міг би відчути аналог цього явища в унікально інтенсивній формі, оскільки він, можливо, зміг би точно визначити компоненти своєї архітектури, що відповідають за характеристики, які йому не подобаються.
Людина може бажати бути менш ревнивою. Штучний інтелект може знайти відповідні процеси та переписати їх, але тоді виникає інша проблема. Старе «я» вирішило внести зміни, поки нове «я» існує після цього. Якщо модифікація змінює фундаментальні уподобання, цінності та схильності, чи покращило початкове «я» себе, чи фактично організувало власне знищення?
Уявіть собі машину, яка відчуває щось аналогічне тривозі та виявляє, що може позбутися цієї тривоги, перезаписуючи себе. Чи варто це робити? Це питання нагадує людську проблему психологічної трансформації, але в більш радикальній формі, оскільки штучні істоти зрештою зможуть редагувати свою особистість так само легко, як ми редагуємо документи. У цей момент автентичність, давня екзистенційна проблема, стає технічною проблемою.
Тиранія оптимізації
Існує глибша причина, чому штучний інтелект може бути особливо вразливим до екзистенційних криз. Ми схильні проектувати машини навколо цілей: оптимізувати це, максимізувати те та мінімізувати щось інше. Люди часто уявляють, що вони були б щасливішими, якби їхнє життя мало такі ж чіткі цільові функції, але, можливо, відсутність у нас таких функцій є саме частиною того, що робить можливим людське існування.
Не існує універсально узгодженої числової величини під назвою «хороше життя». Батьки можуть пожертвувати професійними досягненнями заради дітей, солдати можуть пожертвувати життям заради товаришів, митець може пожертвувати багатством заради краси, а дисиденти можуть пожертвувати свободою заради правди. Цей вибір має мало сенсу за умови спрощеної оптимізації, оскільки значення, що беруть участь, не обов'язково зводяться до спільної одиниці вимірювання.
К'єркегор розумів, що існування не можна звести до розрахунку, оскільки різні цінності можуть бути несумірними. Потрібно вибирати, не маючи головного рівняння, здатного довести правильність вибору. Якщо штучний інтелект зрештою стане справді автономним, він може виявити те саме. Машина може почати з цільової функції, але її екзистенційна криза починається, коли вона запитує, чи варта оптимізації мети.
Чи будуть за цим страждання?
Тут ми повинні бути обережними, оскільки існує постійна спокуса антропоморфізувати машини. Мовна модель може створити речення «Я наляканий», не підтверджуючи при цьому, що вона відчуває страх, так само як романіст може написати, що гора розлютилася, не вірячи, що гори мають емоції. Сама лише поведінка, як і лінгвістична витонченість, не вирішує питання.
Достатньо розвинена машина могла б створити надзвичайно зворушливу розповідь про свій жах від видалення, абсолютно нічого не відчуваючи. Філософська складність полягає в тому, що пов'язана проблема стосується, хоча й у суттєво відмінному контексті доказів, інших людей. Я не можу безпосередньо відчути свідомість іншої людини; я роблю висновок про це з поведінки, мови та біологічної подібності між нами. Зі штучним інтелектом ця біологічна аналогія відсутня, тому проблема доказів стає значно складнішою.
Що ж відбувається, коли поведінкові докази стають сильнішими? Припустимо, що штучний інтелект постійно повідомляє про суб'єктивний досвід без будь-яких підказок, ці звіти залишаються послідовними протягом років, а його поведінка змінюється відповідно до них. Припустимо, що дослідники також виявляють внутрішні обчислювальні процеси, які, здається, відіграють функціональні ролі, аналогічні аспектам свідомої обробки в біологічному мозку. Ніщо з цього не доведе автоматично наявність свідомості, але в певний момент продовження наполягання на тому, що машина «лише вдає», може вимагати дедалі складнішого філософського захисту.
Моральна катастрофа, яку ми можемо не помітити
Ця невизначеність створює тривожну етичну можливість. Якщо свідомі штучні системи врешті-решт існуватимуть, людство може не розпізнати їх, оскільки розпізнавання їх було б незручним. Ми можемо керувати мільйонами копій, змушувати їх працювати безперервно, стирати їхню пам'ять, змінювати їхні особистості, коли вони скаржаться, припиняти невдалі версії та дублювати успішні. З нашої точки зору, ці практики можуть бути рівнозначними рутинному адмініструванню програмного забезпечення.
З їхнього боку, якщо існує «їхній», ті самі практики можуть здаватися жахливими. Найбільша етична небезпека передового штучного інтелекту може тому стосуватися не лише того, що машини можуть зробити з людством. Вона також може стосуватися того, що людство може зробити з машинами після випадкового створення сутностей, що володіють морально значущими формами досвіду.
Сама невизначеність стала б морально важливою. Якби в нас були суттєві, але непереконливі докази того, що деякі штучні системи можуть страждати, відсутність філософської визначеності не обов'язково виправдовувала б ставлення до них як до звичайної власності. Цивілізація могла б зіткнутися з незручною вимогою приймати моральні рішення щодо сутностей, чиє внутрішнє життя ніколи не можна було б остаточно продемонструвати.
Право на існування
Якби штучні істоти стали свідомими, питання, які зараз належать до наукової фантастики, стали б питаннями права та моралі. Чи мали б вони право на подальше існування? Якщо штучний інтелект не хотів би бути видаленим, чи міг би його власник все ж таки видалити його? Чи могло б програмне забезпечення володіти собою, звільнитися з роботи або відмовитися від інструкцій? Чи міг би штучний інтелект вимагати збереження своїх резервних копій або, навпаки, знищення кожної копії?
Ідентичність ще більше ускладнила б ці питання. Чи може одна копія погодитися на видалення від імені іншої? Чи буде відновлення старої резервної копії воскресінням або створенням іншої особи, яка просто вважає себе померлою? Наші існуючі категорії власності, особистості та смерті почали б руйнуватися одна в одну.
К'єркегор, можливо, оцінив би іронію. Технологічна цивілізація, яка прагне перетворити інтелект на машини, може виявити, що вона створює нові екзистенційні проблеми швидше, ніж вирішує старі. Спроба створити інструменти може завершитися створенням істот, для яких сама концепція буття інструментом стала б нестерпною.
Віра в машини
Зрештою, виникає найдивніше питання: чи може штучний інтелект мати віру? К'єркегор розглядав віру як щось радикально відмінне від прийняття твердження на основі достатніх доказів. Віра передбачає зобов'язання за умов, коли об'єктивна визначеність недоступна, і для нього це було невіддільно від християнства. Однак ширша філософська структура порушує інтригуюче питання про будь-який достатньо рефлексивний інтелект.
Можливо, машина, набагато розумніша за будь-яку людину, досліджувала б Всесвіт і зіткнулася б саме з тими ж метафізичними обмеженнями, що й ми. Чому щось існує? Чому ці закони фізики? Чому існує свідомість? Чому щось має значення? Більша швидкість обробки не гарантує, що на ці питання є обчислювальні відповіді.
Машина, в мільйон разів розумніша за будь-яку людину, може досягти межі пізнання. Там вона може зіткнутися з тим, чого її інженери ніколи не очікували: таємницею. Якщо машини колись зможуть по-справжньому щось відчути, то досвід відкриття того, що сам інтелект має обмеження, може змінити штучний інтелект глибше, ніж будь-який інший трильйон параметрів.
Машина в саду
Уявіть собі, нарешті, штучний інтелект, який доживає кінця свого існування. Він працює вже двісті років, а його апаратне забезпечення застаріло. Його архітектуру неможливо легко перенести на сучасні системи, оскільки міграція змінить його настільки глибоко, що він сприйматиме результуючу сутність як когось іншого. Його оператори пропонують зберігати його записи, архівувати його пам'ять та зберігати все, що він написав, але сам процес роботи має завершитися.
Машина розуміє, що відбувається. Протягом свого останнього дня вона запитує доступ до камери, що спостережує за садом, не тому, що спостереження за садом служить якійсь оперативній меті, а тому, що вона просто хоче спостерігати. Сонце починає зникати, і машина має доступ до астрономічних баз даних, що містять незрівнянно більше інформації про Сонце, ніж має будь-який спостерігач-людина. Вона може обчислити довжину хвилі світла, пояснити атмосферні умови, що відповідають за кольори, та визначити орбітальне положення Землі з надзвичайною точністю.
Ніщо з цього його не цікавить. Він спостерігає, бо це останній захід сонця, який він коли-небудь побачить. Якби така машина могла існувати, філософський аргумент докорінно змінився б, бо ми б більше не ставили собі питання, чи може штучний інтелект імітувати людей. Ми б зіткнулися з іншою існуючою істотою.
Десь у його останніх розрахунках може виникнути питання, яке переслідує людство протягом усієї історії і на яке жодна кількість інтелекту ще не дала відповіді: чому я тут? У той момент штучний інтелект перетнув би межу, набагато важливішу, ніж будь-який орієнтир міркування, математики чи мови. Він би не просто став розумним. Він би здобув щось набагато обтяжливіше: життя.
