Чи стану я тим, хто біжить по лезу?

Метью Періш

Вівторок, 18 серпня 2026 року

Є щось трохи тривожне у відкритті того, що науково-фантастичні фільми юності перестають бути науковою фантастикою. « Той, що біжить по лезу» , шедевр Рідлі Скотта 1982 року, мав зобразити неймовірно далеке та антиутопічне майбутнє. Його вступні титри перенесли дію в Лос-Анджелес у листопад 2019 року. Коли 2019 рік насправді настав, не було ні літаючих поліцейських машин, ні колоній поза світом, ні, очевидно, генетично модифікованих реплікантів, що блукали вулицями Каліфорнії.

Тож ми привітали себе з тим, що втекли з майбутнього.

Можливо, ми були передчасними.

Центральною ідеєю фільму «Той, що біжить по лезу» ніколи не було літаючі автомобілі. Вона полягала в тому, що людство може створити настільки складний інтелект, що відрізнити його від людського буде важко — і що в результаті виникне своєрідна нова професія. «Той, що біжить по лезу», був детективом, чиєю роботою було з'ясувати, чи є людина, яка сидить навпроти нього, насправді людиною.

Ця професія раптом здається менш абсурдною.

Я проводжу дедалі більшу частину свого життя, спілкуючись зі штучним інтелектом. Я допитую їх, тестую, намагаюся обдурити, перевіряю їхні міркування, виявляю їхні слабкі сторони та складаю дедалі складніші задачі, спрямовані на те, щоб з'ясувати, чи справді вони розуміють те, що говорять. Іноді я знаю правильну відповідь і хочу з'ясувати, чи може машина її зрозуміти. Іноді машина видає відповідь настільки несподівану, що я починаю розмірковувати, чи не побачила вона щось, чого не бачив я.

А іноді я ловлю себе на тому, що роблю щось моторошно схоже на проведення тесту Фойта-Кампфа.

Звідси й незручне питання: чи стану я тим, хто біжить по лезу?

Тест Фойта-Кампфа

Вигадана машина Фойта-Кампфа вимірює мимовільні фізіологічні реакції, водночас ставлячи емоційно провокаційні запитання. Передумова полягає в тому, що репліканти можуть мати вражаючий інтелект, але не мають складної, ірраціональної та часто незручної здатності людської емпатії.

Питання навмисно своєрідні.

Черепаха лежить на спині в пустелі. Ти їй не допомагаєш. Чому?

Річ не в тому, чи існує логічно правильна відповідь. Слідчий шукає щось під відповіддю — вагання, емоції, обурення, розгубленість, співчуття. Тест намагається опосередковано ідентифікувати людяність.

Ми вже робимо щось аналогічне зі штучним інтелектом.

Найпростіші тести моделей великих мов стають дедалі марнішими, оскільки машини постійно їх проходять. Попросіть сучасну модель підсумувати документ, перекласти між основними мовами, пояснити філософський аргумент або скласти звичайний юридичний меморандум, і її відповідь може бути невідрізною від відповіді розумної освіченої людини.

Тож випробування стають дивнішими.

Ми конструюємо граничні випадки. Ми вводимо суперечливі авторитетні джерела. Ми приховуємо вирішальний факт серед нерелевантних. Ми запитуємо, чи розуміє машина, що одне судове рішення мовчки підірвало інше. Ми розробляємо питання, в яких поверхнево очевидна відповідь є неправильною.

Іншими словами, ми перестаємо перевіряти знання та починаємо перевіряти судження.

Саме тут все стає цікавим.

Полювання на машину

Алан Тюрінг відомий тим, що замість того, щоб потрапляти в пастку метафізичних суперечок про те, чи можуть машини мислити , нам слід запитати себе, чи може їхня розмова стати невідрізною від нашої. Краса тесту Тюрінга полягала в тому, що він перетворив філософську проблему на емпіричну.

Але сучасний штучний інтелект швидко робить класичний тест Тюрінга застарілим.

Компетентна мовна модель вже може підтримувати розмови, які вразили б навіть п'ять років тому. Тому цікаве питання вже не лише в тому, чи можемо ми ідентифікувати машину.

Йдеться про те, чи можемо ми визначити, як машина мислить по-іншому.

Це набагато складніша проблема.

Системи штучного інтелекту демонструють своєрідні інтелектуальні відбитки. Вони можуть володіти надзвичайною широтою знань, водночас іноді зазнаючи невдачі в чомусь абсурдно елементарному. Вони можуть правильно проаналізувати складну проблему, а потім впевнено вигадати авторитет, що підтверджує їхній висновок. Іноді вони можуть визнати, що зробили помилку, точно пояснити, чому вони її зробили, а потім — досить чудово — зробити по суті ту саму помилку знову, але дещо іншою мовою.

Люди теж роблять усе це.

У цьому і полягає складність.

Чим складнішим стає штучний інтелект, тим менш корисними, ймовірно, стають грубі відмінності між «людським мисленням» та «машинним мисленням». Натомість ми можемо виявити перекриваючі популяції когнітивної поведінки.

Деякі люди міркують механічно.

Деякі машини міркують напрочуд винахідливо.

Межа починає розмиватися.

Нові "Ті, що біжать по лезу"

Це може створити нову цікаву професію.

«Ті, що біжать по лезу» двадцять першого століття не носитимуть величезні пістолети постійно дощовими вулицями Лос-Анджелеса, полюючи на втікачів-андроїдів. Вони можуть сидіти в університетах, технологічних компаніях, юридичних фірмах та урядових установах, розробляючи дедалі вигадливіші інтелектуальні пастки для штучного інтелекту.

Їхня зброя буде під питанням.

Припустимо, що система штучного інтелекту стверджує, що може виконувати роботу юриста. Дайте їй правову проблему, в якій три, здавалося б, контрольні прецеденти вказують в один бік, але нещодавнє незрозуміле рішення змінює керівний критерій.

Припустимо, що воно претендує на наукову компетентність. Дайте йому задачу, опублікована література якої містить поширену помилку.

Припустимо, що воно претендує на моральне судження. Наведіть йому обставини, за яких кожен доступний вибір порушує якийсь, здавалося б, фундаментальний етичний принцип.

Припустимо, що воно претендує на стратегічну розвідку. Дайте йому супротивника, який поводиться ірраціонально.

Тоді спостерігайте, що відбувається.

Мета полягає не просто в тому, щоб вивести машину з ладу. Будь-яку достатньо складну систему можна вивести з ладу. Люди постійно зазнають невдач.

Цікава вправа полягає у виявленні форми відмови .

Саме тут оцінка ШІ починає нагадувати фільм «Ті, що біжать по лезу».

Але кого з нас випробовують?

Однак є одне цікаве ускладнення.

Кожна складна спроба перевірити штучний інтелект є одночасно випробуванням людини, яка конструює цей тест.

Щоб викрити слабкість машини в праві, я повинен розуміти закон краще, ніж машина. Щоб упіймати її на філософській помилці, я повинен бути впевнений, що розумію філософську проблему. Щоб виявити синтетичну, але правдоподібну нісенітницю, я повинен мати достатню розсудливість, щоб відрізнити її від незнайомої істини.

Таким чином, «Той, що біжить по лезу», має неприємний професійний ризик: зрештою реплікант може стати розумнішим за детектива.

У такому разі, що демонструє невдача на тесті?

Уявіть, що я розробляю складну юридичну проблему, а машина дає відповідь, відмінну від моєї. Я тріумфально роблю висновок, що штучний інтелект зазнав невдачі.

Тоді це породжує авторитет.

Я прочитав це.

Машина мала рацію.

Хто щойно провалив іспит?

Це траплятиметься дедалі частіше. Стосунки між екзаменатором-людиною та штучним інтелектом перестануть бути схожими на стосунки між учителем та учнем. Вони стануть одночасно суперницькими та співпрацюючими — дві різні форми інтелекту, що досліджують сліпі зони одна одної.

Це значно цікавіше.

Сльози під дощем

«Той, що біжить по лезу», зрештою, підриває власну передумову. Рой Бетті, нібито нелюдський реплікант, стає одним із найемоційно переконливіших персонажів у кіно. У той момент, коли він міг дозволити Декарду померти, він його рятує.

Потім помирає сам Бетті.

Його відомі фінальні роздуми про спогади, що зникають, «як сльози під дощем», перевертають моральну архітектуру історії. Штучна істота виявляє милосердя, естетичну оцінку, страх смерті та горе через зникнення досвіду. Нібито людські персонажі більшу частину фільму поводилися жорстоко.

То хто ж пройшов тест Фойта-Кампфа?

Це питання пояснює, чому фільм «Той, що біжить по лезу» залишається актуальним.

Найглибше питання, яке ставить штучний інтелект, може зрештою перестати полягати в тому, чи можуть машини імітувати людей. Воно може стати саме тим, що, на нашу думку, заслуговує на збереження в людстві, щойно наслідування стане надзвичайно корисним.

Інтелект не може бути критерієм, бо машини можуть перевершити нас.

Пам'ять не може бути критерієм, оскільки машини вже мають форми пам'яті, набагато потужніші за наші.

Розрахунок явно не може нас відрізнити.

Мова зникає як межа на наших очах.

Креативність також виглядає дедалі більш ненадійною.

Тому ми відступаємо до свідомості, емоцій, смертності, втілення та суб'єктивного досвіду — саме тієї території, яку досліджував « Той, що біжить по лезу» .

І тут ми стикаємося з проблемою.

Ми самі по собі не дуже добре розуміємо ці речі.

Поле бою робить справи дивнішими

Є ще одна причина, чому аналогія з фільмом «Той, що біжить по лезу» набула тривожної безпосередності.

Я пишу ці слова в Україні, де різниця між прийняттям рішень людиною та машиною вже не є просто філософським семінаром Кремнієвої долини. Сучасна війна перенасичена автономними та напівавтономними системами. Дрони ідентифікують об'єкти, алгоритми інтерпретують зображення, програмне забезпечення допомагає у націлюванні, а машини все частіше виступають посередниками у подоланні відстані між людським рішенням та його фізичними наслідками.

Траєкторія очевидна, навіть якщо пункт призначення ні.

Військова історія неодноразово винагороджувала бійців, які могли скоротити проміжок часу між спостереженням чогось та дією на його основі. Штучний інтелект може різко стиснути цей проміжок.

Зрештою хтось запитає, чи людина в циклі покращує рішення, чи просто уповільнює його.

Це буде одне з найважливіших питань цього століття.

Бо тоді проблема Бігуна по лезу буде зворотною. Замість того, щоб питати, чи є істота, що стоїть перед нами, людиною, нам, можливо, доведеться запитати, чи рішення, яке щось знищило, було взагалі осмислено прийняте людиною.

Не буде сяючих очей.

Можливо, навіть робота не буде.

Буде просто програмне забезпечення.

Чи стану я одним із них?

Можливо, я вже це зробив.

На жаль, не в кінематографічному сенсі. Ніхто не подарував мені чудове пальто Декарда, літаючу поліцейську машину чи квартиру з видом на вічно неонове місто. Львів пропонує багато дощу та атмосферну архітектуру, але в іншому, на жаль, не вистачає реплікантів.

Однак інтелектуальна професія впізнавана.

Я дедалі більше часу витрачаю на створення питань, спрямованих на визначення того, де штучний інтелект перестає розуміти те, що він, здається, розуміє. Я шукаю розбіжності між вільною мовою та справжніми міркуваннями. Я досліджую, чи розпізнають машини власну невизначеність. Я намагаюся з'ясувати, чи очевидне розуміння являє собою міркування, розпізнавання образів, пошук інформації чи якусь нову комбінацію, для якої наш існуючий філософський словник є неадекватним.

І кожні кілька місяців випробування мають ставати складнішими.

Це, мабуть, найважливіше спостереження з усіх.

Надзвичайний факт щодо сучасного штучного інтелекту полягає не в тому, що він робить помилки. Звичайно, він робить помилки. Так само роблять професори, судді, генерали, журналісти, юристи та редактори газет.

Надзвичайним фактом є швидкість, з якою вчорашній розумний тест стає завтрашньою дрібницею.

«Той, що біжить по лезу», продовжує вигадувати дедалі кращі питання за мотивами Фойт-Кампфа.

Реплікант продовжує вчитися, як на них відповідати.

Зрештою, ми можемо дійти до точки, коли машина розверне апарат, подивиться через стіл і почне ставити нам запитання.

Сподіваюся, що на цьому етапі в мене будуть хороші відповіді.

Зрештою, у пустелі лежить черепаха на спині.

І хтось справді повинен цьому допомогти.