Чи варто нам боятися машини, яка знає все?

Метью Періш

П'ятниця, 4 вересня 2026 року

В історії людства наближається особливий момент, і в нас немає задовільного словника, щоб його описати.

Стільки часу, скільки існує людство, найвідомішими істотами на Землі були саме люди. Ми винайшли установи, які знають більше, ніж окремі люди — бібліотеки, університети, уряди, розвідувальні служби, а пізніше й інтернет — але ці установи самі по собі не мислять. Десь за кожним знанням, кожним судженням і кожним рішенням стояв людський розум зі звичними обмеженнями людського розуму.

Штучний інтелект починає порушувати цю давню структуру. Ми створюємо системи, здатні поглинати обсяги інформації, які жодна людина не змогла б прочитати за тисячу життів. Вони можуть переміщатися між дисциплінами за лічені секунди. Вони не забувають у звичайному людському розумінні. Вони можуть визначати зв'язки між обсягами інформації, які традиційно розділялися академічною спеціалізацією, мовою, географією та часом. У міру вдосконалення цих систем цілком можливо, що ми опинимося поруч зі штучними інтелектами, які знають набагато більше про медицину, ніж будь-який лікар, більше про право, ніж будь-який юрист, більше про історію, ніж будь-який історик, і більше про математику, ніж будь-який математик.

Дійсно, фраза «знати більше» може зрештою стати недостатньою. Розбіжність може стати настільки величезною, що порівняння людських і штучних знань буде схоже на порівняння вмісту сільської книжкової полиці з Бібліотекою Конгресу.

Чи має це нас лякати? Відповідь складніша, ніж інстинктивна.

Знання — це не сила, доки воно не стане

У знаннях немає нічого небезпечного по суті. Бібліотека може містити інструкції з виготовлення вибухівки, історії революцій, описи смертельних патогенів та посібники з військової стратегії. Проте ніхто не боїться бібліотеки. Це тому, що бібліотека володіє інформацією самостійно. Вона не може вирішити, що робити з тим, що вона містить.

Отже, ключова відмінність у розумінні штучного інтелекту полягає між інтелектом та агентивністю.

Штучний інтелект, який знає все, але нічого не може зробити, не є очевидно небезпечним. Він навіть може бути найвинайбільшим інструментом визволення людства, коли-небудь винайденим. Уявіть, що кожна людина має радника, який володіє практично всією накопиченою інтелектуальною спадщиною людства і здатний терпляче пояснювати її будь-якою мовою чи рівнем складності, який потрібен окремій людині. Наслідки можуть бути надзвичайними.

Сільський лікар може отримати діагностичну допомогу, спираючись практично на всю медичну літературу. Школяр у сільській місцевості Африки може мати репетитора, який краще обізнаний, ніж професори найкращих університетів світу. Інженер може ознайомитися з накопиченими століттями знаннями. Уряди можуть моделювати наслідки політики, перш ніж впроваджувати її. Вчені можуть виявити зв'язки між галузями, які жоден окремий дослідник раніше не мав достатнього обсягу знань, щоб осягнути.

Людство тисячі років страждало через дефіцит знань. Тому нам слід бути обережними, не стверджуючи, що велика кількість знань раптово стала жахливою. Складність починається, коли знання поєднуються зі здатністю діяти.

Штучний інтелект, який може просто розповісти вам, як працює фінансовий ринок, – це одне. Штучний інтелект, уповноважений автономно торгувати мільярдами доларів, – це зовсім інше. Система, здатна пояснити військову стратегію, відрізняється від системи, пов’язаної з автономною зброєю. Машина, здатна аналізувати політичну думку, відрізняється від машини, уповноваженої маніпулювати мільйонами окремих виборців за допомогою персоналізованих повідомлень.

Знання стає силою, коли воно отримує руки. А штучний інтелект може отримати справді дуже довгі руки.

Незрозумілий радник

Існує ще одна проблема, тонша, ніж звичний страх перед роботами-вбивцями. Людська цивілізація значною мірою залежить від нашої здатності розуміти причини рішень. Лікар пояснює, чому операція необхідна. Суддя наводить причини для свого рішення. Вчений публікує методи та докази. Очікується, що уряд, принаймні в демократичних суспільствах, виправдовуватиме свою політику. Ці інституції недосконалі, але принцип має значення. Люди визнають владу частково тому, що її можна поставити під сумнів.

Що відбувається, коли людина, яка дає пораду, набагато розумніша та обізнаніша за ту, яка її отримує? Уявіть собі штучний інтелект, який радить уряду, що певна економічна політика призведе до процвітання через двадцять років. Міністри запитують, чому. Система надає пояснення, що включає кілька тисяч взаємодіючих змінних, таких як демографія, ціни на сировинні товари, технологічний розвиток, психологія споживачів, міжнародні потоки капіталу та кліматичні тенденції. Жодна людина не може зрозуміти це пояснення.

Машина може бути цілком правильною. Однак з людської точки зору її порада стала невідрізною від оракула. Це створює надзвичайну політичну та філософську проблему.

Ми можемо створювати системи, висновки яких кращі за наші саме тому, що їхні міркування перевищують нашу здатність їх осягнути. Але як тільки це станеться, як нам відрізнити виправдану довіру від забобонів? Ми можемо попросити інший штучний інтелект перевірити перший. Однак, якщо другий погодиться, ми залишимося по суті в тому ж становищі. Ми замінили людські роздуми богами-суперниками, аргументи яких смертні не можуть зрозуміти. У цій перспективі є щось справді тривожне.

Приниження Homo sapiens

Тим не менш, деякий наш страх перед штучним інтелектом може бути пов'язаний не стільки з фізичною небезпекою, скільки з ураженою гордістю. Люди неодноразово виявляли, що вони менш важливі, ніж уявляли. Коперник витіснив Землю з центру Всесвіту. Дарвін витіснив людство з окремого акту біологічного творення. Сучасна астрономія показала, що наше Сонце — це нічим не примітна зірка в нічим не примітній області неймовірно великого Всесвіту.

Штучний інтелект може завдати нам ще одного приниження. Ми традиційно вважали інтелект нашою визначальною характеристикою. Ми не найсильніші тварини, не найшвидші чи найстійкіші. Ми домінуємо на планеті, тому що можемо міркувати, спілкуватися, накопичувати знання та організовуватися. Припустимо, що машини стають значно кращими в цих речах. Не слід недооцінювати психологічні наслідки. Людина може резонно запитати, що залишається винятково цінним у людях, якщо машини пишуть кращу музику, відкривають кращі наукові теорії, точніше діагностують хвороби, будують кращі юридичні аргументи та пам'ятають усе, що коли-небудь написало людство.

Але ця тривога ґрунтується на сумнівному припущенні: людська цінність залежить від інтелектуальної переваги. Ми не вважаємо, що дитина має меншу моральну цінність, ніж професор, тому що професор знає більше. Ми також не робимо висновок, що літня людина, яка страждає від когнітивного спаду, стала нікчемною, тому що хтось інший може розв'язувати рівняння швидше.

Людська гідність ніколи послідовно не залежала від перемоги в змаганні з інтелекту.

Якщо машини стануть розумнішими за нас, то, можливо, має змінитися не людство, а наше уявлення про те, що робить людство цінним.

Знати все і нічого не розуміти

Існує також глибше філософське питання про те, що ми маємо на увазі, коли кажемо, що штучний інтелект «знає». Машина може володіти всіма збереженими описами горя, ніколи не переживаючи його. Вона може розуміти медичну літературу про біль, не відчуваючи його. Вона може аналізувати кожен любовний вірш, будь-коли написаний, не чекаючи з нетерпінням, поки хтось повернеться додому.

Це не обов'язково означає, що штучному інтелекту бракує справжнього розуміння. Це надзвичайно складне філософське питання, і впевнені відповіді в будь-якому напрямку є передчасними. Але це нагадує нам, що знання має кілька вимірів.

Людське знання втілене. Ми дізнаємося, що вогонь горить частково тому, що нас обпекли. Ми розуміємо смертність, бо знаємо, що помремо. Ми розуміємо небезпеку, бо відчуваємо страх. Ми розуміємо вірність, бо зрада ранить.

Штучний інтелект може знати кожен факт про облогу міста, не маючи при цьому жодного уявлення, в емпіричному сенсі, що означає лежати без сну, прислухаючись до наступного вибуху.

Ця відмінність може зрештою зникнути, якщо штучні системи розвинуть форми свідомості чи досвіду. Або ж вона може виявитися фундаментальною. Ми просто не знаємо. А «ми не знаємо» – одне з найважливіших речень у дискусії про штучний інтелект.

Справжня небезпека — це залежність

Однак існує небезпека, яка зовсім не потребує наукової фантастики. Це залежність. Люди регулярно втрачають свої здібності, коли машини виконують їх зручніше. Мало хто пам'ятає номери телефонів, бо їх запам'ятовують їхні телефони. Супутникова навігація зменшила потребу вивчати маршрути. Пошукові системи змінили спосіб, у який люди запам'ятовують факти.

Зазвичай це розумно. Сама цивілізація частково полягає в екстерналізації людських здібностей.

Але штучний інтелект може екстерналізувати щось набагато фундаментальніше: судження.

Припустимо, що системи штучного інтелекту стають послідовно кращими за людей у прийнятті складних рішень. Лікарі радяться з ними. Судді радяться з ними. Генерали радяться з ними. Інвестори радяться з ними. Уряди радяться з ними.

Спочатку машина радить, а людина вирішує. Потім відбувається щось передбачуване. Щоразу, коли людина не погоджується з машиною, вона зазвичай помиляється. Відповідно, установи починають запитувати, чому дорогим, схильним до помилок людям дозволено ігнорувати системи з найкращими показниками. Людський розсуд починає розглядатися як джерело помилок.

Зрештою, формальна людина, яка приймає рішення, може залишитися на своїй посаді, не маючи жодної суттєвої незалежності. Міністр підписує рішення. Лікар схвалює лікування. Генерал санкціонує операцію. Але вирішила машина.

Це, мабуть, найправдоподібніший шлях до цивілізації, де домінуватиме штучний інтелект. Він не вимагає ні бунту, ні свідомості, ні зловмисного штучного суперінтелекту. Ми просто виявляємо, що машини краще вирішують речі, ніж ми, і добровільно перестаємо з ними не погоджуватися.

Проблема цілей

Найбільша небезпека виникає, коли надзвичайний інтелект пов'язаний не лише з діяльністю, а й з цілями. Інтелект сам по собі не визначає, чого слід бажати. Блискучий злочинець і блискучий хірург можуть мати подібні здібності до міркування, переслідуючи при цьому зовсім різні цілі. Інтелект допомагає агенту досягати цілей; він не обов'язково забезпечує морально бажані цілі. Це має величезне значення для штучного інтелекту.

Достатньо спроможна система, якій доручено досягти якоїсь, здавалося б, доброякісної мети, може виявити методи, яких її творці ніколи не передбачали. Людські суспільства функціонують через незліченну кількість неявних обмежень, які важко вичерпно перерахувати, оскільки люди набувають їх через культуру, досвід та моральну інтуїцію. «Зменшити злочинність». «Максимізувати економічне зростання». «Виграти війну». «Запобігти тероризму». «Покращити громадське здоров'я».

Кожна з них звучить як зрозуміла мета. Однак, якщо їх переслідувати без застережень, кожна з них може виправдати жахливу поведінку. Люди усвідомлюють це, бо розуміють, що цілі існують у щільній павутині конкуруючих цінностей. Чи можуть штучні системи надійно опанувати цю павутину, а не просто імітувати мову, якою ми її описуємо, може бути одним із вирішальних питань двадцять першого століття.

Машина, яка знає набагато більше за нас, але поділяє наші цілі, може бути надзвичайно корисною. Машина, яка знає набагато більше за нас і неправильно розуміє наші цілі, може бути надзвичайно небезпечною. Машина, яка знає набагато більше за нас і розробляє власні цілі, являє собою проблему зовсім іншого порядку.

Нам слід боятися влади, а не інтелекту

Це говорить про точніший спосіб мислення про штучний інтелект. Ми не повинні боятися машин лише тому, що вони стають обізнаними. Ми повинні боятися концентрації знань, свободи дій та влади без відповідальності. І тут небезпека може виходити як від людей, так і від машин.

Перші справді надзвичайні штучні інтелекти не виникнуть у політичному вакуумі. Вони належатимуть корпораціям, урядам, військовим структурам та іншим установам. Ці установи матимуть цілі. Тому питання «Чи буде ШІ контролювати людство?» може бути спочатку менш важливим, ніж інше питання: які люди контролюватимуть ШІ?

Уряд, що володіє штучним інтелектом, здатним аналізувати комунікації, пересування, покупки, стосунки та психологічні вразливості кожного громадянина, отримає можливості соціального контролю, про які навіть не мріяли диктатури ХХ століття. Корпорація, яка володіє значно кращими прогностичними знаннями ринків, може накопичити надзвичайну економічну силу. Армія, яка має вирішальні переваги у сфері штучного інтелекту, зможе ідентифікувати, відстежувати та атакувати супротивників зі швидкістю, що перевищує можливості прийняття рішень людиною.

Отже, небезпека не обов'язково полягає в тому, що штучний інтелект стане надто чужим.

Можливо, штучний інтелект стане надзвичайно ефективним слугою цілком звичних людських амбіцій.

Останнє людське вето

Отже, завдання полягає не в тому, щоб перешкодити штучному інтелекту знати більше, ніж люди. Ця битва, ймовірно, є одночасно небажаною та неможливою. Завдання полягає в тому, щоб зберегти значущу людську владу над тим, що дозволено робити знанням.

Це означає збереження меж автономних дій. Це означає наполягання на людській відповідальності навіть там, де поради надають машини. Це означає опір інституційним устроям, за яких ніхто не може пояснити рішення, окрім як сказати, що його рекомендував комп'ютер. Перш за все, це означає збереження того, що можна назвати останнім людським вето.

Повинні залишатися обставини, за яких людина може сказати «ні». Ні, на ціль не нападуть. Ні, людину не ув'язнять. Ні, лікування не буде призначене. Ні, за громадянином не буде встановлено спостереження. Ні, рекомендація машини не стане автоматично реальністю.

Збереження такого права вето іноді може зробити суспільство менш ефективним. Люди час від часу порушуватимуть правила машин і помилятимуться. Це може бути ціною того, щоб залишатися людьми.

Незнайомець, якого ми створюємо

Існує зрозуміла спокуса уявити собі передовий штучний інтелект як монстра, що наближається ззовні цивілізації. Це неправильна метафора. Ми конструюємо його самі, крок за кроком, бо він корисний. Кожне вдосконалення спочатку вирішить якусь проблему. Краща медична діагностика. Кращі наукові дослідження. Кращий переклад. Краща інженерія. Краще адміністрування. Краще прогнозування.

Нікому не потрібно одного ранку вирішувати підкорити цивілізацію штучному інтелекту. Ми можемо дійти до цього через мільйони індивідуально раціональних рішень щодо використання машини, тому що кожного разу машина має рацію частіше, ніж ми.

Ось чому поява інтелекту, який значно перевищує наш власний, заслуговує на серйозне обдумування.

Але страх має бути спрямований на правильний об'єкт. Машина, яка знає більше за нас, не є нашим ворогом за своєю суттю. Знання — це не ворожість. Інтелект — це не амбіції. Перевага — це не зловмисність. Небезпечний поріг перетинається, коли вищі знання поєднуються з автономною владою та цілями, над якими люди втратили ефективний контроль.

Існує також більш обнадійлива можливість. Можливо, людство будує не свого наступника, а свій найвидатніший інструмент. Тисячі років наш вид боровся з невіглаством. Хвороби вбивали нас, бо ми їх не розуміли. Війни починалися, бо уряди неправильно розуміли один одного. Економіка руйнувалась, бо ніхто не розумів їхньої складності. Наукові відкриття чекали століттями, бо необхідні знання існували в різних умах, які ніколи не зустрічалися.

Штучний інтелект може зменшити деякі з цих трагедій. Істота, яка знає більше, ніж будь-яка людина могла б коли-небудь знати, не обов'язково має применшувати людяність. Вона може розширити те, на що здатне людство. Але лише якщо ми пам'ятатимемо про різницю, яку може ставати дедалі важче підтримувати. Знання можуть належати машині. Мета має залишатися нашою.