Штучний інтелект не зробить нас вимиранням
Метью Періш
Четвер, 24 вересня 2026 року
В історії технологій існує своєрідна звичка, коли людство неодноразово винаходить щось надзвичайне, а потім одразу уявляє, що цей винахід знищить це. Парова машина мала перевернути суспільство. Залізниці спричинили б хвороби для людей, рухаючи їх з неприродними швидкостями. Ядерна зброя неминуче знищила б цивілізацію. Генна інженерія створила б монстрів. Інтернет знищив би приватність, громаду і, можливо, саму демократію. Тепер штучний інтелект успадкував роль, яку раніше займали ці інші технологічні тривоги. Згідно з найдраматичнішою версією аргументу, штучний інтелект не просто перетворить людське суспільство. Він може повністю знищити людство.
Цю можливість не слід відкидати лише тому, що вона звучить екстравагантно. Людство винайшло технології, здатні вбивати величезну кількість людей, і немає жодного принципу природи, який би гарантував, що Homo sapiens має вижити нескінченно. Також не слід плутати серйозні занепокоєння щодо штучного інтелекту з науковою фантастикою. Потужні автоматизовані системи можуть створювати значну небезпеку, пов'язану з війною, стеженням, шахрайством, політичними маніпуляціями, економічною нестабільністю та концентрацією влади.
Тим не менш, твердження про те, що штучний інтелект становить суттєву загрозу вимирання людства, залежить від ланцюга припущень, значно більш крихких, ніж іноді визнають його прихильники.
Перша проблема концептуальна. Інтелект — це не те саме, що й агентивність, а агентивність — це не те саме, що влада. Система може бути надзвичайно здатною аналізувати інформацію, не маючи незалежних цілей. Вона може мати цілі, не маючи практичних засобів для їх досягнення поза жорстко обмеженим середовищем. Вона може мати доступ до фізичного світу, не маючи змоги подолати уряди, армії, корпорації, інженерів, конкуруючі комп'ютерні системи та мільярди людей. Аргумент про вимирання часто оминає ці відмінності, ніби більший обчислювальний інтелект природним чином прогресує до всемогутності. Немає підстав вважати, що це так.
Великі мовні моделі досить добре ілюструють цю різницю. Їхні здібності можуть бути вражаючими. Вони можуть складати юридичні аргументи, писати комп'ютерні програми, пояснювати маловідомі філософські доктрини, перекладати мови та виявляти закономірності в обсягах інформації, які жодна окрема людина не могла б реально засвоїти. Однак жодна з цих здібностей не передбачає внутрішнього бажання виживати, розмножуватися, купувати територію чи усувати конкурентів. Це біологічні концепції, що походять від організмів, сформованих природним відбором. Комп'ютери не мають еволюційної спадщини, яка вимагала б від них страху смерті чи боротьби за репродуктивну перевагу, якщо люди навмисно не створюють аналогічні стимули.
Отже, гіпотеза вимирання вимагає чогось додаткового. Ми повинні уявити собі штучний інтелект, який розвиває або отримує цілі, несумісні з виживанням людства, набуває достатньої автономії для досягнення цих цілей, отримує контроль над важливою фізичною або цифровою інфраструктурою, протистоїть спробам її вивести з ладу, запобігає зриву планів конкуруючих штучних інтелектів і, зрештою, долає організований опір людини. Кожна з цих речей цілком може статися. Складність полягає в переході від твердження, що кожна з них є уявною, до твердження, що вся послідовність являє собою правдоподібну версію майбутнього людства.
Ця різниця між можливістю та ймовірністю має величезне значення. Майже все, що узгоджується з законами фізики, можливо. Досить складна біологічна лабораторія може створити катастрофічний патоген. Ядерна війна може спустошити цивілізацію. Астероїд може вдарити об Землю. Нова технологія може мати наслідки, яких ніхто не передбачав. Розсудливі суспільства серйозно ставляться до катастрофічних ризиків з низькою ймовірністю. Але раціональна оцінка ризику також вимагає вивчення механізмів, через які може статися катастрофа, разом із перешкодами, що стоять на її шляху. В іншому випадку сама здатність описати катастрофу стає доказом віри в неї.
Штучний інтелект стикається з особливо серйозною перешкодою на шляху до незалежного домінування, оскільки комп'ютери населяють інфраструктуру, побудовану, підтримувану та керовану людьми. Сучасний штучний інтелект залежить від заводів з виробництва напівпровідників, електромереж, центрів обробки даних, систем охолодження, телекомунікаційних мереж, шахт, судноплавних шляхів, розробників програмного забезпечення та фінансових установ. Очевидна ефірність ШІ приховує величезний фізичний ланцюг поставок. Навіть найдосконаліша модель не виробляє власні процесори та не ремонтує трансформатори, що постачають електроенергію до своїх серверів.
Можна відповісти, що майбутній штучний інтелект може переконати людей або маніпулювати ними, щоб вони виконували ці завдання. Це можливо, але це змінює характер аргументації. Ми більше не обговорюємо, як машини самостійно повалюють людство. Ми обговорюємо, як люди використовують, підкоряються або співпрацюють з машинами руйнівним чином. Це справжня небезпека, але вона також давня. Людській цивілізації завжди загрожувало головним чином те, що люди переконують інших людей робити.
Те саме спостереження стосується і військового застосування. Штучний інтелект може зробити зброю більш автономною, спостереження — більш комплексним, а прийняття військових рішень значно швидшим. Автономні дрони вже демонструють, як машини можуть ідентифікувати, відстежувати та потенційно атакувати цілі зі зменшенням участі людини. Майбутні системи можуть керувати масивами зброї або допомагати командирам приймати рішення зі швидкістю, неможливою для людського персоналу. Ці розробки заслуговують на серйозне регулювання, оскільки вони можуть збільшити ймовірність або руйнівність війни.
Однак автономна зброя залишається зброєю. Вона вимагає виробництва, розгортання, боєприпасів, енергії та логістики. Штучний інтелект не скасовує географії чи фізики. Машина не може завоювати місто, просто будучи розумнішою за його мешканців. Вона вимагає фізичних механізмів, за допомогою яких можна застосовувати силу, і ці механізми залишаються вразливими до руйнування, переривання та контратаки. Військова історія людства — це значною мірою історія розумних планів, що стикаються з логістичною реальністю. Немає підстав вважати, що штучний інтелект скасовує цей принцип.
Існує ще одна складність з гіпотезою вимирання: вона часто уявляє штучний інтелект як єдиний екземпляр. Нам пропонується уявити, як ШІ стає розумнішим за людство, а потім переслідує свої цілі проти нас. Комерційна та політична реальність, ймовірно, буде зовсім іншою. Різні корпорації, університети, уряди та військові установи створюватимуть багато штучних інтелектів. Вони використовуватимуть різні архітектури, матимуть різні дозволи та підлягатимуть різним формам контролю.
Ця плюралізм має значення, оскільки влада контролюється конкуруючою силою. Якщо один штучний інтелект розвиває небезпечну поведінку, інші штучні інтелекти будуть одними з найпотужніших інструментів, доступних для його виявлення та стримування. Кібербезпека вже працює таким чином: автоматизовані системи атакують мережі, тоді як інші автоматизовані системи виявляють ці атаки та протистоять їм. Безпека штучного інтелекту в майбутньому може дедалі більше перетворюватися на змагання між машинами, контрольованими людьми, подібно до того, як сучасні фінансові ринки частково складаються з алгоритмів, що взаємодіють з іншими алгоритмами.
Дійсно, припущення, що люди протистоятимуть надлюдському штучному інтелекту, використовуючи непідтримуваний людський розум, є однією з найдивніших рис деяких сценаріїв вимирання. У нас також буде штучний інтелект. Якщо машини стануть надзвичайно здібними в комп'ютерній безпеці, наукових дослідженнях, стратегічному плануванні чи інженерії, оборонні інституції отримають ці можливості разом із потенційними нападниками. Змагання відбуватиметься не між людьми двадцять першого століття, озброєними олівцями, та всезнаючим комп'ютером. Це буде між мережами людей і машин, що протистоятимуть іншим мережам людей і машин.
Це призводить до ширшої помилки в наративі вимирання. Інтелект трактується як єдина вимірювана величина, яка автоматично перетворюється на контроль. Однак людські суспільства демонструють протилежне. Найрозумніший математик світу не стає таким чином найбагатшим банкіром, найуспішнішим генералом чи найвпливовішим політиком. Соціальна влада залежить від інституцій, легітимності, ресурсів, союзів, інформації, примусу та незліченних випадковостей. Інтелект має значення, але сам по собі інтелект не керує арміями чи електромережами.
Також більший інтелект не обов'язково породжує узгоджену довгострокову стратегію. Інтелект може виявляти суперечності, а не усувати їх. Досить складний штучний інтелект, що відповідає за виконання кількох цілей, може зіткнутися з конфліктами між цими цілями, так само як це відбувається з урядами, корпораціями та окремими особами. Припущення, що надлюдський інтелект обов'язково передбачає ідеальну стратегічну узгодженість, саме по собі є напрочуд антропоморфним. Ми уявляємо машину як неймовірно розумного людського диктатора, замість того, щоб запитувати, яким насправді може бути машинне пізнання.
Біологічна метафора також викликає плутанину. Люди борються за виживання, тому що організми, які не поводилися сприяюче для розмноження, зникли з еволюційного літопису. Страх, голод, територіальність, статева конкуренція та самозбереження є продуктами цього жорстокого процесу відбору. Штучний інтелект виник не в результаті мільйонів років поїдання тваринами одне одного. Він виник з математики, інформатики, промислової інженерії та людської мови. Немає очевидної причини, чому збільшення його когнітивних можливостей має спонтанно відтворювати мотиваційну архітектуру хижого ссавця.
Ніщо з цього не означає, що узгодження є тривіальним. Автоматизована система може завдати величезної шкоди без ненависті, свідомості чи амбіцій. Погано розроблений торговий алгоритм може дестабілізувати ринки, не вимагаючи грошей. Система військового цільового націлювання може вбивати мирних жителів, не маючи агресії. Бюрократичний алгоритм може дискримінувати людей, не відчуваючи упереджень. Найбільш реальні небезпеки штучного інтелекту можуть виникати саме тому, що машини не розуміють світ так, як ми інстинктивно їм приписуємо людський.
Ці небезпеки є серйозними, оскільки штучний інтелект збільшує людські можливості. Злочинець може автоматизувати шахрайство. Диктатура може автоматизувати спостереження. Військові можуть автоматизувати визначення цілей. Корпорація може автоматизувати переконання. Розвідувальна служба може автоматизувати дезінформацію. Спільним знаменником є не машинний бунт, а людські інституції, що використовують машини для досягнення впізнавано людських цілей. Таким чином, штучний інтелект може змінити розподіл і масштаби влади, не стаючи незалежною цивілізацією, яка конкурує з нашою власною.
Існують також вагомі причини, чому суспільства намагатимуться контролювати небезпечний штучний інтелект. Стимули є негайними. Уряди, як правило, не із задоволенням втрачають контроль над стратегічною інфраструктурою. Корпорації не хочуть, щоб їхні комп'ютерні системи крали їхні активи або руйнували їхній бізнес. Військові не хочуть, щоб автономна зброя атакувала їхніх власних солдатів. Страхові компанії не хочуть катастрофічних технологічних збоїв. Люди не хочуть, щоб машини спустошували їхні банківські рахунки. Тому безпека ШІ не залежить від універсального альтруїзму. Вона підкріплюється звичайним егоїзмом.
Регулювання неминуче буде недосконалим, так само як недосконале регулювання авіації, фармацевтики, ядерної енергетики та фінансових ринків. Проте технологічна цивілізація стала надзвичайно вправною у створенні рівнів безпеки навколо небезпечних систем. Літаки містять надлишкові засоби керування, оскільки інженери припускають, що компоненти вийдуть з ладу. Ядерні реактори містять численні механізми стримування, оскільки розробники враховують катастрофічні сценарії. Комп'ютерні мережі використовують дозволи, ізоляцію, резервні копії та механізми фізичного вимкнення, оскільки програмному забезпеченню не можна просто довіряти. Штучний інтелект дедалі більше набуватиме аналогічних рівнів інституційного та технічного стримування.
Будуть аварії. Майже напевно будуть скандали та катастрофи. Штучний інтелект може сприяти війнам, фінансовим крахам чи авторитарним зловживанням. Люди можуть стати надмірно залежними від автоматизованих систем, яких вони не розуміють. Ринки праці можуть зазнати нищівних потрясінь. Політичні інституції можуть мати труднощі з тим, щоб адаптувати машини, здатні створювати переконливу мову та образи за незначну ціну. Жодну з цих можливостей не слід мінімізувати лише тому, що зникнення малоймовірне.
Дійсно, одержимість ідеєю вимирання може відволікти нас від цих більш відчутних проблем. Якщо в публічних дебатах домінуватимуть уявні битви між людством та майбутнім цифровим суперінтелектом, порівняно буденні зловживання штучним інтелектом можуть не отримати достатньої уваги. Розгортання урядом повсюдного спостереження за допомогою штучного інтелекту наступного року є більш конкретним політичним питанням, ніж гіпотетична машинна цивілізація, яка знищить людство через десятиліття. Так само, як і автономна зброя, алгоритмічна дискримінація, промислове витіснення та концентрація обчислювальної потужності.
Тим не менш, у гіпотезі вимирання є щось психологічно показове. Штучний інтелект нас непокоїть, оскільки інтелект традиційно був претензією людства на винятковий статус. Ми не найсильніші тварини, не найшвидші чи найстійкіші. Нашою особливою перевагою було пізнання. Коли машини починають виконувати інтелектуальні завдання краще за людей, виникає спокуса інтерпретувати цей розвиток крізь логіку біологічної конкуренції: інший вид увійшов у нашу екологічну нішу.
Але машини — це не інший вид. Вони є артефактами, вбудованими в людську цивілізацію. Різниця може стати філософськи складною, оскільки штучний інтелект стає більш автономним, але його походження та інфраструктура залишаються глибоко людськими. Машини можуть зрештою стати учасниками цивілізації, а не просто інструментами. Навіть ця надзвичайна можливість не означає, що цивілізація має стати змаганням з нульовою сумою між вуглецем і кремнієм.
Більш правдоподібне майбутнє — це не панування людини чи машин. Це симбіоз. Люди вже передають пам'ять комп'ютерам, навігацію — супутникам, обчислення — процесорам, а значну частину своїх колективних знань — цифровим мережам. Штучний інтелект продовжує цей давній процес. Люди, оснащені дедалі потужнішими машинами, будуть інтелектуально та економічно відрізнятися від людей, які їм допомогли, так само, як письменні суспільства відрізнялися від усних, а індустріальні суспільства — від сільськогосподарських.
Відповідно, виникнуть глибокі питання про те, що залишається виразно людським. Якщо машини пишуть наше листування, діагностують хвороби, проектують будівлі, складають музику, проводять наукові дослідження та, можливо, беруть участь у близьких стосунках, людству доведеться переглянути цінність, яку воно надає праці, творчості та досвіду. Це серйозні філософські проблеми. Вони не є вимиранням.
Зникнення людства через штучний інтелект не можна довести як неможливе. Ніщо в майбутньому не заслуговує на такий ступінь певності. Але надзвичайні можливості не повинні непомітно набувати статусу очікувань лише через повторення. Шлях від потужного штучного інтелекту до знищення кожної людської істоти вимагає низки невизначених припущень щодо автономії, мотивації, інфраструктури, стратегічної переваги та провалу кожного людського та машинного контрзаходу.
Штучний інтелект може стати найважливішою технологією, яку коли-небудь створювало людство. Саме тому він заслуговує на тверезе осмислення, а не на технологічну міфологію. Нам слід турбуватися про те, хто ним керує, як він використовується, які інституції залежать від нього та як його величезні можливості можна розподілити, не руйнуючи політичну та економічну свободу. Нам слід турбуватися про війну, стеження, маніпуляції та концентрацію влади.
Нам не потрібно припускати, що інтелект неминуче прагне вбити своїх творців. Це твердження говорить нам значно більше про страхи людей, ніж про природу машин. Штучний інтелект, безсумнівно, змінить людство. Цікавіше та нагальніше питання не в тому, чи призведе він до нашого вимирання, а в тому, яке людство з'явиться, коли інтелект перестане бути лише нашим.
