Чи можна призупинити роботу штучного інтелекту?
Метью Періш
Середа, 9 вересня 2026 року
У дискусіях про штучний інтелект дедалі популярніша пропозиція, що людству слід на деякий час зупинитися. Штучний інтелект розвивається так швидко, стверджується в цьому аргументі, що уряди, суспільства і навіть самі вчені, які створюють системи, не можуть зрозуміти всіх наслідків того, що вони роблять. Тому нам слід призупинити розробку дедалі потужніших систем, можливо, на шість місяців, можливо, на рік або, можливо, довше, поки ми вирішимо, які правила повинні ними керувати. Цей аргумент має безпосередню інтуїтивну привабливість. Якщо людство створює щось надзвичайно потужне, кінцеві властивості якого воно не до кінця розуміє, то, безумовно, розумним кроком буде періодично зупинятися та досліджувати те, що було створено, перш ніж продовжувати.
Складність полягає в тому, що історія технологій рідко працює таким чином. Людство зазвичай не винаходить щось, колективно не обмірковує його наслідки, а потім не вирішує, чи варто продовжувати. Технології виникають конкурентно. Окремі особи, корпорації, університети, розвідувальні служби, армії та держави прагнуть переваг один над одним, тоді як правила, що регулюють нові технології, зазвичай з'являються пізніше. Паровий двигун не був призупинений, поки уряди розглядали індустріалізацію. Ядерна фізика не зупинилася, поки дипломати розглядали наслідки атомної бомби. Інтернет не призупинив свій розвиток, поки законодавці вирішували, що соціальні мережі можуть зробити з демократичною політикою. Штучний інтелект дотримується майже тієї ж схеми, але надзвичайно швидко. Це створює тривожну можливість: пауза ШІ може бути дуже бажаною, але водночас політично та технологічно неможливою.
Ця напруженість заслуговує на серйозне розгляд, оскільки аргументи на користь уповільнення далеко не безглузді. Штучний інтелект розвивається надзвичайними темпами. Індекс штучного інтелекту Стенфорда за 2026 рік робить висновок, що можливості продовжують прискорюватися, а не досягати плато. У 2025 році промисловість випустила понад 90 відсотків помітних передових моделей, тоді як системи досягли або перевищили людські базові рівні у все більш вимогливих наукових, математичних та логічних тестах. Водночас у звіті визначається зростаюча невідповідність між розвитком можливостей та практикою відповідального використання штучного інтелекту, тоді як кількість задокументованих інцидентів зі штучним інтелектом значно зросла. Неприємний висновок полягає в тому, що машини вдосконалюються швидше, ніж установи, призначені для їх контролю.
Існує кілька причин, чому це має нас турбувати. Перша — економічна. Попередні технологічні революції переважно механізували фізичну працю або відносно повторювану інтелектуальну роботу. Штучний інтелект відрізняється тим, що його природною територією є саме пізнання. Юристи, програмісти, бухгалтери, фінансові аналітики, перекладачі, лікарі, журналісти, консультанти, дизайнери та науковці виявляють, що дедалі складніші частини їхньої роботи можуть виконуватися машинами. Немає підстав вважати, що кожна з цих професій зникне, і історичний досвід свідчить про те, що технологічні революції створюють професії, а також знищують їх. Проте також немає економічного закону, який би вимагав, щоб нові професії наймали тих самих людей, у тих самих місцях, з тими ж зарплатами або з тим самим соціальним статусом, що й професії, що зникають. Тому надзвичайно швидкий перехід може призвести до величезного сукупного багатства, одночасно спричиняючи глибоку індивідуальну невпевненість та політичні розлади.
Друге занепокоєння — це концентрація влади. Передовий штучний інтелект надзвичайно дорогий. Він вимагає величезних обчислювальних потужностей, передових напівпровідників, електроенергії, спеціалізованого персоналу, інфраструктури центрів обробки даних та капіталу. Стенфорд оцінює, що світові обчислювальні потужності ШІ зростають приблизно в 3,3 раза щорічно з 2022 року, тоді як Сполучені Штати мають більше центрів обробки даних ШІ, ніж будь-яка інша країна, з величезним відривом. Ланцюг постачання обладнання сам по собі надзвичайно концентрований, причому більшість найсучасніших чіпів ШІ залежать від виробництва TSMC на Тайвані. Тому інтелектуальна інфраструктура цивілізації ХХІ століття може почати залежати від відносно невеликої кількості корпорацій, які експлуатують надзвичайно дорогі машини. Існують законні питання щодо того, чи сумісна концентрація приватної влади в такому масштабі з політичними припущеннями, на яких традиційно функціонували ліберальні демократії.
Третє занепокоєння є більш фундаментальним. Штучний інтелект стає агентним. Різниця між машиною, яка відповідає на запитання, і машиною, яка виконує завдання, є надзвичайно важливою. Щойно система штучного інтелекту зможе писати програмне забезпечення, використовувати комп'ютери, спілкуватися з іншими системами, керувати фінансовими рахунками, проводити дослідження, маніпулювати мережами та переслідувати розширені цілі, ми вже не обговорюємо просто надзвичайно складну енциклопедію. Ми обговорюємо штучні сутності, здатні впливати на світ. Той факт, що такі системи залишаються ненадійними, не обов'язково робить проблему менш серйозною. Стенфорд описує сучасний стан ШІ як «нерівний кордон»: системи можуть демонструвати надзвичайну компетентність у складних галузях, продовжуючи припускатися, здавалося б, елементарних помилок. Агенти значно покращили свої показники використання комп'ютера, але все ще не виконують значну частину завдань. Потужний інтелект у поєднанні з періодичною некомпетентністю іноді може бути небезпечнішим, ніж постійна посередність.
Отже, найвагомішим аргументом на користь паузи є не те, що штучний інтелект за своєю суттю зловмисний, або що технологічний прогрес слід зупинити. Річ у тім, що може бути величезною цінністю дозволити політичним інституціям наздогнати їх. Рік без чергового різкого збільшення прикордонного потенціалу можна було б використати для розробки режимів випробувань, правил відповідальності, стандартів кібербезпеки, міжнародних протоколів, правил щодо автономної зброї та інституцій для незалежної оцінки. Уряди можуть вирішити, що певні рішення завжди повинні залишатися під змістовним людським контролем, зокрема рішення щодо ядерної зброї, летальної сили, кримінального покарання та інших видів примусової державної влади. Суспільства також можуть почати адаптувати освітні системи та ринки праці до світу, в якому інтелектуальна нестача стає дедалі менш важливою.
Часто наводиться аналогія з контролем над ядерними озброєннями. Сполучені Штати та Радянський Союз були смертельними геополітичними супротивниками, і жоден з них не довіряв один одному. Проте зрештою вони визнали, що певні технологічні змагання створюють небезпеку для обох сторін. Контроль над озброєннями не залежав від дружби. Навпаки, він залежав від інституціоналізованої підозри: договори, інспекції, супутникове спостереження, декларації, процедури перевірки та наслідки за шахрайство. Щось подібне теоретично можна було б створити для штучного інтелекту. Уряди могли б домовитися про те, що системи, що перевищують певні обчислювальні пороги, вимагатимуть реєстрації, повідомлення або перевірки. Можливо, доведеться декларувати надзвичайно великі навчальні пробіги. Можна було б контролювати поставки передових напівпровідників. Центри обробки даних, розміри яких перевищують певні, могли б стати предметом регуляторних зобов'язань.
Існує навіть фізична основа, на якій можна було б побудувати таку схему. Штучний інтелект може зрештою складатися з програмного забезпечення, але передовий штучний інтелект наразі неможливо розробити за допомогою звичайного ноутбука, захованого в чиїйсь спальні. Він залежить від величезних обчислювальних кластерів, спеціалізованих мікросхем, електроенергії, інфраструктури охолодження та складного виробництва напівпровідників. Ці речі залишають сліди. Це робить можливим певний ступінь регулювання. Ланцюг поставок напівпровідників містить особливо помітні вузькі місця, тоді як величезні центри обробки даних важко приховати. Таким чином, система управління обчисленнями може встановити тимчасову стелю, вище якої ні американські, ні китайські компанії не зможуть навчати нові системи без взаємного повідомлення або узгоджених запобіжних заходів.
Геополітична складність, тим не менш, є значною, оскільки Сполучені Штати та Китай зараз є надзвичайно близькими конкурентами. Дані Стенфордського університету за 2026 рік показують, що американські установи створили 59 помітних моделей у 2025 році порівняно з 35 у Китаї, але Китай лідирує за обсягом публікацій про штучний інтелект, цитуванням та патентними грантами, тоді як різниця в продуктивності між провідними американськими та китайськими моделями різко скоротилася. Американська та китайська моделі неодноразово обмінювалися позиціями на технологічному фронтирі з початку 2025 року. Це вже не технологічне змагання, в якому одна сторона має переважну перевагу та може дозволити собі великодушну стриманість. Це стратегічні перегони, в яких обидві сторони мають підстави побоюватися, що тимчасова пауза може назавжди поставити їх у невигідне становище.
Логіка, по суті, є дилемою в'язня. Припустимо, що Вашингтон вимагає від американських лабораторій припинити підготовку значно потужніших моделей протягом дванадцяти місяців. Пекін може робити заспокійливі заяви про відповідальні інновації, поки китайські лабораторії продовжують працювати. Наприкінці року Китай може мати вирішальну технологічну перевагу в галузі, що стосується не лише комерційної продуктивності, а й кібервійни, аналізу розвідувальних даних, автономної зброї, військової логістики, наукових досліджень і, можливо, самого стратегічного планування. Жодна відповідальна американська адміністрація не зможе комфортно прийняти цей ризик. Однак той самий аргумент застосовується і у зворотному напрямку. Якби Пекін наказав китайським лабораторіям зупинитися, поки Кремнієва долина продовжуватиме прискорюватися, китайський уряд побоювався б, що він добровільно здався в одному з найважливіших технологічних змагань століття.
Отже, існують вагомі аргументи не лише на користь недоцільності паузи, а й на її небезпеку. Розвиток штучного інтелекту в Сполучених Штатах відбувається, хоч і недосконало, в рамках політичної системи, що включає суди, незалежну пресу, конкуруючі корпорації, університети, організації громадянського суспільства та демократичні інституції. Китай має радикально іншу політичну структуру. Якби західні демократії накладали на себе суворі обмеження, а авторитарні держави — ні, наслідком міг би бути не безпечніший світ. Натомість це міг би бути світ, у якому найпотужніші системи штучного інтелекту непропорційно розвивалися б урядами, менш обмеженими ліберальними ідеями щодо конфіденційності, політичної свободи та індивідуальної автономії. Тому невдала пауза могла б досягти прямо протилежного результату.
Існує також більш елементарна економічна проблема. Штучний інтелект може призвести до надзвичайного зростання продуктивності та наукових знань. Тому пауза призведе до витрат, які вимірюватимуться не лише корпоративними прибутками, але й потенційно до затримки відкриттів. Системи штучного інтелекту все частіше використовуються в медицині, хімії, матеріалознавстві, інженерії та інших галузях, де прискорені дослідження можуть рятувати життя. Якщо штучний інтелект зрештою зробить суттєвий внесок у нові ліки, кращі кліматичні технології, підвищення продуктивності сільського господарства або вирішення нині нерозв'язних наукових проблем, навмисне уповільнення його розвитку несе власну моральну ціну. Ми не повинні вважати, що ризик існує лише з боку технологічного прискорення. Існують також ризики, пов'язані з технологічною стагнацією.
Конкуренція всередині країн створює ще одну складність. Навіть якби Вашингтон і Пекін досягли угоди, їм якимось чином довелося б переконати власні компанії, дослідників та військові установи дотримуватися її. Стимули для шахрайства можуть бути величезними. Корпорація, яка вважає, що її конкуренти припинили свою діяльність, може побачити безпрецедентну можливість отримати технологічну перевагу, продовжуючи таємно. Розвідувальні служби матимуть очевидні причини для проведення секретних досліджень. Військові установи можуть наполягати на винятках з міркувань національної безпеки. Університети можуть стверджувати, що обмеження на дослідження порушують академічну свободу. Стартапи шукатимуть лазівки. Капітал переміщуватиметься між юрисдикціями. Чим більший комерційний та стратегічний приз, тим більший стимул обійти будь-яке визначення «паузи», яке приймуть уряди.
Проблема стає ще серйознішою, оскільки штучний інтелект стає дешевшим. Сьогоднішня передова модель вимагає надзвичайної обчислювальної інфраструктури, на відміну від вчорашньої передової моделі. Алгоритми вдосконалюються, чіпи стають ефективнішими, знання поширюються, а методи, виявлені в дорогих лабораторіях, зрештою стають публічними. Розробка штучного інтелекту з відкритим кодом та відкритою вагою продовжує швидко розширюватися, і вже існують мільйони програмних проектів, пов'язаних зі штучним інтелектом. Таким чином, регуляторний режим, повністю заснований на контролі гігантських обчислювальних кластерів, може працювати деякий час, але поріг можливостей, досягнутих за допомогою менших кластерів, продовжуватиме зростати. Фізичне вузьке місце, від якого залежить правозастосування, може поступово слабшати.
Сполучені Штати та Китай насправді не є єдиними гравцями. Вони домінують у розробці моделей на кордоні, але дослідження штучного інтелекту дедалі більше набувають міжнародного характеру. Європа, Японія, Південна Корея, Індія, країни Перської затоки та численні інші країни мають значний науковий потенціал і суттєві стимули для розвитку вітчизняних галузей штучного інтелекту. Розробка з відкритим кодом ще більше поширює знання на міжнародному рівні. Тому американо-китайська угода може спочатку стримувати двох основних конкурентів, але лише для того, щоб створити можливості для третьої країни. Чим успішнішим стає штучний інтелект, тим більше уряди розглядатимуть суверенні можливості ШІ як аналог енергетичної безпеки, телекомунікаційної інфраструктури чи військової незалежності. Постійний глобальний картель, який пригнічує розвиток на кордоні, стане дедалі важче підтримувати.
Ці практичні заперечення принципово відрізняють штучний інтелект від ядерної зброї. Для створення ядерної зброї потрібні рідкісні матеріали, спеціалізовані промислові потужності та помітні фізичні процеси. Знання, необхідні для створення дедалі складнішого штучного інтелекту, зрештою, є інформацією. Інформація витікає, мігрує, відтворюється та стає дешевшою у впровадженні. Уряд може конфіскувати збагачений уран. Він не може легко конфіскувати алгоритм, як тільки тисячі людей його зрозуміють. Тому контроль над ядерними озброєннями може бути показовою аналогією для управління ШІ, але він також вводить в оману, якщо його сприймати надто буквально. Штучний інтелект має характеристики як ядерних технологій, так і математики, а математика ніколи не була схильна до міжнародної заборони.
Сучасні відносини між Вашингтоном і Пекіном ще більше загострюють проблему. Дві країни обговорюють безпеку штучного інтелекту, навіть на тлі загострення їхнього ширшого технологічного суперництва. Очікується, що двосторонні переговори про безпеку штучного інтелекту стосуватимуться таких питань, як кіберзагрози, що використовуються штучним інтелектом, та механізми співпраці між лабораторіями. Проте майже одночасно американська влада звинуватила китайські компанії, що займаються розробкою штучного інтелекту, у використанні американських систем для прискорення власного технологічного розвитку шляхом масштабної дистиляції, що Пекін заперечує. Якими б не були обґрунтованості цих конкретних звинувачень, цей епізод чудово ілюструє проблему. Країни, яким довелося б достатньо довіряти одна одній, щоб зупинитися, одночасно беруть участь у технологічній конкуренції, що характеризується звинуваченнями у копіюванні, обмеженнях експорту, стратегічному суперництві та взаємній підозрілості.
Це не означає, що міжнародна дипломатія у сфері штучного інтелекту є безглуздою. Навпаки, це говорить про те, що політики повинні розрізняти привабливу, але, ймовірно, неможливу мету зупинити штучний інтелект, і більш реалістичну мету уповільнити або заборонити певні небезпечні застосування. Сполучені Штати та Китай цілком можуть погодитися, що системи ядерного командування та управління ніколи не повинні делегувати остаточні повноваження на запуск штучному інтелекту. Вони можуть встановити протоколи зв'язку для великих інцидентів зі штучним інтелектом, так само як ядерні держави розробили гарячі лінії. Вони можуть обмінюватися інформацією про системи, які несподівано виходять з контрольованого середовища або проводять автономні кібероперації. Уряди можуть встановити спільні стандарти для тестування моделей, здатних допомогти в розробці біологічної зброї або складних кібератак. Це вужчі цілі, а отже, значно більш правдоподібні.
Тимчасовий мораторій на дуже специфічну категорію систем також може бути інколи досяжним. Якщо з'являться достовірні докази того, що певна можливість створює безпосередній катастрофічний ризик, уряди можуть домовитися не розгортати її, поки створюються запобіжні заходи. Історія міжнародних відносин містить приклади того, як суперники погоджуються на вузько визначені обмеження, коли їхні інтереси справді сходяться. Але це відрізняється від загального твердження, що людство може просто припинити розробку потужнішого штучного інтелекту, доки всі не почуються комфортно продовжувати. Ніколи не буде загальної згоди щодо того, коли цей момент настане.
Це розкриває глибшу проблему ідеї паузи штучного інтелекту. Вона передбачає, що людство є політичним актором. Це не так. Людство не має уряду, законодавчого органу чи поліції. Воно складається приблизно з восьми мільярдів людей, організованих у конкуруючі держави, корпорації, університети, армії, розвідувальні служби та громади, всі з яких мають різні інтереси. Питання про те, чи повинно «людство» призупинити штучний інтелект, таким чином, схоже на питання про те, чи повинно людство скасувати війну. Відповідь може бути ствердною, без найменшого уявлення про те, як цього насправді можна досягти.
Дійсно, небезпека надмірної концентрації на концепції паузи полягає в тому, що це може відвернути увагу від інституцій, які ми дійсно можемо створити. Уряди можуть вимагати від передових лабораторій проводити ретельні оцінки перед розгортанням. Вони можуть нав'язувати вимоги щодо кібербезпеки компаніям, які володіють надзвичайно потужними моделями. Вони можуть створювати відповідальність за необдумане розгортання. Вони можуть встановлювати зобов'язання щодо звітності про катастрофічні інциденти. Вони можуть регулювати використання ШІ в системах озброєння, критичній інфраструктурі та державному управлінні. Вони можуть вимагати значущої людської відповідальності за рішення, що стосуються примусової державної влади. Вони можуть фінансувати дослідження узгодженості, інтерпретації та безпеки. Найголовніше, що Вашингтон і Пекін можуть почати створювати канали, через які кожен розуміє, що робить інший, і через які неочікувані інциденти зі ШІ не переростають автоматично в геополітичні кризи.
Існує ще одне філософське питання. Можливо, ми неправильно обмірковуємо проблему, коли запитуємо, чи слід зупинити штучний інтелект. Люди завжди винаходили інструменти, які згодом змінювали суспільства, що їх винайшли. Письмо змінило пам'ять. Друкарство змінило релігію та політичну владу. Індустріалізація змінила сімейні структури та міста. Ядерна зброя змінила міжнародні відносини. Інтернет змінив конфіденційність, журналістику, комерцію та політичні дебати. Ми не опанували ці технології, перш ніж прийняти їх. Ми адаптувалися до них, іноді болісно, а часто й після серйозних помилок.
Штучний інтелект може виявитися найдраматичнішим прикладом цієї повторюваної закономірності, оскільки це технологія, пов'язана з самим інтелектом. Ми створюємо машини, які беруть участь саме в тій діяльності, яку ми історично вважали відмінною від інших істот: міркування про світ і рішення про те, що робити. Ось чому інстинкт зупинитися є зрозумілим. Нам хотілося б мати час подумати, перш ніж створювати машини, здатні думати все краще за нас. На жаль, парадокс полягає в тому, що чим ціннішим стає штучний інтелект, тим менше хтось буде готовий припинити його розробку.
Отже, попередній висновок має бути незручним. Пауза у розвитку штучного інтелекту може бути бажаною за певних обставин. Короткий та справді взаємний мораторій на технологічному рубежі міг би дати регуляторам та дослідникам безпеки цінний час. Конкретні обмеження на надзвичайно небезпечні можливості можуть бути як можливими, так і необхідними. Сполучені Штати та Китай, безумовно, повинні обговорити безпеку штучного інтелекту, запровадити заходи зміцнення довіри та дослідити можливості перевірки на основі фізичної інфраструктури передових обчислень. Немає жодної чесноти в технологічній безрозсудності лише тому, що існує технологічна конкуренція.
Однак всеохопна пауза, ймовірно, зрештою неможлива. Знання нелегко стримати після їх відкриття. Обчислювальна техніка стає дешевшою. Алгоритми поширюються. Країни конкурують. Компанії конкурують всередині країн. Військові установи бояться стратегічного сюрпризу. Дослідники перетинають кордони. Відкриті моделі поширюють можливості за межі організацій, які їх створили. Перш за все, ніхто не може впевнено знати, що всі інші зупинилися. Та сама технологічна потужність, яка робить штучний інтелект достатньо важливим для паузи, також робить володіння передовим штучним інтелектом занадто цінним для держав, щоб ризикувати відстати.
Тому справжній вибір, що стоїть перед людством, може полягати не в розробці штучного інтелекту та його зупинці. Можливо, це буде вибір між його розробкою за допомогою інституцій, здатних внести певний порядок у цей процес, та його хаотичним розвитком. Перша можливість вимагає регулювання, міжнародної дипломатії, досліджень у галузі технічної безпеки та надзвичайного рівня співпраці між геополітичними супротивниками. Друга взагалі нічого не вимагає, оскільки конкуренція призведе до його появи автоматично.
Можливо, найкорисніша мета пропозицій щодо паузи у розвитку штучного інтелекту полягає не в тому, що вони колись фактично зупинять штучний інтелект. Річ у тім, що вони змушують нас зіткнутися з надзвичайним характером того, що ми створюємо. Сполучені Штати та Китай можуть ніколи не домовитися про зупинення перегонів, і навіть якби вони домовилися, вони могли б виявити, що решта світу зрештою зробила їхню угоду неактуальною. Але вони можуть домовитися про деякі правила дорожнього руху. Вони можуть визначити конкретні межі, які жоден з них не хоче перетинати. Вони можуть створити інституції для управління нещасними випадками, непорозуміннями та небезпечними можливостями. Вони можуть визнати, що перемога в технологічних перегонах має обмежену цінність, якщо наслідки перемоги неможливо контролювати.
Штучний інтелект, ймовірно, не зупиниться для людства. Більш реалістичним завданням для людства є навчитися жити з технологією, яка продовжуватиме розвиватися незалежно від того, готові до цього наші політичні інституції. Це менш втішний висновок, ніж ідея колективного натискання кнопки зупинки. Це також, ймовірно, ближче до світу, в якому ми насправді живемо.
