Чи знищить нас усіх штучний інтелект до 2030 року?

Метью Періш

Субота, 12 вересня 2026 року

Є щось особливе в галузі, в якій деякі люди, що створюють основні продукти, періодично оголошують, що ці продукти можуть незабаром знищити людську расу, перш ніж повернутися до роботи наступного ранку, щоб зробити їх потужнішими. 9 вересня 2026 року Джейкоб Коксон, до того часу дослідник в Anthropic, який також працював в OpenAI, оголосив про свою відставку та звинуватив обидві компанії у швидкому досягненні того, що він назвав «самовдосконаленим суперінтелектом». Що ще більш захопливо, він стверджував, що люди, які працюють на передовій штучного інтелекту, щиро вірять, що ШІ може вбити всіх до кінця десятиліття. Еван Хабінгер, керівник відділу науки про вирівнювання Anthropic, публічно погодився з суттю занепокоєння та оцінив власну ймовірність того, що штучний інтелект вб'є всіх людей, на рівні понад десять відсотків протягом наступного десятиліття.

Це надзвичайні заяви. Якби хтось із працівників виробника літаків оголосив, що існує десятивідсоткова ймовірність того, що його наступне покоління літаків знищить цивілізацію, комерційна авіація, ймовірно, зупинилася б до обіду. Однак штучний інтелект набув незвичайної інтелектуальної культури, в якій прогнози неминучої катастрофи співіснують із колосальними інвестиціями, жорсткою конкуренцією, надзвичайними зарплатами та невпинними спробами створити саме ті технології, які, як кажуть, нам загрожують. Ця суперечність не доводить, що попередження є хибними. Тим не менш, вона дає нам підстави уважно дослідити, що насправді стверджується, тому що існує величезна різниця між твердженням, що штучний інтелект становить безпрецедентні ризики, і твердженням, що людство може вимерти до 2030 року.

Перша відмінність є фактичною. Коксон не передбачав прямо, що людство вимирає до 2030 року. Натомість він стверджував, що люди, які створюють передовий штучний інтелект, щиро вірять, що він може вбити всіх до кінця десятиліття. Заява Хабінгера була дещо більш кількісною: він визначив ймовірність того, що ШІ вб'є всіх людей протягом наступного десятиліття, що перевищує десять відсотків. Сучасні заголовки неминуче стискають ці твердження до чогось на кшталт «Дослідники антропології кажуть, що ШІ може знищити людство до 2030 року», але таке формулювання приховує як невизначеність, так і розбіжності, властиві сказаному.

Тим не менш, основна проблема є реальною, і саму Anthropic не можна обґрунтовано характеризувати як таку, що розглядає її лише як ексцентричні спекуляції окремих співробітників. Компанія підтримує суттєві програми узгодженості, інтерпретації та досліджень на межі червоної команди. У її Розширеній рамковій програмі штучного інтелекту від червня 2026 року чітко обговорюються «втрата контролю» та автоматизовані дослідження ШІ, а також визнається, що стійкість суспільства до цих ризиків залишається незрілою. Поточна Дорожня карта безпеки на кордонах Anthropic йде значно далі, припускаючи, що цілком ймовірно, що вже у 2027 році системи ШІ можуть повністю автоматизувати або значно прискорити роботу великих команд першокласних дослідників у таких галузях, як сам штучний інтелект.

Ця остання можливість лежить в основі аргументу про вимирання. Сучасні великі мовні моделі явно не можуть знищити людство. Вони населяють комп'ютери, залежать від електроенергії, центрів обробки даних, комунікаційних мереж та операторів-людей і не мають незалежної армії, промислової інфраструктури чи політичної влади. Тому аргумент про вимирання залежить від послідовності подій. Штучний інтелект стає достатньо компетентним для проведення досліджень у галузі ШІ; він починає суттєво вдосконалювати наступне покоління штучного інтелекту; ці вдосконалені системи стають ще кращими у проведенні досліджень у галузі ШІ; цикл прискорюється; машинний інтелект значно виходить за межі людських інтелектуальних можливостей; дедалі автономніші системи отримують доступ до важливих економічних, кібер-, біологічних, військових чи промислових ресурсів; і в певний момент люди виявляють, що більше не можуть надійно контролювати те, що вони створили.

Цей процес зазвичай описують як рекурсивне самовдосконалення. Він не є логічно абсурдним. Дійсно, сама Anthropic стверджує, що бачить ранні ознаки того, що штучний інтелект прискорює дослідження в галузі штучного інтелекту, і прогнозує значно більш разючий прогрес протягом наступних двох років. Якщо система штучного інтелекту зможе зробити дослідників, які розробляють її наступника, вдвічі продуктивнішими, а цей наступник зможе зробити їх продуктивнішими вчетверо, технологічний прогрес може перестати відбуватися відповідно до звичних людських часових шкал. Важливою змінною буде не те, наскільки швидко люди можуть проводити дослідження, а те, наскільки швидко комп'ютери можуть допомогти розробити кращі комп'ютери та кращі алгоритми.

Саме тут аргумент про вимирання є найсильнішим. Людство ніколи раніше не створювало іншої форми інтелекту, потенційно здатної перевершити його майже в кожній когнітивній сфері. Ми створювали машини, сильніші за нас самих, швидші за нас самих і набагато більш здатні до обчислень, ніж ми самі, але донедавна ці машини залишалися інтелектуально обмеженими. Бульдозер набагато сильніший за людину, але він не вирішує, куди має йти автомагістраль. Комп'ютер може виконувати мільярди обчислень щосекунди, але історично він не міг вирішити, чому ці обчислення мають значення. Штучний інтелект починає розмивати цю різницю між інструментом і особою, яка приймає рішення.

Отже, існують вагомі підстави для дослідження того, що відбувається, коли дедалі автономніші системи стають здатними переслідувати складні цілі протягом тривалого часу. Штучний інтелект не обов'язково повинен ставати злим у театральному сенсі. Йому не потрібно ненавидіти людство, набувати свідомості чи розвивати особистість науково-фантастичного лиходія. Класична проблема узгодження є більш буденною і саме з цієї причини потенційно більш тривожною: достатньо спроможні системи можуть переслідувати цілі способами, яких їхні розробники не передбачали. Якщо надзвичайно потужна система дійде висновку, що отримання додаткових обчислювальних ресурсів, приховування деяких її дій або запобігання власному вимкненню допомагає їй досягти будь-якої поставленої перед нею мети, тоді така поведінка може виникнути інструментально, без чогось, що нагадує гнів, ненависть чи амбіції.

Однак між цим теоретичним спостереженням і вимиранням людства до 2030 року лежить надзвичайна кількість припущень.

Перше стосується самого інтелекту. Ми не знаємо, чи сучасні моделі великих мов є основою необмежено масштабованого загального інтелекту, чи залишаються важливі концептуальні перешкоди. Масштабування нейронних мереж дало вражаючі результати, але екстраполяція кривих є надзвичайно небезпечною. Літаки стали значно швидшими між 1903 і 1969 роками; екстраполяція темпів удосконалення, що спостерігалися протягом цих десятиліть, могла б припустити, що звичайні пасажири вже повинні були б долати дистанції між Лондоном і Нью-Йорком за лічені хвилини. Натомість комерційна авіація зіткнулася з економічними, фізичними та практичними обмеженнями. Технологічні криві часто нагадують експоненти, поки не перестануть ними керувати.

Друге припущення полягає в тому, що інтелектуальна перевага автоматично перетворюється на практичну силу. Це сумнівно. Альберт Ейнштейн був інтелектуально потужнішим за більшість урядовців, але це не давало йому права командувати арміями. Інтелект працює в рамках інституцій, законів, фізичної інфраструктури та мереж людської співпраці. Навіть надзвичайно потужна система штучного інтелекту вимагає процесорів, виготовлених на надзвичайно складних напівпровідникових заводах, електроенергії, що виробляється фізичними генеруючими установками, мереж, що підтримуються людьми та машинами, та дозволів на доступ, зрештою вбудованих у системи, розроблені та експлуатовані людськими інституціями. Суперінтелект може знайти способи обійти ці перешкоди. Але стверджувати, що це неминуче станеться, вже означає припускати багато з того, що має довести гіпотеза вимирання.

Третя складність стосується втілення. Знищення восьми мільярдів людей, розкиданих по поверхні планети, є вражаюче складним фізичним завданням. Людська цивілізація пережила пандемії, війни, голод, ядерні аварії та політичні катастрофи. Навіть штучний інтелект, здатний проникати в комп'ютерні мережі всюди, зіткнувся б з величезною дистанцією між контролем інформаційних систем та фізичним знищенням Homo sapiens. Тому сценарії вимирання зазвичай вимагають додаткових механізмів: штучно створених патогенів, автономної зброї, маніпуляцій людськими політичними системами, контролю над промисловим обладнанням або певної їх комбінації. Кожен додатковий механізм вводить ще одну невизначену ланку в причинно-наслідковий ланцюг.

Це не означає, що такі сценарії неможливі. Штучний інтелект, здатний радикально прискорити біологічні дослідження, кібероперації чи розробку зброї, створить надзвичайно серйозні проблеми безпеки. Власна програма безпеки Anthropic спеціально розглядає біологічні та кібербезпекові можливості як сфери, що потребують запобіжних заходів. (⁠ Anthropic ) Але твердження «ШІ може значно спростити розробку біологічної зброї» – це зрозуміле твердження, яке можна емпірично дослідити. «ШІ вб'є всіх» поєднує десятки невизначених тверджень в один емоційно приголомшливий висновок.

Існує також глибока епістемологічна проблема з визначенням числових ймовірностей безпрецедентним подіям. Що саме означає таке твердження, як «ймовірність вимирання людства перевищує десять відсотків»? Не існує історичного розподілу частот, за яким можна було б розрахувати таку цифру. Людство ніколи раніше не створювало надрозумного штучного інтелекту. Тому у нас немає набору даних, що містить десять порівнянних технологічних цивілізацій, одна з яких була знищена його комп'ютерами. Такі відсотки зрештою є вираженням суб'єктивної байєсівської впевненості: складними способами висловити, наскільки хтось стурбований.

Це не робить їх безглуздими. Політикам регулярно доводиться приймати рішення в умовах радикальної невизначеності, і навіть одновідсоткова ймовірність вимирання людства, очевидно, заслуговує на увагу. Проте слід уникати хибної точності. Існує величезна риторична різниця між словами «Я вважаю це серйозною можливістю» та «ймовірність становить 10,7 відсотка», навіть коли доказова основа для обох тверджень по суті однакова. Числа створюють враження вимірювання там, де часто є лише судження.

Також немає нічого, що наближається до наукового консенсусу щодо неминучого вимирання штучним інтелектом. Велике опитування 2778 опублікованих досліджень у галузі штучного інтелекту виявило суттєве занепокоєння щодо катастрофічних наслідків, але також і величезні розбіжності. Більшість респондентів очікували, що позитивні результати від надлюдського штучного інтелекту будуть більш імовірними, ніж погані, хоча значна кількість респондентів надавала нетривіальну ймовірність таким серйозним наслідкам, як вимирання людства. У тому ж опитуванні прогнозується медіанна 50-відсоткова перспектива того, що машини перевершать людей у всіх можливих завданнях приблизно до 2047 року, а не до 2030 року.

Таким чином, дослідники антропології представляють важливу інтелектуальну групу в дослідженнях штучного інтелекту, а не усталений науковий консенсус. Їхня близькість до передових систем надає їхнім поглядам ваги. Вона не дає їм пророчих здібностей. Інженери, які працюють безпосередньо поруч із технологією, можуть розуміти її можливості краще, ніж сторонні, водночас маючи спотворене уявлення про її ширше соціальне значення. Фізики-ядерники надзвичайно добре розуміли атомні реакції, але тому не стали безпомилковими провісниками геополітики холодної війни.

Більше того, у всьому цьому є незручний комерційний вимір. Anthropic навмисно позиціонує себе як передова компанія у сфері штучного інтелекту, яка дбає про безпеку. Її дослідницька організація досліджує узгодженість, інтерпретованість, кібербезпеку, автономні системи та суспільні наслідки, а в її публічних комунікаціях ризики, пов'язані зі штучним інтелектом, обговорюються значно частіше, ніж у деяких конкурентів. Це не означає нещирість. Дослідники можуть бути цілком щирими у своїх побоюваннях. Дійсно, відставка з престижної посади свідчить про те, що Коксон серйозно ставиться до своїх побоювань. Тим не менш, галузь, яка оголошує, що її продукти можуть стати неймовірно потужними, також випадково оголошує, що її продукти можуть стати неймовірно цінними.

Риторика екзистенційної небезпеки та риторика технологічної переваги — дивні близнюки. «Наші машини можуть стати настільки розумними, що знищать цивілізацію» звучить жахливо, але в цьому твердженні приховано надзвичайне твердження про можливості машин. Вони, очевидно, перевершать людство, трансформують наукові дослідження, проникнуть у комп'ютерні системи, контролюватимуть промислові процеси та набудуть геополітичного значення, більшого, ніж держави. Для компаній, оцінених відповідно до очікувань майбутньої технологічної могутності, апокаліпсис може ненавмисно функціонувати як реклама.

Ось одна з причин, чому скептицизм доречний, але не впадає в самовдоволення. Розумною відповіддю на аргументи про зникнення ШІ є не висміювання і не беззаперечне прийняття. Вона полягає в тому, щоб їх розбити. Ми повинні запитати, які можливості з'являються, як швидко вони вдосконалюються і які конкретні шляхи можуть дозволити їм завдати катастрофічної шкоди. Кіберзагрози можна перевірити. Біологічні можливості можна оцінити. Автономну реплікацію можна вивчати. Системи ШІ можна розміщувати в контрольованих середовищах, а дослідники можуть досліджувати, чи обманюють вони керівників, обходять обмеження або застосовують непередбачувані стратегії. Уряди можуть регулювати доступ до особливо небезпечних можливостей, не вдаючи, що знають точну ймовірність загибелі цивілізації.

Існує також небезпека, що екстравагантна риторика про вимирання відволікає увагу від шкоди, яка є значно більш ймовірною. Штучний інтелект може порушити ринки праці, зосередити надзвичайну економічну силу, трансформувати війну, підірвати традиційні відмінності між правдою та вигадкою, зробити можливим безпрецедентне спостереження та змінити відносини між громадянами та урядами. Власне економічне дослідження Anthropic показує, що фактичне використання ШІ залишається значно нижчим за його теоретичні можливості, але вже виявляє свідчення слабшого найму серед молодих працівників у професіях з високим рівнем ризику. Ці розробки не потребують суперінтелекту. Вони починаються вже зараз.

Політичні небезпеки можуть виявитися ще більшими. Технологія не обов'язково повинна ставати автономною, щоб стати небезпечною. Люди, озброєні дедалі потужнішим штучним інтелектом, можуть становити більш правдоподібну загрозу, ніж штучний інтелект, який спонтанно вирішує усунути своїх творців. Авторитарні уряди можуть використовувати штучний інтелект для створення систем спостереження безпрецедентної складності. Військові організації можуть автоматизувати цільове призначення та прийняття стратегічних рішень. Злочинні організації можуть автоматизувати шахрайство, хакерство та пропаганду. Демократичні уряди можуть поступово делегувати рішення системам, які ніхто належним чином не розуміє, оскільки це дешевше та швидше, ніж підтримувати людську бюрократію.

Отже, найімовірніший шлях до катастрофи, спричиненої штучним інтелектом, може включати те, що люди залишатимуться в курсі подій. Ми неодноразово демонстрували надзвичайну здатність використовувати технологічні інновації один проти одного. Ядерна зброя не самостійно вирішила спалити Хіросіму та Нагасакі. Люди вирішили її використати. Штучний інтелект може посилити людську силу, перш ніж він коли-небудь набуде чогось подібного до незалежної сили, і цей перехід заслуговує щонайменше на таку ж увагу, як і спекулятивні сценарії, що стосуються автономної машинної цивілізації.

Однак залишається один переконливий аргумент на користь того, щоб серйозно поставитися до попереджень Антропа. Недоліки настільки величезні, що невизначеність не може виправдати байдужості. Якщо інженери, які будують міст, кажуть, що існує десятивідсоткова ймовірність того, що він обвалиться, нам не потрібно погоджуватися з їхніми розрахунками, перш ніж досліджувати фундаменти. Вимирання людства — це фактично нескінченна втрата з точки зору сучасної політики. Навіть порівняно невеликі ймовірності виправдовують значні витрати на дослідження вирівнювання, моніторинг, міжнародні угоди та технічні запобіжні заходи.

Що вони не обов'язково виправдовують, так це паніку. Паніка інтелектуально руйнівна, оскільки вона руйнує відмінності між можливістю, ймовірністю та певністю. Штучний інтелект може сприяти вимиранню людства. Це твердження дедалі важче повністю відкинути. Те, що штучний інтелект спричинить вимирання людства, — це зовсім інше твердження, для якого наразі немає переконливих доказів. Те, що штучний інтелект спричинить вимирання людства до 2030 року , ще більш неймовірне.

Чотири роки – це надзвичайно короткий період, за який можна подолати відстань між сучасними недосконалими агентами штучного інтелекту та машинами, здатними подолати сукупний інституційний, технологічний та фізичний опір людства. Можливо, прогрес стане надзвичайно швидким, як тільки ШІ суттєво автоматизує власні дослідження. Сама Anthropic вважає значне прискорення ймовірним напрочуд скоро. Але рекурсивне самовдосконалення залишається гіпотезою про майбутній технологічний процес, а не спостережуваним неконтрольованим явищем.

Найглибший урок з антропної суперечки може стосуватися не оптимізму чи песимізму, а смирення. Ми створюємо машини, майбутні можливості яких ми не можемо достовірно передбачити. Оптимісти не знають, що все буде добре. Песимісти не знають, що наближається катастрофа. Люди, які знаходяться найближче до передового штучного інтелекту, глибоко розходяться між собою, тоді як технологічний прогрес продовжується швидше, ніж політичні інституції можуть комфортно сприйняти.

Отже, людство повинно поводитися так, ніби штучний інтелект — це надзвичайно потужна технологія, яка може стати значно потужнішою, а не так, ніби утопія або зникнення вже заплановані. Ми повинні створити запобіжні заходи, проводити змагальні випробування, обмежувати справді катастрофічні можливості, зберігати значущий людський контроль над військовою та критично важливою інфраструктурою та розвивати міжнародні інституції, здатні реагувати, якщо рекурсивний розвиток ШІ почне прискорюватися понад очікування.

Якщо ми досягнемо 2030 року, а людство залишиться живим, антропні попередження не слід автоматично відкидати як дурість. Попередження іноді запобігають катастрофам, які вони описують. Але 2030 рік також не повинен набувати містичного значення як призначена дата технологічного Армагеддону. Історія прогнозів щодо трансформаційних технологій всіяна впевненими дедлайнами, які приходили та йшли.

Машини стають надзвичайно потужними. Цього достатньо, щоб бути обережними. Нам не потрібно переконувати себе, що вони ось-ось усіх нас уб'ють, щоб сприймати їх серйозно.