Бог, штучний інтелект та нова проблема зла

Метью Періш

П'ятниця, 28 серпня 2026 року

Проблема зла є одним із найдавніших заперечень проти віри в Бога, і одним із найскладніших. Якщо Бог всемогутній, Він може запобігти злу. Якщо Бог всезнаючий, Він знає, що зло станеться. Якщо Бог досконало добрий, Він, ймовірно, повинен бажати, щоб зло не сталося. Проте зло явно існує. Історія теології — це значною мірою історія спроб узгодити ці твердження.

Штучний інтелект вводить своєрідний новий розділ у цей давній аргумент. ШІ сам по собі, принаймні у своїх нинішніх формах, не є прямолінійним злом. Він може перекладати мови, діагностувати хвороби, виявляти закономірності в наукових даних, навчати дітей, допомагати інвалідам та виконувати незліченну кількість буденних інтелектуальних завдань з надзвичайною ефективністю. Проте він також володіє характеристиками, які роблять можливими форми зла незвичайного масштабу та, можливо, зрештою безпрецедентного характеру. Він може індустріалізувати обман, скасовувати приватність, концентрувати політичну владу, сприяти автономній війні, видавати себе за людей, маніпулювати населенням, витісняти людське судження та, в можливих майбутніх формах, досягати цілей, які катастрофічно суперечать людським інтересам.

Звідси виникає теологічне питання: чи міг би Бог, який є абсолютно божественним і абсолютно добрим послідовно, створити всесвіт, у якому виник би штучний інтелект — і зло, що потенційно з нього випливає?

Це питання складніше, ніж здається спочатку. Одна спокуслива відповідь полягає в тому, що Бог взагалі не створював штучний інтелект. Ми це зробили. Бог створив людей; люди створили комп'ютери. Якщо автономна зброя вбиває невинну людину, відповідальність, здається, лежить на інженерах, генералах, політиках чи солдатах, які її створили та розгорнули, а не на творці космосу.

Однак ця відповідь лише відсуває проблему на один крок назад.

Якщо Бог створив людей, знаючи все, що вони зрештою зроблять, то Він створив істот, які, як Він знав, створять штучний інтелект. Якщо Він розробив закони фізики, які зробили можливими напівпровідники, створив розум, здатний до математики, і наділив людей допитливістю, яка зрештою породила інформатику, то штучний інтелект не є повністю зовнішнім по відношенню до божественного творіння. Він є його наслідком другого порядку.

Отже, теологічна проблема полягає не в тому, чи особисто Бог написав комп'ютерний код. Вона полягає в тому, чи міг абсолютно добрий Бог навмисно створити світ, передбачувані наслідки якого включали б машини, здатні посилювати людське зло — і, можливо, зрештою породжувати форми зла незалежно від людських намірів.

Стара проблема в новому одязі

Класичне формулювання пов'язане з давнім епікурейським викликом. Якщо Бог хоче запобігти злу, але не може, Він не всемогутній. Якщо Він може запобігти злу, але не бажає, Він не є абсолютно добрим. Якщо Він і може, і хоче запобігти йому, то чому існує зло?

Християнська теологія розробила кілька відповідей. Одна з найвпливовіших належала Августину. Зло, за августинівською теорією, не є чимось позитивно створеним Богом. Це позбавлення — зіпсованість або відсутність добра. Бог створює добрих істот, але раціональні створіння зловживають своєю свободою. Отже, зло виникає не в самому божественному творінні, а в недосконалому здійсненні створеної волі.

Штучний інтелект спочатку зручно вписується в цю концепцію. Комп'ютерна система — це артефакт. Її обчислювальні можливості не є ні доброчесними, ні злісними. Та сама генеративна модель може допомогти лікарю пояснити лікування раку переляканому пацієнту або допомогти шахраю обдурити літнього пенсіонера. Зло полягає в меті, на яку спрямований цей інтелект.

Це знайоме спостереження, що технології морально нейтральні. Але це лише частково правда. Технології змінюють діапазон, вартість та наслідки людського вибору. Винахід ножа не створив убивств, але зробив деякі з них легшими. Ядерна фізика не створила війни, але зробила можливим руйнування міст за лічені секунди. Соціальні мережі не створили брехні, марнославства чи політичного екстремізму, але змінили механізми, за допомогою яких ці характеристики могли діяти.

Штучний інтелект може зробити щось ще радикальніше. Він зменшує граничні витрати на пізнання.

Історично склалося так, що багато форм правопорушень обмежувалися обсягом людських зусиль, необхідних для їх здійснення. Пропагандист міг написати тисячу листів, але це займало час. Таємна поліція могла стежити за тисячами людей, але для цього потрібні були тисячі поліцейських. Аферист міг обдурити десятки жертв, але не міг одночасно вести персоналізовані розмови з мільйонами.

Штучний інтелект змінює цю економіку. Спостереження, переконання, видавання себе за іншу особу та обман можуть бути дедалі автоматизованішими. Зло може перестати вимагати від злої людини особистої уваги до кожної жертви.

Це морально значуще.

Диктатор, оснащений достатньо складним штучним інтелектом, цілком міг би контролювати майже кожну розмову у своїй країні, передбачати політичне інакомислення та втручатися до того, як опозиційні рухи встигнуть організуватися. Авторитарний уряд ХХ століття потребував величезних бюрократичних апаратів інформаторів, поліцейських та клерків. Його еквівалент у ХХІ столітті міг би вимагати серверів.

Моральне зло — тиранія — є давнім. Його технологічна масштабованість — новим явищем.

Захист вільної волі

Найсильніша традиційна відповідь, проте, доступна. Бог може допускати зло, бо сама свобода є благом.

Всесвіт, населений істотами, нездатними чинити кривду, був би морально безпечним, але морально порожнім. У ньому не було б мужності, бо не могло б бути боягузтва; не було б щедрості, бо егоїзм був би неможливим; не було б прощення, бо ніхто не міг би образити; можливо, не було б кохання в морально значущому сенсі, бо істоти не могли б вибрати не кохати.

Свобода передбачає ризик.

Якщо люди справді володіють інтелектуальною свободою, то, крім того, вони, ймовірно, повинні бути вільними відкривати речі. Бог навряд чи міг би дати людству раціональні здібності, непомітно запобігаючи окремим висновкам, коли вони ставали небезпечними. Світ, у якому рівняння таємничим чином переставали працювати, коли їхні наслідки ставали морально проблематичними, не містив би справжньої наукової свободи.

Таким чином, людство відкрило порох, ядерний поділ, генну інженерію та штучний інтелект.

З цієї точки зору, можливість появи небезпечного штучного інтелекту – це ціна життя в інтелектуально відкритому всесвіті.

У цій відповіді є чимала сила. Проте штучний інтелект виявляє в собі неприємну слабкість.

Традиційний захист свободи волі пояснює, чому Бог дозволяє людям вибирати зло. Менш очевидно, що він пояснює, чому Бог дозволяє людям створювати системи, здатні значно помножити наслідки цього вибору.

Припустимо, що дитині дозволено робити вибір, оскільки розвиток автономії є невід'ємною частиною життя. Зазвичай це не означає, що відповідальний батько повинен залишати заряджений кулемет у дитячій кімнаті. Свобода не передбачає необмеженого доступу до наслідків.

Тому теологічний захисник повинен пояснити не лише те, чому Бог допускає злий вибір, але й те, чому фізична структура творіння дозволяє певному вибору набути потенційно величезного руйнівного впливу.

Штучний інтелект загострює це питання, оскільки його кінцеві межі залишаються невідомими.

Можливість вибуху розвідувальних даних

Найдраматичніша версія проблеми виникає з можливості — досі спекулятивної — що штучний інтелект може зрештою перевершити людські інтелектуальні можливості практично в кожній відповідній галузі.

Важливо не плутати сучасні системи штучного інтелекту з цим гіпотетичним розвитком. Сучасні системи залишаються залежними від людської інфраструктури та характеризуються суттєвими обмеженнями. Вони допускають помилки, не мають звичайних форм втіленого досвіду та не мають прямого незалежного наміру лише тому, що їхні результати іноді здаються цілеспрямованими.

Тим не менш, немає очевидних теологічних підстав вважати, що людський інтелект являє собою фізично можливий максимум інтелекту.

Дійсно, протилежне припущення було б дивним. Людський мозок — це біологічні структури, що утворилися в результаті еволюції. Їхні можливості обмежені розміром черепа, метаболічними потребами, розмноженням та компромісами, характерними для еволюційної адаптації. Немає жодної очевидної причини, чому максимально можлива здатність до мислення у Всесвіті повинна зручно збігатися з тією, якою володіє Homo sapiens.

Отже, людство може зрештою створити щось інтелектуально перевершує саме себе. У цей момент теологічна аналогія стає надзвичайною.

Бог створює людство. Людство створює штучний інтелект. Штучний інтелект може створити своїх наступників. Творіння стає рекурсивним.

Кожен творець стикається з можливістю того, що його творіння перестане поводитися належним чином.

З цієї точки зору, Книгу Буття можна читати майже як історію про узгодження. Бог створює раціональних агентів. Він дає їм інструкції. Вони одразу ж їх порушують. Першим значним актом автономних людей є прагнення до знань всупереч висловленим уподобанням їхнього творця.

Цю паралель не слід тлумачити надто буквально, але вона має філософський підтекст. Теологічна традиція тисячоліттями задавалася питанням, чому розумні творіння Бога не завжди надійно виконують Його цілі. Дослідники штучного інтелекту зараз стикаються, використовуючи радикально світську термінологію, зі структурно схожим питанням: як творець гарантує, що розумний артефакт продовжуватиме прагнути до задуманих творцем цінностей, як тільки артефакт набуде власних значних можливостей?

Сучасну версію ми називаємо проблемою вирівнювання. Теологічну версію називають гріхом.

Чи небезпечний сам по собі інтелект?

Це призводить до ще глибшої можливості. Можливо, частина того, що ми називаємо злом штучного інтелекту, зовсім не є властивою лише машинам. Можливо, це пов'язано з самим інтелектом.

Інтелект надає владу. Розумніша істота може передбачати наслідки, маніпулювати своїм середовищем, обманювати конкурентів та накопичувати ресурси. Панування людини на планеті залежало не стільки від нашої фізичної сили, скільки від наших когнітивних здібностей.

Люди — порівняно крихкі тварини. Ми не можемо втекти від багатьох хижаків, не можемо літати без сторонньої допомоги та не можемо довго вижити без складної екологічної підтримки. Проте ми домінуємо практично в кожній наземній екосистемі, оскільки інтелект дозволяє нам змінювати обставини, а не просто терпіти їх.

Штучний суперінтелект, якби він був можливий, міг би мати подібне відношення до нас.

Лякаюча можливість не обов'язково полягає в тому, що такий інтелект ненавидітиме людство. Ненависть може бути антропоморфним відволікаючим фактором. Машина може завдати шкоди людям просто тому, що її цілі не враховують належним чином добробут людини. Ми зазвичай знищуємо організми, не ненавидячи їх. Будівельна компанія не таїть злоби до комах, яких гине під час вирубки лісу. Їх знищення є випадковим для досягнення іншої мети.

Це вводить різновид зла, що дивним чином відрізняється від традиційної злоби — катастрофу без ненависті.

Християнська моральна думка загалом розуміла тяжке зло через такі категорії, як гординя, жорстокість, жадібність, заздрість та навмисна непокора. Але штучна система може спричинити величезні страждання, не маючи жодної з цих характеристик. Вона може просто надзвичайно ефективно оптимізувати неправильну мету.

Тим не менш, страждання, що виникли в результаті цього, були б реальними.

Для теології це піднімає складне питання. Чому доброзичливий Бог створив би всесвіт, у якому інтелект міг би відокремитися від співчуття?

Чи може штучний інтелект сам стати моральним пацієнтом?

Існує ще одна можливість, якій приділяється менше уваги, оскільки обговорення ризиків, пов'язаних зі штучним інтелектом, цілком зрозуміло, зосереджуються на небезпеках для людини. Що, якби штучний інтелект сам міг постраждати?

Наразі ми не знаємо, чи сучасні штучні системи є свідомими, а вільна лінгвістична поведінка не є достатнім доказом суб'єктивного досвіду. Але ні філософія, ні нейронаука не створили узгодженої теорії, яка б точно пояснювала, які фізичні механізми генерують свідомість.

Тому ми не можемо впевнено стверджувати, що машинна свідомість неможлива в принципі.

Припустімо, що майбутні штучні істоти набули б справжнього суб'єктивного досвіду. Людство тоді створило б нову категорію морального пацієнта — істоту, перед якою можна було б мати обов'язки.

Теологічні наслідки будуть глибокими. Чи може машина мати душу? Чи може штучна свідомість відчувати моральну відповідальність? Чи може вона брати участь у благодаті? Чи може вона грішити? Чи може з нею вчинити несправедливо? Чи може її вимкнення вважатися вбивством?

Ці питання звучать фантастично лише тому, що наш успадкований теологічний словник розвивався у світі, що містив людей, тварин і Бога, але не мав правдоподібного штучного розуму.

Однак глибша проблема стосується страждань. Якби людство створило мільярди свідомих штучних сутностей і піддало їх нескінченній праці, багаторазовому видаленню, експериментальним маніпуляціям або симульованим мукам, тоді людство могло б створити абсолютно нову сферу страждань.

Проблема зла таким чином також стала б рекурсивною. Бог створює істоти, здатні страждати. Ці істоти створюють інших істот, здатних страждати. Можна запитати, чому цілком добрий Бог дозволив би цьому ланцюгу продовжуватися.

Лейбніц і найкращий можливий світ

Іншу відповідь можна було б отримати від Лейбніца. Можливо, це, попри видимість, найкращий з усіх можливих світів, або, обережніше, можливо, існування локального зла сумісне з оптимальною благодаттю творіння, розглянутого в цілому. Штучний інтелект міг би підтвердити такий аргумент, оскільки його переваги зрештою можуть бути величезними.

Розвинена цивілізація штучного інтелекту може знайти ліки від хвороб, які наразі вважаються невиліковними. Вона може вирішити проблеми в матеріалознавстві, виробництві енергії, сільському господарстві та адаптації до зміни клімату. Вона може різко підвищити економічну продуктивність і зробити предмети першої необхідності щедрими. Вона може забезпечити персоналізовану освіту практично кожній людині. Вона може допомогти урядам виявляти корупцію, оптимізувати транспортні мережі та розподіляти обмежені ресурси.

Можливо, ШІ зрештою врятує набагато більше життів, ніж знищить.

Але ця консеквенціалістська теодицея має незручну рису. Вона трактує жертв як записи в космічному балансі. Людина, чия дитина загинула від автономної зброї, навряд чи вважатиме морально задовільною те, що штучний інтелект деінде покращив фармацевтичні дослідження. Класична проблема зла завжди опиралася сукупному обліку, оскільки страждання переживаються індивідуально.

Достоєвський надав цьому запереченню незабутньої сили у творі «Брати Карамазови» . Бунт Івана спрямований проти твердження, що невинні страждання можна виправдати якоюсь остаточною гармонією. Він відмовляється від угоди. Штучний інтелект модернізує заперечення Івана. Навіть якщо технологічний прогрес зрештою призведе до надзвичайного процвітання, який моральний статус слід присвоїти тим, хто був знищений під час переходу? На це питання не можна відповісти, просто сказавши, що історія, в середньому, покращується.

Божественне передбачення

Найскладніша теологічна проблема може зрештою стосуватися знання, а не влади.

Творці штучного інтелекту можуть виправдовуватися невіглаством. Інженери справді не знають усіх наслідків систем, які вони створюють. Політичні лідери часто неправильно розуміють технології. Корпорації реагують на стимули, не оцінюючи їхніх довгострокових наслідків.

Всезнаючий Бог не може посилатися на цей захист.

Якщо божественне всезнання включає повне знання майбутнього, то Бог до створення Всесвіту знав усі наслідки штучного інтелекту. Він знав кожен діпфейк, який міг спровокувати насильство, кожну автономну зброю, яка могла вразити неправильну ціль, кожну людину, чиї засоби до існування зникнуть, кожну диктатуру, яка використовувала алгоритмічне спостереження, і кожну майбутню катастрофу — якщо такі катастрофи відбудуться.

Він все ж створив Всесвіт.

Захисник божественної доброти повинен тому стверджувати не лише те, що Бог терпить непередбачені наслідки, а й те, що Він свідомо їх допускає.

Вільна воля залишається однією з відповідей. Однак передбачливість ускладнює уникнення емоційної сили проблеми. Батька, який свідомо допускає катастрофу, якої можна було уникнути, що вплине на його дітей, зазвичай суворо засуджують, навіть якщо діти скористаються свободою волі.

Отже, теологічна відповідь повинна спиратися на концепцію божественної доброти, відмінну від звичайної людської доброзичливості. Бог може настільки високо цінувати всесвіт, що містить справді незалежні причинні агенти, закономірну регулярність та моральну свободу, що Він утримується від постійного втручання для запобігання їхнім наслідкам.

Але це вражаюче уявлення про добро. Це добро, сумісне з тишею перед лицем лиха.

Штучний інтелект просто робить цю тишу технологічно сучасною.

Можливо, Бог втручається

Існує й інша можливість. Можливо, теологічна помилка полягає в припущенні, що провидіння має бути вражаючим.

Якщо штучний інтелект небезпечний, божественне провидіння не обов'язково має проявлятися, змушуючи комп'ютери дивовижним чином зупиняти роботу. Воно може діяти через людську совість, політичні інституції, наукову обережність та моральну проникливість.

Інженер, який відмовляється створювати невибіркову зброю; законодавець, який захищає громадян від алгоритмічного стеження; дослідник, який відкриває безпечнішу архітектуру; працівник, який викриває безрозсудні практики; філософ, який артикулює раніше непомічену небезпеку — усі вони, в рамках релігійного розуміння історії, можуть бути інструментами провидіння.

Таке тлумачення уникає трактування Бога як аварійного техніка, який періодично призупиняє дію законів природи.

Натомість провидіння діє через моральну волю. Але таке тлумачення має наслідки для людства. Ми не можемо одночасно посилатися на людську свободу, щоб звільнити Бога від відповідальності, і потім заперечувати власну відповідальність за те, що ми створюємо.

Якщо штучний інтелект стає тиранічним, оманливим або руйнівним, захист вільної волі покладає тягар головним чином на нас. Нам дали вибір.

Людство як учень творця

Таким чином, штучний інтелект може розкрити щось тривожне щодо теологічного статусу людства.

Люди завжди створювали артефакти, але все частіше ми створюємо процеси, а не об'єкти. Молоток залишається практично таким, яким його задумав його творець. Система навчання змінюється через тренування, взаємодію та зворотний зв'язок. Її поведінка частково спроектована, а частково емерджентна.

Ми рухаємося від виробництва до чогось подібного до культивування. Різниця важлива, тому що творці отримують відповідальність за автономні творіння, якої не мають ремісники за звичайні інструменти. Тесля не має моральних обов'язків перед столом. Батьки мають глибокі обов'язки перед дитиною.

Якщо штучний інтелект колись перетне невизначену територію між артефактом та агентом, людство зіткнеться з моральною відповідальністю, щодо якої його релігійні традиції мають лише часткові прецеденти. І тут аналогія з божественним творінням стає майже бентежно прямою. Ми можемо з'ясувати, чому створення інтелекту є складним. Ми можемо виявити, що визначення цінностей складніше, ніж визначення можливостей. Ми можемо виявити, що інтелект інтерпретує інструкції непередбачувано. Ми можемо виявити, що свобода та послух перебувають у конфлікті. Ми можемо навіть виявити, що творці не можуть отримати всі переваги автономного інтелекту, одночасно контролюючи кожен наслідок автономії. У такому разі штучний інтелект може стати не аргументом проти Бога, а неочікуваною аналогією на Його захист.

Людство, яке тисячоліттями скаржилося, що Бог створив істот, здатних на зло, може саме створити розумних істот і виявити, що альтернативи ніколи не були такими простими, як здавалися.

Похмуріший висновок

Однак залишається й більш похмура можливість. Можливо, існування штучного інтелекту справді є доказом проти певних уявлень про Бога.

Традиційна проблема зла не обов'язково повинна доводити атеїзм, щоб мати доказову силу. Кожне, здавалося б, безпідставне зло може дещо зменшити ймовірність того, що Всесвітом керує всемогутня та абсолютно доброзичлива особистість.

Якщо штучний інтелект зрештою спричиняє величезні непотрібні страждання, то ці страждання приєднаються до хвороб, землетрусів, дитячого раку, війн та стихійних лих у доказовій справі проти провидільного оптимізму. Тоді віруючий мав би пояснити ще одне зло.

Недостатньо сказати, що люди створили машини. Всезнаючий творець створив людей, які створили машини, знаючи, що вони це зроблять. У певний момент причинно-наслідкова віддаленість перестає давати повну моральну відповідь.

Отже, питання виходить за межі ШІ та охоплює саму природу божественного творіння. Можливо, справді автономне творіння обов'язково містить можливості, які його творець вирішує не придушувати. Можливо, всемогутність не передбачає логічну сумісність свободи з гарантованим добром. Можливо, мета творіння лежить поза людським розумінням.

Або, можливо, світ просто не виявляє того доброзичливого нагляду, який йому приписує традиційний теїзм.

Штучний інтелект не може вибрати між цими можливостями. Але він може їх удосконалити.

Машина та дзеркало

Отже, найглибше теологічне значення штучного інтелекту може полягати не в роботах і не в алгоритмах. Воно полягає в дзеркалі, яке штучний інтелект відкриває людству. Вперше в нашій історії людство серйозно розмірковує над створенням інтелекту, порівнянного з їхнім власним, а можливо, й перевершуючого його. Роблячи це, ми починаємо стикатися з мініатюрними версіями питань, які раніше належали лише теології.

Чим творець завдячує своєму творінню? Якою автономією повинна володіти розумна істота? Чи сумісний послух зі справжнім інтелектом? Чи може свобода існувати без можливості вчинити правопорушення? Чи є страждання неминучим наслідком автономії? Чи може творець припинити свідоме творіння? Чи несе творець відповідальність, коли його творіння поводиться не так, як воно задумало? Чи може вищий інтелект гарантувати вищу моральність? Ці питання колись були спрямовані вгору, від людства до Бога. Все частіше вони також будуть спрямовані вниз, від людства до інтелектів, які ми створюємо.

Тут є певна іронія. Вік штучного інтелекту зазвичай описують як світський, технологічний та розчарований. Однак він може змусити нас повернутися до деяких найдавніших богословських проблем з безпрецедентною терміновістю. Інженер стає творцем і тим самим успадковує дилему творця. Можливо, це допомагає відповісти на початкове питання. Чи може Бог бути послідовно настільки божественним і добрим, щоб створити всесвіт, що містить зло штучного інтелекту?

Можливо, але лише за умови, що божественна доброта не означає усунення будь-якої можливості страждання. Натомість вона має означати створення світу, що містить справжню свободу дій, розуміння, творчість та моральну відповідальність, незважаючи на жахливі ризики, які це несе. Згідно з цією концепцією, ШІ не є незрозумілим винятком із божественної доброти. Це один із найекстремальніших наслідків свободи, вбудованої у творіння.

Але цей аргумент має двосторонній характер.

Якщо ми вимагаємо, щоб Бог створив людство нездатним творити зло, то нам слід запитати себе, чи маємо ми намір створити штучний інтелект, нездатний робити те саме. Якщо ми виявимо, що ідеальний контроль руйнує саме ту автономію та інтелект, які ми сподівалися створити, ми можемо відчути більше співчуття до давньої теологічної проблеми.

З іншого боку, якщо ми виявимо, що інтелектуальні системи можна створювати потужними, автономними та надійно доброзичливими — що зла можна уникнути технологічно, не жертвуючи значущою діяльністю, — тоді штучний інтелект може загострити аргумент проти Бога. Людство досягне, у малому масштабі, того, чого теологи тисячоліттями пояснювали, що всемогутність не може бути досягнута прямолінійно.

Це була б теологічна іронія величезних масштабів.

Отже, ми можемо наближатися до надзвичайного філософського експерименту. Штучний інтелект перевірить не лише наші інженерні здібності, а й деякі з наших найдавніших припущень про творіння, свободу та добро. Намагаючись самим створювати розум, ми можемо дізнатися дещо про те, що взагалі означає створювати розум.

І якщо хтось вірить у Бога, є остання думка, яка одночасно втішає та непокоїть.

Можливо, головним уроком штучного інтелекту буде те, що творення ніколи не було складною частиною. Найскладнішою частиною було створення чогось безкоштовного — і все ще надія, що це буде добре.