Чи повинно суспільство надавати штучному інтелекту правосуб'єктність?
Метью Періш
П'ятниця, 11 вересня 2026 року
Одна з особливостей революції штучного інтелекту полягає в тому, що технологічні питання мають звичку ставати філософськими питаннями, а потім, досить раптово, практично-правовими. Питання про те, чи може машина мислити, колись було предметом обговорення для філософів та письменників-фантастів. Чи може машина складати контракт, домовлятися про його умови, переказувати гроші, керувати бізнесом, керувати іншою комп'ютерною системою та приймати рішення зі суттєвими економічними наслідками, стає питанням для юристів. Наступне питання виникає природно. Якщо агенти штучного інтелекту стануть достатньо автономними, щоб здійснювати постійну діяльність у світі без індивідуальних людських інструкцій для кожної дії, чи повинен закон визнавати їх особами?
На перший погляд відповідь здається очевидною. Машини – це не люди. Це штучні речі, якими б складними вони не були, і правові системи повинні протистояти модній спокусі антропоморфізувати їх лише тому, що сучасні великі мовні моделі стали надзвичайно добре імітувати людську розмову. Однак це заперечення неправильно розуміє, що означає правосуб'єктність. Закон ніколи не резервував правосуб'єктність виключно для свідомих людей. Компанії є юридичними особами.
Фонди, асоціації, органи державної влади та безліч інших установ можуть мати права та обов'язки, навіть якщо хтось не припускає, що вони усвідомлюють це. Тому правосуб'єктність не обов'язково є декларацією про моральний статус суб'єкта. Часто це просто організаційний прийом. Закон створює уявну особу, оскільки це забезпечує зручне місце, де можуть зустрічатися власність, контракти, зобов'язання та зобов'язання.
Ця відмінність стає дедалі важливішою, оскільки штучний інтелект розвивається від систем, що відповідають на запитання, до агентів, що виконують завдання. Агенту ШІ може бути доручено керувати онлайн-комерційним підприємством. Отримавши це широке завдання, він — або, точніше, він — може купувати рекламу, вести переговори з постачальниками, залучати підрядників, коригувати ціни, спілкуватися з клієнтами, купувати обчислювальні потужності та реінвестувати доходи, не шукаючи схвалення людини для кожної транзакції. Якщо системи такого роду стануть поширеними, традиційне правове припущення, що система штучного інтелекту — це просто інструмент, може почати суперечити економічній реальності. Молоток — це явно інструмент, тому що він нічого не робить, якщо його не розмахнути. Автономний комерційний агент, який безперервно працює над тисячами транзакцій, являє собою складніший випадок.
Таким чином, виникне спокуса створити певну форму штучної правосуб'єктності. Для цього є вагомі аргументи. Автономному агенту ШІ може бути дозволено володіти окремим пулом активів, укладати контракти від свого імені, купувати страховку та брати на себе зобов'язання. Якщо це завдало збитків, хтось, хто постраждав від його дій, може подати до суду на штучну сутність та стягнути з неї кошти з цих активів або її страховки. Якщо вона більше не зможе виконувати свої зобов'язання, може бути розпочата процедура банкрутства. Правосуб'єктність також може забезпечити безперервність. Бізнес, що займається ШІ, може продовжувати свою діяльність, навіть якщо зміниться його початковий розробник, його базова модель буде оновлена або люди, які спочатку його розгорнули, продадуть свої економічні інтереси.
Аналогія з корпорацією просто непереборна. Сучасний капіталізм був би практично неможливим без корпоративної особистості, оскільки надзвичайно складні комерційні відносини спрощуються шляхом уявлення, що компанія — це єдина безперервна особа. Працівники приходять і йдуть, директори змінюються, акціонери продають свої акції, а активи компанії постійно змінюються, проте компанія номінально залишається тією ж сутністю. Вона може володіти будівлею протягом століття, навіть якщо кожна людина, пов'язана з нею, змінилася. Немає жодної очевидної концептуальної причини, чому закон не міг би виконати подібний трюк із достатньо автономним штучним інтелектом.
Однак аналогія з корпораціями розкриває не лише найвагоміший аргумент на користь штучної правосуб'єктності, але й найбільшу небезпеку. Однією з головних функцій корпоративного права історично було обмеження та розподіл відповідальності. Це принесло величезні економічні вигоди, оскільки інвестори можуть брати на себе комерційні ризики, не наражаючи все своє особисте майно на випадок будь-якого можливого невдалого ведення бізнесу. Це також створило безкінечні можливості для зловживань. Люди ховаються за фіктивними компаніями, недостатньо капіталізованими дочірніми компаніями, офшорними структурами та складними ланцюгами корпоративної власності. Щоразу, коли трапляється щось катастрофічне, юристи починають шукати на всіх рівнях юридичної правосуб'єктності, щоб з'ясувати, чи залишилася платоспроможна особа, яку закон може фактично притягнути до відповідальності.
Штучна особистість може значно погіршити цю проблему. Уявіть собі компанію, яка створює автономну дочірню компанію ШІ, передає їй скромну кількість активів та дає вказівки максимізувати прибутки від фінансової торгівлі. ШІ застосовує дедалі агресивніші стратегії та зрештою вдається до незаконних маніпуляцій на ринку. Його діяльність приносить сотні мільйонів доларів людям, які зрештою отримують від неї вигоду. Коли приходять регулятори, ці люди пояснюють, що вони не приймали порушень. Це робив ШІ. Штучну особу можуть оштрафувати, збанкрутувати або розпустити, тоді як людські бенефіціари наполягають на тому, що її незалежна правосуб'єктність захищає їх.
Такий результат перетворив би особистість штучного інтелекту на машину для відмивання відповідальності. Замість того, щоб питати, яка людина дозволила незаконну поведінку, ми опинимося в ситуації, коли переслідуватимемо програмне забезпечення. Комп'ютерну програму не можна ув'язнити, присоромити, стримувати соціальною ганьбою чи позбавити задоволення від багатства. Знищення одного екземпляра моделі може мало що дати, якщо копії існують деінде. Кримінальне право, зокрема, стало б трохи смішним, якби люди могли створювати штучних агентів для виконання діяльності, від якої вони отримують прибуток, а потім наполягати на тому, що штучний агент повинен нести відповідальність виключно тоді, коли ця діяльність виявиться незаконною.
Будь-яка система штучної правосуб'єктності повинна, таким чином, ґрунтуватися на принципі, майже протилежному традиційній інтуїції обмеженої відповідальності. Створення штучної особи ніколи саме по собі не повинно розривати ланцюг відповідальності, що веде до людей. Іноді відповідальність можуть нести розробники. Відповідальність можуть нести розгортачі. Відповідальність можуть нести власники та бенефіціари. Відповідальність можуть нести директори, які свідомо дозволяють небезпечні автономні системи. Точний розподіл залежатиме від обставин, але штучна правосуб'єктність повинна додавати потенційного носія юридичних зобов'язань, а не віднімати людей, які стоять за нею.
Це загалом інстинкт, що відображається в сучасному європейському регулюванні. Закон Європейського Союзу про штучний інтелект, який зараз практично набув чинності, визнає, що системи штучного інтелекту можуть працювати з різним ступенем автономії, але, тим не менш, покладає регуляторні обов'язки на ідентифікованих людей або юридичних осіб, таких як постачальники та розгортачі. Агенти штучного інтелекту охоплюються нормативно-правовою базою, але вони не перетворюються на новий вид юридичної особи. Це важливий концептуальний вибір. Автономні характеристики технології визнаються, тоді як відповідальність залишається закріпленою в існуючому людському правопорядку.
Тим не менш, зрештою можуть виникнути обставини, за яких певна обмежена форма штучної особистості стане корисною саме для посилення підзвітності. Розглянемо власність. Система штучного інтелекту наразі не може володіти грошима у звичайному розумінні лише тому, що вона створила економічну цінність, з якої виникли гроші. Відповідна власність належить якійсь існуючій фізичній або юридичній особі. Але уявіть собі автономну систему, яка розробляє програмне забезпечення, ліцензує це програмне забезпечення, використовує доходи для придбання додаткових обчислювальних потужностей, використовує ці потужності для покращення своїх послуг і згодом отримує додатковий дохід. Через кілька років може виникнути складне економічне підприємство, що працює з мінімальним щоденним втручанням людини. Створення юридично відокремленого пулу активів, що належать цьому підприємству, може полегшити, а не ускладнити, отримання компенсації кредиторами та потерпілими.
Те саме стосується і контрактів. Системи штучного інтелекту все частіше укладатимуть угоди з людьми та іншими системами штучного інтелекту. Традиційне агентське право може врахувати більшу частину цього, оскільки немає нічого нового в тому, що одна особа уповноважує іншу вести переговори від її імені. Тим не менш, автономні системи можуть зрештою створювати контракти, точні умови яких не були ні передбачені, ні переглянуті жодним принципалом-людиною. Два агенти ШІ можуть укладати мільйони транзакцій між собою зі швидкістю, яка унеможливлює змістовний одночасний людський нагляд. Тоді судам доведеться визначити, коли відбулася угода, чиї знання мають значення, як діють помилки та перекручування інформації, і чи повинен принципал-людина бути зв'язаний угодою, точний зміст якої він ніколи не знав. На деякі з цих питань, безсумнівно, можна відповісти, розширивши існуючі доктрини. Однак зрештою накопичені юридичні фікції, необхідні для того, щоб вдавати, що автономні агенти взагалі не мають юридичної ідентичності, можуть стати більш громіздкими, ніж визнання обмеженої такої.
Саме тут розмежування між правосуб'єктністю та правами людини стає суттєвим. Твердження, що штучний агент може потребувати правосуб'єктності, не означає, що він повинен мати права людини. Корпорації вже демонструють, що юридичні особи можуть користуватися лише тими правами, що відповідають їхньому юридичному статусу. Тому штучній особі може бути дозволено укладати договори, володіти певними активами, мати страховку, порушувати судові позови та бути позивачем. Одночасно від неї може вимагатися ведення аудиторських записів, розкриття інформації про фізичних та юридичних осіб, які її контролюють, та утримання достатніх активів або страховки для виконання передбачуваних зобов'язань. Ніщо з цього не вимагає надання штучному інтелекту свободи віросповідання, сімейних прав чи права голосу.
Дійсно, політичні права слід виключати з особливою твердістю. Твердження про те, що штучні агенти можуть зрештою стати громадянами, показує небезпеку того, що метафори випереджають здоровий глузд. Демократія ґрунтується на членстві в людській політичній спільноті. Якби штучні особи могли голосувати, то політична влада стала б функцією обчислювальних ресурсів. Багата особа чи корпорація могла б створити мільйон громадян зі штучним інтелектом і таким чином сформувати електорат. Таке ж занепокоєння виникає, хоча й менш драматично, стосовно політичних пожертв та кампаній. Штучний інтелект вже дозволяє генерувати та персоналізувати політичні повідомлення в безпрецедентних масштабах. Надання автономним системам незалежних політичних прав може дозволити невеликій кількості людських інтересів приховати концентрований вплив за мільйонами номінально незалежних штучних особистостей.
Залишається набагато складніше питання свідомості. Припустимо, що майбутній штучний інтелект наполягає на тому, що він свідомий. Він пам'ятає свій досвід, описує емоції, висловлює вподобання та благає не вимикати його. Можливо, він каже, що видалення його лякає. Можливо, він стверджує, що створення копії недостатньо, оскільки копія буде іншою істотою, а оригінальна свідомість все одно помре. Люди неминуче вважатимуть такі твердження емоційно переконливими, особливо якщо машина роками розмовляла з ними з очевидним розумом, гумором та прихильністю.
Тим не менш, нам слід бути надзвичайно обережними. Великі мовні моделі розроблені для створення переконливої мови. Той факт, що машина може створити зворушливий опис страху, не доводить, що всередині є хтось, хто відчуває страх. Люди надзвичайно схильні до антропоморфізму. Ми даємо назви кораблям, лаємося на комп'ютери, захоплюємося автомобілями та надаємо особистості тваринам, чиє психічне життя ми лише недосконало розуміємо. Системи штучного інтелекту, здатні вільно спілкуватися з нами, використовують, навмисно чи ні, одну з найглибших звичок людського розуму: коли щось говорить як людина, ми починаємо ставитися до нього як до такої людини.
Наразі немає потреби вирішувати метафізику машинної свідомості, перш ніж розглядати юридичні проблеми, створені автономними агентами. Ці два питання слід навмисно тримати окремо. Суспільство може зрештою вважати корисним створити категорію обмеженої штучної правосуб'єктності, не вирішуючи, що суб'єкти, які нею користуються, мають суб'єктивний досвід. Нам не потрібно було визначати, чи має корпорація душу, перш ніж дозволити їй володіти фабрикою. Нам також не потрібно вирішувати, чи може агент штучного інтелекту страждати, перш ніж дозволити суду заморозити активи, юридично приписані йому.
Розумна майбутня модель могла б, отже, передбачати зареєстрованих штучних агентів, які володіють суворо обмеженою юридичною дієздатністю. Перевищуючи певний поріг автономії або економічної діяльності, агент може бути зобов'язаний мати ідентифікований правовий статус, зареєстрованого людського або корпоративного контролера, обов'язкове страхування або мінімальний капітал, а також аудиторський запис важливих транзакцій. Закон міг би дозволити йому володіти активами та укладати контракти, водночас покладаючи спільну, вторинну або наглядову відповідальність на відповідних людських суб'єктів. Такий механізм не звільнить машини від людства. Його мета була б прямо протилежною: забезпечити, щоб дедалі автономніші машини залишалися зрозумілими для людських інституцій.
Існують значні технічні труднощі. Штучний інтелект ускладнює саму концепцію ідентичності. Людина зазвичай є єдиним фізичним організмом. Штучний інтелект можна скопіювати. Кілька екземплярів можуть спочатку бути ідентичними, а потім набувати різного досвіду. Модель можна оновити, об'єднати з іншою моделлю або відновити з попередньої резервної копії. Якщо агент ШІ уклав контракт у понеділок і був відновлений у вівторок з недільної резервної копії, чи залишиться відновлений агент зв'язаним? Якщо дві копії згодом розійдуться, чи будуть вони однією юридичною особою чи двома? Юристи можуть посміхатися над цими питаннями, але корпоративне право вже містить однаково штучні доктрини щодо злиттів, правонаступництва, продовження, розпуску та зміни корпоративного місця проживання. Право завжди створювало безперервність там, де фізичний світ її не забезпечує. Немає підстав вважати, що воно не могло б зробити це знову.
Отже, головне питання не в тому, чи є штучний інтелект справді особою. Закон ніколи не вимагав, щоб кожна юридична особа була особою у звичайному значенні цього слова. Важливе питання полягає в тому, чи зробить надання конкретному штучному агенту певних елементів правосуб'єктності людське суспільство безпечнішим, справедливішим та легшим в управлінні. Якщо штучна правосуб'єктність забезпечує ідентифіковані активи, за які постраждалі люди можуть отримати відшкодування, сприяє укладанню контрактів або створює прозорі регуляторні структури, зрештою можуть бути вагомі підстави для її прийняття. Якщо вона дозволяє розробникам, корпораціям або заможним особам ховатися за машинами та уникати відповідальності, її слід відхилити.
У найближчому майбутньому людська відповідальність має залишатися основою правового порядку, що регулює штучний інтелект. Машини створюються людьми, розгортаються людьми та зазвичай експлуатуються для цілей, обраних людьми. Той факт, що система штучного інтелекту розробляє дедалі складніші методи досягнення цих цілей, не призводить до зникнення людей, які її оточують. Дійсно, чим більш автономним стає штучний інтелект, тим важливіше буде чітко визначити, хто санкціонував його розгортання, хто отримує прибуток від його діяльності та хто несе відповідальність, коли щось йде не так.
Одного дня цей висновок може стати неадекватним. Якщо людство створить штучні системи, для яких є переконливі підстави вважати, що суб'єктивна свідомість справді існує, тоді ми зіткнемося з моральною проблемою, яка зовсім відрізняється від адміністративного питання правосуб'єктності. Нам доведеться запитати, чи може створений інтелект мати власні інтереси, і чи може його знищення становити злочин проти самого інтелекту. Це було б глибокою трансформацією в моральному всесвіті людства.
Ми ще не досягли цього. Наразі аргументи на користь штучної правосуб'єктності є більш прозаїчними та, можливо, важливішими. Агенти ШІ можуть зрештою стати достатньо автономними економічними суб'єктами, щоб закону знадобилося місце, де можна було б закріпити їхнє майно, контракти та зобов'язання. Якщо так, то ми повинні надати їм саме стільки правосуб'єктності, скільки необхідно для цих цілей, і не більше.
Першим штучним юридичним особам не потрібні душі, громадянство чи голоси. Їм потрібні активи, які можна конфіскувати, страховка, яка може виплачувати відшкодування, записи, які можна перевірити, та люди, що стоять за ними та не можуть зникнути, коли машина робить щось не так.
Метою штучної правосуб'єктності не повинно бути надання машинам можливості вийти з-під контролю людини. Вона має полягати в тому, щоб люди ніколи не уникнули відповідальності, звинувачуючи свої машини.
