Чи можуть великі мовні моделі замінити виборців, політиків, юристів та суддів?

Швидка поява моделей великих мов відродила старе філософське питання: чи ґрунтується політична та правова влада на людських судженнях, чи її колись можуть повністю або частково взяти на себе обчислювальні системи. Штучний інтелект вже трансформує незліченну кількість адміністративних та інформаційних функцій у державах, але більш провокаційним питанням є те, чи зможе він з часом замінити людських суб'єктів, які складають конституційний порядок: виборців, політиків, юристів та суддів. Ця перспектива здавалася б фантастичною ще кілька років тому. Сьогодні це предмет серйозних дискусій в академічних та політичних колах, хоча його практичні, етичні та конституційні наслідки залишаються глибоко оспорюваними.

Варто розглянути чотири окремі інституційні сфери. Кожна з них вплетена в довгу історію боротьби за легітимність, участь та підзвітність. Кожна також являє собою сферу, де великі мовні моделі мають сильні сторони, невідомі людині, але водночас страждають від обмежень, що вражають саму суть демократичної та правової влади. Дослідження цих чотирьох сфер допомагає нам зрозуміти як трансформаційний потенціал штучного інтелекту, так і обмеження, які принципові суспільства можуть розумно запровадити.

Заміна виборців

Демократичні системи спираються на агрегацію індивідуальних думок, кожна з яких корениться в особистому досвіді, переконаннях, інтересах та цінностях. В принципі, мовні моделі можуть охоплювати величезний обсяг соціальної інформації, засвоювати її зі швидкістю, немислимою для людського електорату, та створювати синтетичну карту уподобань для суспільства. Можна уявити собі систему, в якій виборці більше не голосують; натомість штучний агент робить висновок про політичні уподобання з цифрової поведінки людини та виражає їх у законодавчій формі. Такий механізм може здатися привабливим своєю ефективністю. Його також можна захищати на тій підставі, що громадяни часто погано поінформовані або не цікавляться деталями державної політики.

Однак центральною складністю є легітимність. Голосування — це не просто вираження уподобань; це автономний політичний акт, у якому виборець бере на себе відповідальність за формування держави. Якби штучний інтелект голосував від імені громадян, партисипативний компонент демократії був би знищений. Суспільний договір опосередковувався б алгоритмічним оракулом. Навіть якщо така система абсолютно точна у прогнозуванні індивідуальних уподобань, вона затьмарила б моральну вагу політичного вибору. Гідність громадянства частково полягає в прийнятті недосконалого людського судження. Більше того, будь-яка спроба замінити електорат автоматизованими посередниками зосередить владу над навчальними даними, розробкою моделей та вибором параметрів у руках невеликої технічної еліти. Демократія ризикує перетворитися на машинно інтерпретовану симуляцію самої себе.

Заміна політиків

Політики (принаймні в демократичних країнах) виконують дві основні функції: вони є посередниками у конкуруючих соціальних інтересах та забезпечують лідерство. Посередництво включає переговори, переконання та компроміс; лідерство передбачає здатність формулювати бачення, долати кризи та завойовувати довіру громадськості. Моделі великих мов чудово справляються зі створенням узгоджених політичних рамок. Вони можуть симулювати політичні дебати, перевіряти компроміси та уточнювати законодавчі пріоритети набагато ефективніше, ніж традиційні партійні дослідницькі групи. Тому цілком можливо, що майбутні парламенти можуть значною мірою покладатися на штучних радників для розробки та оцінки політичних пропозицій.

Однак це відрізняється від повної заміни політиків. Авторитет політика походить не лише від знань, а й від представництва. Громадяни обирають людей, чиєму характеру, цінностям та судженням вони довіряють, навіть якщо лише незначно. Лідерство в моменти кризи, невизначеності чи трагедії вимагає емоційної присутності, моральної мужності та здатності втілювати колективну волю. Машина може генерувати красномовні промови та бездоганні резюме, але вона не може втілювати життєвий досвід спільноти. Її також не можна притягнути до відповідальності в будь-якому значущому сенсі. Без можливості усунення з посади, осуду чи відставки політична влада відокремлюється від відповідальності. Заміна політиків штучним інтелектом, таким чином, перетворить управління з людського підприємства на технократичний механізм. Це може призвести до компетентного управління, але ціною демократичної легітимності та людської солідарності.

Заміна юристів

Юристи працюють у широкому спектрі інтерпретаційної практики. Вони визначають відповідні правові принципи, застосовують їх до фактів, передбачають протилежні аргументи та доносять позиції до судів та інших сторін. Штучний інтелект вже виконує деякі з цих завдань. Перегляд документів, аналіз контрактів та юридичні дослідження можна частково автоматизувати. Дійсно, мовні моделі тепер можуть створювати чернетки службових записок та проводити швидке порівняння між великими корпусами судової практики.

Теоретично ці моделі можуть стати достатньо просунутими, щоб генерувати повні юридичні аргументи з точністю та послідовністю. Вони усунуть людські помилки, керуватимуть величезними обсягами даних і з часом адаптуватимуться до постійно мінливих тлумачень законодавства та судової практики. Це докорінно змінить юридичну професію. Рутинну юридичну роботу можна буде виконувати миттєво, залишаючи юристам-людям лише складну стратегію та взаємодію з клієнтами.

Але роль юриста не є суто технічною. Це фідуціарна професія, яка вимагає лояльності до інтересів клієнта та розуміння соціального, етичного та комерційного контексту. Клієнти шукають не лише найкращого можливого юридичного аргументу; вони шукають адвоката. Ці стосунки ґрунтуються на довірі, розсудливості та досвіді. Штучний інтелект може імітувати ці якості, але симуляції бракує моральної свободи. Він не може брати на себе відповідальність за професійну недбалість чи порушення етичних норм. Система, яка повністю замінить юристів, позбавить клієнтів-людей особистого адвоката та зведе юридичну практику до обчислювальної оптимізації результатів. Чи буде це справедливістю, сумнівно.

Заміна суддів

Судова влада займає вершину юридичної влади. Судді вирішують спори, тлумачать закони, контролюють судові процеси та формулюють принципи, що є обов'язковими для суспільства. Вони також здійснюють дискреційні повноваження, зокрема, при винесенні вироків та справедливому врегулюванні спорів. Штучний інтелект пропонує, принаймні на перший погляд, кілька переваг. Модель може створювати послідовні міркування, уникати особистих упереджень, пришвидшувати прийняття рішень та досліджувати величезні дані для виявлення закономірностей у прецедентах. Дійсно, деякі правові системи вже експериментували з алгоритмічними рекомендаціями щодо винесення вироків.

Глибша проблема полягає в тому, що суддівство — це не лише питання застосування правил. Це моральна та громадянська роль, що вимагає чутливості до справедливості, рівності та соціальних наслідків рішень. Судді-люди не просто обчислюють результати; вони міркують над дилемами, борються з неоднозначністю та взаємодіють з людськими інтересами кожної справи. Їхня влада ґрунтується на поєднанні юридичних навичок, інституційної незалежності та суспільної довіри. Машина не може символічно ставитися до суспільства як арбітр правосуддя. Вона може інтерпретувати закономірності, але не може втілювати совість. Більше того, ризик прихованих упереджень, вбудованих у навчальні дані, є значним. Автоматизована судова система ризикує закріпити структурну несправедливість таким чином, що вона здається об'єктивною, але залишається непрозорою та незаперечною.

Зближення автоматизації та авторитету

Питання про те, чи може штучний інтелект замінити основні стовпи демократії, є радше конституційним, ніж технічним. Істотна слабкість штучного управління полягає не в тому, що моделі не здатні виконувати необхідні завдання, а радше в тому, що політичний та правовий порядок побудований на принципах людської відповідальності. Делегування повноважень машині анулює моральний договір, який лежить в основі демократії та верховенства права. Штучний інтелект може доповнювати, консультувати та інформувати, але він не може законно замінити людські структури згоди та підзвітності.

Це не означає, що великі мовні моделі не відіграють жодної ролі. Вони можуть стати незамінними інструментами для аналізу політики, складання законодавчих актів, юридичних досліджень та тлумачення доказів. Вони можуть допомогти виявити невідповідності в судових рішеннях або запропонувати шляхи правової реформи. Вони можуть полегшити демократичну участь, надаючи громадянам чітку та доступну інформацію. Але остаточний акт винесення рішення, чи то в кабіні для голосування, законодавчому органі, офісі адвоката чи залі суду, має залишатися людським.

Завдання на найближчі десятиліття полягатиме у створенні інституцій, які використовуватимуть надзвичайну аналітичну силу штучного інтелекту, не принижуючи людської гідності, що надає політичній та правовій владі її значення. Заміна людства машинами на вершині цих інституцій створить систему, ефективну в функціонуванні, але збіднену за духом. Справжня мета — не заміщення, а симбіоз: конституційний порядок, за якого машини служать людям, а не люди машинам, які вони створили.