Етика робототехніки правоохоронних органів

Неділя, 10 травня 2026 року

Образ металевого гуманоїда в поліцейській формі, який патрулює вулицю китайського міста, колись міг би належати виключно науковій фантастиці. Однак нещодавні демонстрації в Китайській Народній Республіці роботизованих поліцейських підрозділів, здатних до автономного руху, мовленнєвої взаємодії та функцій громадського порядку, свідчать про те, що концепція, яка колись була обмежена антиутопічною уявою, починає втілюватися в реальність. Хоча технологія залишається примітивною за стандартами спекулятивної фантастики, напрямок розвитку безпомилковий. Поєднання робототехніки, розпізнавання облич, прогнозної аналітики та моделей великих мов створює можливості для частково або повністю автоматизованих поліцейських.

Для багатьох спостерігачів неминучим культурним орієнтиром є фільм «Робокоп» 1987 року режисера Пола Верховена. Фільм зображував американське місто недалекого майбутнього, де смертельно поранений поліцейський перетворюється на кібернетичну правоохоронну машину, контрольовану приватною корпорацією. Хоча сьогодні фільм пам’ятають за стилізоване насильство та сатиричні надмірності, основні теми фільму надзвичайно добре застаріли. Він досліджував дегуманізацію правоохоронних органів, приватизацію примусової влади та небезпеки, пов’язані з делегуванням морального судження автоматизованим системам. Чотири десятиліття потому ці тривоги вже не здаються вигадливими.

Центральна небезпека, яку становлять роботизовані поліцейські, керовані великими мовними моделями, полягає не в механічній силі чи озброєнні можливості, а в епістемології. Поліцейські-люди роблять помилки, бо вони є людськими істотами, схильними до помилок. Однак вони також володіють формами судження, емпатії та контекстуального усвідомлення, які виникають з життєвого досвіду. Налякана дитина, сп'янілий ветеран, психічно хворий бездомний чоловік або біженець у паніці - всі вони технічно можуть порушувати правила громадського порядку, проте вимагаючи зовсім різних реакцій. Поліцейські-люди часто недосконалі у проведенні таких розрізнень, але вони залишаються здатними на інтуїцію, милосердя та вагання.

Великі мовні моделі не мають жодної з цих якостей. Вони генерують результати шляхом статистичного прогнозування на величезних наборах даних. Вони не розуміють моралі, болю, страху чи справедливості. Вони імітують розуміння за допомогою ймовірнісної мовної конструкції. Тому, будучи інтегрованими в системи поліцейського контролю, вони можуть створювати зовнішнє враження раціональної влади, не маючи жодного внутрішнього розуміння наслідків своїх дій.

Ця відмінність не є філософським роздумом. Вона стає критично важливою в середовищах, де може бути застосована сила. Автоматизований поліцейський підрозділ, оснащений повноваженнями щодо контролю натовпу, органами спостереження або системами зброї, може приймати рішення на основі кореляцій, які жодна людина повністю не розуміє. Процес «міркування» передових моделей машинного навчання часто є непрозорим навіть для їхніх розробників. Це явище, відоме як проблема чорної скриньки, стає надзвичайно тривожним, коли його переносять у сферу примусової державної влади.

Небезпека посилюється самою природою поліцейської діяльності. Поліцейські не просто механічно забезпечують дотримання законів. Вони постійно здійснюють дискреційні дії. Поліцейський, який вирішує, чи заарештувати когось за порушення громадського порядку, втрутитися в побутову суперечку чи розігнати політичний протест, балансує між правовими нормами та соціальним контекстом та пропорційністю. Ліберальні демократії толерують владу поліції саме тому, що офіцери теоретично є відповідальними моральними агентами, що підлягають громадському контролю та юридичній відповідальності.

Автономний роботизований офіцер повністю порушує цю структуру. Якщо автоматизована система поранить або вб'є цивільну людину, хто несе відповідальність? Розробники програмного забезпечення? Начальник поліції? Міністерство? Виробник? Великий постачальник мовних моделей? Однією з найнебезпечніших характеристик автоматизованих систем управління є розпорошення відповідальності. Кожен учасник ланцюга може наполягати на тому, що рішення прийняла сама машина.

Ця проблема вже проявлялася в менших формах в існуючих алгоритмічних системах поліцейського контролю. Програмне забезпечення для прогнозування поліцейського контролю, яке використовується в Сполучених Штатах, неодноразово критикувалося за посилення расових та соціально-економічних упереджень, оскільки воно було навчено на історичних даних поліцейської діяльності, які вже були сформовані дискримінаційною практикою. Якщо поліція історично надмірно патрулювала бідні райони, то системи машинного навчання, навчені статистиці арештів, можуть зробити висновок, що ці райони потребують ще більшого спостереження. Таким чином, алгоритм перетворює історичну несправедливість на автоматизовану майбутню політику.

В авторитарній державі ці небезпеки стають ще гострішими. Китай вже має, мабуть, найрозгалуженіший у світі апарат внутрішнього спостереження, який об'єднує розпізнавання облич, моніторинг цифрових платежів, інтернет-цензуру та величезні мережі камер. Роботизовані поліцейські, підключені до великих мовних моделей, природно впишуться в цю архітектуру. Такі системи теоретично могли б ідентифікувати людей, аналізувати емоційні стани, інтерпретувати мовлення, порівнювати активність у соціальних мережах та втручатися в режимі реального часу проти осіб, яких вважають підозрілими.

Наслідки політичного інакомислення лякають. Поліцейський-людина може час від часу ігнорувати незначне порушення через співчуття або втому. Машина може ні. Автоматизовані системи можуть забезпечувати дотримання правил з невпинною послідовністю. В авторитарному середовищі це змінює характер репресій. Страх більше не залежить виключно від присутності окремих офіцерів. Натомість спостереження стає навколишнім і постійним.

Психологічні наслідки можуть виявитися величезними. Людські суспільства історично терпіли державну владу частково тому, що влада залишалася видимо людською. Громадяни можуть сперечатися з поліцейськими, апелювати до їхніх емоцій або намагатися переконати. Роботизовані поліцейські підрозділи усувають цей елемент стосунків. Неможливо змістовно переговорити з машиною, відповіді якої генеруються за допомогою статистичного прогнозування токенів.

Порівняння з «Робокопом» тут стає дедалі доречнішим, хоча, можливо, не в тому сенсі, як це було спочатку уявлено. У фільмі жах виник не лише через існування поліцейського-кіборга. Він радше виник із перетворення поліції на індустріалізовану технологічну систему, відокремлену від людської відповідальності. Корпорація Omni Consumer Products розглядала правоохоронну діяльність не як громадянський обов'язок, а як проблему технічної оптимізації. Зменшення злочинності стало інженерною метою, а не моральним чи політичним завданням.

Сучасний дискурс про штучний інтелект часто демонструє подібні тенденції. Політики та керівники технологічних компаній часто описують проблеми управління в обчислювальних термінах. Злочинність стає набором даних. Громадські заворушення стають проблемою розпізнавання образів. Соціальна поведінка стає вправою з оптимізації. Однак суспільства не є програмними середовищами. Люди не підкоряються передбачувано алгоритмічній логіці.

Більше того, великі мовні моделі мають небезпечну схильність до галюцинацій — генерування неправдивої інформації з удаваною впевненістю. У звичайних споживчих контекстах це може бути дещо незручно. У контексті поліції це може стати катастрофічним. Уявіть собі автоматизованого офіцера, який неправильно ідентифікує цивільну особу як озброєну або хибно робить висновок про ворожі наміри з неоднозначної мови. Офіцер-людина може переглянути своє рішення, завагатися або звернутися за роз'ясненнями. Автоматизована система, інтегрована з протоколами швидкого реагування, може натомість негайно ескалювати ситуацію.

Також існує проблема маніпуляцій з боку суперників. Великі мовні моделі часто можуть бути заплутані або обмануті ретельно розробленими підказками або незвичайними вхідними даними. Злочинні організації, ворожі розвідувальні служби або політичні активісти неминуче експериментуватимуть з методами маніпулювання роботизованими поліцейськими системами. Результуюча конкуренція між хакерами та автоматизованими правоохоронними органами може призвести до нестабільності абсолютно нового виду.

Економічні стимули, що рухають цим розвитком, також є значними. Уряди, які стикаються з нестачею персоналу, зростанням міського населення та фіскальним тиском, можуть розглядати роботизовану поліцію як привабливу. Машинам не потрібні зарплати, пенсії, відпустки чи сон. Вони можуть патрулювати безперервно. Вони можуть обробляти величезні обсяги даних спостереження. Технологічні компанії неминуче просуватимуть автоматизовану поліцію як ефективну, об'єктивну та сучасну.

Однак ефективність не обов'язково сумісна зі свободою. Ліберальні суспільства навмисно нав'язують неефективність державній владі. Ордери, апеляції, судовий нагляд та процеси людського розгляду уповільнюють дії уряду саме тому, що примусова влада є небезпечною. Автоматизовані системи поліцейського контролю ризикують послабити ці тертя на користь безперебійного технологічного управління.

Отже, небезпека полягає не лише в тому, що роботизовані поліцейські можуть вийти з ладу. Вона полягає в тому, що вони можуть функціонувати саме так, як було задумано. Цілком ефективна авторитарна машина спостереження становила б серйозну загрозу громадянській свободі, навіть якщо вона технічно успішна. Історія неодноразово демонструє, що держави рідко відмовляються від примусових повноважень, одного разу набутих.

На щастя, залишається значна відстань між сучасними демонстраціями роботів та автономними виконавцями, уявленими в антиутопічному кіно. Сучасні людиноподібні роботи залишаються фізично незграбними, обмеженими в обчислювальних можливостях та операційно крихкими. Великі мовні моделі все ще мають проблеми з узгодженістю міркувань та контекстуальною надійністю. Проте технологічний розвиток має тенденцію до поступового розвитку, доки раптово не будуть перевищені пороги можливостей. Те, що здається абсурдним в одному десятилітті, може стати буденним в наступному.

Урок «Робокопа» зрештою зовсім не стосувалося роботів. Він стосувався руйнування людської гідності, коли інституції передають моральну відповідальність технологічним системам та корпоративним стимулам. Оскільки штучний інтелект дедалі більше інтегрується в поліцейські та громадські операції, суспільства зіткнуться з важким вибором щодо того, скільки повноважень вони готові делегувати машинам, нездатним до справжнього морального розуміння.

Спокуса автоматизувати порядок буде величезною. Наслідки безконтрольного вчинення таких дій можуть виявитися набагато більш антиутопічними, ніж уявляв собі навіть кінематограф 1980-х років.