По той бік Паноптикуму: Фуко, штучний інтелект та вдосконалення невидимої сили

Метью Періш

Четвер, 17 вересня 2026 року

Мішель Фуко помер у 1984 році. Він ніколи не користувався Google, не мав смартфона, не мав справ із соціальними мережами, розпізнаванням облич, інтернет-рекламою, алгоритмічним кредитним скорингом чи гігантськими комерційними базами даних, за допомогою яких сучасні люди постійно класифікуються. Він точно ніколи не спілкувався зі штучним інтелектом і не міг собі уявити, наскільки глибоко інтелектуальні машини інтегруються у повсякденну діяльність мільярдів людей.

Однак серед найвидатніших філософів ХХ століття Фуко, можливо, запропонував одну з найкорисніших концептуальних рамок для розуміння політичних та соціальних наслідків штучного інтелекту. Це пояснюється тим, що його велике розуміння сучасної влади було оманливо простим: влада головним чином не діє, кажучи людям, що робити. Найефективніші форми влади влаштовують світ так, що люди поводяться певним чином, без необхідності видавати чіткі вказівки.

Різниця величезна. Диктатор наказує, поліцейський погрожує, а тюремний охоронець замикає двері; це очевидні прояви влади, і людські суспільства витратили століття на розробку інституцій, призначених для їхнього обмеження. Але припустимо, що ніхто не віддає наказу. Припустимо, що натомість хтось спостерігає за вами, класифікує вас, передбачає вашу поведінку та так непомітно змінює оточення, що ви добровільно робите вибір, на який вони сподівалися. Де ж, власне, влада?

Штучний інтелект робить це питання однією з визначальних філософських проблем нашого століття.

Від основи до алгоритму

«Дисципліна та покарання» Фуко , опублікована в 1975 році, починається з розповіді про жахливу публічну страту у Франції вісімнадцятого століття. Мета опису була радше філософською, ніж сенсаційною. Домодерна суверенна влада рекламувала себе, а авторитет монарха демонструвався на тілі засудженого. Покарання було театральним саме тому, що суверенну владу потрібно було показати.

Сучасні суспільства стали іншими. В'язниці замінили публічні тортури, школи організовували розклади для учнів, лікарні класифікували пацієнтів, армії навчали солдатів, а фабрики регулювали робітників. Влада стала тихішою. Спостереження, обстеження, ведення обліку та нормалізація замінили багато видовищних проявів суверенного насильства, а людина дедалі більше ставала об'єктом, який потрібно вимірювати, класифікувати та документувати.

Середньовічний суверен міг би фактично сказати: «Слухайтеся мене, бо я можу вас покарати». Сучасна ж інституція дедалі частіше каже щось зовсім інше: «Ми виміряли вас і знаємо, яка ви людина». Перший погрожує насильством, тоді як другий створює файл, і штучний інтелект починає з файлу.

Фуко знайшов особливо потужну метафору для цієї трансформації в «Паноптікумі» Джеремі Бентама. Бентам запропонував круглу інституційну будівлю, найвідомішу з яких — в'язницю, в якій ув'язнені займали камери, розташовані навколо центральної точки спостереження. Спостерігач міг бачити ув'язнених, тоді як ув'язнені не могли знати, чи спостерігає спостерігач за ними в якийсь конкретний момент.

Архітектурна винахідливість полягала в тому, що охоронцю насправді не потрібно було постійно спостерігати за всіма. В'язню достатньо було знати, що за ним можуть спостерігати, і зрештою він починав поводитися так, ніби охоронець спостерігає постійно. Таким чином, зовнішнє спостереження було інтерналізовано: в'язень, у важливому сенсі, ставав своїм власним охоронцем.

Саме цей принцип захоплював Фуко. Влада стала економічною, оскільки їй більше не потрібно було постійно втручатися. Натомість вона створила середовище, в якому люди коригували свою поведінку. Бентаму для досягнення цього ефекту потрібна була величезна кругла будівля. Нам потрібен мобільний телефон.

Ми несемо Паноптикум із собою

Сучасний смартфон – це технологічний об’єкт майже дивовижної зручності. Він повідомляє нам, де ми знаходимося і куди йти, дозволяє нам миттєво спілкуватися майже з будь-ким на Землі та містить наші фотографії, листування, календарі, банківські програми, матеріали для читання, розваги та дедалі частіше наше професійне життя. Він став настільки корисним, що багато людей відчувають тимчасову розлуку з ним як форму практичної недієздатності.

Однак той самий пристрій може генерувати надзвичайний потік інформації про свого користувача. Місцезнаходження, пошукові запити, покупки, контакти, звички перегляду, поведінка в Інтернеті, моделі спілкування, фізичні вправи, музика та професійні інтереси можуть стати формами цифрових даних, залежно від програм і служб, які використовує людина, та дозволів, які вона їм надає. Точний обсяг збору дуже різниться залежно від системи, але технологічні можливості є безпрецедентними.

Існує важлива різниця між цим світом і в'язницею Бентама. В'язні Бентама знали, що вони в'язні, тоді як ми самі купуємо потенційний апарат спостереження, бо він надзвичайно корисний. Справді, ми дратуємось, коли виходимо з дому без нього, і це вже натякає на щось поза межами класичного Паноптикону.

Штучний інтелект впроваджує подальшу трансформацію, оскільки традиційне спостереження є переважно ретроспективним. Воно запитує, куди хтось ходив, що купував, кому телефонував або що читав. Системи машинного навчання роблять дедалі можливішим використання закономірностей минулої поведінки для оцінки майбутньої поведінки, завдяки чому спостереження може стати прогностичним, а не просто спостережливим.

Ця відмінність має значення. Уряд, який знає, де вчора зустрічалися дисиденти, володіє інформацією, тоді як уряд, який міг би надійно визначити закономірності, пов'язані з майбутньою політичною мобілізацією, мав би щось більш суттєве. Компанія, яка знає, що клієнт придбав учора, розуміє частину його історії, тоді як компанія, яка може оцінити, що він може придбати завтра, отримує можливість відповідно організувати своє комерційне середовище.

Спостереження стає передбаченням, передбачення створює можливості для втручання, а втручання може стати силою.

Влада без заборон

Це призводить до однієї з ключових відмінностей між традиційною цензурою та алгоритмічним впливом. Припустимо, що уряду не подобається газетна стаття. Традиційна авторитарна реакція проста: заборонити її, конфіскувати газету, заарештувати редактора або заблокувати вебсайт. Ці дії є помітними, і всі розуміють, що цензура мала місце.

Алгоритмічні системи роблять технологічно можливими витонченіші форми впливу. Стаття не обов'язково має зникнути; її просто можна зменшити ймовірність зустрічі. Пошукова система може ранжувати інші матеріали на перше місце, система рекомендацій може запропонувати іншу історію, а стрічка соціальних мереж може наголошувати на конкуруючих матеріалах. Жоден з цих результатів не обов'язково передбачає політичні маніпуляції — системи ранжування неминуче повинні якось ранжувати речі — але архітектура створює можливості для впливу, яких раніше не існувало ні в якому сучасному масштабі.

Ця відмінність має цікавити політичних філософів, оскільки ліберальні інституції були значною мірою розроблені навколо видимого втручання у свободу. Ми розуміємо цензуру, ув'язнення, конфіскацію та закони, що забороняють свободу слова. Ми менш інтелектуально підготовлені до систем, які зберігають формальну свободу, водночас змінюючи інформаційне середовище, в якому робиться вибір. Однак ніщо з цього не вимагає змови. Дійсно, змова зробила б філософську проблему значно менш цікавою.

Одним із найважливіших відкриттів Фуко було те, що системи дисциплінарної влади не обов'язково повинні бути розроблені одним зловісним інтелектом. Вони можуть виникнути з незліченних установ, що переслідують буденні, а часто й корисні цілі. Система рекомендацій може існувати, тому що користувачі хочуть корисних рекомендацій; система кредитного скорингу, тому що банкам потрібно оцінювати ризик дефолту; розпізнавання облич може бути запроваджено, тому що аеропорти хочуть коротших черг; програмне забезпечення для підвищення продуктивності, тому що бізнес хоче ефективності; а системи медичного прогнозування, тому що лікарі хочуть виявляти захворювання раніше.

Кожна окрема мета може бути цілком розумною. Однак, взраховані разом, технології такого роду можуть створити середовище, в якому людей все частіше спостерігають, оцінюють, ранжують та прогнозують. Ніхто не обов'язково проектував систему як єдине ціле, але система все ж виникає, і це майже квінтесенція Фуко.

Коли нормальність стає математичною

Фуко особливо цікавився питанням нормалізації. Традиційне право принципово розрізняє дозволене та заборонене, тоді як дисциплінарні інститути запроваджують інше розмежування: нормальне та ненормальне. Школи встановлюють уявлення про нормального учня, медицина встановлює показники нормального здоров'я, робочі місця встановлюють очікування нормальної продуктивності, а бюрократія постійно розробляє класифікації, до яких відносяться люди.

Штучний інтелект може індустріалізувати цей процес, оскільки системи машинного навчання, серед іншого, є надзвичайно складними механізмами для виявлення закономірностей. Розпізнавання закономірностей звучить політично нейтрально, і в багатьох застосуваннях воно надзвичайно корисне. Тим не менш, закономірності породжують очікування, очікування породжують класифікації, а класифікації можуть впливати на подальші рішення.

Уявіть собі систему, навчену на інформації про дуже велику кількість успішних співробітників. Вона може виявити кореляції, що стосуються словникового запасу, історії зайнятості, кар'єрних моделей або відповідей під час процедур найму. Ці кореляції потім можна використовувати для оцінки кандидатів, навіть якщо ніхто не написав чіткого правила, яке б стверджувало, що не слід наймати незвичайних людей.

Складність полягає в тому, що цивілізації часто розвиваються завдяки незвичайним людям. Сократ був незвичайним, Ніцше був разюче незвичайним, а багато художників, винахідників, підприємців, політичних дисидентів та інтелектуальних революціонерів мають саме ті характеристики, які роблять їх статистичними винятками. Історія людського прогресу — це значною мірою історія людей, які не були схожі на пересічних успішних людей, які були до них.

Таким чином, штучний інтелект створює парадокс. Чим краще наші машини розпізнають успішні закономірності минулого, тим більшою може стати спокуса організувати майбутнє навколо цих закономірностей. Однак майбутнє створюється саме через відхилення від минулого, і суспільство, надмірно присвячене статистичній оптимізації, може стати ефективним ціною інтелектуальної ексцентричності.

Іспит без екзаменатора

Фуко надавав величезного значення обстеженню, оскільки воно поєднує спостереження із судженням. Учень проходить тест, лікар оглядає пацієнта, а психіатр проводить співбесіду з суб'єктом. Інформація витягується, і людина стає задокументованим випадком, до якого можна застосовувати інституційні стандарти.

Штучний інтелект робить можливим щось історично незвичайне: безперервне обстеження. Більше не потрібно ідентифікувати момент, у який відбувається обстеження. Споживача можна оцінювати під час покупок, працівника під час роботи, водія під час керування автомобілем, мандрівника під час подорожі та користувача Інтернету під час перегляду веб-сторінок.

Таким чином, іспит стає потенційно невідрізним від звичайного життя. Ще більш вражаюче те, що екзаменатор більше не обов'язково має бути людиною. Зв'язок Фуко між владою та знанням, таким чином, може бути автоматизований, оскільки інформація про людей накопичується та перетворюється на оцінки, здатні впливати на можливості, які їм згодом надаються. Однак штучний інтелект розвиває цю логіку значно далі, оскільки екзаменатору ніколи не потрібно спати. Бюрократія історично мала обмежений робочий час, обмежену кількість клерків та обмежену кількість картотек; обчислення усуває багато з цих практичних обмежень.

Є ще один аспект, у якому ШІ перевершує Паноптикон Фуко. Архітектура Бентама була принципово однорідною, оскільки кожен в'язень піддавався практично однаковій структурі спостереження. Штучний інтелект дозволяє персоналізований вплив. Уявіть собі двох громадян, один з яких насамперед стурбований фінансовою безпекою, а інший мотивований головним чином соціальним престижем. Традиційна політична пропаганда повинна доносити приблизно однакове повідомлення до обох, можливо, через плакат, телевізійну трансляцію чи політичну промову. Достатньо складна персоналізована система не обов'язково повинна цього робити. Вона могла б наголошувати на економічних наслідках для однієї людини та питаннях статусу чи соціальної приналежності для іншої.

Політична мета може залишатися незмінною, тоді як психологічний механізм стає індивідуалізованим. Пропаганда традиційно звертається до натовпу; штучний інтелект робить технологічно здійсненним переконання, адресоване індивідуальним умам.

Від біосили до сили даних

Зрештою Фуко розширив свій аналіз за межі дисципліни, охопивши те, що він назвав біовладою. Сучасні держави стали стурбовані не лише командуванням підданими, а й управлінням населенням: здоров'ям, смертністю, відтворенням, страхуванням, міською організацією та іншими вимірами колективного життя. Статистичні знання стали дедалі важливішими для уряду, оскільки населення можна було вимірювати, а отже, керувати ним.

Штучний інтелект надзвичайно добре адаптований до цієї справи. Можна прогнозувати ризики для здоров'я, моделювати дорожній рух, аналізувати моделі злочинності, виявляти податкові порушення, оцінювати міграційні тенденції та моделювати економічну поведінку. Населення стає дедалі зрозумілішим завдяки даним.

Багато з цих можливостей явно здатні принести суттєві суспільні блага. Уряд, який точно прогнозує епідемію, може врятувати життя, місто, яке передбачає затори, може покращити транспорт, а медична система, яка виявляє хвороби до появи симптомів, може запобігти величезним стражданням. Тому було б спрощено розглядати алгоритмічний уряд як невід'ємно гнітючий.

Власне, саме тому ця філософська проблема є складною. Найбільш суттєві системи влади рідко постають як системи панування; вони постають як удосконалення, і часто вони справді є удосконаленнями.

Припустимо, що штучний інтелект ефективніше розподіляє ресурси лікарні, виявляє небезпечне водіння, зменшує податкове шахрайство, виявляє дітей, які ризикують бути жертвами жорстокого поводження, та прогнозує серйозні захворювання. Кожен успіх підсилює аргументи на користь збору більшої кількості інформації, оскільки додаткова інформація може покращити прогнозування, тоді як покращене прогнозування може покращити втручання, а успішне втручання може узаконити подальший збір інформації. Таким чином, може виникнути потужний зворотний зв'язок: спостереження породжує знання, знання породжують ефективність, ефективність породжує легітимність, а легітимність заохочує подальше спостереження. Отримане суспільство не обов'язково має бути схожим на « 1984» Орвелла . Воно може бути комфортним, процвітаючим, здоровим, безпечним, зручним та всебічно спостерігатися, що є значно цікавішою можливістю, оскільки люди можуть добровільно обрати це.

Приватність як свобода стати кимось іншим

Приватність іноді захищають так, ніби це головним чином право приховувати незручну інформацію. Це применшує її філософське значення. Приватність створює простір, у якому люди можуть поводитися, не очікуючи постійного осуду, і цей простір дозволяє експериментувати.

Підліток може мати безглузді ідеї, дорослий може досліджувати непопулярні думки, політичний скептик може виявити, що інші поділяють його сумніви, а людина може змінити свою думку, не враховуючи, що кожен проміжний етап стає частиною постійного інституційного запису. Людська ідентичність не статична; ми стаємо собою частково експериментуючи з можливими «я». Постійне спостереження загрожує цьому процесу, оскільки люди поводяться по-різному, коли вважають, що їхні дії стануть постійним свідченням того, ким вони є. В'язень Бентама змінює свою поведінку, бо за ним можуть спостерігати, а алгоритмічний громадянин може зрештою зробити щось подібне, навіть якщо ніхто прямо не наказав йому підкорятися.

Людські суспільства також історично вигравали від забування. Дурне зауваження зникало, підліткова необачність зникала, незначне приниження ставало анекдотом, і люди могли переїжджати з міста в інше місце, змінювати кар'єру та переосмислювати себе. Цифрові системи мають потенційно надзвичайну пам'ять, тоді як штучний інтелект робить ці спогади доступними для пошуку, інтерпретації та генерування висновків.

Це змінює зв'язок між минулим та особистою ідентичністю. Минуле перестає бути просто чимось, що сталося, і стає даними; дані можна обробляти, обробка породжує прогнози, а прогнози можуть впливати на майбутні можливості. Історія людини таким чином може стати алгоритмічною тінню, яка супроводжує її нескінченно.

Фуко розумів силу інституційних записів перетворювати окремих осіб на справи. Він навряд чи міг уявити собі розмір файлу справи, який уможливлюють сучасні технології.

Спостереження за спостерігачами

Однак було б помилкою інтерпретувати Фуко як опис всемогутнього механізму, від якого неможливо втекти. Владні відносини породжують опір, а влада розпорошується, а не належить виключно одному суверенному центру. Тому штучний інтелект не повинен зміцнювати лише уряди та великі корпорації; він може також зміцнювати окремих осіб та громадянське суспільство.

Ті самі обчислювальні методи, здатні аналізувати фінанси громадян, можуть допомогти проаналізувати державні витрати. Технології розпізнавання зображень можуть сприяти документуванню воєнних злочинів. Мовні моделі, здатні створювати переконливий політичний матеріал, також можуть аналізувати пропаганду, порівнювати твердження та робити складні документи зрозумілими для людей, які не мають спеціалізованої підготовки. Системи, здатні аналізувати величезні комерційні набори даних, можуть однаково допомогти журналістам, дослідникам та неурядовим організаціям в аналізі величезних обсягів публічної інформації.

Таким чином, ШІ розподіляє інтелектуальні можливості, навіть коли частина його інфраструктури залишається висококонцентрованою. Важлива боротьба точиться не лише між штучним інтелектом та свободою, а й за те, хто володіє системами, хто контролює дані, хто розуміє моделі та кому дозволено кого допитувати.

Тут Бентам заслуговує на певну реабілітацію. Паноптикум часто згадують виключно як зловісну машину спостереження, але Бентам також дбав про відповідальність тих, хто здійснює інституційну владу. Цей принцип має очевидне сучасне застосування: якщо алгоритми досліджують громадян, громадяни потребують установ, здатних досліджувати алгоритми.

Якщо машини класифікують людей, то відповідні класифікації повинні, де це можливо, бути зрозумілими та такими, що підлягають оскарженню. Якщо уряди використовують потужні системи штучного інтелекту, суди, регуляторні органи, журналісти та інші незалежні установи потребують достатньої технічної компетенції для ретельного контролю їх використання. В іншому випадку інформаційна асиметрія між спостерігачем і тим, за ким спостерігають, стає занадто великою. Найглибша проблема Паноптикону полягала ніколи не лише в тому, що хтось спостерігав. Вона полягала в тому, що в'язень не міг спостерігати у відповідь.

Поза межами Фуко

Штучний інтелект зрештою виводить нас за рамки Фуко, оскільки він впроваджує те, чого його модель не повністю передбачала. Паноптикон спостерігає, тоді як ШІ може дедалі більше брати участь у діяльності людини, за якою спостерігають. Він може розмовляти з нами, радити нам, навчати нас, перекладати для нас, організовувати нашу роботу, складати наше листування та рекомендувати, що нам слід читати, дивитися чи купувати.

Таким чином, архітектура влади стає інтимною. Вартовий більше не обов'язково знаходиться у вежі; технологічна система може натомість постати як помічник. Оскільки помічник корисний, чуйний і, очевидно, розуміючий, люди можуть добровільно розповісти йому значно більше, ніж в'язень Бентама коли-небудь розповів би своєму тюремнику.

Це не означає, що помічник штучного інтелекту таємно є тюремним охоронцем, ані що кожна взаємодія з інтелектуальною машиною є спостереженням чи маніпуляцією. Суть радше структурна, ніж конспірологічна. Люди починають створювати технології, здатні займати надзвичайно інтимні позиції в їхньому когнітивному житті, і ці позиції створюють нові можливості як для емансипації, так і для влади.

Історію політичної влади, ризикуючи надмірним спрощенням, можна описати як послідовність трьох тверджень. Суверен продемонстрував, що він може карати; дисциплінарна інституція продемонструвала, що вона може спостерігати; інтелектуальна система дедалі більше демонструє, що вона може розуміти. Третє твердження може зрештою виявитися потужнішим за будь-яке з перших двох, оскільки люди природно чинять опір примусу. Нам не подобається, коли нам наказують, цензурують і за нами помітно спостерігають, тоді як розуміння є спокусливим. Ми хочемо систем, які розуміють, що ми маємо на увазі, передбачають, що нам потрібно, і усувають незручності до того, як ми з ними зіткнемося.

Отже, небезпека не обов'язково полягає в тому, що якийсь майбутній штучний суперінтелект одного ранку вирішить поневолити людство. Такий сценарій драматичний, але філософськи грубий. Більш тонка можливість полягає в тому, що ми поступово створюємо інформаційне середовище, яке знає нас достатньо добре, щоб упорядкувати запропонований нам вибір, перш ніж ми усвідомимо, що взагалі щось було організовано.

Фуко навчив нас, що найефективніша влада не обов'язково впливає на тіло. Вона формує поле, в якому діє індивід, встановлюючи категорії, очікування та норми, за допомогою яких люди зрештою керують собою. Штучний інтелект може виявитися здатним розширити цей принцип далі, ніж Фуко міг розумно передбачити. Бентам уявляв собі в'язницю, в якій в'язень ніколи не знав, чи спостерігає за ним охоронець, тоді як Фуко уявляв собі суспільство, в якому люди, відповідно, навчилися спостерігати за собою. Штучний інтелект пропонує подальший етап, на якому машина спостерігає, запам'ятовує, передбачає та рекомендує, одночасно стаючи достатньо корисною, щоб людина, за якою спостерігають, вітала її у все більш інтимних частинах свого життя.

У цей момент Паноптикум може взагалі зникнути. Не буде ні вежі, ні, можливо, жодного впізнаваного охоронця, а межі в'язниці, якщо ця метафора взагалі залишається доречною, стане неможливо окреслити. Натомість нас оточуватиме розумне середовище: постійно корисне, постійно уважне та постійно навчальне. Тому кінцевим політичним питанням щодо штучного інтелекту може бути те, чи може людство насолоджуватися надзвичайними перевагами розуміння своїми машинами, не піддаючись перед цими машинами чи інституціями, які їх контролюють, свободі залишатися непередбачуваним. Остаточний тріумф влади полягатиме не в тому, що всі підкорятимуться їй через страх. Він полягатиме в тому, що ніхто взагалі не сприйматиме її як владу.