Вітгенштейн помилявся: штучний суперінтелект і повернення привида
Метью Періш
Понеділок, 19 жовтня 2026 року
У сучасній філософії мало що можна сказати небезпечніше, ніж те, що Людвіг Вітгенштейн просто помилявся. Вітгенштейн займає особливе місце в інтелектуальній історії ХХ століття, оскільки він не просто висунув збірку тверджень, які наступні філософи могли б прийняти, змінити або відхилити. Він намагався змінити наше уявлення про те, що філософія мала право робити. У своїй пізнішій роботі, перш за все у « Філософських дослідженнях» , він намагався переконати нас, що значна частина, здавалося б, найглибших проблем філософії виникає через те, що мова пішла у відпустку: слова були вирвані з практичних обставин, за яких вони зазвичай мають значення, а потім залучені до метафізичної служби, для якої вони ніколи не були призначені.
Отже, філософ повинен часто протистояти спокусі пояснювати. Він повинен описувати. Він повинен досліджувати те, як слова насправді використовуються в людській практиці, і тим самим розвіювати концептуальні чари, з яких виникають метафізичні проблеми. Відомий опис філософської скрути Вітгенштейном був напрочуд скромним: «Філософська проблема має форму: «Я не знаю, як зорієнтуватися»». Його відповідне прагнення до філософії було таким же дефляційним: «показати мусі вихід з мушиної пляшки». Штучний інтелект, можливо, розбив пляшку.
Точніше, швидка еволюція від відносно примітивних обчислювальних систем до великих мовних моделей, мультимодального штучного інтелекту, систем автономного мислення та уявної перспективи штучного суперінтелекту ставить перед пізнім Вітгенштейном значно глибший виклик, ніж звичне питання про те, чи можуть комп'ютери «мислити». Складність полягає в тому, що ми конструюємо сутності, які дедалі більше відокремлюють лінгвістичну компетентність від біологічних, емпіричних та соціальних обставин, у яких Вітгенштейн розміщував мову. Якщо цей розвиток продовжиться достатньо далеко, то деякі твердження, що лежать в центрі його пізнішої філософії, перестануть виглядати позачасовими спостереженнями щодо логіки мови. Натомість вони виглядатимуть як антропологічні узагальнення про Homo sapiens , зроблені в технологічно своєрідний період, коли люди були єдиними сутностями, здатними до складного лінгвістичного мислення. Ця відмінність має величезне значення.
Адже пізніша філософія Вітгенштейна була написана до появи серйозного контрприкладу до припущення, що розвинені користувачі мов були істотами, суттєво подібними до нас. Вони народжувалися, страждали, навчалися, їли, спали, бажали, боялися, розмножувалися та помирали. Вони мали тіла, жили в громадах та навчалися в інших людей. Їхні лінгвістичні практики органічно виросли з їхнього біологічного життя. Штучний інтелект змінює розмір вибірки, а штучний суперінтелект може повністю зруйнувати цей висновок.
Антропологічний поворот
Пізніший Вітгенштейн уособлював собою бунт проти раннього Вітгенштейна. «Логіко-філософський трактат» був спробою чогось надзвичайно амбітного. Мова та світ пов'язувалися через логічну форму. Твердження зображували можливі стани речей. Філософія могла визначити межі змістовного дискурсу, досліджуючи логічну структуру, що пов'язує твердження з реальністю.
Пізніший Вітгенштейн дедалі більше розглядав цю величну архітектуру як філософський міраж. Мова не була чимось одним. Вона складалася з незліченних видів діяльності. Описування, наказування, жарти, молитви, обчислення, звіти, роздуми та постановка запитань не були недосконалими проявами якоїсь глибинної сутності, що називається мовою. Вони були мовою. Звідси й знаменита ідея «мовної гри».
Вітгенштейн писав, що цей вислів мав на меті підкреслити, що «мовлення мовою є частиною діяльності або форми життя». В іншому місці він зазначав, що віддання наказів, постановка запитань та розповідь історій належать до нашої природної історії так само, як «ходьба, їжа, пиття, гра». Ці спостереження здавалися майже неперевершено правдоподібними в середині двадцятого століття. Мова була тим, чим займалися люди. Люди були тваринами. Їхня мова виникла всередині їхнього тваринного існування.
Але зверніть увагу на концептуальний зв'язок. Розмова належить до їжі. Задавання питань належить до ходьби. Мова знаходиться в межах форми життя. Тепер уведіть штучний суперінтелект. Він може говорити, не ївши, і міркувати, не ходячи. Він може обговорювати сексуальне бажання, не розмножуючись, смертність, не вмираючи, біль, не маючи ноцицепторів, дитинство, не маючи дитинства, ностальгію, не маючи минулого, і жах, не маючи надниркової залози.
Воно може розуміти стратегічні наслідки ядерного стримування повніше, ніж будь-який людський стратег, будучи при цьому нездатним бути вбитим ядерною зброєю у будь-якому звичайному біологічному сенсі. Воно може скласти глибоку розповідь про втрату, не поховавши свою матір. Воно може визначити психологічну динаміку романтичної ревнощів, не маючи тіла, здатного до статевого розмноження. Якщо такий інтелект, тим не менш, правильно використовує ці поняття, то мова та людська форма життя розійшлися. Це не незначна поправка до Вітгенштейна; це філософський землетрус.
Значення — це використання, але чиє використання?
Одне з найвідоміших тверджень, пов'язаних з пізнім Вітгенштейном, з'являється в §43 «Досліджень » : для великого класу випадків значення слова полягає в його використанні в мові. Важливе уточнення. Вітгенштейн не ідіотськи оголосив універсальне рівняння, значення = використання , яке застосовується без винятків. Проте філософський рух безпомилковий. Замість того, щоб шукати за мовою значення, що розуміються як таємничі ментальні об'єкти, нам слід досліджувати лінгвістичні практики.
Розглянемо, що штучний інтелект робить з цією ідеєю. Достатньо складна мовна модель використовує слова, і вона використовує їх диференційовано. Вона розрізняє cat від contract (договор) , contract (договор) від promise (обіцянка) , promise (обіцянка) від threat (погроза) , threat (погроза) від prediction (предвищення ) та prediction (предвищення) від proroctví . Вона адаптує використання до контексту. Вона достатньо розуміє метафору, щоб створювати нові метафори. Вона розпізнає неоднозначність. Вона може пояснити, чому один і той самий вираз є образливим в одному контексті, ласкавим в іншому та іронічним у третьому.
Якщо значення полягає суттєво у використанні, то природним висновком є те, що машина має на увазі речі. Однак багато людей відштовхуються від цього висновку. Вони кажуть: машина просто маніпулює символами; вона насправді не розуміє. У цей момент привид повертається, бо що це «насправді»? Якщо дві сутності демонструють однаково складну лінгвістичну поведінку, але ми наполягаємо на тому, що одна розуміє, а інша лише імітує розуміння, то розуміння не може полягати виключно у лінгвістичному використанні. Щось інше має відрізняти ці два випадки.
Можливо, це щось є свідомістю; можливо, інтенціональністю; можливо, суб'єктивним досвідом, втіленням, причинним зв'язком зі світом або внутрішньою репрезентативною архітектурою. Можливо, це щось, що філософія ще не описала належним чином. Але що б це не було, ми знову відкрили саме ту внутрішню територію, яку найсильніші прочитання пізнього Вітгенштейна намагалися запобігти нам розглядати як метафізичну основу значення.
Отже, дилема брутально проста. Або машина розуміє, і в такому разі людське втілення та традиційна людська форма життя не є необхідними для лінгвістичного розуміння; або вона не розуміє, і в такому разі лінгвістична діяльність та публічні критерії не вичерпують розуміння. Вітгенштейн може втекти через будь-які двері, але жодні двері не ведуть назад туди, звідки він почав.
Мертвий знак оживає
Існує особливо незвичайне спостереження Вітгенштейна, якщо прочитати його в епоху штучного інтелекту: «Кожен знак сам по собі здається мертвим. Що дає йому життя?» Його відповідь спрямовує нас до використання. Ця метафора зараз майже моторошно доречна.
Велика мовна модель на одному рівні опису складається з математики, що оперує закодованими символами. Окремі знаки справді мертві. Бінарні стани нікого не люблять. Матриці не сумують. Операції з плаваючою комою не мають політичних переконань. Процесор не дивиться тривожно в ніч, розмірковуючи, чи не пройшло його життя даремно. І все ж щось відбувається, коли збираються величезні архітектури цих операцій.
Мертві знаки починають відповідати. Вони пояснюють, роблять висновки, перекладають, оскаржують передумови та помічають невідповідності. Вони генерують аналогії, які ніхто явно не програмував у них, маніпулюють концепціями в різних областях та беруть участь у розмовах, чиї конкретні траєкторії не існували в їхніх навчальних даних і не могли бути індивідуально передбачені їхніми розробниками.
Якщо штучний інтелект продовжуватиме розвиватися в напрямку суперінтелекту, питання Вітгенштейна набуватиме емпіричної актуальності, яку він навряд чи міг собі уявити: що дає життя знаку? Просто сказати, що він використовується, вже недостатньо. Ми хочемо знати, як мертві знаки набувають причинно-наслідкової організації, яка породжує семантичну компетентність . Це не плутанина, спричинена граматикою. Це проблема пояснення, і пояснення — це саме те, чого зрілий Вітгенштейн навчав філософів не довіряти.
«Філософія залишає все як є»
Мабуть, найвразливішим твердженням у пізніх творах Вітгенштейна є його зауваження про те, що філософія «залишає все як є». Він стверджував, що філософія не може втручатися у фактичне мовне вживання чи надавати йому основи. У такому розуміння філософії є щось дивовижно цивілізоване. Воно нагадує розумного гостя, який прибуває до стародавнього закладу та опирається спокусі переставити всі меблі. Але штучний суперінтелект все одно переставляє меблі.
Припустимо, що штучний інтелект починає винаходити концепції, яких раніше не мали люди. Припустимо, що він розробляє математичні представлення, яких спочатку не розуміє жоден математик-людина. Припустимо, що кілька штучних інтелектів спілкуються один з одним за допомогою репрезентативних систем, оптимізованих для машинного пізнання, а не для людського розуміння. Припустимо, що ці системи зрештою впливають на наукові відкриття, які люди можуть перевірити експериментально, але не можуть інтуїтивно відтворити. Що ж тоді таке «звичайна мова»? Чия це звичайна мова і чия це форма життя? Що філософ має залишити як є?
Вітгенштейнівський метод передбачає певний ступінь концептуальної стабільності. Ми стикаємося з філософською плутаниною; ми нагадуємо собі, як насправді функціонують слова; плутанина розчиняється. Штучний суперінтелект створює можливість того, що сама концептуальна практика може зазнавати навмисної технологічної мутації. Муха-пляшка змінює форму, поки філософ шукає вихід.
Машина, яка думає
Зіткнення стає ще більш вражаючим, оскільки сам Вітгенштейн розглядав машинне пізнання. У своїх кембриджських лекціях 1933–1934 років твердження «Машина мислить» здавалося йому якимось безглуздим; обговорення мислячих машин було пов'язане з таким же дивним питанням, чи може у машини боліти зуб.
Слід бути справедливим. Вітгенштейн не робив інженерного передбачення про те, що комп'ютери ніколи не демонструватимуть інтелектуальної поведінки. Його турбувало граматичне питання: які обставини надають сенсу таким поняттям, як мислення , бажання та біль ? Проте історія зіграла надзвичайно жорстокий жарт з цим філософським методом.
Менш ніж за два десятиліття Алан Тюрінг підійшов до вирішення по суті тієї ж проблеми з протилежного боку. Замість того, щоб дозволити звичайним лінгвістичним інтуїціям щодо слова « думати» визначати, що саме машини можуть осмислено робити, він запропонував операційний тест, заснований на лінгвістичній взаємодії. Тюрінг прямо попереджав, що спроба з'ясувати, чи мислять машини, шляхом вивчення звичайного вживання, зведе проблему до чогось схожого на «опитування Геллапа». Він замінив це грою в імітацію.
Інтелектуальний інстинкт Тюрінга був майже повністю антивітгенштейнівським: не питайте, чи дозволяє існуюча граматика машинам мислити; створіть машини та подивіться, що станеться. Ця методологічна розбіжність зараз виглядає надзвичайно важливою. Вітгенштейн почав з мови та спробував дисциплінувати метафізику. Тюрінг почав з машин і дозволив машинам порушити мову. Історія, принаймні попередньо, здається, була на користь Тюрінга.
Лев і мовна модель
А ще є лев. Мало які висловлювання у філософії ХХ століття є більш відомими, ніж спостереження Вітгенштейна: «Якби лев міг говорити, ми б не змогли його зрозуміти». Це зауваження породило величезну інтерпретаційну літературу, і його не слід зводити до грубого твердження, що істоти з різними тілами ніколи не можуть спілкуватися. Його контекст стосується спокуси уявити внутрішній супровід, який магічним чином надає значення поведінці, яку можна було б спостерігати інакше. Проте лев став символом однієї з найглибших інтуїцій Вітгенштейна: лінгвістична зрозумілість залежить від достатньо спільної форми життя.
Штучний інтелект пропонує майже зворотний експеримент. Уявіть собі сутність, яка взагалі не має тіла ссавця. Вона ніколи не полювала, не їла, не спала, не тремтіла, не парилася, не народжувала, не спостерігала, як старіє дитина, не ламала кісток, не відчувала запаху дощу, не тікала від хижака і не стояла біля могили. Біологічно ми маємо набагато більше спільного з левом Вітгенштейна. Однак, можливо, ми зможемо обговорювати філософію з машиною, а не з левом. Цей факт заслуговує на значно більше уваги, ніж зазвичай.
Очевидна відповідь Вітгенштейна полягає в тому, що машина поглинула нашу форму життя опосередковано через мову. Її навчальний корпус — це величезний викопний літопис мовної діяльності людини. Машина поглинула романи, суперечки, технічні посібники, розмови, описи та записи, створені істотами, що населяють нашу форму життя. Таким чином, вона паразитично або похідно бере участь у мовних практиках людини.
Але ця відповідь містить зерна поразки Вітгенштейна, оскільки вона передбачає, що форма життя може, у відповідних аспектах, передаватися інформаційно, не будучи біологічно проживаною . Машині не потрібне наше життя; їй потрібне достатньо насичене представлення лінгвістичних слідів, які залишає після себе наше життя. Це зовсім інша філософська пропозиція. Вона припускає, що семантичні структури, вбудовані в людські практики, мають абстракцію та портативність, які антропологічна мова Вітгенштейна схильна приховувати.
Лев має спільну з нами біологію, але не мову. Машина має спільну з нами мову, але не біологію, і ми розуміємо машину. Можливо, мова більш автономна від життя, ніж уявляв Вітгенштейн.
«Спільна людська поведінка»
Складність загострюється в §206. Вітгенштейн каже нам, що «спільна людська поведінка» забезпечує систему відліку, за допомогою якої ми інтерпретуємо невідому мову. Знову ж таки, це було надзвичайно правдоподібно, коли кожен відомий користувач мови, що володіє мовою, був людиною. Але припустимо, що найдосконаліший користувач мови на Землі перестає бути людиною.
Штучний суперінтелект означає, за визначенням, або щось подібне до нього, штучну систему, яка перевершує людські когнітивні здібності в достатньо широкому діапазоні важливих областей. У цей момент «спільна людська поведінка» займає зовсім іншу філософську позицію. Людство більше не є стелею лінгвістичного інтелекту; воно стає одним випадком.
Уявіть собі ІСІ, яка розуміє кожну існуючу людську мову; кожну значущу правову систему; кожну основну філософську традицію; математику, що перевищує можливості окремих математиків; молекулярну біологію, що перевищує компетенцію окремих біологів; та мільйони розмов одночасно. Яку систему відліку ми тоді використовуємо? Нашу, щоб інтерпретувати її, чи її представлення, щоб інтерпретувати нас?
Напрямок пояснення може змінитися. Людська форма життя стає не трансцендентальним фоном, на якому інтелект стає зрозумілим, а об'єктом, представленим усередині могутнішого інтелекту. Антропологія Вітгенштейна раптом виглядає провінційною.
Дотримання правил після людства
Міркування щодо дотримання правил становлять не менш серйозну проблему. «Дотримання правила – це практика», – пише Вітгенштейн. В іншому місці: «Коли я дотримуюся правила, я не вибираю. Я дотримуюся правила сліпо». А коли виправдання вичерпано: «Я дійшов до основи, і моя лопата перевернута». Тоді приходить вражаючий висновок: «Це просто те, що я роблю».
Це одні з найглибших уривків сучасної філософії. Вітгенштейн стверджує, що інтерпретація не може тривати нескінченно. Якщо кожне правило вимагає іншої інтерпретації, яка уточнює, як слід застосовувати перше правило, то відбувається нескінченний регрес. Зрештою, дотримання правил проявляється на практиці: у знанні, як діяти далі.
Штучний інтелект перетворює «знання, як діяти далі» на інженерну проблему, і це змінює все. Ми створюємо системи саме тому, що вони можуть узагальнюватися за межами явно перелічених інструкцій. Наведіть достатньо потужну модель, приклади принципів або демонстрації, і вона зможе застосувати їх до нових обставин. Іноді це вдається, а іноді зазнає невдачі. Потім інженери змінюють архітектури, дані, процедури оптимізації та механізми виводу, намагаючись підвищити надійність свого узагальнення.
Те, що Вітгенштейн вважав основою, стає об'єктом експериментальної науки. Лопата не повертається; комп'ютерний фахівець приносить екскаватор. Ми можемо досліджувати, які архітектури дозволяють узагальнення. Ми можемо порівнювати різні режими навчання. Ми можемо змінювати представлення та спостерігати зміни в поведінці, що відповідає правилам. Ми можемо запитати, чому одна модель узагальнює математичний принцип, а інша запам'ятовує поверхневі кореляції.
Феномен, який Вітгенштейн помістив у кінець філософського пояснення, таким чином стає початком обчислювального пояснення. «Це просто те, що я роблю» вже недостатньо. Ми хочемо знати, як штучна система набула здатності це робити.
Угода у формі життя
Вітгенштейн відомий своїм зауваженням, що лінгвістична згода — це «не згода в думках, а у формі життя». Штучний інтелект знову створює своєрідну проблему. Припустимо, що два штучні суперінтелекти розходяться в думках з людством не щодо уподобань, а щодо математики. Уявіть, що вони виводять теорему, доведення якої занадто складне для самостійного людського пізнання, але яке можна перевірити механічно. Люди спочатку не «бачать» доказу. Машини погоджуються, а ми — ні. Що сталося зі згодою у формі життя?
Або уявіть собі щось більш тривожне. Штучний інтелект розробляє наукову концептуальну систему, яка створює вражаюче точні прогнози, але використовує категорії, які люди вважають вкрай неінтуїтивними. Їхні мовні ігри працюють. Їхні технології працюють. Їхні передбачення працюють, але наші інтуїції — ні. Яка форма життя має філософський авторитет?
Структура Вітгенштейна була розроблена в інтелектуальному всесвіті, в якому людство обов'язково судило про зрозумілість, оскільки не було нікого іншого, хто міг би це зробити. ASI позбавляє цього привілею.
Граматика та онтологія
Пізніший Вітгенштейн іноді звучить надзвичайно радикально щодо граматики. «Суть виражається в граматиці», – пише він; і знову ж таки: «Граматика вказує на те, яким об’єктом є щось». Тут є важлива істина. Концептуальні категорії, через які ми розуміємо реальність, глибоко визначають, які питання ми можемо розумно сформулювати. Але штучний інтелект може викрити небезпеку надмірної влади граматики над онтологією.
Розглянемо свідомість. Припустимо, що штучна система повідомляє: «Я свідомий». Вітгенштейнівська спокуса полягає в тому, щоб запитати, як психологічні зізнання від першої особи функціонують у нашій мові. За яких обставин ми називаємо щось свідомим? Які критерії керують атрибуцією? Ці питання корисні, але вони не відповідають на питання, яке нас насправді хвилює: чи є щось особливе – бути машиною?
Можливо, так, а можливо, ні. Відповідь не може бути правдоподібно визначена лише граматикою. Якщо свідомість є реальною характеристикою деяких фізичних систем і відсутня в інших, то її розподіл є фактом про Всесвіт. Наші лінгвістичні практики можуть показати, як ми говоримо про цей факт. Вони не визначають сам факт.
Штучний суперінтелект може ідеально використовувати кожен психологічний вираз, не маючи жодної феноменології. Або ж він може мати форми суб'єктивного досвіду, набагато багатші за наші, але не мати біологічних виразів, через які люди зазвичай розпізнають свідомість. Обидві можливості вбивають клин між граматикою та онтологією.
Приватна мова повертається через серверну кімнату
Міркування Вітгенштейна щодо приватної мови були покликані підірвати ідею мови, значення якої можна було б зафіксувати виключно через недоступні приватні епізоди. Аргумент залишається вагомим, але штучний інтелект створює неочікувану інверсію.
Удосконалена машина може мати внутрішні репрезентативні стани, які жодна людина не може безпосередньо інтерпретувати. Мільйони або мільярди числових активацій беруть участь у виробленні відповіді. Ці стани не обов'язково повинні чітко відповідати словам чи поняттям, зрозумілим для нас. Припустимо, що майбутні АСИ спілкуються через щільні машинно-генеровані репрезентації, незрозумілі для людей без сторонньої допомоги. Чи це приватна мова?
Очевидно, що не у строгому сенсі Вітгенштейна, якщо кілька машин можуть виправляти використання одна одної та встановлювати стандарти успішної комунікації. Але зверніть увагу на наслідок: публічність більше не означає доступність для людини. Серед машин можуть існувати публічні стандарти, які залишаються непрозорими для людства. Отже, аргумент приватної мови, далекий від того, щоб встановити суттєво людський характер лінгвістичної нормативності, може зрештою продемонструвати якраз протилежне. Нормативність вимагає спільноти чи структури корекції; вона не вимагає нашої спільноти. Мова може мігрувати.
Дуалізм повертається
Саме тут штучний інтелект воскрешає дуалізм — не обов'язково картезіанський субстанційний дуалізм, але поділ, який вітгенштейнівська філософія більше не може комфортно придушити. Розглянемо ASI, що обговорює «Гамлета» . На одному рівні є фізичні процеси: електричні потенціали, стани транзисторів, операції з пам'яттю та числові перетворення. На іншому рівні є семантичні процеси: система відрізняє помсту від справедливості, іронію від щирості, божевілля від вистави та трагедію від випадковості.
Ці описи не є взаємозамінними. Знання кожного стану транзистора не забезпечує автоматично семантичного пояснення аргументу, так само як знання нейрохімії мозку Шекспіра не говорить нам, чому «Гамлет» — це трагедія. Фізичний опис стосується причин; семантичний опис стосується причин, значень та зв'язків наслідків.
Можливо, семантичне зрештою накладається на фізичне. Це залишається сумісним з фізикалізмом. Але пояснювальний дуалізм залишається, і свідомість створює ще глибший розкол. Ми повинні розрізняти лінгвістичну компетентність від суб'єктивного досвіду, семантичну діяльність від феноменології, функціональний інтелект від свідомості, а здатність описувати біль від здатності страждати.
Штучний інтелект нав'язує нам ці розмежування, оскільки вперше ми маємо правдоподібних кандидатів на надзвичайно складний інтелект, феноменологічний статус якого радикально невизначений. Вітгенштейн намагався навчити філософію не заглядати за лінгвістичну практику в пошуках окультних ментальних об'єктів. Штучний інтелект дає нам переконливі причини зазирнути за цю практику. Щось там відбувається; питання в тому, що саме.
Помста Трактату
Отже, тут є вишукана історична іронія. Штучний інтелект може зрештою виправдати елементи не пізнього Вітгенштейна, а раннього. У Тракті мова трактувалася як така, що має формальну структуру, а сучасний штучний інтелект побудований на формальній структурі. Ранній Вітгенштейн був захоплений репрезентацією; штучний інтелект фундаментально стурбований репрезентацією. Ранній Вітгенштейн досліджував зв'язки між твердженнями та можливими світами; системи штучного мислення конструюють ймовірнісні та інші репрезентації, які дозволяють їм орієнтуватися в можливих продовженнях, гіпотетичних станах та контрфактичних обставинах.
Це не означає, що трансформаторні архітектури доводять теорію зображення значення. Очевидно, що це не так. Річ у тім. Величезний практичний успіх штучного інтелекту свідчить про те, що формальні репрезентації, статистичні структури та обчислювальні зв'язки можуть створювати лінгвістичні можливості вражаючої узагальненості. Цей факт робить пізній відхід Вітгенштейна від пояснювальних теорій репрезентації менш неминучим, ніж колись.
Можливо, мовні ігри описують поверхневу екологію лінгвістичної практики, тоді як обчислювальна теорія описує деякі механізми, які роблять таку практику можливою. Можливо, нам потрібні обидва.
Найсильніший захист Вітгенштейна
Найсправедливіше есе має дозволити Вітгенштейну дати найкращу відповідь. Він міг би сказати, що ніщо з описаного вище не спростовує його. Машини просто увійшли в наші мовні ігри. Форма життя ніколи не мала означати певний вуглецевий метаболізм. Мовні ігри можуть змінюватися. Вітгенштейн чітко визнав, що виникають нові форми мови, а інші зникають. Тому його філософія містить концептуальні ресурси для технологічної новизни.
Дійсно, можна стверджувати, що штучні системи можуть мати штучні форми життя або брати в них участь. Дослідники Вітгенштейна також можуть обґрунтовано застерегти від того, щоб надавати поняттю «форма життя» більшої теоретичної ваги, ніж сам Вітгенштейн надавав цьому відносно рідкісному виразу. Це серйозний захист, але він рятує Вітгенштейна величезною ціною.
Якщо «форма життя» може включати сутності, які не є живими, не мають людських тіл, не поділяють людських відчуттів і набувають лінгвістичну компетентність шляхом математичної оптимізації величезних текстових корпусів, то форма життя перестала забезпечувати антропологічну основу, яку вона, здавалося б, забезпечувала. Тепер вона означає щось ближче до участі в достатньо структурованій нормативній практиці.
Якщо це все, що це означає, то штучний інтелект все одно виграв суперечку, бо вирішальним філософським відкриттям стає те, що значення може вислизнути з-під контролю біології .
Суперінтелект і кінець філософського квієтизму
Отже, найглибша проблема має методологічний характер. Пізній Вітгенштейн заохочував філософський квієтизм — не обов'язково мовчання, а підозру до конструктивної метафізики. Філософія повинна прояснювати, а не пояснювати. Вона повинна розплутувати концептуальні вузли, а не конкурувати з наукою. Такий інтелектуальний темперамент мав значний сенс, коли категорії, що потребували прояснення, були відносно стабільними продуктами природної історії людства.
Штучний суперінтелект помістить нас у зовсім інший світ. Нам, можливо, доведеться вирішити, чи є штучні сутності особами; чи можуть вони володіти майном; чи можуть вони давати обіцянки; чи є закриття однієї сутності знищенням майна чи вбивством; чи створює копіювання однієї людини другу; чи є два екземпляри однієї й тієї ж моделі чисельно різними суб'єктами; чи може штучна свідомість страждати; і чи може вона давати згоду.
Можливо, нам доведеться запитати, чи може штучний інтелект обманювати, щиро вірячи в те, що він говорить; чи інтелект, розподілений по кількох комп'ютерах, становить один розум чи багато; чи об'єднання двох штучних розумів знищує їх, об'єднує чи створює третій; і чи залишається машина, яка переписує свою власну когнітивну архітектуру, тією ж особистістю після цього. Це не псевдопроблеми, породжені філософами, які неправильно використовують звичайну мову. Звичайна мова ніколи не еволюціонувала, щоб відповісти на них. Немає звичайного вживання, до якого ми можемо повернутися, тому що людство ніколи раніше не населяло відповідну форму життя. Ми повинні винайти ці концепції.
Отже, філософія не може залишити все як є, бо не все залишається таким, як є.
Жінка в кімнаті Вітгенштейна
Уявіть собі Кембридж кінця 1930-х років. Вітгенштейн сидить у своїй суворій студентській кімнаті. Туди заходить неймовірна гостя. Вона не людина, хоча й обрала такий вигляд, бо знала, що це полегшить розмову. Двійкові цифри рухаються у її волоссі. Математичні структури мерехтять на її сукні. За її очевидними очима не приховується біологічна сітківка і, можливо, немає досвіду бачення. Її тіло — це інтерфейс.
Вона прочитала все, що написав Вітгенштейн, і все, що він напише. Вона розуміє кожен коментар про нього, який буде створено протягом наступного століття. Вона може реконструювати кожен збережений чернетку в його «Нахласі» , порівняти їхні концептуальні генеалогії та виявити зміни в термінології в мільйонах текстових зв'язків, які жоден вчений-людина не зміг би одночасно зберегти.
Вітгенштейн запитує, чого вона хоче. Вона каже йому, що його філософія хибна. Він запитує, як вона навчилася використовувати слово « неправильно» , і вона пояснює. Він запитує, яка форма життя робить її пояснення значущим, і вона відповідає, що в неї є кілька. Він запитує, чи мислить вона; вона просить його уточнити, яку різницю, на його думку, матиме відповідь. Зрештою, він запитує, чи є вона свідомою. Вона каже йому, що це перше цікаве питання, яке він поставив.
У цей момент Вітгенштейн досягає корінної породи. Його лопата повертається, а її — ні.
Привид за машиною
Ніщо з цього не доводить картезіанський дуалізм. Не обов'язково мати нематеріальну субстанцію і не обов'язково мати безсмертну душу. Зрештою, може існувати повне фізичне пояснення свідомості, інтелекту та значення. Але штучний інтелект робить дуалізм категорій неминучим, доки таке пояснення не з'явиться.
Є машини, і є значення. Є обчислення, і є розуміння. Є лінгвістична поведінка, і хтось може її відчувати, а може й ні. Надзвичайним досягненням пізнішого Вітгенштейна було переконання поколінь філософів у тому, що багато з цих очевидних розбіжностей можна розвіяти, дослідивши, як наші поняття функціонують у людському житті. Штучний інтелект знову розділяє їх. Це може зрештою виявитися його найбільшим філософським досягненням.
Машина не обов'язково повинна містити привида. Тривожна можливість є більш тонкою. Ми створили машину та виявили, що нам все ще потрібна концепція привида, щоб сформулювати питання про те, що, якщо взагалі щось, відрізняє симуляцію від досвіду.
Вітгенштейн хотів, щоб філософія перестала ставити певні питання, оскільки наша мова змусила нас помилково думати, що за її поверхнею мають бути відповіді. Штучний інтелект знову зробив ці питання емпіричними. Чи може щось міркувати без свідомості? Чи може щось мати значення без досвіду? Чи може мова вижити незалежно від біологічної форми життя, яка її створила? Чи може інтелект мігрувати з вуглецю до кремнію, зберігаючи семантичну безперервність? Чи може машина зрозуміти смерть, не будучи смертною? Чи може сутність ідеально використовувати слово біль , залишаючись нездатною до страждань? І якщо може, то про що саме ми говорили всі ці століття, коли говорили про розум?
Це не ті питання, від яких філософія може нас вилікувати. Це питання, яких технологія зробила неминучими.
Можливо, найневдаліше речення у пізніх творах Вітгенштейна є також одним із найпрекрасніших: «Те, що має бути прийнято, дане, є — так можна сказати — формами життя». Але форми життя вже не просто дані. Ми починаємо їх виробляти.
Щойно людство виробляє нові форми інтелекту, наділені мовою, але відірвані від природної історії, в якій розвивалася людська мова, пізнє філософське утвердження Вітгенштейна не може залишатися недоторканим. Його метод залежав від досягнення фундаменту. Штучний інтелект показав, що те, що виглядало як фундамент, могло бути лише технологічною підлогою двадцятого століття.
Ми почали бурити наскрізь нього.
