Синя книга Вітгенштейна та філософія моделей великих мов: чи розуміють машини те, що вони говорять?
Метью Періш
Субота, 17 жовтня 2026 року
Надзвичайний розвиток штучного інтелекту у двадцять першому столітті відродив низку філософських питань, які багато хто вважав вирішеними або принаймні безпечно обмеженими більш завуальованими коридорами університетських філософських кафедр. Чи може машина мислити? Що означає розуміти речення? Чи є мова просто системою символів, чи її осмислене використання вимагає свідомості, наміру та розуміння світу? Коли велика мовна модель відповідає на запитання з очевидним інтелектом, чи справді вона займається інтелектуальною діяльністю, чи просто імітує зовнішні прояви людської думки? Ці питання набули неочікуваної комерційної актуальності, оскільки деякі з найцінніших технологічних підприємств у світі тепер залежать від переконання своїх клієнтів, що машини здатні робити те, що донедавна ми вважали виключно людським.
Тому особливо цікавим історичним збігом є те, що один із найповніших посібників із цих питань був написаний майже століття тому, до винаходу сучасного електронного комп'ютера. « Синя книга» Людвіга Вітгенштейна , продиктована його студентам у Кембриджі протягом навчального року 1933–1934 та згодом опублікована в 1958 році, є однією з найважливіших перехідних праць у філософії ХХ століття. Вона знаменує собою відхід Вітгенштейна від суворої логічної архітектури його попереднього «Логіко-філософського трактату» до більш тонких, практичних і часто бентежних досліджень мови, які характеризуватимуть його пізнішу філософію. Хоча « Синя книга» порівняно коротка, вона містить інтелектуальні основи підходу до мови, який може бути більш релевантним для штучного інтелекту, ніж майже все, що написано сучасними вченими-інформатиками.
Вітгенштейн починає з питання про те, що означає, коли слово має значення. Це, здавалося б, елементарне питання одразу ж виявляє філософську складність. Ми схильні припускати, що за кожним значущим словом має існувати щось, що йому відповідає: об'єкт, ментальний образ, поняття або якийсь таємничий психологічний процес, завдяки якому слово набуває свого значення. Однак це припущення, стверджує Вітгенштейн, виникає головним чином через неправильне розуміння того, як насправді функціонує мова. Граматична структура наших власних речень спокусила нас уявити, що оскільки слово є іменником, то має бути якась відповідна річ, до якої воно відноситься. У результаті ми починаємо винаходити метафізичні сутності, щоб пояснити щось, що не потребує такого пояснення.
Розглянемо слово «червоний». Ми можемо уявити, що розуміння цього слова вимагає володіння ментальним образом червоності, до якого ми звертаємося щоразу, коли стикаємося з об'єктом і хочемо визначити, чи це слово до нього стосується. Вітгенштейн зазначає, що звичайна мова не функціонує таким чином. Якщо хтось просить нас принести червону квітку, ми зазвичай не викликаємо внутрішнього уявлення про червоність і не порівнюємо його з квітами перед нами. Ми просто вибираємо червону квітку. Наше розуміння демонструється в активності правильного використання виразу, а не через наявність якогось додаткового ментального об'єкта, що супроводжує слова.
Це спостереження підводить Вітгенштейна до одного з найвпливовіших положень у сучасній філософії: значення лінгвістичного знака слід розуміти через його використання. Мова — це не сукупність інертних символів, оживлених невидимою метафізичною субстанцією, що називається значенням. Швидше, слова набувають свого значення через участь у діяльності, звичаях та практиці тих, хто їх використовує. Розуміння мови не обов'язково означає володіння певним внутрішнім досвідом, а знання того, як діяти в різних обставинах, за яких мова виконує свою функцію.
Тут ми стикаємося з першим глибоким наслідком для моделей великих мов. Такі моделі працюють, обробляючи лінгвістичні лексеми за допомогою надзвичайно складних математичних структур, параметри яких були скориговані шляхом навчання на величезних обсягах інформації. Вони визначають зв'язки між виразами та генерують відповіді, які можуть демонструвати вражаючу граматичну витонченість, контекстуальну чутливість та очевидне мислення. Тим не менш, їхні дії значно відрізняються від знайомих психологічних процесів, через які люди сприймають мову. Питання полягає в тому, чи позбавляє їх ця різниця можливості взагалі щось розуміти.
Традиційна філософська відповідь полягає в тому, щоб наполягати на тому, що це необхідно. Якою б не була складність їхньої лінгвістичної продукції, машинам нібито бракує внутрішньої свідомості, суб'єктивного усвідомлення чи інтенціональності, які надають людській мові її значення. Тому їхні слова називаються порожніми імітаціями справжнього спілкування. Складність цього аргументу, з точки зору Вітгенштейна, полягає в тому, що він може просто знову запровадити те саме метафізичне припущення, яке « Синя книга» намагається спростувати. Ми уявляємо, що змістовна мова повинна супроводжуватися чимось прихованим у мовці, а потім робимо висновок, що машина не може зрозуміти, бо в нас немає доказів того, що вона має цей таємничий супровід.
Вітгенштейн майже напевно вважав би таке міркування підозрілим. Дійсно, « Синя книга» прямо порушує питання про те, чи може машина мислити, розглядаючи його поряд з більш специфічним питанням про те, чи може машина страждати від зубного болю. Його мета не в тому, щоб продемонструвати, що машини мають свідомість, ані в тому, що вони конституційно не здатні її набути. Швидше, він просить нас дослідити, що ми маємо на увазі, коли описуємо щось як здатне або нездатне мислити. Чи повідомляємо ми про емпіричне відкриття щодо машин, чи висловлюємо умовність щодо обставин, за яких ми готові використовувати певні слова?
Ця відмінність має надзвичайне значення. Твердження, що машини не можуть мислити, може звучати як наукова пропозиція, але воно може приховувати граматичне упередження. Якщо під мисленням ми маємо на увазі діяльність, яку обов'язково виконує біологічний людський мозок, то, природно, машина не може мислити, але висновок випливає з визначення, а не з будь-якого відкриття про штучний інтелект. Якщо ж мислення ідентифікується через виконання таких дій, як міркування, обчислення, висновки, виправлення помилок та пояснення висновків, тоді стає значно важче виключити машини лише тому, що вони виготовлені з кремнію, а не з органічної тканини.
Однак протилежний висновок був би таким же передчасним. Вітгенштейн не закликає нас відмовитися від будь-якої різниці між людським розумінням і механічною маніпуляцією символами. Його аргументація є більш тонкою, а отже, і більш вимогливою. Помилка полягає в припущенні, що має існувати одна універсальна властивість, яка називається розумінням, володіння якою можна визначити, досліджуючи внутрішню конституцію будь-якої сутності, яку ми розглядаємо. Розуміння, як і багато інших філософських понять, може мати кілька різних застосувань залежно від діяльності, про яку йде мова.
Це підводить нас до ще однієї центральної теми « Синьої книги» : критики Вітгенштейном того, що він називає прагненням до узагальнення. Він зазначає, що філософи неодноразово припускають, що все, що описується одним і тим самим словом, повинно мати якусь спільну суттєву характеристику. Однак багато понять не функціонують таким чином. Ігри, наприклад, можуть включати змагання, розваги, правила, фізичні вправи, випадок чи інтелектуальні навички, але не кожна гра обов'язково має всі ці характеристики. Їх об'єднує мережа подібностей, що перетинаються, а не єдина універсальна сутність.
Те саме спостереження можна застосувати до інтелекту. Математика, який розв'язує рівняння, дитину, яка вивчає мову, шахіста, який передбачає наступний хід суперника, і дипломата, який веде переговори щодо припинення вогню, – усіх їх можна описати як прояв інтелекту. Однак ці види діяльності разюче відрізняються. Тому не одразу очевидно, що штучний інтелект слід оцінювати за одним універсальним критерієм, так само як з цього не випливає, що кожен людський акт інтелекту повинен включати одні й ті ж психологічні процеси.
Велика мовна модель може демонструвати справжню компетентність у перекладі, залишаючись ненадійною в математичних міркуваннях. Вона може пояснювати філософський аргумент зі значною витонченістю, винаходячи судовий прецедент, якого не існує. Вона може побудувати переконливу комерційну пропозицію, не маючи власних незалежних комерційних інтересів. Ці явища не обов'язково є суперечностями. Вони свідчать про те, що різні види діяльності, які ми збираємо під назвою розвідувальна інформація, слід розглядати окремо, відповідно до їхніх різних цілей та стандартів правильності, а не нав'язувати їх штучній метафізичній єдності.
Однак існує важлива складність з інтерпретацією Вітгенштейна як філософа, який передбачив і виправдав сучасний штучний інтелект. Його тлумачення значення як використання не означає, що кожна система, здатна створювати правдоподібні речення, справді їх розуміє. Статистичні закономірності в мові не ідентичні соціальним практикам, завдяки яким мова набуває свого значення. Ця відмінність є фундаментальною, оскільки діяльність, яку досліджує Вітгенштейн, вбудована у форми людської поведінки, що включають очікування, корекцію, цілі, наслідки та спільні стандарти судження.
Один із найповчальніших прикладів у «Синій книзі» стосується письмової інструкції принести шість яблук бакалійнику. Значення слів виникає не з приватного уявлення про шість яблук, а з послідовності практичних операцій, за допомогою яких виконується інструкція. Є власник крамаря, система ідентифікації товарів, практика підрахунку та встановлений зв'язок між письмовою інструкцією та діяльністю, яку вона спрямовує. Мова є зрозумілою, оскільки вона бере участь в організованій людській практиці.
Уявіть, що ви просите велику мовну модель принести шість яблук. Вона може ідеально пояснити інструкцію, перекласти її кількома мовами, розрахувати вартість покупки або сформулювати план отримання фруктів. Якщо вона оснащена відповідними інструментами та має авторизований доступ до служби доставки, вона може навіть організувати доставку яблук. Однак ці різні досягнення не слід плутати. Пояснення інструкції, планування її виконання та її виконання – це різні дії, і компетентність в одному з них не автоматично означає компетентність в інших.
Саме тут межі сучасних мовних моделей стають філософськи цікавими. Лінгвістична компетентність людини розвивається у світі практичної взаємодії. Ми дізнаємося, що означають обіцянки частково тому, що від нас очікують їх виконання, що означає небезпека частково тому, що нам можуть завдати шкоди, і що означають вибачення частково тому, що ми живемо у стосунках, у яких важливі відповідальність та примирення. Мова вбудована в дію, а дія має наслідки, які виходять за рамки творення подальших речень.
Велика мовна модель може відтворювати лінгвістичні норми, пов'язані з цими діями, іноді з надзвичайною чутливістю. Вона може написати переконливі вибачення, скласти зізнання в коханні, пояснити зобов'язання, що виникають за контрактом, або висловити співчуття комусь, хто пережив втрату. Але чи вибачається вона, любить, бере на себе договірні зобов'язання чи співчуває? Відповідь не можна отримати, просто аналізуючи граматичну якість її відповідей. Ми повинні дослідити місце, яке ці відповіді займають у відповідних людських практиках.
Якщо компанія використовує автоматизовану систему для видачі обов'язкового договірного прийняття, відсутність людської свідомості в програмному забезпеченні не обов'язково запобігає виникненню юридичних наслідків. Система може функціонувати в рамках інституційної схеми, через яку її результати відносяться до компанії. І навпаки, коли звичайна розмовна модель заявляє, що вона особисто обіцяє виконати певну дію в майбутньому, у нас є вагомі підстави відрізняти вільне мовне вираження від прийняття особистої відповідальності, яке зазвичай супроводжує таку обіцянку. Слова можуть бути ідентичними, але їхнє практичне значення різне.
Це особливо корисна корекція дедалі театральнішої манери просування штучного інтелекту. Сучасні системи заохочуються до спілкування від першої особи, вираження очевидних уподобань та перейняття розмовних манер співчутливих людських співрозмовників. Такі практики роблять системи зручнішими у використанні, але вони також сприяють філософській плутанині. Слово «я» зазвичай ідентифікує особу, яка говорить, але його поява в машинно-генерованому діалозі сама по собі не демонструє існування незалежної особистості, яка має бажання, досвід чи інтереси.
Відсутність доказів такого досвіду також не означає автоматично їх неможливість. Питання машинної свідомості залишається серйозною філософською та науковою проблемою, і Вітгенштейн не пропонує зручної формули для її вирішення. Що він пропонує, так це застереження від помилкового сприйняття звичної граматики особистісних виразів як доказів невидимого психічного життя. Так само він застерігає від уявлення, що відсутність доступу до такого внутрішнього життя достатня для вирішення кожного практичного питання про можливості машини.
Ще один і часто ігнорований аспект « Синьої книги» стосується розмежування Вітгенштейном причин і причин. Коли хтось пояснює, чому він виконав певну дію, він може наводити причину, яка виправдовує цю дію, або описувати причинні обставини, які її спричинили. Це різні види пояснення, хоча звичайна мова часто приховує цю різницю. Людина може пояснити математичний висновок, демонструючи розрахунок, який його підтверджує, не описуючи при цьому кожну психологічну подію, яка сталася під час розв'язання проблеми.
Ця відмінність має величезні наслідки для штучного інтелекту. Коли мовна модель пояснює, чому вона дійшла певного висновку, пояснення може являти собою цілком зрозуміле обґрунтування цього висновку. Однак воно не обов'язково надає точне причинно-наслідкове пояснення обчислювальних процесів, які спричинили відповідь. Пояснення може бути логічно переконливим, не будучи точним відтворенням внутрішніх механізмів, відповідальних за його отримання. І навпаки, вичерпний технічний опис нейронних активацій може порівняно мало сказати нам про те, чи був висновок обґрунтованим.
Ця відмінність особливо важлива в юриспруденції, медицині та державному управлінні, де штучний інтелект все частіше використовується для впорядкування інформації та сприяння людським судженням. Юрист, який оцінює юридичну пропозицію, хоче не просто знати, яка послідовність обчислювальних операцій її призвела. Юрист хоче знати, чи випливає пропозиція з відповідного законодавства, судових органів та встановлених принципів тлумачення. Обґрунтувальний зв'язок між висновком та його підтверджувальними аргументами не може бути замінений описом механізму, який призвів до цього висновку.
Тим не менш, механізм має значення для іншої мети. Якщо ми хочемо зрозуміти, чому система неодноразово робить певну помилку, причинно-наслідкове дослідження її навчання, архітектури, доступної інформації та умов роботи може бути незамінним. Внесок Вітгенштейна полягає в тому, щоб нагадати нам, що це два різні дослідження. Питання про те, чому модель згенерувала певне речення, не обов'язково є тим самим питанням, чи є це речення правильним, змістовним або виправданим.
Існує ще одна іронія у стосунках між Вітгенштейном та сучасним машинним навчанням. Значна частина сучасного штучного інтелекту залежить від вилучення узагальнювальних закономірностей з величезних обсягів даних. Вітгенштейн, навпаки, неодноразово застерігає від філософської спокуси замінити дослідження окремих випадків масштабними узагальненнями. Однак ці позиції не обов'язково є несумісними. Відкриття статистичних закономірностей є законною науковою справою; труднощі виникають, коли такі відкриття помилково сприймають як повні філософські пояснення значення, наміру чи розуміння.
Математик може описати модель як обчислення ймовірностей для можливих послідовностей токенів, і цей опис може бути цілком доречним на певному рівні аналізу. Але зробити висновок, що система таким чином нічого не розуміє, означає висунути подальше філософське твердження, яке не випливає автоматично з математики. Так само зробити висновок, що система розуміє все, оскільки вона вражаюче виконує лінгвістичні тести, означає плутати сукупність технічних досягнень з поясненням природи розуміння.
Ця суперечність вже призвела до суттєвих розбіжностей серед сучасних дослідників. Емілі Бендер та Александр Коллер у своїй впливовій статті 2020 року про значення та розуміння природної мови стверджували, що саме вивчення лінгвістичної форми не може встановити зв'язок між мовою та комунікативним значенням. Інші філософи та комп'ютерні лінгвісти поставили під сумнів припущення, що системи, навчені на тексті, обов'язково повинні бути нездатними до референції, вказуючи на те, що самі лінгвістичні вирази мають історію, яка пов'язує їх з об'єктами, установами та подіями у світі. Ці розбіжності важливі, оскільки вони показують, що філософське значення навчання мовної моделі не може бути вирішене простим повторенням того, що системи передбачають токени.
Внесок Вітгенштейна полягає у зміні характеру дослідження. Замість пошуку абстрактної субстанції під назвою значення, прихованої всередині штучної нейронної мережі, нам слід дослідити різні обставини, за яких використовується її мова. Коли модель перекладає українську медичну інструкцію англійською мовою, які стандарти визначають правильність перекладу? Коли вона підсумовує арбітражне рішення, що робить підсумок точним до рішення? Коли вона пояснює наукову теорію, що відрізняє справжню пояснювальну компетентність від продукування правдоподібної, але помилкової технічної лексики?
Ці питання допускають практичну перевірку. Ми можемо перевірити переклад на відповідність намірам та умовностям оригінальної мови, порівняти юридичний виклад з текстом рішення суду та оцінити наукове пояснення на основі встановлених знань та експериментальних даних. Ми також можемо дослідити, чи система належним чином реагує на виправлення, зберігає відповідні відмінності, визнає невизначеність та визначає межі власної інформації. Такі дослідження є більш повчальними, ніж нескінченна метафізична суперечка про те, чи має кремній душу.
Український досвід є особливо яскравою ілюстрацією розмежування між лінгвістичною компетенцією та практичним розумінням. У такому місті, як Львів, вираз «оголошує про повітряну тривогу» – це не просто послідовність слів. Він бере участь у складній мережі публічних попереджень, інституційних обов’язків, військових оцінок та індивідуальних рішень щодо особистої безпеки. Значення оголошення невіддільне від практичних обставин, за яких воно видається, та наслідків, які можуть виникнути внаслідок його ігнорування.
Система штучного інтелекту може перекладати оголошення, пояснювати відповідну термінологію або допомагати іноземцям отримувати доступ до екстреної інформації. Це можуть бути цінні та значущі лінгвістичні функції. Однак, якщо вона починає самостійно запевняти людей, що сповіщення можна безпечно ігнорувати, вона переходить від лінгвістичної допомоги до форми практичного судження з потенційно серйозними наслідками. Різниця полягає не в тому, що лише свідома людина може виконувати таку функцію. Автоматизовані системи попередження вже беруть участь у важливих інституційних практиках. Швидше питання полягає в тому, чи надійно система пов'язана з необхідними доказами, повноваженнями, процедурами та обов'язками.
Тут стає очевидною практична сила філософії Вітгенштейна. Розуміння — це не магічна властивість, яка таємничим чином з'являється, коли мовна модель досягає певної кількості параметрів. Воно також не обов'язково є виключно біологічним явищем. Це концепція, застосування якої залежить від описуваних дій, умовностей, що регулюють ці дії, та стандартів, за якими успішне виконання відрізняється від невдачі.
Зростаюча інтеграція штучного інтелекту із зовнішніми інструментами, науковими приладами, базами даних та автоматизованими системами робить ці відмінності дедалі важливішими. Мовна модель, обмежена розмовою, займає інше практичне становище, ніж система, здатна проводити експерименти, керувати технікою, впроваджувати зміни в програмному забезпеченні або приймати рішення в інституційних рамках. Розширення її можливостей може розширити спектр діяльності, в якій ми можемо осмислено описати її як міркування, дослідження чи розуміння. Але жоден окремий технічний розвиток автоматично не встановлює повного набору характеристик, які зазвичай пов'язані з людським мисленням.
Нам також слід протистояти спокусі вважати людей такими, що мають досконале розуміння, лише тому, що ми свідомі. Людська мова сповнена загальноприйнятих виразів, несвідомих звичок, помилок, непорозумінь та, здавалося б, розумних зауважень, які приховують надзвичайне невігластво. Значна частина звичайної розмови передбачає вміле відтворення знайомих мовних моделей. Дійсно, описи повсякденного використання мови Вітгенштейном часто роблять мовну діяльність людини значно менш загадковою, ніж традиційно вважали філософи.
Це спостереження має внести елемент скромності в дебати про штучний інтелект. Якщо здатність продукувати мову відповідно до засвоєних норм розглядати як доказ, що спростовує машинне розуміння, ми можемо опинитися в ситуації, коли застосовуємо неочікувано суворий стандарт до людей. З іншого боку, той факт, що людське мислення часто використовує звички та норми, не означає, що кожна система, яка відтворює ці звички, займає таку ж практичну чи моральну позицію, як і людина.
Отже, немає жодної неминучої суперечності між визнанням того, що великі мовні моделі виконують інтелектуально цінну діяльність, та запереченням того, що вони мають людську індивідуальність. Ми можемо визнати, що їхні лінгвістичні можливості є вражаючими, не приписуючи їм свідомості, та визнати, що їхні результати можуть мати справжнє значення, не припускаючи, що кожне твердження, яке вони виробляють, виражає особистий намір. Філософський виклик полягає в тому, щоб зберегти відмінності, які наш дедалі антропоморфніший технологічний словник загрожує знищити.
Можна припустити, що Вітгенштейн вважав сучасні дебати про штучний інтелект одночасно захопливими та дратуючими. Кремнієва долина перетворила приписування людських характеристик машинам на велике комерційне підприємство, тоді як деякі з її критиків відповіли наполяганням на таких самих радикальних метафізичних заборонах. Одна фракція, схоже, налаштована якомога швидше створити штучних осіб, тоді як інша наполягає на тому, що жодні обчислювальні досягнення ніколи не зможуть зрівнятися з справжнім мисленням. Обидві, можливо, страждають саме від того прагнення до узагальнення, від якого застерігав Вітгенштейн.
« Синя книга» пропонує втечу від цієї безплідної конфронтації. Замість того, щоб вимагати остаточної відповіді на питання, чи розуміє штучний інтелект мову, нам слід дослідити різні речі, які ми маємо на увазі під розумінням, та обставини, за яких ці описи виправдані. Це не ухилення від філософської проблеми. Це визнання того, що проблема, можливо, була погано сформульована спочатку.
Є щось особливо доречне в тому факті, що твір, написаний у Кембриджі в 1930-х роках, висвітлює найважливіший з комерційної точки зору інтелектуальний розвиток двадцять першого століття. Вітгенштейн жив у світі, в якому мова переважно розглядалася як діяльність людей, а машини ще не були здатні вести, здавалося б, інтелектуальну розмову. Проте він визнавав, що найбільші перешкоди для розуміння мови не обов'язково були технічними. Вони виникали з оманливих уявлень, які сама мова спонукала нас створювати.
Великі мовні моделі зробили ці оманливі образи набагато спокусливішими. Вони можуть говорити від першої особи, використовувати складну філософську термінологію, пропонувати, здавалося б, чутливі моральні судження та обговорювати природу власного передбачуваного існування. Однак чим переконливіше вони використовують граматику людського досвіду, тим ретельніше ми повинні дослідити, що насправді роблять їхні слова. Вільне спілкування не є адекватною заміною виправдання, а видимість особистого наміру не є доказом відповідальності.
Можливо, найважливіший урок « Синьої книги» полягає не в тому, що машини мислять, і не в тому, що вони не можуть мислити. Він полягає в тому, що філософія повинна припинити пошуки окультного інгредієнта, який перетворює прості знаки на осмислену мову. Значення мови випливає зі складних практик, у яких використовуються знаки, і філософське завдання полягає в тому, щоб зрозуміти ці практики, не плутаючи їх з уявними метафізичними механізмами.
Цей висновок одночасно обнадійливий і тривожний. Він обнадійливий, оскільки штучний інтелект не обов'язково повинен мати таємничу внутрішню свідомість, щоб виконувати корисну і, можливо, справді інтелектуальну діяльність. Він тривожний, оскільки відмінності між людським і штучним інтелектом можуть виявитися складнішими, більш контекстуальними та менш абсолютними, ніж хотіли б ентузіасти чи скептики. Розуміння — це не дорогоцінна метафізична рідина, обмежена людським черепом, але й не те, що можна встановити, просто вигадуючи дедалі правдоподібніші речення.
Отже, ми можемо виявити, що найважливіше філософське питання щодо штучного інтелекту полягає не в тому, чи можуть машини мислити, як ми, а в тому, чи зрозуміли ми, що маємо на увазі, коли кажемо, що самі мислимо. Відповідь Вітгенштейна вимагатиме від нас переосмислити наші слова, нашу діяльність та умовності, завдяки яким вони набувають значення. Роблячи це, ми можемо виявити, що штучний інтелект не просто поставив перед людством нову технологічну проблему. Він викрив неадекватність деяких наших найдавніших філософських припущень щодо природи людського розуму.
« Синя книга» була написана до того, як комп’ютери змогли спілкуватися, до того, як існували штучні нейронні мережі, і до того, як світ технологій зайнявся можливістю створення штучного загального інтелекту. Однак вона, можливо, передбачила центральну інтелектуальну проблему нашої епохи чіткіше, ніж багато сучасних маніфестів про штучний інтелект. Найбільша філософська небезпека полягає не обов’язково в тому, що машини почнуть мислити, і навіть не в тому, що вони переконають нас, що вони можуть мислити. Вона полягає в тому, що ми продовжуватимемо використовувати слова « думка» , «значення» та «розуміння», не обмірковуючи належним чином те, що ми говоримо.
І це, а не якийсь недолік у самих машинах, може виявитися найвиразнішою людською невдачею з усіх.
