Плато для штучного інтелекту? (II)

Перспективні напрямки досліджень, які можуть вийти за межі сучасних досягнень

Хоча багато галузей штучного інтелекту можуть наближатися до насичення за сучасних парадигм, кілька недостатньо досліджених або новостворених областей пропонують потенційні прориви. Їх можна згрупувати за концептуальною, архітектурною та соціально-технічною осями.

1. Нейросимволічна інтеграція: поєднання глибокого навчання зі структурованим мисленням

Одним із найперспективніших напрямків є гібридизація нейронних мереж із символічним мисленням. Класичний ШІ досяг успіху в логіці, плануванні та представленні знань, але мав труднощі зі сприйняттям; глибоке навчання перевершує сприйняття та розпізнавання образів, але йому бракує абстракції та формального мислення. Подолання цієї розбіжності — іноді його називають нейросимволічним ШІ — може дозволити системам поєднувати плинність навчання з ретельністю міркувань.

• Лабораторія штучного інтелекту Watson MIT-IBM, серед інших, працює над архітектурами, які вивчають перцептивні вбудовування, але можуть маніпулювати ними за допомогою символічних правил.

  
  

• Це може призвести до появи систем, які розуміють таксономії, виконують алгебраїчні маніпуляції та беруть участь у причинно-наслідкових міркуваннях — можливостях, слабких або відсутніх у сучасних моделях великих мов.

Якщо це буде успішно, це буде схоже на надання сучасним моделям «системного-2» розуму (за термінологією Даніеля Канемана): обдуманого, аналітичного та обґрунтованого.

2. Моделі світу та пізнання на основі моделювання

Натхненні тим, як навчаються люди, такі дослідники, як Янн ЛеКун (Meta) та команда DeepMind, досліджують моделі світу — внутрішні симуляції, які дозволяють агенту передбачати, планувати та узагальнювати в нових умовах.

Це відхід від суто реактивних моделей. Модель світу:

• Представляє фізичну та соціальну динаміку;

  
  

• Дозволяє контрфактичні міркування («що, якби?»);

  
  

• Підтримує довгострокове планування, перевірку гіпотез та самокорекцію.

Gato та AlphaZero від DeepMind є ранніми прикладами агентів, що використовують внутрішні моделі в певних областях (наприклад, шахи, го, відеоігри). Сподіваємося поширити це на реальні області з відкритим набором функцій.

Поєднання моделювання світу з навчанням з підкріпленням може призвести до появи агентного штучного інтелекту: систем, які є не лише реактивними, а й стратегічними.

3. Втілений штучний інтелект та навчання протягом усього життя

Втілений ШІ — де агенти взаємодіють зі світом через фізичні або симульовані тіла — запроваджує заземлення та сенсомоторний зворотний зв'язок, потенційно вирішуючи такі проблеми, як:

• Символічне заземлення (зв'язок слів з досвідом);

  
  

• Безперервне навчання (поза межами фіксованих наборів даних);

  
  

• Фізичні міркування на основі здорового глузду.

Робота в Стенфорді, OpenAI та ETH Zurich досліджує навчання роботизованих агентів методом проб і помилок, тактильного сприйняття та відеопрогнозування. У симульованій формі AutoGPT та OpenAgent OpenAI намагаються реалізувати цілеспрямовану поведінку в різних завданнях.

Втілені системи можуть зрештою навчатися через дослідження, кероване цікавістю, а не через нагляд, що ближче до розвитку людини.

4. Самостійне навчання та генеративне моделювання

Традиційне навчання з учителем вимагає позначень, які є дорогими та часто упередженими. Самостійне навчання (SSL), яке використовує структуру в немаркованих даних, може масштабуватися набагато ефективніше.

Такі моделі, як SimCLR та BYOL у зоровому полі, а також попереднє навчання в стилі BERT/GPT у мові, є ранніми системами SSL. Наступний крок включає:

• Навчання різними способами (текст, аудіо, відео, дані сенсорів);

  
  

• Використання згенерованих даних (синтетичні середовища, імітовані розмови);

  
  

• Бутстрепінг-представлення лише з задач прогнозування.

Таким чином, середовища генеративного штучного інтелекту та навчання з підкріпленням можуть створювати навчальні дані на вимогу, зменшуючи обмеження даних.

5. Метанавчання та узагальнення

Мета-навчання, або «навчання навчанню», може пропонувати інструменти для узагальнення поза межами вузьких розподілів навчання. Мета полягає в тому, щоб моделі:

• Швидко адаптуватися до нових завдань з невеликою кількістю прикладів;

  
  

• Передача знань між доменами;

  
  

• Оптимізувати власні навчальні процеси.

Прикладами є MAML (модельно-агностичне метанавчання) та алгоритми «Рептилій». Дійсно загальний учень не просто запам'ятає відповіді, а й набуде стратегій для вирішення класів задач.

Прориви в цій галузі можуть дозволити штучному інтелекту уникнути крихкого узагальнення, яке наразі обмежує його стійкість у реальних умовах.

6. Когнітивні архітектури та дослідження штучної свідомості

Хоча деякі дослідники й більш спекулятивні, вони стверджують, що прогрес може вимагати переосмислення самого інтелекту — не як функціональної апроксимації, а як багаторівневої, рефлексивної, на основі пам'яті когнітивної системи. Такі проекти, як:

• Теорія глобального робочого простору (Baars, Dehaene);

  
  

• Інтегрована теорія інформації (Тононі); та

  
  

• Активний висновок та принцип вільної енергії (Фрістон);

прагнуть змоделювати увагу, самосвідомість та свідомоподібну обробку інформації у штучних агентів.

Хоча ці теорії гаряче обговорюються, вони можуть зрештою вплинути на архітектуру з увагою, пам'яттю, емоціями та цілеспрямованою рефлексією — зовсім не на сьогоднішні програми магістратури з права (LLM). Якщо їх буде досяжно, вони можуть стати найглибшим стрибком з усіх.

Сценарії того, як і коли можуть бути досягнуті справжні межі

Навіть якщо вищезазначені напрямки призведуть до прогресу, цілком можливо, що штучний інтелект зіткнеться з фундаментальними межами — фізичними, обчислювальними, концептуальними чи філософськими. Нижче наведено кілька ймовірних граничних сценаріїв.

1. Термодинамічні та енергетичні межі

• Системи штучного інтелекту, особливо у великих масштабах, споживають величезну кількість енергії. Сучасні тенденції показують, що одна велика модель може потребувати енергії, еквівалентної річному споживанню кількома домогосподарствами.

  
  

• Існує кінцева термодинамічна стеля для обчислень на ват (межа Ландауера).

  
  

• Якщо закон Мура сповільниться, а квантові обчислення залишатимуться недосяжними або нішевими, ШІ може зіткнутися з бар'єром співвідношення ціни та якості, коли подальше збільшення можливостей стане економічно недоцільним для більшості учасників.

Орієнтовний горизонт: протягом 10–20 років, якщо не буде досягнуто проривів у підвищенні ефективності апаратного забезпечення (наприклад, нейроморфні чіпи, натхненні структурою та функцією людського мозку).

2. Обчислювальна складність та нерозв'язність

• Певні проблеми (наприклад, NP-повні, нерозв'язні проблеми) не можуть бути ефективно розв'язані жодною машиною, людською чи штучною.

  
  

• У міру того, як штучний інтелект переходить від сприйняття до високорівневого міркування, він може зіткнутися зі стіною притаманної йому обчислювальної складності.

  
  

• Наприклад, довгострокове планування в динамічних системах може бути доведено нерозв'язним.

Отже, ШІ може досягти плато не через незнання, а через формальні обмеження алгоритмічної розв'язності.

3. Парадокс вирівнювання та асимптота керування

• Більш потужні системи важче узгодити — цей парадокс іноді називають «компромісом між узгодженістю та можливостями».

  
  

• Оскільки моделі стають більш агентивними, вони можуть чинити опір контролю або переслідувати проксі-цілі, не узгоджені з людськими намірами (інструментальна конвергенція).

  
  

• Якщо питання безпечного узгодження залишається невирішеним, політики можуть обмежити можливості ШІ нижче небезпечних порогів, створивши «стелю безпеки».

Орієнтовний горизонт: протягом 5–15 років, залежно від рівня управління та прогресу досліджень у сфері узгодження.

4. Когнітивні вузькі місця людини

• Навіть якщо штучний інтелект розвиватиметься далі, люди можуть стати вузьким місцем:

  
  

  • У регулюванні, розумінні або ефективному використанні систем;

    
    

  • У когнітивній інтеграції порад штучного інтелекту в процес прийняття рішень;

    
    

  • У підтримці довіри або підзвітності.

  
  

• Це призводить до практичного плато: подальше розширення можливостей не дає реального покращення корисності чи впровадження.

Одна аналогія полягає в тому, що надзвуковий політ технічно можливий, але комерційно недоцільний через шум, обмеження попиту та витрат палива.

5. Філософська межа: штучний загальний інтелект (ШЗІ) недосяжний

• Деякі теоретики стверджують, що людський інтелект залежить від свідомості , суб'єктивних кваліа (чуттєвих сприйняттів) або біологічного втілення , які неможливо відтворити в кремнії.

  
  

• Якщо це правда, ШІ може назавжди залишитися «вузьким» або «передзагальним» — чудовим у виконанні завдань, але позбавленим безмежної креативності та навмисності людей.

  
  

• ЗШІ може бути міражем, а не пунктом призначення — і в такому разі весь ШІ зрештою обмежується нішевими застосуваннями.

Іншими словами, існує якісна межа, а за нею лежить таємниця, а не можливості.

Висновок: Роздоріжжя — плато чи зсув парадигми

Ми стоїмо на критичній точці невизначеності. Штучний інтелект досяг приголомшливих успіхів, проте багато основних тенденцій зараз демонструють ознаки напруженості:

• Витрати зростають швидше, ніж прибутки;

  
  

• Моделі стають менш інтерпретованими;

  
  

• Міркування та узагальнення залишаються крихкими;

  
  

• Довіра, контроль та безпека не вирішені;

  
  

• Наступна хвиля інновацій — справді «когнітивний» ШІ — може вимагати нових філософських та архітектурних основ.

Чи наближаємося ми до тимчасового плато, локального максимуму чи абсолютної межі, ще належить з'ясувати. Одне, що зрозуміло, це те, що нинішні тенденції не можуть тривати нескінченно. Межі попереду можуть бути технічними , економічними , екологічними чи епістемічними — але вони настають.

Велике завдання, що стоїть попереду, — переосмислити межі — не просто масштабувати те, що існує, а винаходити те, чого немає. Чи то через моделі світу, символічну інтеграцію, агентні архітектури чи синтетичне пізнання, наступне десятиліття, ймовірно, визначить не лише те, наскільки далеко може зайти ШІ, але й який тип інтелекту ми вирішимо створити.