Машина отримує офіс: короткий огляд про агентів зі штучним інтелектом, машинне навчання та криптографію

Вівторок, 18 серпня 2026 року

Штучний інтелект переживає інституційну трансформацію. Протягом кількох років публічне спілкування зі штучним інтелектом було переважно розмовним: людина ставила запитання, а машина видавала відповідь. Системи, що розвиваються у 2026 році, відрізняються. Вони можуть шукати інформацію, керувати програмним забезпеченням, писати та тестувати комп'ютерний код, давати інструкції іншим спеціалізованим системам і повертатися лише після виконання завдання. Машина вже не просто складає меморандум — вона починає, в обмеженому та ретельно визначеному сенсі, виконувати свою функцію.

Ця зміна призвела до густого заростання термінології. Терміни «агенти», «моделі міркувань», «моделі світу», «обчислення під час тестування», «докази з нульовим розголошенням» та «постквантова криптографія» регулярно використовуються так, ніби їхні значення є самоочевидними. Це не так. Також не всі ці розробки однаково зрілі. Деякі з них є справжніми змінами в архітектурі обчислень. Інші — це геніальні інженерні вдосконалення, оточені більш екстравагантними філософськими твердженнями, ніж виправдовують докази.

Що таке агент штучного інтелекту?

Звичайна модель великої мови отримує інструкцію та прогнозує послідовність слів у відповідь. Агент штучного інтелекту розміщує таку модель усередині більшої системи. Модель може сформулювати план, вибрати інструмент, спостерігати за результатом і вирішити, що робити далі. Основною особливістю є цикл: замість того, щоб видати одну відповідь, система багаторазово діє та переоцінює, доки не досягне точки зупинки.

Агент, якого попросили розслідувати діяльність компанії, може здійснити пошук у публічних записах, перевірити її рахунки, порівняти суперечливі джерела та скласти звіт. Агент з кодування може дослідити репозиторій програмного забезпечення, виявити помилку, змінити кілька файлів, провести тести та переглянути свою роботу після невдалого тесту. Кожен окремий крок може залишатися помилковим, проте здатність перевіряти наслідки попередньої поведінки надає системі щось подібне до практичного судження.

Схожість не слід перебільшувати. Агент не обов'язково має бажання, наміри чи свідомість. «Мета» зазвичай означає інструкцію, надану людиною або іншим комп'ютером. «Пам'ять» може означати не що більш загадкове, ніж інформація, записана в базу даних. «Відображення» часто означає другий прохід через проблему.

Антропоморфна мова — корисне скорочення, але небезпечна метафізика.

Отже, найважливішим нещодавнім розвитком є не те, що машини набули волі. Річ у тім, що мовні моделі були підключені до інструментів. Модель тепер може використовувати браузер, базу даних, калькулятор, компілятор або комунікаційний сервіс — в ідеалі, за умови дозволів, накладених її оператором. Протокол контексту моделі Anthropic, або MCP, пропонує загальний метод, за допомогою якого програми штучного інтелекту можуть підключатися до таких зовнішніх ресурсів. Протокол Agent2Agent від Google, або A2A, вирішує суміжну проблему забезпечення можливості агентам, створеним різними організаціями, спілкуватися та координувати дії. A2A було передано до Linux Foundation у 2025 році, в спробі надати запропонованому стандарту нейтральне до постачальників управління. Дивіться посилання на ⁠ вступ Anthropic до MCP , ⁠ оголошення Google про A2A та ⁠ оголошення про управління Linux Foundation .

Різниця проста. MCP — це, головним чином, роз'єм для інструментів та інформації; A2A задуманий як дипломатичний протокол між штучними акторами. Якщо ці стандарти будуть широко прийняті, агенту не потрібно буде самостійно містити кожну можливість. Він може знайти відповідний сервіс, обмінятися з ним інструкціями та включити результат у ширший план дій.

Це створює можливість для багатоагентних систем. Керівний агент розділяє проблему на частини та доручає підлеглим агентам їх вирішення. Один шукає документи, інший аналізує дані, а третій оскаржує отриманий висновок. Anthropic описала систему дослідження виробництва, побудовану за цією схемою — провідний агент планує розслідування, а паралельні агенти досліджують різні його аспекти. Див. ⁠ звіт Anthropic про свою багатоагентну дослідницьку систему .

Аналогія з людським офісом непереборна. Однак штучні бюрократії можуть відтворювати недоліки людських з електронною швидкістю. Агенти можуть дублювати роботу, неправильно розуміти інструкції, приховувати невизначеність під впевненою мовою або передавати помилку один одному, доки ніхто не зможе визначити її походження. Координація не скасовує помилковість — вона може її розподіляти.

Машинне навчання після епохи масштабування

Машинне навчання — це загальна практика побудови систем, які виводять корисні закономірності з прикладів, а не дотримуються лише правил, явно написаних програмістами. Велика мовна модель навчається на величезних обсягах тексту та інших даних, коригуючи мільярди числових параметрів, щоб вона ставала дедалі кращою в прогнозуванні того, що має відбуватися після чого.

Протягом першої фази сучасного буму штучного інтелекту прогрес був пов'язаний головним чином із масштабуванням часу навчання: до того, як модель досягла своїх користувачів, застосовувалося більше даних, більше параметрів і більше обчислювальної потужності. Такий підхід продовжується, але увага змістилася на те, що модель робить після отримання проблеми.

Це називається обчисленнями під час тестування або логічного висновку. «Висновок» – це просто операція навченої моделі під час її використання. Замість того, щоб видавати першу ж відповідь, яка спадає на думку, модель може генерувати кілька можливих рішень, перевіряти проміжні кроки, звертатися до зовнішніх інструментів і витрачати більше обчислень на складні питання, ніж на прості.

Верифікатор — це система, яка оцінює відповіді кандидатів або проміжні кроки. У математиці верифікатор може перевірити, чи є обчислення правильним. У програмуванні сам комп'ютер може запустити запропонований код. У менш точних галузях — юриспруденції, історії чи дипломатії — верифікація складніша, оскільки може бути відсутнім механічний ключ до відповідей. Недавні дослідження показують, що просто дозволити моделі створювати довші міркування недостатньо: виграш дедалі більше залежить від надійних методів розрізнення кращих міркувань від правдоподібної помилки. Див. ⁠Огляд верифікації та масштабування часу тестування , а також ⁠ дослідження масштабування обчислень під час тестування .

Це пояснює важливість таких систем, як AlphaEvolve від Google DeepMind. Вона поєднує здатність мовної моделі пропонувати комп'ютерні програми з автоматизованими оцінювачами, які тестують ці програми. Успішні пропозиції зберігаються та модифікуються за допомогою еволюційного процесу — інженерної аналогії з варіацією та відбором. Досягнення полягає не в тому, щоб дозволити моделі нескінченно довго спекулювати, а в тому, щоб укласти спекуляції в середовище, здатне відкидати невдачі. Див. ⁠ Google DeepMind на AlphaEvolve .

Другим розвитком є мультимодальність. Мультимодальна модель може обробляти кілька форм інформації, таких як текст, зображення, звук і відео, в рамках пов'язаної архітектури. Це важливо для агентів, оскільки звичайний світ не постає як акуратна послідовність письмових підказок. Робот повинен інтерпретувати простір, об'єкти та рух. Науковому агенту може знадобитися порівняти прозу з діаграмами та числовими спостереженнями. Агент, що використовує комп'ютер, повинен розуміти, що відображається на екрані.

Третя розробка — це модель світу — вивчене представлення того, як поводиться середовище. Моделі світу дозволяють системі штучного інтелекту передбачати можливі наслідки дій, перш ніж їх виконувати. Genie 3 від Google DeepMind, анонсований у 2025 році, генерує інтерактивні віртуальні середовища в режимі реального часу, тоді як дослідження SIMA досліджує агентів, здатних діяти та навчатися в тривимірних світах. Вони залишаються дослідницькими системами, а не синтетичними особами, які вільно блукають реальністю, — але вони вказують на рух від розпізнавання статичних закономірностей до моделювання змін, причинно-наслідкових зв'язків та наслідків. Див. ⁠ Google DeepMind про Genie 3 та ⁠ Google DeepMind про SIMA 2 .

Таким чином, глибша розробка є архітектурною. Інтелект розподіляється між навченою моделлю, зовнішньою пам'яттю, інструментами, оцінювачами, змодельованими середовищами та повторюваними можливостями для виправлення. Модель стає менш схожою на енциклопедію та більше схожою на центрального клерка складної установи.

Чому криптографія вступила в суперечку

Криптографія — це наука про захист інформації математичними засобами. Шифрування робить інформацію нечитабельною без відповідного ключа. Цифровий підпис дозволяє одержувачу перевірити, хто авторизував повідомлення та чи було воно змінено. Хеш стискає дані в короткий математичний відбиток: зміна базового матеріалу повинна призвести до отримання іншого відбитка.

Агенти штучного інтелекту роблять криптографію важливішою, оскільки вони виконують певні дії. Щойно система може читати конфіденційні записи, купувати послуги, змінювати програмне забезпечення або давати інструкції іншому агенту, центральними питаннями стають ідентичність та повноваження. Який агент видав інструкцію? Чи було змінено його повідомлення? Що йому було дозволено робити? Чи можна згодом перевірити дію?

Криптографічні підписи можуть автентифікувати повідомлення, якими обмінюються агенти. Токени можливостей — цифрові облікові дані, що надають вузько визначені повноваження — можуть обмежувати агента певними ресурсами або операціями. Захищені журнали можуть зберігати докази того, що було запитувано та що сталося. Ці механізми не зроблять ненадійного агента інтелектуальним, але вони можуть обмежити його повноваження та зробити його поведінку відстежуваною.

Існує також більш амбітна галузь, відома як перевірені обчислення. Тут один комп'ютер виконує обчислення та надає математичні докази того, що воно було виконано правильно. Доказ з нульовим розголошенням йде далі: він може продемонструвати, що твердження є істинним, не розкриваючи всю секретну інформацію, від якої залежить доказ. В принципі, організація може довести, що висновок ШІ був зроблений авторизованою моделлю або що було дотримано встановленої процедури, не публікуючи власних параметрів чи конфіденційних вхідних даних.

Це тісно пов'язано з машинним навчанням, що зберігає конфіденційність. Гомоморфне шифрування дозволяє виконувати певні обчислення, залишаючи дані зашифрованими. Стороні, яка проводить обчислення, не потрібно бачити інформацію, що лежить в основі, у звичайній формі. Привабливість для медицини, фінансів та уряду очевидна, хоча сучасні системи можуть передбачати значні обчислювальні витрати. Важливим є те, що конфіденційність не завжди вимагає утримання від обчислень; математика може дозволити обчислення без звичайного розкриття.

Тим часом криптографія переживає власну зовнішню революцію. Досить потужний квантовий комп'ютер міг би зламати кілька форм криптографії з відкритим ключем, які зараз використовуються для захисту зв'язку та цифрових підписів. Постквантова криптографія не потребує квантового комп'ютера. Вона складається з нових алгоритмів, розроблених для звичайних комп'ютерів, чиї основні математичні проблеми, як вважається, стійкі як до звичайних, так і до квантових атак.

Національний інститут стандартів і технологій США завершив розробку трьох основних постквантових стандартів і тепер закликає організації розпочати міграцію. У 2025 році він також обрав HQC — алгоритм встановлення ключів на основі коду — для майбутньої стандартизації як додатковий варіант. Міграція має значення ще до появи потужного квантового комп'ютера, оскільки зловмисник може зібрати зашифровану інформацію сьогодні та зберегти її для розшифрування пізніше — стратегію, яку зазвичай називають «зібрати зараз, розшифрувати пізніше». Дивіться тут інформацію про програму постквантової криптографії NIST та статус стандартизації NIST .

Практичний термін, який слід запам'ятати, — це крипто-гнучкість: здатність організації визначати, де використовується криптографія, та замінювати алгоритм, не перебудовуючи кожну систему навколо нього. Це звучить як адміністративне ведення бізнесу, а у великих організаціях це може бути складнішим завданням, ніж винахід математики. Відповідно, рекомендації NIST на 2026 рік наголошують на інвентаризації, плануванні міграції та системах, здатних з часом змінювати криптографічні механізми. Див. ⁠ Керівництво NIST щодо постквантової міграції .

Конвергенція

Агенти штучного інтелекту, сучасне машинне навчання та криптографія сходяться навколо спільної проблеми: як можна довіряти дедалі потужнішим машинам з обмеженими повноваженнями?

Машинне навчання забезпечує адаптивне судження. Архітектура агента забезпечує пам'ять, інструменти та здатність діяти. Криптографія забезпечує ідентифікацію, конфіденційність та докази. Жодного самого по собі недостатньо. Розумний агент без безпечних облікових даних небезпечний; ідеально автентифікований агент, який погано міркує, не є покращенням; точна модель, яка не може діяти, залишається радником, а не адміністратором.

Вирішальне питання вже не в тому, чи може машина створити вражаючий абзац. Йдеться про те, чи може мережа машин надійно виконувати делеговані повноваження, і чи можуть люди потім визначити, які повноваження були надані, з якими доказами було проведено консультацію та чому відбулася певна дія.

Саме тут слід обережно ставитися до ширшого терміну «автономія». У конституційній думці влада є легітимною не лише тому, що вона ефективна. Вона має бути наданою, обмеженою та такою, що підлягає перегляду. Той самий принцип повинен керувати штучними агентами. Система не повинна мати більше доступу, ніж вимагає її завдання; значні дії повинні вимагати явного схвалення; невизначеність повинна бути виявлена, а не прихована; а записи повинні бути зрозумілими для когось, окрім системи, яка їх створила.