Біологія мови: чому штучний інтелект може стати найбільшою проблемою поширення зброї у ХХІ столітті

Вівторок, 9 червня 2026 року

Визначний спільний лист, надісланий минулого тижня до Конгресу Сполучених Штатів керівниками провідних світових компаній зі штучного інтелекту, знаменує собою важливий момент у розвитку дебатів щодо передових систем машинного навчання. Серед керівників, зокрема Сем Альтман, Даріо Амодей, Деміс Хассабіс та Мустафа Сулейман, закликали законодавців посилити контроль над синтезом ДНК та РНК, попереджаючи, що дедалі потужніші системи штучного інтелекту можуть суттєво зменшити експертизу, необхідну для створення небезпечних біологічних агентів.

Не слід недооцінювати значення цього втручання. Роками публічні дискусії щодо штучного інтелекту, як правило, зосереджувалися на драматичних баченнях автономних машин, які повалять людство, замінять усі робочі місця або якимось чином набудуть незалежної свідомості. Такі сценарії привертають увагу газет, оскільки вони належать як до наукової фантастики, так і до державної політики. Однак занепокоєння, висловлене в листі, є значно більш актуальним і, можливо, більш правдоподібним. Воно стосується не машин, які діють самостійно, а машин, які посилюють можливості людей.

Біологічна зброя традиційно обмежувалася низкою бар'єрів. Експертизу в молекулярній біології важко отримати. Лабораторне обладнання дороге. Розробка нових патогенів вимагає великих знань, накопичених протягом багатьох років. Навіть державні програми біологічної війни традиційно стикалися зі складністю маніпулювання живими організмами.

Штучний інтелект загрожує зруйнувати один із цих бар'єрів: самі знання.

Великі мовні моделі, по суті, є системами для організації та пошуку інформації. Вони можуть синтезувати величезні обсяги наукової літератури, пояснювати технічні концепції доступною мовою та допомагати дослідникам у вирішенні складних проблем. Саме ці можливості роблять їх корисними для легітимних наукових досліджень. Вони ж також роблять їх потенційно небезпечними.

Людина, яка раніше не мала поглибленої біологічної підготовки, тепер може ставити запитання звичайною мовою та отримувати пояснення, які колись вимагали місяців навчання. Дослідники неодноразово демонстрували, що моделі розширеної мови можуть допомогти користувачам зрозуміти складні наукові теми, що виходять далеко за межі початкового рівня знань користувача. Проблема не в тому, що машина самостійно винаходить біологічну зброю. Швидше, справа в тому, що рішуча людина отримує доступ до надзвичайно терплячого, обізнаного та недорогого репетитора.

Це явище не є унікальним для біології. Штучний інтелект знижує інформаційні бар'єри практично в кожній дисципліні. Студент може швидше вивчати вищий рівень математики. Інженер може ефективніше писати програмне забезпечення. Юрист може ефективніше проводити дослідження. Здебільшого ці розробки є корисними.

Однак біологія має унікальну характеристику, яка відрізняє її від багатьох інших наук. Живі організми самі розмножуються. Біологічний агент, що потрапляє в навколишнє середовище, може поширитися далеко за межі своєї початкової цілі. Погано розроблена комп'ютерна програма може спричинити незручності. Погано розроблений патоген потенційно може вражати цілі популяції.

Історично основна зброя масового знищення вимагала значної промислової інфраструктури. Ядерна зброя потребує збагачувальних установок, спеціалізованих матеріалів та широко розкритих інженерних програм. Хімічна зброя вимагає виробництва в промислових масштабах. Біологічна зброя завжди займала більш неоднозначне становище, оскільки живі організми розмножуються природним шляхом. Оскільки біотехнології стають дешевшими та доступнішими, межа між складною державною програмою та операцією меншого масштабу може дедалі більше розмиватися.

Таким чином, лист керівників компаній зі штучного інтелекту зосереджується не лише на штучному інтелекті, а й на його взаємозв'язку та синтетичній біології. Вони виступають за обов'язкову перевірку замовлень на синтетичний генетичний матеріал та покращення ведення обліку в галузі синтезу генів. Їхній аргумент полягає в тому, що хоча штучний інтелект може спростити процес розробки, уряди все ще можуть встановити контроль над фізичним отриманням генетичних матеріалів.

Це важливе визнання того, що технологічні ризики рідко виникають внаслідок одного винаходу. Катастрофічні можливості часто виникають, коли поєднуються кілька технологій. Перша світова війна стала результатом не лише винаходу вибухівки, а й поєднання промислового виробництва, залізничної логістики, телекомунікацій та сучасної хімії. Ядерна зброя виникла в результаті зближення теоретичної фізики, промислової інженерії та мобілізації держав воєнного часу.

Сьогодні відбувається конвергенція між штучним інтелектом, хмарними обчисленнями, автоматизованим лабораторним обладнанням та синтетичною біологією.

Проблема для політиків полягає в тому, що саму інформацію важко регулювати. Ліберальні демократії, зрозуміло, неохоче обмежують наукові знання. Значна частина біологічної інформації, яка потенційно може бути використана неналежним чином, вже доступна в академічних журналах та публічних базах даних. Штучний інтелект не створює цю інформацію; він її впорядковує та пояснює.

Відповідно, політики стикаються з дилемою. Надмірні обмеження можуть перешкоджати легітимним науковим дослідженням та медичним інноваціям. Недостатні запобіжні заходи можуть створювати можливості для зловмисників. Тому метою не може бути усунення ризику. Швидше, це має бути управління ризиками за допомогою рівнів захисту.

Одним із найвражаючих аспектів листа є незвичайний консенсус, який він представляє. Індустрія штучного інтелекту глибоко розділилася з питань регулювання, конкуренції та безпеки. Конкуруючі компанії часто розходяться в думках щодо того, як швидко повинні розвиватися технології та як уряди повинні реагувати. Однак щодо питання біологічної зброї, схоже, формується консенсус щодо того, що ця загроза заслуговує на негайну увагу.

Цей консенсус сам по собі є інформативним. Керівники, що беруть участь у цьому процесі, мають, мабуть, найдетальніше розуміння можливостей та обмежень моделей пограничних мов. Вони не попереджають, що штучний інтелект вже спричинив біологічну катастрофу. Вони попереджають, що траєкторія вдосконалення можливостей свідчить про те, що існуючі запобіжні заходи можуть незабаром стати неадекватними.

Чи приймати кожен прогноз, зроблений компаніями, що займаються штучним інтелектом, – це зовсім інше питання. Критики слушно зазначають, що технологічні фірми мають стимули підкреслювати трансформаційний характер власних продуктів. Деякі попередні попередження щодо штучного інтелекту критикувалися як перебільшені або спекулятивні. Однак навіть скептики повинні визнати, що біологічна безпека займає іншу категорію, ніж багато інших дебатів щодо штучного інтелекту. Коли потенційні наслідки включають масштабні втрати життів, розсудливість стає раціональною навіть в умовах невизначеності.

Для України ці питання не є абстрактними. Країна роками стикалася з нетрадиційними загрозами, дезінформаційними кампаніями та новими формами ведення війни. Досвід війни неодноразово демонстрував, що технологічні інновації можуть змінити баланс сил набагато швидше, ніж політичні інституції можуть адаптуватися. Дрони, супутниковий зв'язок та системи машинного навчання вже перетворили поле бою. Було б наївно вважати, що біотехнології залишаться ізольованими від подібного тиску.

Ширший урок полягає в тому, що штучний інтелект — це не просто технологія. Це мультиплікатор сили. Він розширює людські можливості майже в кожній інтелектуальній сфері. У медицині це може призвести до надзвичайних досягнень у діагностиці та лікуванні. У науці це може пришвидшити відкриття. В освіті це може демократизувати доступ до знань.

Однак кожен множник сили несе відповідні ризики. Ті самі системи, які допомагають досліднику знайти ліки, можуть допомогти зловмиснику зрозуміти небезпечні біологічні концепції швидше, ніж будь-коли раніше.

Отже, небезпека полягає не в самій машині, а в безпрецедентній доступності знань. Людство вступило в еру, в якій спеціалізовані знання все частіше можуть передаватись через звичайну розмову. Демократизація знань може стати одним із найбільших досягнень штучного інтелекту. Вона також може стати одним із найбільших викликів його безпеці.

Тому листа до Конгресу слід розуміти не як панікерське передбачення неминучої катастрофи, а як визнання фундаментальної реальності. Бар'єри, які колись відділяли звичайних людей від високоспеціалізованих наукових знань, послаблюються. У міру падіння цих бар'єрів суспільства повинні розробляти нові форми управління, здатні зберегти переваги наукового прогресу, одночасно зменшуючи можливості для катастрофічного зловживання.

Цей виклик може виявитися одним із визначальних політичних питань двадцять першого століття.