Штучний інтелект може бути легко обманутий у пошуках життя

Людство володіє потужними інструментами у своєму когнітивному арсеналі. Мова, абстрактне мислення, теорія розуму та багато інших аспектів визначають, хто ми є як вид. Одним з найважливіших інструментів є розпізнавання шаблонів. Це вміння закладено в нашій свідомості, воно є основою нашої когнітивної структури.

Розпізнавання шаблонів працює на базовому, інстинктивному рівні, дозволяючи нам швидко реагувати на загрози нашому виживанню. Однак воно також функціонує повільніше і зосередженіше, коли вчені шукають шаблони у великих обсягах даних.

Проте програми розпізнавання шаблонів мають свої недоліки. Параїдолія — це феномен, коли ми бачимо шаблони, яких насправді не існує. Наприклад, ми можемо побачити обличчя на простій скелі, як це робили з Людиною на Місяці. Люди знаходили релігійні фігури у шматках хліба та знаходили сенс у зворотному прослуховуванні пісень.

Розпізнавання шаблонів, безсумнівно, є основою всього штучного інтелекту. Штучний інтелект здатен обробляти величезні обсяги даних набагато швидше, ніж люди, і виявляти значущі шаблони. Однак нові дослідження показують, що розпізнавання шаблонів штучним інтелектом також підлягає помилкам, так само як і у нас. Це дослідження демонструє, наскільки легко можна обманути штучний інтелект, коли йдеться про виявлення життя — завдання, яке буде важливим для майбутніх місій, що шукають життя на інших планетах.

Дослідження під назвою "Чи може ШІ виявити життя? Уроки з штучного життя" буде представлено в серпні на Конференції з штучного життя у Ватерлоо, Канада. Автори дослідження — Анкіт Гупта та Христоф Адомі з Університету штату Мічиган.

"Сучасні методи машинного навчання були запропоновані для виявлення життя в екзопланетних зразках, спираючись на їхню здатність розрізняти біотичні та абіотичні зразки на основі навчальних моделей, що використовують природні та синтетичні органічні молекули," пишуть Гупта та Адомі. Вони показують, що ці системи можуть з упевненістю стверджувати, що зразок, який вони вивчають, є живим організмом, навіть якщо це не так. "Це викликано схильністю сучасних методів машинного навчання легко обманюватися зразками, що виходять за межі їхньої розподілу."

Що таке зразок, що виходить за межі розподілу?

Системи машинного навчання навчаються на наборах даних, які мають неявні розподіли. Розгляньмо систему розпізнавання зображень, створену для визначення собак і котів. Усі типи собак і котів є частиною неявного розподілу. Але що станеться, якщо з'явиться кінь? Кінь — це "зразок, що виходить за межі розподілу". Чи скаже система ШІ з упевненістю, що кінь — це собака?

Це простий приклад, але що буде, якщо ШІ буде доручено розрізняти живе та неживе на молекулярному рівні?

"Оскільки екзопланетні зразки, ймовірно, виходять за межі розподілу, наданого наземними біотичними та абіотичними зразками, використання методів ШІ для виявлення життя, ймовірно, призведе до значних помилкових позитивів," пишуть автори.

У майбутніх місіях ШІ буде доручено виявлення життя. Оскільки ми не знаємо жодної універсальної хімічної біосигнатури, триває зусилля зрозуміти, які молекули можуть бути живими на основі основних властивостей життя.

"Одна з цих властивостей полягає в тому, що життя повинно кодувати інформацію," сказав співавтор дослідження Христоф Адомі в пресрелізі.

ДНК — це молекула, що має ланцюгову структуру, яка кодує та передає інформацію. Дослідники використали цей факт, щоб перевірити, наскільки добре ШІ може розрізняти молекули, які можуть обробляти інформацію, і ті, що не можуть. Ті, що можуть, є живими, а ті, що не можуть, — ні.

Для цього дослідження було використано програмне забезпечення під назвою Avida Digital Evolution Platform (Avida). Це платформа штучного життя, яку науковці використовують для вивчення еволюційної біології. З Avida дослідники створюють цифрові організми — самовідтворювальні комп'ютерні програми, які мутують, конкурують за ресурси та еволюціонують штучно. Це потужний інструмент, оскільки науковці можуть вивчати природний відбір та адаптацію в межах комп'ютера.

Усередині цього мікропроцесорного петрі-диска цифрові організми самовідтворюються знову і знову, і щоразу виникає невелика помилка або мутація. Комп'ютерний код трохи змінюється, так само як і генетичний код живих організмів.

Дослідники почали з генерації десятків тисяч цифрових організмів. Деякі з них містили інструкції, які дозволяли їм самовідтворюватися, деякі — ні. Ці організми утворювали зразок розподілу, а дослідники навчали свою нейронну мережу розрізняти їх як живі або неживі. Нейронна мережа правильно розрізняла обидва типи з точністю 99,7%.

Після встановлення цього зразка дослідники потім вводили зразки, що виходили за межі розподілу, молекули, на яких нейронна мережа не була навчена.

"Тут ми використовуємо штучне життя, щоб перевірити, чи може класифікатор ШІ ... бути обманутий в неправильної класифікації потенційної молекули-біомаркера, що є полімером, побудованим з певного алфавіту," пишуть дослідники.

Вони почали з введення в нейронну мережу цифрового організму, який вона легко розпізнала як такий, що не може самовідтворюватися. Потім вони поступово замінювали частини коду організму, які заважали йому відтворюватися. ШІ заплуталась, і всього за 150 змін у коді вона впевнено заявила, що виявила життя, хоча цифровий організм не міг відтворитися. "Ми виявили, що всі запуски призводили до 100% впевненості в обмані вже після 150 запитів моделі," пишуть автори.

"Незалежно від того, яку послідовність команд ми починали, ми змогли обманути ШІ 100% часу," сказав Гупта, аспірант з комп'ютерних наук та інженерії в МСУ.

Існує величезна кількість послідовностей команд, які можуть обманути систему. "Отже, ймовірність зустріти таку послідовність є значною," додав Адомі.

Уявіть собі ровера на астробіологічній місії на Марсі або в іншому місці. Його ШІ навчено на даних з живих організмів Землі. Існує велика ймовірність, що він зустріне щось, що виходить за межі його зразка розподілу. Тоді він може стверджувати, що виявив життя, навіть якщо це не так. Ми дізнаємося про це лише пізніше, після перевірки даних людьми.

"У ШІ є ахіллесова пята," сказав головний автор Адомі. "Він може бачити шаблон і повністю неправильно його класифікувати." Його слова мають вагу. Адомі є не лише професором у відділах мікробіології та молекулярної генетики, а також фізики та астрономії в МСУ, але й одним з оригінальних розробників програмного забезпечення Avida.

Наступним кроком дослідників є навчання їхнього ШІ на реальних даних і перевірка, наскільки легко його обманути.

Багато з нас використовували LLM і бачили, як він надмірно впевнений у чомусь, що не є правдою. Це може не мати великого значення, коли йдеться про пошук ресторану в незнайомому місті або запит про вулканізований каучук. Але коли він грає провідну роль у багатомільярдній науковій місії на іншу планету, ставки значно вищі.

"Ми приходимо до висновку, що якщо помилкові позитиви (помилкові високо впевнені фіксовані точки) переважають над справжніми позитивами в зразках з екзопланетних вимірювань (оскільки вони знаходяться за межами розподілу, на якому навчався ШІ), ми ризикуємо прийняти високо впевнені класифікації за чисту монету," пояснюють автори.

Це дослідження підкреслює очевидну істину: ШІ потребує перевірки фактів. Це не означає, що ШІ не має цінності, просто він має свої обмеження.

"Вам потрібен незалежний спосіб перевірки їхньої роботи," сказав Адомі. "Необхідна людина в процесі."

Це може бути дуже складно реалізувати під час космічних місій. Ровер Perseverance збирає та зберігає зразки для можливого повернення на Землю. Що, якби інший, більш просунутий ровер зробив те ж саме, але використовував ШІ для виявлення ознак інопланетного життя у своїх зразках? Хоча це викликало б захоплення, ми б дізналися правду лише після повернення зразків в лабораторії на Землі.

Помилковий позитив був би більше ніж незручністю. Це могло б бути руйнівним. "Це дуже серйозна вразливість," сказав Адомі.

"Якщо підтверджена вразливість методів ШІ до помилок з високою впевненістю, що виходять за межі розподілу, буде застосована до пошуку життя, використання таких методів у космічних місіях має високий ризик підірвати довіру суспільства до астробіологічних місій," підсумовують автори.