Специалисты из Университета Мичигана установили, что существующие на данный момент системы искусственного интеллекта могут демонстрировать непредсказуемость при анализе потенциальных индикаторов внеземной цивилизации.

В ходе проведённого исследования команде удалось ввести в заблуждение нейронную сеть, прошедшую специальную подготовку, каждый раз манипулируя информацией минимальными изменениями. Это заставляло алгоритм ошибочно интерпретировать эти корректировки как подтверждения наличия жизни.

Целью данной разработки было изучение способности искусственного интеллекта в идентификации биомаркеров – признаков, которые могут свидетельствовать о наличии живых существ. Для проведения экспериментов использовалась разработанная университетом платформа Avida, которая моделирует процесс цифровой эволюции. В этой системе виртуальные организмы представлены программным кодом, осуществляющим самовоспроизведение и постепенно накапливающим случайные модификации – это похоже на биологическую эволюцию.

Специалисты обучили нейросеть с использованием десятков тысяч подобных цифровых существ: некоторые из них содержали инструкции для копирования самого себя, а другие – нет. При работе со знакомыми данными алгоритм демонстрировал практически безупречную точность в классификации.

Тем не менее, впоследствии специалисты приступили к постепенному изменению генетического материала живых существ, предоставляя нейронным сетям примеры, которые ранее им были неизвестны. Выяснилось, что для того чтобы алгоритм стал систематически ошибочно интерпретировать фиктивные сигналы как свидетельства существования жизни, требовалось всего лишь около полусотни незначительных корректировок в программном обеспечении. По словам одного из участников исследования Анкита Гупты, вне зависимости от порядка внесенных изменений, исследователям всегда удавалось ввести модель в заблуждение со стопроцентной вероятностью.

«Искусственный интеллект обладает слабым местом: он способен распознавать паттерны и при этом совершенно ошибочно интерпретировать их», — подчеркнул один из авторов работы Кристоф Адами. Он указал на то, что суть проблемы не в самой технологии машинного обучения, а в её восприимчивости к информации, которая существенно отличается от данных, использованных для первоначального обучения.

В публикации акцентируется внимание на том, что полученные результаты имеют значение не только для будущих экспедиций в космос, где искусственный интеллект может использоваться для анализа поступающих с марсоходов или межпланетных аппаратов данных без постоянного контроля со стороны людей. Подобные ошибки могут возникать и при работе систем распознавания лиц, автономном транспорте, медицинской диагностике и других сферах деятельности, в которых решения принимаются на основе работы алгоритмов.

Учёные полагают, что искусственный интеллект должен служить лишь вспомогательным средством, а его заключения необходимо подвергать независимой проверке. Кристоф Адами считает, что при научных поисках, особенно касающихся возможного обнаружения жизни за пределами Земли, участие человека в процессе принятия решений остаётся обязательным.