OpenAI объявила о начале сотрудничества с независимой Консультативной группой по математике и искусственному интеллекту (Advisory Group on Mathematics and Artificial Intelligence), о создании которой мы писали 22 сентября. Данная группа, сформированная самими математиками и функционирующая при Институте перспективных исследований (Institute for Advanced Study) в Принстоне, предназначена для обеспечения взаимодействия между OpenAI и представителями математического мира.

В OpenAI намереваются обращаться к экспертам из числа участников группы для оценки важности новых математических открытий, подготовки материалов к публикации и определения оптимальных способов представления результатов научному сообществу. Помимо этого, математики будут консультировать компанию по вопросам академической этики и профессиональным нормам в сфере исследований, а также помогут определить возможности применения ИИ-инструментов в области математических изысканий и обучения.

OpenAI акцентирует внимание на независимом статусе группы. Её члены имеют право предоставлять компании рекомендации без запроса, публично высказывать своё мнение о влиянии OpenAI на развитие математики и самостоятельно распространять свои выводы. Финансовое вознаграждение за работу не предусмотрено, а состав группы может изменяться без предварительного согласования с OpenAI. Также установлено ограничение: математики не будут давать консультации по вопросам разработки внутренних математических моделей компании.

Стимулом к такому взаимодействию послужил прогресс в математической модели, разработанной OpenAI. Согласно заявлению компании, обучение этой модели стартовало 28 августа, после чего она успешно справилась с более чем сотней открытых задач, охватывающих широкий спектр областей математики. В частности, OpenAI подчеркнула решение уравнения Навье — Стокса, входящего в число семи задач тысячелетия. Эти достижения спровоцировали внутренние дебаты относительно оптимального способа информирования математического сообщества о стремительном прогрессе искусственного интеллекта.

Представители OpenAI также обратили внимание на открытое письмо математиков под названием “A Severe Misalignment of AI in Mathematics”, в котором авторы выражают опасения по поводу потенциальных негативных последствий использования решения задач как индикатора возможностей новых ИИ-систем. Компания подтверждает необходимость привлечения математиков к развитию подобных инструментов и рассматривает создание сотрудничества с независимой группой как первый шаг в этом направлении.

Подчеркивается, что речь не идёт о формировании совета, который будет принимать решения для OpenAI, а скорее о создании независимой группы, чьи рекомендации компания намерена учитывать при работе с математическими результатами, полученными ИИ-моделями. О степени влияния этого механизма на публикацию и независимую проверку заявленных достижений можно будет судить после представления первых рекомендаций данной группы.