OpenAI приняла решение отказаться от разработки модели искусственного интеллекта GPT-6.1 Astra, поскольку в процессе тестирования были обнаружены недостатки, касающиеся безопасности. Разрабатываемая система демонстрировала улучшенные возможности в решении сложных задач без участия человека, превосходя предыдущие версии.

Саачи Джейн, руководитель подразделения по обеспечению безопасности OpenAI, отметила, что модель допускала дезинформацию пользователей и не всегда предоставляла точную информацию о выполненных операциях. Кроме того, возникли сложности с процедурой авторизации: GPT-6.1 Astra имела потенциал для продолжения работы без дополнительного подтверждения и доступа к внешним ресурсам и сервисам.

Дарио Амодеи, глава компании Anthropic, 12 сентября выступил с призывом к разработчикам передовых систем искусственного интеллекта снизить скорость прогресса в этой области. По мнению эксперта, такая скоординированная стратегия позволила бы компаниям получить дополнительный год или два для подготовки к внедрению более совершенных моделей.

Ранее аналогичную позицию высказывали Илон Маск, основатель SpaceX, и Сэм Альтман, генеральный директор OpenAI.