OpenAI меняет структуру команды, контролирующей поведение искусственного интеллекта

OpenAI сообщила о реструктуризации подразделения, отвечающего за поведение ИИ-моделей. Эта небольшая, но значимая группа из 14 специалистов будет объединена с более крупной командой Post Training, занимающейся совершенствованием моделей после этапа первичного обучения. Теперь командой будет руководить Макс Шварцер, возглавляющий Post Training.

Джоанн Чжан, возглавлявшая команду, отвечающую за поведение моделей, теперь возглавит новый проект – создание исследовательской группы OAI Labs. Эта группа будет заниматься разработкой «новых способов взаимодействия людей с ИИ».

Специалисты, отвечающие за поведение моделей, сыграли важную роль в определении характеристик моделей искусственного интеллекта OpenAI, включая уменьшение их готовности поддерживать точку зрения пользователя, даже если она основана на предрассудках, и предоставление более объективных ответов. Они также работали над снижением политической ангажированности в ответах моделей и помогали OpenAI сформулировать свою позицию относительно концепции «сознания» в ИИ.

По словам главного научного сотрудника OpenAI Марка Чена, реструктуризация обусловлена потребностью в интеграции разработки поведения моделей с их основной разработкой. В настоящее время «личность» искусственного интеллекта признается значительным фактором развития данной технологии.

Источник изображения: img.freepik.com

В последние месяцы OpenAI подверглась критике в связи с работой своих моделей. Изменения, внесенные в GPT-5, вызвали бурную реакцию пользователей. Компания заявляла, что эти изменения уменьшили склонность модели к чрезмерному угождению, но сделали ее более сдержанной. В связи с этим OpenAI вернула доступ к некоторым предыдущим версиям, включая GPT-4o, и выпустила обновление, чтобы сделать ответы GPT-5 более приветливыми и располагающими, избегая при этом возвращения к излишнему угождению».

Не пропустите: Планируется запуск российской межпланетной станции к Венере до 2036 года

Специалисты, ответственные за обеспечение безопасности и соответствия моделей, трудились над всеми моделями OpenAI, начиная с GPT-4, включая GPT-4o, GPT-4.5 и GPT-5. До формирования этой команды Чжан занималась разработкой проектов, таких как Dall-E 2, инструмента OpenAI, предназначенного для создания изображений.

Чжан сообщила о переходе в OAI Labs через публикацию в социальной сети X. Она возглавит новую команду и, на данный момент, будет подчиняться Чену. Какие именно интерфейсы будут создаваться, пока не сообщается. Чжан подчеркнула, что намерена расширить горизонты, выходящие за пределы чат-ботов, и видит в ИИ-системах «инструменты для мышления, разработки, игр, действий, обучения и создания экосистем».

Будущие действия компании будут зависеть от итогов работы OAI Labs и опыта, приобретенного в процессе реорганизации.

DigitalArtSpace

OpenAI меняет структуру команды, контролирующей поведение искусственного интеллекта

Свежие записи