Сэм Альтман не утверждает, что развитие искусственного интеллекта гарантирует полную безопасность на протяжении всего времени его существования. В ходе выступления на мероприятии Salesforce Dreamforce генеральный директор OpenAI отметил, что, по его мнению, определенное число происшествий неизбежно сопутствует внедрению новых технологий. Ключевым фактором он считает реакцию отрасли на подобные события.

«Я убежден, что при освоении инновационных технологий некоторая степень инцидентов является предсказуемой, — заявил Альтман. — Гораздо важнее для меня то, насколько эффективно у нас налажена система сообщения о происшествиях и извлечения полезных выводов из них».

В качестве примера он упомянул Федеральное управление гражданской авиацией (FAA) и Национальный совет по безопасности на транспорте (NTSB). Эти организации проводят детальные расследования каждого инцидента, и именно такая практика анализа и обучения является одним из основных факторов, обеспечивающих безопасность современных авиаперевозок.

Следует вспомнить, что Джейкоб Коксон, ранее работавший в Anthropic и OpenAI, покинул компанию и впоследствии начал публиковать сообщения в социальной сети X, выражая опасения относительно гонки вооружений в сфере искусственного интеллекта. это может привести к формированию систем, способных уничтожить человечество.

Альтман не стал приуменьшать существующие опасения, отметив, что беспокойство по поводу потери контроля над искусственным интеллектом или чрезмерного сосредоточения власти в нескольких исследовательских центрах вполне обосновано. «Мир имеет право на страх перед ИИ», — заявил он.

Опрос

ИИ приведёт человечество к гибели?

28 голосов