Более двухсот ученых, включая десять Нобелевских лауреатов, обратились в ООН с призывом к установлению обязательных юридических ограничений для развития искусственного интеллекта.

На заседании Генеральной Ассамблеи ООН в Нью-Йорке официально объявили о создании самой масштабной на текущий момент коалиции сторонников «Глобального призыва к красным линиям в области ИИ». Более 200 представителей из различных стран и ведущих отраслей поддержали документ, устанавливающий международные ограничения на потенциально опасное использование искусственного интеллекта.

В число подписавших документ вошли десять лауреатов Нобелевской премии, в том числе известные специалисты в сфере искусственного интеллекта, такие как Джеффри Хинтон и Йошуа Бенджио, а также Войцех Заремба, один из основателей OpenAI. Политические деятели, присоединившиеся к инициативе, включают бывших глав государств, среди которых Мэри Робинсон (Ирландия) и Хуан Мануэль Сантос (бывший президент Колумбии).

Источник изображения: img.freepik.com

Главная задача данной инициативы – достижение на международном уровне соглашения о юридически закреплённых принципиальных ограничениях – чётких границ, которые нельзя переступать при развитии и использовании искусственного интеллекта, поскольку их нарушение может привести к существенному ущербу для человечества и международной стабильности. Окончательный перечень таких ограничений ещё не определён, однако в качестве примеров предлагаются: запрет на автономное управление ядерными вооружениями, использование ИИ в производстве оружия без существенного участия человека, применение ИИ для масштабного наблюдения и оценки социальных рейтингов, а также создание систем, способных к бесконтрольному самовоспроизведению.

Не пропустите: В Москве в навигатор 2ГИС интегрировали информацию о времени работы светофоров.

Авторы настоятельно рекомендуют государствам достичь договоренности по этим правилам до конца 2026 года и сформировать международную независимую структуру, которая будет контролировать соблюдение соглашений, своевременно оценивать возникающие риски и разрабатывать предложения по реагированию.

В опубликованном заявлении отмечается, что неконтролируемое развитие искусственного интеллекта способно повлечь за собой серьёзные негативные последствия, такие как широкая потеря рабочих мест, искусственно вызванные эпидемии, грубые нарушения прав человека и утрата возможности управлять технологией.

Без принятия необходимых мер в надлежащие сроки, управление искусственным интеллектом может оказаться невозможным, что создаст угрозу для основ нашего общества

говорится в документе

Инициатива привлекла значительное внимание общественности и специалистов, став крупнейшей кампанией подобного формата на текущий момент. В последующие месяцы вопросы детализации и внедрения обозначенных «красных линий» в международные нормы и правовые акты будут рассматриваться на международных площадках и в рабочих группах.

DigitalArtSpace

Свежие записи

Пишем о железе, софте и всём, что между ними.