DigitalArtSpace

Власти Индии потребовали от компании X, принадлежащей Илону Маску, доработать работу ИИ-чатбота Grok, поскольку он генерирует контент, содержащий нецензурную лексику. Индийское министерство информационных технологий предоставило платформе 72 часа на исправление выявленных недочетов.

Жалобы пользователей и депутатов, касающиеся использования Grok для создания непристойных изображений, включая сгенерированные и изменённые фотографии женщин, послужили причиной обращения министерства в X. Ведомство потребовало от компании предпринять шаги для предотвращения создания контента, включающего «наготу, сексуализацию, материалы сексуального характера или другие противозаконные материалы».

X обязана представить отчёт о принятых мерах по недопущению размещения и распространению контента, содержащего непристойные материалы, в течение 72 часов. В противном случае это может повлечь за собой отказ в юридической защите платформы, о чём предупредили представители власти.

Член парламента Индии Приянка Чатурведи обратилась с официальной жалобой, указав на случаи использования Grok для манипулирования изображениями людей, преимущественно женщин, с целью создания их фотографий в бикини. Она призвала разработчиков ИИ-чатботов ввести соответствующие ограничения, чтобы предотвратить использование подобных инструментов в целях, унижающих человеческое достоинство.

Пользователи также отмечали случаи создания сексуально откровенных изображений, в которых присутствуют несовершеннолетние. Компания X подтвердила наличие данной проблемы и сообщила об удалении сгенерированных изображений, а также призвала пользователей информировать о подобных инцидентах в Федеральное бюро расследований или Национальный центр пропавших без вести и эксплуатируемых детей).

Индийское министерство информационных технологий подчеркнуло, что для сохранения юридической защиты от ответственности за контент, создаваемый пользователями, необходимо соблюдать местные законы, касающиеся непристойных и откровенно сексуальных материалов. Представители власти призвали компании усилить меры безопасности и предупредили о возможности применения юридических санкций в случае их несоблюдения.

Индия входит в число крупнейших площадок для цифрового бизнеса.

Похожие статьи

Новый алгоритм Дарвина-Гёделя учит искусственный интеллект самостоятельно программировать.

В США производят эффективные процессоры: тайванские чипы TSMC возвращаются на родину для завершения производства.

В продаже — новая Lada Granta с увеличенным дорожным просветом

Новые модели Kia могут появиться на российском рынке.

Недорогой аналог Toyota Camry с пробегом более 2000 км завоевал популярность

Рамный внедорожник BAW 212 T01 с мощным двигателем: «Китайский УАЗ» с комфортом.