Microsoft объявила о новой стратегии противодействия дипфейкам

Microsoft представила детальный «план действий» для онлайн-среды: как подтверждать подлинность фотографий, видео и текстовых материалов. В его основе лежит комбинация трёх технологий: цифровые водяные знаки, метаданные и уникальные математические «отпечатки» для каждого файла.

Специалисты Microsoft провели анализ 60 различных комбинаций этих подходов, создавая модели, имитирующие ситуации, когда метаданные удаляются, а изображения подвергаются частичной модификации. В результате исследования стало ясно, что только комплексное использование методов позволяет платформам надёжно идентифицировать контент, в то время как отдельные инструменты способны дезинформировать пользователей. Следует учитывать, что эти технологии не устанавливают достоверность информации — они лишь указывают на то, что материал был изменён и каков его источник.

В связи с появлением новых нормативных актов, таких как AI Transparency Act в Калифорнии, который начнет действовать в августе, внедрение подобных стандартов приобретает особую значимость. Microsoft принимает участие в разработке этих правил, однако пока не предоставила гарантий, что будет применять собственные рекомендации в своих продуктах, включая Copilot, Azure и LinkedIn. При этом, эффективность данной инициативы напрямую зависит от готовности компаний отрасли к внедрению установленных стандартов.

Читать также:  SpaceX планирует вывести на орбиту миллион спутников с уникальными вычислительными возможностями и запросила на это разрешение.