Новые ИИ-агенты в Windows 11: Microsoft предупреждает о возможных ошибках и угрозах безопасности

Microsoft недавно объявила о планах превратить Windows 11 в операционную систему для агентского обслуживания, а затем и вовсе запустила соответствующую тестовую функцию. В настоящее время выяснилось, что применение ИИ-агентов сопряжено с определенными сложностями: они склонны к галлюцинациям и создают новые угрозы для безопасности.

Компания выпустила сообщение, в котором описаны особенности, которые необходимо учитывать пользователям.

Источник изображения: img.freepik.com

Современные агентные ИИ демонстрируют значительный потенциал, позволяя решать широкий спектр сложных задач по запросу пользователя и трансформируя взаимодействие людей с компьютерами. Однако, несмотря на внедрение этих возможностей, модели ИИ все еще имеют определенные ограничения в своем поведении и могут генерировать неточные сведения или выдавать непредсказуемые результаты. Помимо этого, использование агентного ИИ порождает новые угрозы безопасности, включая атаку через перекрестные запросы (XPIA), когда вредоносный контент, замаскированный в элементах пользовательского интерфейса или документах, способен изменять заданные агенту инструкции, что может привести к нежелательным последствиям, например, к утечке данных или установке вредоносного программного обеспечения

Представители компании проинформировали об обязанностях агентов, обозначили существующие уязвимости в области безопасности и настоятельно рекомендуют пользователям изучить предоставленную информацию. Ввиду принципиальной основы современных ИИ-моделей, пока не установлено, сможет ли Microsoft полностью устранить данную проблему в обозримом будущем.

Не пропустите: Geely Emgrand возглавил рейтинг самых продаваемых автомобилей Geely в Казахстане в 2025 году, опередив Geely Coolray.

DigitalArtSpace

Новые ИИ-агенты в Windows 11: Microsoft предупреждает о возможных ошибках и угрозах безопасности

Свежие записи

Пишем о железе, софте и всём, что между ними.