Microsoft предупреждает: ИИ-агенты в Windows 11 могут галлюцинировать и создают новые риски для безопасности

Microsoft предупреждает: ИИ-агенты в Windows 11 могут галлюцинировать и создают новые риски для безопасности

Компания Microsoft недавно заявила, что собирается сделать из Windows 11 агентскую ОС, а потом и вовсе запустила соответствующую тестовую функцию. Теперь вот оказалось, что с этими самыми ИИ-агентами есть проблемы: они галлюцинируют и в целом создают новые риски для безопасности. Компания опубликовала целое предупреждение о таких нюансах, которые пользователи должны учитывать. Создано Grok Сегодня агентный ИИ обладает мощными возможностями — например, он может выполнять множество сложных задач в ответ на запросы пользователя, преобразуя взаимодействие пользователей со своими компьютерами. Несмотря на внедрение этих возможностей, модели ИИ по-прежнему сталкиваются с функциональными ограничениями в плане своего поведения и иногда могут создавать галлюцинации и выдавать неожиданные результаты. Кроме того, приложения агентного ИИ создают новые риски безопасности, такие как внедрение через перекрестные запросы (XPIA), когда вредоносный контент, встроенный в элементы пользовательского интерфейса или документы, может переопределять инструкции агента, что приводит к непреднамеренным действиям, таким как кража данных или установка вредоносного ПО Компания объяс...
12:55, 01.12.2025
Сообщает источник: www.ixbt.com  
Рубрика: «Наука и Техника»   Поделитесь: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Microsoft предупреждает о рисках безопасности, связанных с ИИ-агентами в Windows 11Microsoft предупреждает о рисках безопасности, связанных с ИИ-агентами в Windows 11 Microsoft опубликовала важное предупреждение о будущих ИИ-агентах, которые вскор ...

Google предупредила о неисправленной Microsoft уязвимости в безопасности Windows 11Google предупредила о неисправленной Microsoft уязвимости в безопасности Windows 11 Команда безопасности Google Project Zero раскрыла подробности об уязвимости в Wi ...

Microsoft удалит антивирусы из ядра Windows ради большей безопасностиMicrosoft удалит антивирусы из ядра Windows ради большей безопасности Microsoft объявила о масштабной перестройке архитектуры безопасности Windows: ан ...

Microsoft исправила проблему с установкой первого платного обновления безопасности для Windows 10Microsoft исправила проблему с установкой первого платного обновления безопасности для Windows 10 Несколько дней назад Microsoft выпустила первое платное обновление безопасности ...

Microsoft представила новые возможности восстановления ОС WindowsMicrosoft представила новые возможности восстановления ОС Windows Новые инструменты позволяют восстанавливать устройства до рабочего состояния за ...

Microsoft представила новые способы восстановления Windows 11 на случай сбояMicrosoft представила новые способы восстановления Windows 11 на случай сбоя Операционная система Windows 11 получит несколько новых инструментов и функций в ...

Microsoft признала, что баги Windows 11 могут окрашивать игры и видео в красный и замораживать контент на экранеMicrosoft признала, что баги Windows 11 могут окрашивать игры и видео в красный и «замораживать» контент на экране Microsoft сообщила, что ей известно о проблеме, из-за которой некоторые видео ил ...

Первое платное обновление безопасности для Windows 10 принесло в старую ОС новые ошибкиПервое платное обновление безопасности для Windows 10 принесло в старую ОС новые ошибки Компания Microsoft подтвердила, что расследует сбой, из-за которого первое обнов ...

Microsoft снова сломала Windows: некоторые ПК с функцией System Guard Secure Launch не могут завершить работуMicrosoft снова сломала Windows: некоторые ПК с функцией System Guard Secure Launch не могут завершить работу Компания Microsoft очередным обновлением принесла пользователям новую проблему. ...

Microsoft заявила, что ПК с Windows 11 в 2,3 раза быстрее ПК с Windows 10 и привела сомнительные аргументыMicrosoft заявила, что ПК с Windows 11 в 2,3 раза быстрее ПК с Windows 10 и привела сомнительные аргументы Microsoft продолжает прилагать массу усилий, чтобы побудить пользователей к пере ...

Microsoft ускорила Проводник в Windows 11, но он всё равно медленнее и прожорливее, чем в Windows 10Microsoft ускорила «Проводник» в Windows 11, но он всё равно медленнее и прожорливее, чем в Windows 10 В прошлом месяце стало известно, что Microsoft планирует ускорить запуск « ...

Microsoft закроет дыры в Windows 10, но оставит Windows 7 на произвол хакерамMicrosoft закроет дыры в Windows 10, но оставит Windows 7 на произвол хакерам Исправляя уязвимости в Windows 10, Microsoft тем самым дает хакерам наводку, где ...

Microsoft продлит поддержку Windows 10, но понадобятся баллы Microsoft RewardsMicrosoft продлит поддержку Windows 10, но понадобятся баллы Microsoft Rewards Портал Windows Latest обратил внимание, что Microsoft продлевает поддержку Windo ...

Было в Windows 10, но в Windows 11 появится только сейчас. Microsoft вернёт функцию Agenda (Повестка дня)Было в Windows 10, но в Windows 11 появится только сейчас. Microsoft вернёт функцию Agenda («Повестка дня») В следующем обновлении Windows 11 появится полезная функция, которая была в Wind ...

Игры на Windows: Microsoft продолжает оптимизировать Windows 11 для геймингаИгры на Windows: Microsoft продолжает оптимизировать Windows 11 для гейминга В свежем блоге Microsoft рассказала о ряде улучшений Windows 11, которые компани ...

Пользователи не спешат отказываться от Windows 10 в пользу Windows 11: доля новейшей ОС упала, а больше не поддерживаемой ОС Microsoft  вырослаПользователи не спешат отказываться от Windows 10 в пользу Windows 11: доля новейшей ОС упала, а больше не поддерживаемой ОС Microsoft — выросла По статистике Statcounter по состоянию на начало декабря 2025 года, Windows 11, ...

Microsoft усложнила отказ от Windows 11 для пользователей Windows 10Microsoft усложнила отказ от Windows 11 для пользователей Windows 10 Microsoft уверяет: «Мы никого не заставляем переходить на Windows 11». Формально ...

Windows XP, Windows Vista, Windows 7, Windows 8.1, Windows 10 и Windows 11 сравнили по скорости, автономности и производительности. Windows 11 часто Windows XP, Windows Vista, Windows 7, Windows 8.1, Windows 10 и Windows 11 сравнили по скорости, автономности и производительности. Windows 11 часто была аутсайдером Автор канала TrigrZolt решил сравнить быстродействие всех основных версий операц ...

МИД РФ: попытки изъятия активов на Западе создают риски для всех странМИД РФ: попытки изъятия активов на Западе создают риски для всех стран В МИД России выразили мнение, что действия по конфискации государственных активо ...

МИД: попытки изъятия российских активов создают риски для всех государствМИД: попытки изъятия российских активов создают риски для всех государств Стремление западных стран изъять суверенные активы России формирует угрозы для в ...

VSMI.DAY Поиск в новостях