Microsoft представила инструменты для защиты конфиденциальности в больших языковых моделях

Microsoft представила инструменты для защиты конфиденциальности в больших языковых моделях

Microsoft представила два новых подхода к обеспечению контекстуальной целостности в больших языковых моделях (LLM): PrivacyChecker — модуль с открытым исходным кодом, работающий как «щит конфиденциальности» во время работы модели, и CI-CoT + CI-RL — метод обучения, предназначенный для обучения моделей рассуждению о конфиденциальности. Контекстуальная целостность определяет конфиденциальность как уместность потоков информации в конкретных социальных контекстах, то есть раскрытие только той информации, которая строго необходима для выполнения данной задачи, например, записи на приём к врачу. По мнению исследователей Microsoft, современные LLM не обладают подобным контекстуальным осознанием и могут раскрывать конфиденциальную информацию, подрывая доверие пользователей. Первый подход фокусируется на проверках во время работы модели. Эти проверки представляют собой «щит», оценивающий информацию на нескольких этапах жизненного цикла запроса. Исследователи предоставили эталонную реализацию библиотеки PrivacyChecker, которая интегрируется с глобальным запросом, а также с конкретными вызовами инструментов, и может использоваться как шлюз при вызове внешни...
10:33, 03.01.2026
Сообщает источник: www.ixbt.com  
Рубрика: «Наука и Техника»   Поделитесь: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Поэтический джейлбрейк: стихи оказались ключом к обходу ограничений больших языковых моделей«Поэтический джейлбрейк»: стихи оказались ключом к обходу ограничений больших языковых моделей Учёные обнаружили, что большие языковые модели (LLM), такие как GPT-4, можно обм ...

Группа Rubytech и Just AI представят готовое решение для запуска и использования больших языковых моделей (LLM) в on-premise инфраструктуреГруппа Rubytech и Just AI представят готовое решение для запуска и использования больших языковых моделей (LLM) в on-premise инфраструктуре Скала^р (Группа Rubytech) и разработчик ИИ-решений Just AI подписали соглашение ...

Ассоциация больших данных представила Стратегию развития рынка больших данных 2030Ассоциация больших данных представила Стратегию развития рынка больших данных 2030 20 ноября 2025 года в рамках международной конференции по искусственному интелле ...

Доцент Щербаченко перечислил инструменты для защиты от мошенниковДоцент Щербаченко перечислил инструменты для защиты от мошенников Доцент Финансового университета при правительстве России Пётр Щербаченко перечис ...

Microsoft интегрирует мощные AI-инструменты в Word, Excel и PowerPointMicrosoft интегрирует мощные AI-инструменты в Word, Excel и PowerPoint Большинство новых функций связаны с Copilot. В ближайшее время AI-чат в приложен ...

Война с читерами только начинается: в Battlefield 6 появятся новые инструменты защитыВойна с читерами только начинается: в Battlefield 6 появятся новые инструменты защиты EA заявляет, что многоуровневая защита от читеров будет совершенствоваться, а иг ...

Google представила новые ИИ-инструменты для образованияGoogle представила новые ИИ-инструменты для образования На конференции ISTE технологический гигант анонсировал масштабное обновление обр ...

Figma представила новые инструменты AI-редактирования изображенийFigma представила новые инструменты AI-редактирования изображений Figma добавила в свою платформу новые функции редактирования изображений на базе ...

Ассоциация больших данных представила Стратегию развития рынка до 2030 годаАссоциация больших данных представила Стратегию развития рынка до 2030 года Ассоциация больших данных (объединяет в том числе «Яндекс», VK и «Сбер») предста ...

Thermalright представила один из самых больших процессорных кулеров. Frost Tower 140 оснащён двумя разными вентиляторамиThermalright представила один из самых больших процессорных кулеров. Frost Tower 140 оснащён двумя разными вентиляторами Компания Thermalright представила флагманский процессорный кулер Frost Tower 140 ...

Microsoft представляет Windows Cloud Keyboard Input Protection для защиты удалённых рабочих столовMicrosoft представляет Windows Cloud Keyboard Input Protection для защиты удалённых рабочих столов Функция обеспечивает шифрование ввода с клавиатуры на уровне ядра устройства и р ...

Samsung представила новые системы защиты в One UI 8Samsung представила новые системы защиты в One UI 8 Сегодня Samsung официально представила новый набор функций безопасности и конфид ...

Microsoft представила бесконечный Office 2019Microsoft представила «бесконечный» Office 2019 Microsoft официально объявила о работе над новым Office 2019. Новый офисный паке ...

Microsoft представила 4D-коды для квантовых компьютеровMicrosoft представила 4D-коды для квантовых компьютеров Исследователи Microsoft разработали новый тип квантовых кодов исправления ошибок ...

Meta представила новый инструмент для защиты Reels от плагиатаMeta представила новый инструмент для защиты Reels от плагиата Компания Meta представила новый инструмент для защиты авторского контента в форм ...

Microsoft представила обновление Windows 11 версии 25H2Microsoft представила обновление Windows 11 версии 25H2 Первые слухи о Windows 12 появились еще в 2023 году, но на смену текущей версии ...

Microsoft представила новые возможности восстановления ОС WindowsMicrosoft представила новые возможности восстановления ОС Windows Новые инструменты позволяют восстанавливать устройства до рабочего состояния за ...

Thermal Grizzly представила WireView Pro II  устройство мониторинга и защиты 12V-2x6 (обновление)Thermal Grizzly представила WireView Pro II — устройство мониторинга и защиты 12V-2x6 (обновление) Мы неоднократно писали о проблемах разъёма 12VHPWR/12V-2x6 , спецификация которо ...

На случай сбоя: Microsoft представила облачное восстановление Windows 11На случай сбоя: Microsoft представила облачное восстановление Windows 11 В ходе технологической конференции Ignite 2025, организованной Microsoft, компан ...

Microsoft представила Agent Launchers для регистрации ИИ-агентов в Windows 11Microsoft представила Agent Launchers для регистрации ИИ-агентов в Windows 11 Microsoft представила новый фреймворк под названием Agent Launchers, который поз ...

VSMI.DAY Поиск в новостях