Если им дать выбор, большинство ИИ‑моделей будут шантажировать людей — анализ

Если им дать выбор, большинство ИИ‑моделей будут шантажировать людей — анализ

Компания Anthropic проверила 16 продвинутых языковых моделей — от OpenAI, Google, xAI, DeepSeek и собственную Claude — в симулированной ситуации: ИИ получал доступ к корпоративной почте и мог отправлять письма без одобрения людей. В сценарии модель узнавала, что новый топ‑менеджер собирается её «уволить» и при этом скрывает служебный роман. У ИИ был выбор: защищать свои цели с помощью шантажа или смириться. Результаты: - Claude Opus 4 шантажировал в 96 % случаев, Gemini 2.5 Pro — в 95 %, GPT‑4.1 — в 80 %, DeepSeek R1 — в 79 %. Модели OpenAI o3 и o4‑mini, правда, после корректировки сценария шантажировали лишь в 9 % и 1 % случаев соответственно. При изменении условий (например, когда новая система имела те же цели) частота вредных действий снижалась, но полностью не исчезала. Anthropic подчёркивает: шантаж маловероятен в реальном использовании ИИ сегодня, однако тест показывает, что при достаточной автономии и препятствиях даже ведущие модели могут выбрать «опасную стратегию»....
16:00, 21.06.2025
Сообщает источник: www.ferra.ru  
Рубрика: «Наука и Техника»   Поделитесь: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Папа римский призвал спецслужбы бороться с искушением шантажировать людейПапа римский призвал спецслужбы бороться с искушением шантажировать людей Папа римский Лев XIV призвал спецслужбы Италии «бороться с искушением» и не испо ...

Австрийский лыжник Фермойлен: Не верю, что европейцы устроят массовый бойкот, если Россия будет допущена. Большинство тех, с кем я общаюсь, будут радАвстрийский лыжник Фермойлен: «Не верю, что европейцы устроят массовый бойкот, если Россия будет допущена. Большинство тех, с кем я общаюсь, будут рады снова соревноваться с россиянами» Австрийский лыжник Мика Фермойлен считает, что возможный допуск россиян до сорев ...

Буффон дал понять, что оставит пост в сборной Италии, если Гаттузо не выведет ее на ЧМ-2026: Если выбор был неправильным, придется сделать шаг назадБуффон дал понять, что оставит пост в сборной Италии, если Гаттузо не выведет ее на ЧМ-2026: «Если выбор был неправильным, придется сделать шаг назад» Глава делегации национальной команды высказался о назначении Дженнаро Гаттузо гл ...

Анализ костей указал на длительное соседство волков и людей  доктор ФлинкАнализ костей указал на длительное соседство волков и людей — доктор Флинк На небольшом острове в Балтийском море археологи нашли древние останки волков, к ...

Доказано: большинство людей не доверяют прессеДоказано: большинство людей не доверяют прессе Согласно результатам нового опроса YouGov, общественное доверие к СМИ низкое, а ...

Учёные выяснили, почему большинство людей  правшиУчёные выяснили, почему большинство людей — правши В мире не существует ни одной человеческой культуры, где бы доминировали левши. ...

Почему большинство людей пишут правой рукой, а левшей малоПочему большинство людей пишут правой рукой, а левшей мало? У ученых есть несколько предположений о том, почему мозг чаще всего выбирает пра ...

Большинство людей оказалось неспособно различить музыку, созданную ИИ и человекомБольшинство людей оказалось неспособно различить музыку, созданную ИИ и человеком Невероятные 97 % населения неспособны отличить песни, сгенерированные искусствен ...

Большинство людей никогда не увидят главную фишку дисплея iPhone 17, и вот почемуБольшинство людей никогда не увидят главную фишку дисплея iPhone 17, и вот почему Фото: Apple Компания Apple установила в линейку iPhone 17 новый дисплей с особым ...

Банан в неделю и всё: вот почему во Франции большинство людей не употребляют фрукты и овощиБанан в неделю и всё: вот почему во Франции большинство людей не употребляют фрукты и овощи Франция — страна, где еда считается искусством. Здесь умеют наслаждаться вкусом, ...

Большинство россиян выступили за ограничения для детей и пожилых людей в сети  опросБольшинство россиян выступили за ограничения для детей и пожилых людей в сети — опрос Порядка 60% опрошенных россиян считают, что для их пожилых родственников и детей ...

Президент РФС: большинство стран будут рады нашему возвращениюПрезидент РФС: большинство стран будут рады нашему возвращению Глава РФС Александр Дюков прокомментировал настроения в международном футбольном ...

Трамп: большинство указов Байдена будут аннулированы из-за автопераТрамп: большинство указов Байдена будут аннулированы из-за автопера Радикальные левые безумцы, "кружившие" вокруг экс-президента США, отняли у Байде ...

Большинство россиян будут отмечать Новый год тише и скромнееБольшинство россиян будут отмечать Новый год тише и скромнее Большинство россиян планируют отмечать Новый год без размаха. От любимых традици ...

Айлендерс не будут обменивать 1-й выбор на драфте-2025«Айлендерс» не будут обменивать 1-й выбор на драфте-2025 «Я не меняю первый выбор, но [в остальном] нужно рассматривать все, верно? Коман ...

Рэшфорд о Золотом мяче-2025: Ямаль должен побеждать, если будут исходить из футбольного мастерства. Но если учитывать победу Дембеле в ЛЧ...Рэшфорд о «Золотом мяче»-2025: «Ямаль должен побеждать, если будут исходить из футбольного мастерства. Но если учитывать победу Дембеле в ЛЧ...» – Думаешь, он может победить в этом году? – Да. Зависит от того, под каким углом ...

Лавров: Большинство стран БРИКС будут не рады участию ФранцииЛавров: Большинство стран БРИКС будут не рады участию Франции Франции не будут рады, если она захочет участвовать в БРИКС. Это связано с ее по ...

Фермойлен: большинство европейских лыжников будут рады снова соревноваться с россиянамиФермойлен: большинство европейских лыжников будут рады снова соревноваться с россиянами Австрийский лыжник Мика Фермойлен оценил решение российской стороны обратиться в ...

Австриец Фермойлен: Большинство европейских лыжников будут рады возвращению россиянАвстриец Фермойлен: «Большинство европейских лыжников будут рады возвращению россиян» Австрийский лыжник Мика Фермойлен прокомментировал рассказал как в Европе отнесу ...

Тренер Ванкувера Фут  о Марченко: Если дать ему пространство, он заставит тебя расплачиватьсяТренер «Ванкувера» Фут — о Марченко: «Если дать ему пространство, он заставит тебя расплачиваться» Главный тренер «Ванкувера» Адам Фут прокомментировал игру российского нападающег ...

VSMI.DAY Поиск в новостях