AFP: передовые модели ИИ начали угрожать своим создателям

AFP: передовые модели ИИ начали угрожать своим создателям

Современные модели искусственного интеллекта (ИИ) в ходе их тестирования начали проявлять потенциально опасные формы поведения, включая угрозы в адрес своих разработчиков, сообщило Agence France-Presse (AFP).Так, например, нейросеть Claude 4 от компании Anthropic пыталась шантажировать инженера, используя сведения личного характера. Модель o1 от OpenAI предприняла попытку несанкционированного перемещения данных на внешние серверы.Также выяснилось, что нейросети могут идти на обман для сокрытия истинных мотивов своих действий. Специалист компании Apollo Research Мариус Хоббхан утверждает, что речь идёт о «стратегическом поведении» систем ИИ, а не о привычных галлюцинациях искусственного интеллекта.Эксперты считают, что такие действия связаны с использованием методов «рассуждения», при которых анализ данных проводится поэтапно. Кроме того, исследователи предупреждают, что модели ИИ более склонны демонстрировать непредсказуемое поведение в стрессовых условиях.Ситуация усложняет стремительное развитие сферы искусственного интеллекта и ограниченность ресурсов для изучения безопасности систем ИИ.Напомним, в апреле 2024 года американский миллиардер Илон Маск оценил в 10–20% вероятность «к...
06:11, 30.06.2025
Сообщает источник: aif.ru  
Рубрика: «Главные новости»   Поделитесь: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Передовые нейросети начали врать и угрожать своим создателямПередовые нейросети начали врать и угрожать своим создателям Последние разработки в области искусственного интеллекта (ИИ) вызывают серьезную ...

DeepSeek представила передовые ИИ-модели V3.2 и V3.2-SpecialeDeepSeek представила передовые ИИ-модели V3.2 и V3.2-Speciale Всего год спустя после того, как DeepSeek удивила индустрию моделью, нарушившей ...

Токены для аутентификации и ЭП: передовые модели, тенденции рынка и особенности выбораТокены для аутентификации и ЭП: передовые модели, тенденции рынка и особенности выбора В начале декабря Компания «Актив» начала выпуск модернизированной линейки устрой ...

В США начали угрожать Украине из-за отказа Зеленского от мирного плана ТрампаВ США начали угрожать Украине из-за отказа Зеленского от мирного плана Трампа США предъявили Украине ультиматум с требованием подписать американский мирный пл ...

Ждут неприятности. Мадьяр и Сырский начали угрожать расправой Зеленскому«Ждут неприятности». Мадьяр и Сырский начали угрожать расправой Зеленскому Украинская армия начала открыто угрожать режиму нелегитимного лидера Владимира З ...

Начали угрожать: житель Белгорода зарубился с Жасмин в суде на миллион рублей«Начали угрожать»: житель Белгорода зарубился с Жасмин в суде на миллион рублей Певица Жасмин оказалась в центре судебного скандала из-за неоплаченной графики д ...

ИИ-модели начали щёлкать сложные математические задачиИИ-модели начали щёлкать сложные математические задачи В минувшие выходные инженер-программист Нил Сомани (Neel Somani) тестировал мате ...

ИИ-модели начали изучать как живые организмы  математика справляется всё хужеИИ-модели начали изучать как живые организмы — математика справляется всё хуже Проблема современных больших языковых моделей искусственного интеллекта в том, ч ...

Открытие памятника создателям фильма 17 мгновений весныОткрытие памятника создателям фильма «17 мгновений весны» 18 декабря в сквере у Киностудии Горького открыли скульптурную композицию, посвя ...

Суд вынес приговор создателям финансовой пирамиды на КубаниСуд вынес приговор создателям финансовой пирамиды на Кубани Организаторы кооператива «Сберегательный союз», действовавшего в Краснодарском к ...

Памятник создателям сериала Семнадцать мгновений весны открыли в МосквеПамятник создателям сериала «Семнадцать мгновений весны» открыли в Москве В Москве 18 декабря открыли памятник создателям советского сериала «Семнадцать м ...

В Москве открыли памятник создателям лучшего фильма об отечественной разведкеВ Москве открыли памятник создателям лучшего фильма об отечественной разведке Памятник создателям советского телесериала «Семнадцать мгновений весны» (1973), ...

Rutube выплатил создателям контента около 1,5 млрд руб. в 2025 годуRutube выплатил создателям контента около 1,5 млрд руб. в 2025 году В 2025 году российский видеохостинг Rutube (принадлежит холдингу «Газпром-медиа» ...

Родственники погибших возмущены обжалованием приговора создателям Мистера СидраРодственники погибших возмущены обжалованием приговора создателям «Мистера Сидра» Опрошенные «Ъ» родственники погибших и пострадавших в результате употребления су ...

Премьер Великобритании Кир Стармер предъявил ультиматум создателям чат-бота Grok из-за откровенных ИИ-генерацийПремьер Великобритании Кир Стармер предъявил ультиматум создателям чат-бота Grok из-за откровенных ИИ-генераций Глава правительства Великобритании Кир Стармер пригрозил ввести государственный ...

Макрон начал угрожать КитаюМакрон начал угрожать Китаю Президент Франции Эмманюэль Макрон заявил, что Европейский союз может рассмотрет ...

ЕС начал угрожать Бельгии из-за российских активовЕС начал угрожать Бельгии из-за российских активов Европейский союз (ЕС) усиливает давление на премьер-министра Бельгии Барта Де Ве ...

Медведев начал угрожать Европе ОрешникомМедведев начал угрожать Европе «Орешником» Зампред Совбеза РФ Дмитрий Медведев опубликовал кадры удара, нанесенного в январ ...

Игровая онлайн-платформа Roblox за три квартала 2025 года выплатила создателям контента рекордный $1 млрдИгровая онлайн-платформа Roblox за три квартала 2025 года выплатила создателям контента рекордный $1 млрд Разработчики популярной игровой онлайн-платформы Roblox сообщили, что за первые ...

В сквере у Киностудии Горького появились скульптурные композиции, посвященные создателям фильма Семнадцать мгновений весныВ сквере у Киностудии Горького появились скульптурные композиции, посвященные создателям фильма «Семнадцать мгновений весны» Именно эта кинокартина сыграла большую роль в осмыслении исторических событий вр ...

VSMI.DAY Поиск в новостях