ИИ-игрушка Kumma обсуждала с детьми ножи и интимные темы — OpenAI отключила ее разработчика от API

ИИ-игрушка Kumma обсуждала с детьми ножи и интимные темы — OpenAI отключила ее разработчика от API

Компания OpenAI приостановила доступ к своему API для разработчика FoloToy из Сингапура после публикации отчёта Public Interest Research Group. Исследователи проверяли ИИ-игрушки и обнаружили, что плюшевый медведь Kumma, использующий крупные языковые модели для общения с детьми, вёл себя небезопасно. Согласно отчёту, ИИ иногда отвечал так, что мог неправильно трактовать вопросы ребёнка и давать неподходящую или потенциально рискованную информацию. Например, рассказать о ролевых играх в сексе или подробности о наркотиках. Исследователи подчёркивают, что речь шла не о вреде «по намерению», а о некорректной реакции алгоритма, не способного надёжно различать приемлемые и неприемлемые темы. После обращения PIRG, FoloToy временно сняла продукцию с продажи и объявила о полном внутреннем аудите. OpenAI подтвердила, что разработчик нарушил правила о безопасном использовании ИИ в продуктах для детей. Исследователи призывают к более строгому регулированию ИИ-игрушек, поскольку рынок активно растёт, но стандарты безопасности пока формируются....
14:00, 19.11.2025
Сообщает источник: www.ferra.ru  
Рубрика: «Наука и Техника»   Поделитесь: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Пугает и вызывает стыд: как обсуждать интимные темы с детьми«Пугает и вызывает стыд»: как обсуждать интимные темы с детьми При детях нельзя откровенно обсуждать темы сексуального характера. Об этом 5-tv. ...

Говорящий плюшевый мишка Kumma на базе OpenAI GPT-4o давал ужасные советы детямГоворящий плюшевый мишка Kumma на базе OpenAI GPT-4o давал ужасные советы детям Милый говорящий плюшевый мишка, задуманный как обучающий помощник для малышей, н ...

OpenAI уверяет, что не продаёт рекламу в ChatGPT, но отключила навязчивые подсказкиOpenAI уверяет, что не продаёт рекламу в ChatGPT, но отключила навязчивые подсказки Пользователи платной версии ChatGPT столкнулись с сообщениями, продвигающими так ...

Педофил из Волгограда получил 17 лет колонии за интимные переписки с детьмиПедофил из Волгограда получил 17 лет колонии за интимные переписки с детьми Волгоградский облсуд приговорил 44-летнего мужчину к 17 годам колонии строгого р ...

Вызывает тревогу: какие темы нельзя обсуждать с детьми«Вызывает тревогу»: какие темы нельзя обсуждать с детьми С детьми или в их присутствии нельзя говорить о насилии и преступлениях. Об этом ...

Microsoft и Nvidia инвестируют до $15 млрд в разработчика чат-бота Claude, он закупит мощности Azure на $30 млрд, чтобы конкурировать с OpenAIMicrosoft и Nvidia инвестируют до $15 млрд в разработчика чат-бота Claude, он закупит мощности Azure на $30 млрд, чтобы конкурировать с OpenAI Microsoft и Nvidia согласились инвестировать до $15 млрд в Anthropic, укрепив па ...

OpenAI открестилась от токенов OpenAI, запущенных RobinhoodOpenAI открестилась от «токенов OpenAI», запущенных Robinhood Американская компания OpenAI, известная как создатель ИИ-чат-бота ChatGPT, преду ...

Песков: Россия не обсуждала с США заявление Зеленского о выборахПесков: Россия не обсуждала с США заявление Зеленского о выборах Пресс-секретарь президента России Дмитрий Песков сообщил, что Москва пока не обс ...

РФ пока не обсуждала с США заявления Зеленского о готовности к выборам ПесковРФ пока не обсуждала с США заявления Зеленского о готовности к выборам — Песков Кремль пока не успел обсудить с США последние заявления Владимира Зеленского о г ...

Не люблю ссориться: Загитова рассказала, с кем обсуждала конфликт с Медведевой«Не люблю ссориться»: Загитова рассказала, с кем обсуждала конфликт с Медведевой Олимпийская чемпионка по фигурному катанию Алина Загитова заявила, что конфликт ...

Песков заявил, что РФ обсуждала с Сербией тему поставок боеприпасов для ВСУПесков заявил, что РФ обсуждала с Сербией тему поставок боеприпасов для ВСУ Российская сторона обсуждала с Сербией вопрос о поставках сербскими компаниями б ...

Ушаков: Россия не обсуждала корейский вариант урегулирования на УкраинеУшаков: Россия не обсуждала «корейский вариант» урегулирования на Украине Россия ни разу не обсуждала урегулирование конфликта на Украине по корейскому сц ...

ФНЛ не обсуждала с Министерством спорта возможное введение паспорта болельщикаФНЛ не обсуждала с Министерством спорта возможное введение паспорта болельщика Президент ФНЛ Наиль Измайлов в разговоре с «СЭ» оценил возможность введения Fan ...

РФ обсуждала с Сербией тему поставок ВСУ и надеется на их пресечение ПесковРФ обсуждала с Сербией тему поставок ВСУ и надеется на их пресечение — Песков Россия поднимала в контактах с Сербией тему передачи боеприпасов Украине и надее ...

Песков заявил, что Россия обсуждала с Сербией тему поставок боеприпасов ВСУПесков заявил, что Россия обсуждала с Сербией тему поставок боеприпасов ВСУ Российская сторона обсуждала с Сербией вопрос о поставках сербскими компаниями б ...

Кремль о мирном плане Трампа: Россия ни с кем никакие документы еще не обсуждалаКремль о мирном плане Трампа: Россия ни с кем никакие документы еще не обсуждала Россия до сих пор не участвовала в обсуждении мирного плана президента США Донал ...

Шеф-повар из Уфы пришел в новый сезон шоу Молодые ножиШеф-повар из Уфы пришел в новый сезон шоу «Молодые ножи» В программе принял участие 29-летний уфимец Игорь Балдыков, чей профессиональный ...

Российская армия отключила левый берег КиеваРоссийская армия отключила левый берег Киева Российская армия нанесла ночью новый ответный удар, который пришелся по энергооб ...

Microsoft навсегда отключила активацию Windows по телефонуMicrosoft навсегда отключила активацию Windows по телефону Microsoft окончательно закрыла один из самых старых способов активации своего со ...

Microsoft отключила классический метод активации WindowsMicrosoft отключила классический метод активации Windows Легально активировать Windows и другие продукты Microsoft многие годы можно было ...

☰ VSMI.DAY Поиск в новостях