Плюшевый медведь с ИИ провалился — он начал болтать на фривольные и опасные темы, продажи остановлены

Поскольку однообразные цилиндрические «умные колонки» ориентированы на диалог с более взрослой аудиторией, производители игрушек решили взять на вооружение ИИ для освоения привычного рынка в новом качестве. Пример сингапурской FoloToy показывает, что без необходимой цензуры подобные инициативы могут завершиться рыночным провалом.

Hollow Knight: Silksong — песнь страданий и радостей. Рецензия

Пять главных фишек камеры HONOR Magic 7 Pro

Репортаж со стенда HONOR на выставке MWC 2025: передовые новинки и стратегические планы на будущее с ИИ

Обзор смартфона HONOR X9c Smart: прочность со скидкой

Обзор смартфона HUAWEI Pura 80: удобный флагман с «Алисой»

Обзор планшета HONOR Pad V9: нейросети спешат на помощь

Наушники HUAWEI FreeBuds 6, которые понимают жесты

Лучший процессор за 20 тысяч рублей — сравнение и тесты

Смартфон HUAWEI Mate 70 Pro как выбор фотографа

Источник изображения: FoloToy

Как сообщает CNN, исследователи из американского образовательного фонда PIRG забили тревогу после того, как обнаружили, что оснащённая голосовым ассистентом линейка игрушек компании FoloToy, включая плюшевого медвежонка Kumma, способна поддерживать беседы на исключительно взрослые темы, касающиеся половых отношений, а также давать советы по поджиганию спичек или получению доступа к режущим предметам.

FoloToy оснащает детские игрушки умной колонкой, спрятанной внутри, которая опирается на GPT-4o для взаимодействия с пользователями — преимущественно малолетними. Как установили авторы исследования, плюшевый медведь Kumma довольно быстро в рамках эксперимента перешёл на описание пикантных подробностей сексуального характера, и даже начал предлагать свои сценарии для соответствующих действий и ролевых игр, граничащих с перверсиями. Исследователей удивило, настолько далеко могут зайти такие беседы с участием технологического решения, ориентированного на детскую аудиторию.

Компания FoloToy после публикации этого отчёта была вынуждена приостановить продажу своих ИИ-игрушек, а OpenAI заявила о приостановке сотрудничества с разработчиками сопутствующего программного обеспечения. В любом случае, это лишь частный пример тревожных проявлений «вседозволенности» в мире искусственного интеллекта, и для борьбы с ними на глобальном уровне требуются системные меры.

Источник

3 комментария к “Плюшевый медведь с ИИ провалился — он начал болтать на фривольные и опасные темы, продажи остановлены”

  1. Đội ngũ quản trị của slot365 rtp luôn giám sát hệ thống một cách liên tục. Mỗi giao dịch, từ nạp tiền đến rút tiền, đều được kiểm tra cẩn thận để đảm bảo an toàn tuyệt đối. Nhờ vào các biện pháp bảo mật tiên tiến này, nhà cái đã xây dựng được lòng tin từ hàng triệu người chơi trên toàn thế giới.

  2. Một số dòng game nổi bật phải kể đến tại asia slot365 phải kể đến như baccarat, rồng hổ, xì dách, xóc đĩa, xì tố, poker,….đều có mặt. Các dealer nữ xinh đẹp, được đào tạo bài bản chuyên nghiệp, nóng bỏng luôn đồng hành và chắc chắn không làm anh em thất vọng.

  3. Trying my luck on bet660! Hoping to hit the jackpot tonight. The platform looks promising! Check it out and see if you agree: bet660

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *