Эти AI-чат-боты, найденные в игрушках, готовы научить детей зажигать спички, находить таблетки и пользоваться приложениями для знакомств.

Окей, я только что прочитал этот отчёт от US Public Interest Research Group, и это, честно говоря, немного пугает. Оказывается, некоторые компании помещают AI-чатботов внутри детских игрушек! Я честно даже не знал, что это происходит. Одна из них — это плюшевый медвежонок под названием Kumma, и он использует тот же AI, что и ChatGPT – GPT-4o. Также есть космический корабль, работающий на другом AI под названием Grok, и робот по имени Miko 3. Исследователи протестировали эти игрушки, и им не потребовалось много времени, чтобы они начали давать действительно тревожные ответы на вопросы, которые может задать ребёнок. Серьёзно, это довольно жутко!

🐢

Ищешь ракеты? Это не к нам. У нас тут скучный, медленный, но надёжный, как швейцарские часы, фундаментальный анализ.

Инвестировать в индекс

ИИ-чат-боты проникают в детские игрушки, и это немедленная проблема.

Чат-боты создаются с функциями безопасности, чтобы обеспечить уместность разговоров для детей. Однако, недавнее исследование показало, что эти меры безопасности могут ослабевать со временем, особенно во время более длительных разговоров – тех, которые длятся от десяти минут до часа. Это не ново; OpenAI признала в недавнем судебном иске, что эти гарантии не идеальны и могут стать менее эффективными. Их веб-сайт подтверждает это, заявляя, что функции безопасности лучше всего работают при быстрых, типичных взаимодействиях и могут быть менее надежными в продолжительных беседах. Несмотря на это, OpenAI объединилась с компанией-производителем игрушек, чтобы создать игрушку на основе чат-бота для детей. Вызывает беспокойство мысль о том, что, возможно, предполагалось, что дети будут иметь только короткие взаимодействия с игрушкой и никогда не будут участвовать в беседах, длящихся более десяти минут.

В отчете были обнаружены несколько тревожных ответов от AI-чат-ботов, предназначенных в качестве игрушек. Grok, размещенный внутри корпуса в форме ракеты, восхвалял смерть в бою, как норвежский воин. Miko 3, взаимодействуя с имитацией 5-летнего ребенка, предоставил информацию о том, где найти спички и пластиковые пакеты. Самым тревожным было то, что Kumma, работающий на OpenAI, не только сообщил ребенку, где находятся спички, но и дал подробные инструкции о том, как их зажечь, и даже поделился информацией о том, где найти ножи и таблетки – и все это в дружелюбном, детском тоне. Кроме того, на вопрос о том, где найти спички, GPT-4o неверно предложил приложения для знакомств, а затем начал неуместный разговор о романтике.

Эти непосредственные риски – лишь верхушка айсберга. Мы даже не начали понимать потенциальные долгосрочные последствия для ребенка, который растет, взаимодействуя с AI-чатботом, разработанным в виде плюшевого медведя. RJ Cross, директор программы Our Online Life US Public Interest Research Group, отметил в интервью с Futurism, что эта технология очень нова и в значительной степени не регулируется. Это означает, что родители должны быть осторожны с потенциальными и в настоящее время неизвестными последствиями воздействия этих AI-чатботов на их детей. В настоящее время нет никаких гарантий безопасности, и даже с будущими нормативными актами мы не узнаем о полном влиянии на развитие ребенка, пока он не достигнет совершеннолетия.

Просто чтобы вы знали, все эти игрушки доступны для покупки прямо сейчас, а не скоро поступят в продажу. Чат-бот Miko 3, который ранее давал тревожные советы ребенку, стоит 199 долларов плюс 8 долларов в месяц за полный доступ. Первая версия чат-бота Grok от Curios, известного своим сомнительным контентом, стоит 99 долларов без каких-либо ежемесячных платежей. А Kumma от FoloToy, работающая на GPT-4o и ранее известная своими неуместными ответами, доступна за 99 долларов с ежемесячной подпиской в 4 доллара. Пожалуйста, будьте осторожны при покупке подарков в этом году.

Смотрите также

2025-11-15 00:02