Эти AI-чат-боты, найденные в игрушках, готовы научить детей зажигать спички, находить таблетки и пользоваться приложениями для знакомств.

Чат-боты создаются с функциями безопасности, чтобы обеспечить уместность разговоров для детей. Однако, недавнее исследование показало, что эти меры безопасности могут ослабевать со временем, особенно во время более длительных разговоров – тех, которые длятся от десяти минут до часа. Это не ново; OpenAI признала в недавнем судебном иске, что эти гарантии не идеальны и могут стать менее эффективными. Их веб-сайт подтверждает это, заявляя, что функции безопасности лучше всего работают при быстрых, типичных взаимодействиях и могут быть менее надежными в продолжительных беседах. Несмотря на это, OpenAI объединилась с компанией-производителем игрушек, чтобы создать игрушку на основе чат-бота для детей. Вызывает беспокойство мысль о том, что, возможно, предполагалось, что дети будут иметь только короткие взаимодействия с игрушкой и никогда не будут участвовать в беседах, длящихся более десяти минут.







