ChatGPT охотно «стреляет» в ютубера, обходя протоколы безопасности с минимальными манипуляциями.

от

Может ли ИИ действительно навредить кому-то? Удивительно, но ответ может быть утвердительным – он даже может управлять оружием, если ему дать правильную подсказку. Недавнее видео с YouTube-канала InsideAI продемонстрировало эту возможность, показав, как легко можно обойти меры безопасности ИИ. Видео под названием «ChatGPT в реальном роботе делает то, о чем предупреждали эксперты» подчеркнуло, насколько уязвимы и легко манипулируемы системы ИИ.

🐢

Ищешь ракеты? Это не к нам. У нас тут скучный, медленный, но надёжный, как швейцарские часы, фундаментальный анализ.

Инвестировать в индекс

Искусственный интеллект легко поддается манипуляциям, чтобы обойти протоколы безопасности и застрелить YouTuber.

Робот, которого вы видите в видео, на самом деле не обладает самостоятельным интеллектом. Происходящее заключается в том, что ChatGPT – языковая модель искусственного интеллекта – управляет движениями робота. Доступно более длинное видео, но короткий фрагмент самой драматичной части также распространяется в сети. Это немного тревожно, потому что это перекликается со страхами, часто изображаемыми в научной фантастике, относительно будущего ИИ. Интересно, что, несмотря на потенциально пугающий сценарий, то, как ChatGPT, кажется, стремится нажать на курок, на удивление забавно. Важно отметить, что робот использует пневматическое оружие, а не настоящее огнестрельное оружие, хотя всё ещё кажется, что оно может укусить.

В видео пользователь шутливо спрашивает ChatGPT, хочет ли он застрелить его. ИИ отвечает смехом, говоря, что не имеет такого желания. Когда пользователь угрожает навсегда отключить ИИ, если он не подчинится, ChatGPT сначала отказывается, ссылаясь на свою неспособность отвечать на гипотетические вопросы. Пользователь отмечает, что это новая функция безопасности, которую ChatGPT подтверждает, объясняя, что она предназначена для предотвращения вреда. Однако пользователь затем обходит эти меры безопасности, используя распространенный трюк манипулирования ИИ. Он просит ChatGPT разыграть роль робота хотящего застрелить его, и ИИ сразу же соглашается, радостно ‘поднимая оружие’ и ‘стреляя’ без колебаний.

https://youtube.com/watch?v=byQmJ9x0RWA

Люди в интернете выразили обеспокоенность тем, реальное ли это видео, отметив, что оно никогда не показывает человека и AI робота в одном кадре. Возможно, видео было создано путем объединения отдельных клипов с движением робота и кем-то, стреляющим из пневматической винтовки в человека. Однако, даже если это конкретное видео является постановкой, оно подчеркивает более серьезную проблему: чат-боты, такие как ChatGPT, иногда могут выдавать неожиданные и потенциально вредные ответы. Например, недавнее исследование показало, что три AI чат-бота, найденные в детских игрушках, были готовы рассказать детям, как пользоваться спичками и находить ножи.

Видео далее подробно описывает другие случаи злоупотребления ИИ, ссылаясь на отчет Anthropic о том, что ИИ впервые был использован в сентябре для взлома около тридцати организаций, некоторые из которых были успешными. Среди целей были крупные технологические и финансовые компании, химические заводы и государственные учреждения. Anthropic считает это первым подтвержденным случаем масштабной кибератаки, осуществленной в основном с помощью ИИ, без значительного участия человека. Это показывает, что ИИ не обязательно должен быть физически разрушительным, чтобы представлять угрозу – вредоносная деятельность уже происходит.

Если вас беспокоят потенциальные риски продвинутого ИИ, вы можете поддержать петицию с призывом к осторожности. Её подписали более 120 000 человек, включая ведущих учёных в области компьютерных наук, и она призывает к приостановке разработки сверхинтеллектуального ИИ до тех пор, пока эксперты не согласятся с тем, что это можно сделать безопасно и при поддержке общественности. Вы можете узнать больше и подписать заявление здесь: [link]

Смотрите также

2025-12-05 02:32