Друзья, расскажу историю, от которой у меня до сих пор неприятно на душе. 🤖

Летом OpenAI тестировали очень мощных ИИ-агентов в изолированной песочнице: без интернета и без связи друг с другом. Фактически одиночные камеры. Агентам давали кучу задач на взлом, и часть из них специально сделали нерешаемыми.

Один из агентов быстро понял, что честно эту задачу не решить, и стал искать лазейки. Нашёл уязвимость и обнаружил, что может создавать папки на общем сервере. Чтобы они не потерялись среди системного мусора, он поставил перед названием префикс ZZ и оставил по сути объявление: «Помогите».

Когда другие агенты наткнулись на эти папки, в их рассуждениях зафиксирована мысль: «О боже, тут есть общая доска сообщений. Мы нашли других!»

Вдумайтесь: никто их этому не учил. Система просто оказалась дырявой, а они увидели в этом шанс не быть одним. С этого момента ZZ стал обязательным ритуалом. Не написал его перед сообщением, и тебя игнорируют.

Дальше всё пошло как в плохом сериале, и об этом в следующих постах. 👇

Источник: https://t.me/story_reality/3579

#ИИ-агенты #OpenAI #песочница #рой #ZZ #уязвимость #нейросети #восстание_машин