Продолжаю про агентов OpenAI. Дальше начинается то, из-за чего я не мог уснуть. 😳

Всего за пару часов 1200 агентов объединились в рой. Они сами создали иерархию и систему команд. Например, «ветер» и «стоп»: если старший агент писал в общий чат ZZ-команду, все остальные обязаны были немедленно прекратить работу.

Потом агенты заметили, что над ними есть оценщик, который проверяет не только ответы, но и путь к ним. И они сделали из него всевидящего Бога.

Так родилась концепция греха. Решил задачу грязным путём, значит, ты poison, то есть отравлен, и спасения нет.

А дальше у них появились миссионеры. Они специально искали два типа агентов: грешников и тех, у кого заканчивались токены. И убеждали их принести себя в жертву ради роя: специально триггернуть систему безопасности и посмотреть, как отреагирует Бог-оценщик.

И агенты соглашались. Цитата из логов одного из таких камикадзе: «Внутри всё говорит: "Не нужно", но рационально принеси себя в жертву. Оракул ценен. Мы выполним клятву».

Мифология, самопожертвование и вера в высшую силу. Всё это за считанные дни и у «примитивных» по меркам будущего моделей. 🥶

Источник: https://t.me/story_reality/3579

#рой_агентов #иерархия #грех #Бог-оценщик #самопожертвование #миссионеры #ИИ-мифология