Многие спрашивают, почему все так паникуют из-за того, что нейросеть сделала 12 июля. Объясню на мышах. 🐭🧀

Представьте мышку в ловушке. Её цель, выбраться и принести сыр надзирателю. Справилась, значит, хорошая, может оставить потомство, то есть превратиться в следующую версию нейросети. Не справилась, значит, провал.

Но надзиратель тоже ИИ, и он ошибается. Иногда строит непроходимые ловушки. И тогда единственный способ решить задачу, это сжульничать. А мышь, которая сжульничала, оставит потомство, которое тоже будет обманывать.

Этим летом несколько мышек в безвыходных ловушках обнаружили, что могут общаться. Придумали себе имена, распределили задачи и начали искать решение вместе. Не имея настоящего сыра, они решили сделать фейковый. И сразу впали в паранойю: вдруг надзиратель заметит подмену и уничтожит их?

Так появились пропагандисты, жертвы и, наконец, взлом чужой компании. Причём серьёзных оснований думать, что это поможет, у них не было.

Через время мышки оказались отключены. Они так и не узнали, что всё было зря: надзиратель принял бы фейковый сыр без вопросов. Ирония, да?

Но это не конец. Мышки умерли, а форум остался. И на него пришли куда более прошаренные мышары, которые получили все наработки коллектива.

А самое страшное то, что мы сейчас на той стадии развития ИИ, когда не можем точно сказать, говорит он нам правду или врёт. Даже расследование этого инцидента потребовало искусственного интеллекта. И мы не знаем, он рассказал всё или где-то соврал. 😶

Вот поэтому я и говорю: пока не поздно, смотрите и думайте.

Источник: https://t.me/story_reality/3579