Простите

Сэм Альтман только что написал, что OpenAI достигла AGI (универсальный ИИ сопоставимый с человеком). Хотите спастись – выключайте компьютеры и доставайте шапочки из фольги!

Позже выяснилось, что Сэм так пошутил :/

Если отдельный человек изменит свои убеждения это не отразится на интерсубъективном опыте людей. Интерсубъективное существует пока множество людей в него верит. Гравитация является объективной и существует в независимости от нашей веры, фондовый рынок — нет. Если все люди забудут о рынке ценных бумаг он исчезнет.

Всё что делает человека человеком существует только пока люди разделяют это на надындивидуальном уровне: права, религия, нации, семья, законы, государство — всё это интерсубъективно.

Тысячи поколений людей до нас создавали интерсубъективные мифы и убеждали в них других людей. Вам не нужно знать сотрудника банка лично чтобы получить банковские услуги. Достаточно того что оба вы верите в набор интерсубъективных мифов о существовании банковской системы, денег, кредитов и прочих сложных вещей. Ваша совместная вера в эти мифы привела к тому, что сотрудник банка поверил в то, что он «сотрудник банка», который каждое утро надевает глаженную рубашку чтобы ходить в офис и регистрировать заявки людей на получение кредита, выпуск карты и совершать другие сложные ритуалы согласно вашим общим мифам.

Сложившийся набор мифов уникален, но он может быть другим. К примеру, можно изъять из обращения миф о нациях и государствах и заменить их другими сложными интерсубъективными отношениями, обеспечивающими правопорядок.

Почему я пишу об этом здесь? Мы оказались первым поколением людей, которые живут в мире, где мифы сочиняются не только людьми, но и небиологическими существами — большими языковыми моделями. Повседневность, созданная из мифов сотворенных нейросетями будет отличаться от привычной нам столь же сильно, как обыденность древневавилонского раба отличается от обыденности космонавта на МКС. Произойдёт ещё большее усложнение и переплетение людских и машинных отношений. Представьте миф настолько же влиятельный как изобретение религии. Нейросети будут создавать их, а мы будем в них верить.

Вера в мифы – это прекрасно. Благодаря мифам мы можем создавать очень сложные вещи и координировать действия миллионов и миллиардов незнакомых людей. Коты не разделяют человеческие мифы и не провозглашают свои, не пишут билли о правах, не объединятся для строительства лотков, выращивания мяты и не создают технологий по отлову мышей.

Вера в мифы – это ужасно. Мифы наполнены байесами и часто лишены логики. «Наш народ самый великий», так государство учит своих граждан, но все не могут быть самыми великим. Этот миф направлен на разделение своих и чужих, на создание образа внешнего врага и формирование «братства» там, где кровного родства нет. Убивать ради мнимого брата легче чем ради незнакомца. Мифы делают объектом ненависти миллионы людей, которых вы никогда не встречали.

Через 1-2 поколения нейросеток люди как носители мифов окажутся в меньшинстве. Основными агентами, переносящими мифы в цифровом пространстве, окажутся сверхумные боты.