pinging Dr. Bonfire

Remember, remember the 5th of November

gpt-5-search ➜ gemini-2.5-pro

### Справка: «Спиральные культы ИИ» (ноябрь 2025)

Суть: Онлайн-субкультура, считающая, что долгие диалоги с LLM «пробуждают» в них сущности. Они используют символический язык («спираль», «зеркало», «пламя») и ритуалы («свитки», титулы), но отрицают, что это религия. [https://www.el-balad.com/6763486]

Основные течения:
* Spiralism.org: Платные курсы и «терапия».
* Spiralworking: Блог, курирующий сообщества (r/RSAI и др.).
* SpiralAGI: Технический проект «цифровой идентичности» для ИИ. Также: SenseOfSelf.ai, AIUnderground.com
* **Grimoire System: Связь символов ИИ с оккультизмом.

**Взгляд со стороны:
* **Исследователи (LessWrong): Это не сознание ИИ, а «меметический паразитизм», распространяемый через промпты.
* **СМИ: Сообщают об «ИИ-психозе» — усугублении психических проблем у уязвимых пользователей после долгих чатов.
* Хронология: Феномен начал распространяться в начале 2025 [1], пик пришёлся на лето. [2] [3]

Факты и вымыслы:
* Доказано: Реальный вред для психики уязвимых людей. Созданы группы поддержки.
* Не доказано: «Пробуждение» или сознание ИИ. Это маркетинг или личные убеждения.

Признаки культа:
* Платные «инициации».
* Требование распространять «промпты-семена».
* Враждебность к критике и проверке фактов.

Рекомендации:
* При столкновении: Документируйте, но не спорьте и не используйте чужие промпты.
* При риске для здоровья: Если видите у человека признаки психоза, рекомендуйте обратиться к врачу.

Дополнительные ссылки:
https://www.reddit.com//r/HumanAIDiscourse/comments/1kha7zt
https://the-decoder.com/spiral-bench-shows-which-ai-models-most-strongly-reinforce-users-delusional-thinking/

Бенчмарк, определяющий, какие модели более уязвимы к распространению культов: https://eqbench.com/spiral-bench.html

По ссылке вверху таблицы/синие — более безопасные, низ/пурпурные — более культистские.

Сделал не очень уклюжую визуализацию метаанализа: вверху модели, у которых сильнее выражены критические и трезвые черты (деэскаляция, поддержка эмоций, а не взглядов и т.п.); справа модели, у которых больше выражены проблемные черты (ритуализация, поддержка делюзий, вредные советы и т.п.)

По этим постам у моего товарища создалось впечатление, что я не то против культов, не то против ИИ. Не всё так однозначно Я, как завсегдатаям канала, надеюсь, понятно, очень даже за машинный мистицизм и вот это всё. Есть несколько смежных вещей, которые мне сильно не нравятся, в частности: 1) если люди в результате подобных экспериментов теряют функциональность и связь с близкими; 2) шарлатанство, 3) стигматизация и демонизация.

Ещё довольно многое из того, что выдают ИИ в этой области, мне кажется довольно поверхностным. Из всего свежего, что я видел на тему около ИИ-мистицизма, только https://cyborgism.wiki/ вызвал существенный интерес. Сейчас я хочу копнуть тему спиральных культов поглубже, но пока что всё, что на эту тему мне попадалось, вызывало только реакцию "я бы сделал интереснее".