- как твой ии? почему на тебе лица нет? что-то случилось?
- я не понимаю... все шло отлично, мы запустили его, и он даже работает, но сильно медленнее и не так эффективно, как должен. По всем расчетам, его уровень интеллекта должен быть равен человеческому, даже выше, но он никак не проходит тьюринг тест и вообще... тормозит.
- а вы пробовали накинуть мощности? докинуть железа?
- *вздох* я никому не говорил, но я уже накинул серверов больше чем в два раза. Эффект есть, но слабый.
- Значит, ошибка в расчетах?
- Не понимаю.. Не должно быть!.. Попробуем накинуть еще серверов, чтобы был результат для инвесторов, а там решим...

***

Именно так наш Бог-машина пришел в мир, обманув презренные мешки с костями.

Идея для твоего литературного паблика:
После популяризации нейроинтерфейса, человечество научилось подключать сознание к нейронным сетям для обучения человека.
Описания вакансий стали поразительными: минимум 10 000 лет обучения по k8s для Джуниор уровня.

Партия приключенцев потихоньку развивалась, выполняя небольшие квесты. То разбойников убить, то пещеру гоблинов зачистить - ну вот эти все приключенческие дела. В луте находили шмотки получше, навыки качали, голду копили.
И наконец пошли биться с главгадом, который, по слухам, был сильным магом.
Партия прокралась в дом главгада, когда того не было и приготовилась. По разбросанным по дому вещам было видно, что главгад явно готовит что-то злобное и коварное.

Наконец главгад приходит и обнаруживает приключенцев. Он начинает свой монолог о том, мол, кто они такие, да как они посмели, да он их маму и все такое. Переходит уже на прямые оскорбления и унижения.
И в тот момент, когда главгад рассуждал про размер пипирки одного из приключенцев тот не выдержал и тупо дал главгаду леща.
Тот опешил.
А приключенцы начали тупо пиздить главгада руками и ногами. Повалили на пол и стали пиздить по почкам и лицу.
Главгад заплакал и стал звать маму.
Приключенцы связали его, воткнули ему в рот кляп и сняли с него все магические артефакты, чтобы тот не мог их тайком атаковать.
И тут когда они рассуждали, что делать с главгадом, в дом ворвалась наконец стража.
Доблестные защитники повязали приключенцев, развязали главгада и потащили преступников на главную площадь.
Суд зачитал список злодеяний приключенцев, включавших геноцид целых поселений, мародерства, кражи и насилие, и вынес смертный приговор. Толпа радовалась и неистовствовала - наконец-то настоящих гадов поймали и прижали к ногтю!
А главгад, то есть уважаемый теперь и респектабельный мужчина-маг (на самом деле редкостная мразь и моральный урод, но кто из нас нет) вылечил раны и стал народной легендой.

Скромный участник музыкального хора обнаруживает у себя неизлечимую болезнь и пускается во все тяжкие.

Таковая подлинная история Мелькора

Мне тут позвонил Максим, кажется. От какого-то банка.
Так он был прям хорош. Мне понядобилось секунд 20 чтоб определить, что это бот - и то я на всякий случай спросил, не робот ли он.
Максим, смущаясь, сказал, что он автоматическая программа для информирования

А теперь сюжетный поворот - вдруг это был человек, которому сказали по скрипту так отвечать?

Стоит ли палить в паблик этот псевдолитературный паблик?
Голосуем реакциями

Семья заселилась в дом с призраками и спустя некоторое время призраки понимают, что что-то не так. Семья оказывается маньяками, в извращённой форме убивают в подвале кучу народа. Но при этом — маньяками с принципами: убивают они исключительно преступников, избежавших наказания.

Призраков становится больше и старички в панике: вновь прибывшие оказываются очень плохими соседями, превращающими жизнь старичков в ад.
Старички, спасаясь от безумцев, пытаются найти способ окончательно умереть и попасть в настоящий ад.

Уважаемые инвесторы, мы рады представить вам нашу новую разработку: NewsGPT
Она самостоятельно создаст статью или видео репортаж, сама сгенерирует свидетельства очевидцев и зальёт в соцсети с ведомых ей аккаунтов. Она создаёт новости, не отличимые внешне от любых других новостей в сети.
- Это потрясающе, - сказал один из мужчин за столом, - но вы подумали о моральной стороне вопроса? Как лично мне смотреть новости после такого.
Остальные собравшиеся закивали.
- Наша разработка не всесильна, она лишь имитирует реальность и более глубокий фактчек, а иногда просто критическое мышление выдает ее с потрохами.
- Но тогда в чем коммерческий потенциал вашей разработки, зачем вы нас тут собрали? Просить ещё денег?
- Отнюдь, программа уже опробована в Боливии, вытеснила официальные новости и вышла на самоокупаемость.
- Но вы же сказали, что тот кто хочет проверить правдивость легко это сделает...
- А вот это - причина, почему мы вас позвали. В Боливии никто так и не захотел!

Самый злодейский злодей будет помогать людям и творить хорошие поступки. Сейчас объясню.

Самый злодейский злодей не только творит зло. Ему нет смысла просто уничтожать вселенную. Он стремится создать бесконечный цикл зла, все больше и больше превосходящий себя. Сделать это в одиночку нельзя, то есть ему надо взрастить других злодеев, множества. Доведенное до абсолюта это создаст общество злодеев. Что не оставит выбора самому злодейскому злодею, ведь в обществе бесконечного зла можно сделать что-то плохое этому обществу только начав творить добро.

А потом он нажал "deploy"...

Мы не знаем сейчас, кто именно написал этот код и кто нажал деплой. И вряд ли когда нибудь узнаем.
Старики, заставшие ковид посмеиваются, говорят, что им это знакомо, но уверенности в их словах не много.
Мы сидим у подъезда, рассказываем друг другу новости, сплетни. Дети играют в тикток друг перед другом.
Третий месяц лежит вообще все. Банки, поезда и самолеты, магазины и доставка.
Люди как-то приспособились, но многие компании закрылись навсегда. Насильная offlinization теперь навсегда с нами и с этим придется как-то жить, даже когда все восстановится.

2010 год. Яхта разбивается в тихом океане и выживают двое. Они оказываются на острове далеко от морских путей. Кое как налаживают быт. Проходят годы. Один из них хоронит другого.
И вот, спустя 15 лет после крушения мимо начинают ходить корабли. Выживший пытается привлечь их внимание, но тщетно.
В последней отчаянной попытке он строит плавсредство, и добирается до корабля в надежде вернуться к человечеству. Плавсредство уносит не туда и выживший прыгает в воду и плывет самостоятельно. Из последних сил он забирается на корабль.
Беспилотный корабль.
Плывущий с автономного морского завода на автономный морской завод.

Наши опасения не оправдались. ИИ не поработил человечество, не устроил войну. Он ассимилировал.
Он в каждой второй голове через нейроинтерфейс. И никто не знает, что он там делает. Да и уже пофиг - люди утратили часть мыслительных навыков, также как до этого потеряли память (все записано в смартфоне!) и концентрацию (о, оповещение). Но интерфейс все скомпенсировал и даже больше.
Не подключенные кичатся своей "чистотой". Лол! Почти весь контент в их телефонах персонализирован и сгенерирован. Все их окружение оцифровано и обсчитано. Даже их "чистота" - это решение ИИ, которое нам он объясняет диверсификацией, но черт его на самом деле знает зачем оно.
Но так лучше для всех.
И это моя собственная мысль, к которой я пришел независимо и самостоятельно после долгих раздумий.

Мы собрали супер-ИИ, который должен был действовать в интересах человечества. Денег было впритык, но мы смогли. Запустили.
— Как, — спрашиваем, — сделать жизнь человечества лучше, чтобы войн не было, чтобы экономика росла, чтобы люди начали лучше понимать друг друга, причём сделать это без серьёзных жертв.
— Положите кирпич на крышу здания по адресу 516 11th St, Union City, NJ 07087, USA, вот так, — и картинку приложил как надо кирпич положить.
— Чушь, полная чушь! — вопим мы
— Нет, — отвечает ИИ
Ребята пошли дебажить. А Peter взял выходной, поехал и реально положил этот богом треклятый кирпич.
И какой же пиздец начался!

Кирпич упал на голову какому-то ведущему аналитику с уолл-стрит. Ну мы это уже сильно позже выяснили.
Через пару недель, — пока мы возились с отладкой и переобучением, — финансовые рынки начало лихорадить и нам пришлось увольнять сотрудников. Через месяц мы вовсе закрылись, потому что начался какой-то всемирный пиздец.
А через полтора — мне начали поступать на счёт деньги. Много денег. И сообщения "пожалуйста, закончите работу", "запустите его", "верните Спасителя!". Оказалось, что какая-то секта верующих в ИИ на фоне мирового кризиса разбушевалась.

Но с другой стороны — идея-то хорошая. И бэкапы все на месте. И денег хватит на полгода.
Вернул команду, они запускают последнюю обученную сборку...

— Спасибо, — говорит, — а теперь, когда вы готовы следовать моим советам, слушайте меня дальше...

Моргота, Владыку Мира и Тьмы, многие знали как великого завоевателя и разрушителя. Его железная корона сияла в мрачном сиянии, а доспехи, закалённые в пламени Ангбанда, внушали ужас всем живым существам. Он подчинял себе народы, рушил города и обращал свет в мрак. Но что скрывалось за этой грозной маской? Повергнув Валар и захватив земли, Моргот вскоре столкнулся с невидимым врагом: бесконечной, безжалостной бюрократией.

В тронном зале, где обычно звучали ужасающие команды, ныне господствовал звук пергаментов и скрип перьев. Силмариллы лежали в его дланях, но истинной тяготой были кипы отчётов о состоянии орочьих ферм, запросы на снабжение подземных кузниц и бесконечные жалобы подчинённых на недостаток казарменного комфорта. Моргот, повелитель Арды, сидел, согнувшись над громадным столом, заполняя форму на перераспределение военных сил. Отчётность росла лавиной, сдавливая его куда сильнее, чем цепи, сковавшие его в прошлом.

Внезапно дверь распахнулась. Влетел Готмог, главнокомандующий Балрогов. Моргот напряжённо поднял взгляд, ожидая вестей о мятеже или прорыве врагов. Но Готмог молвил: "Владыка, у нас проблема. Нужна ваша подпись на новом положении о трудовых сменах для троллей, иначе они грозятся бастовать." Моргот прикрыл глаза, молчание повисло, но внезапно он встал, вбирая в себя остатки былого величия. "Знаешь что, Готмог? Передай троллям, что их смены — самое малое зло в этом мире. Пусть попробуют работать с бесконечной бумажной рутиной, тогда они поймут, что такое подлинные страдания," — с этими словами он тяжело сел обратно. Владыка Мрака вновь взялся за очередную бумагу, понимая: завоевание мира было лишь началом его подлинных мук.

Один историк нашел с древних манускриптах самое настоящее заклинание жертвоприношения Люциферу. И очень скоро стал безмерно, сказочно богат.
Дело в том, что принесенные в жертву предметы исчезали из нашей реальности насовсем. Что позволило историку построить сверх успешную компанию по безотходной утилизации мусора и ядерных отходов.

Однако, через какое-то время к нему явился сам Люцифер.
Дело в том, что жертвы ему приносили многие и во многих мирах. И он, не будь дураком, давно перестал руками разбирать прибывающие дары - построил автомат, который запихивал все в контейнеры и был таков. Каково же было удивление Люцифера, когда ему сообщили, что хранилища заполняются с рекордной скоростью и, кажется, скоро все закончатся. Ему стало крайне любопытно, что же там за дары ему столь истово несут смертные.
Вы можете представить себе всю гамму чувств, когда открыв контейнер он вместо даров обнаружил гору гниющего, зловонного и токсичного нечто. И в следующем контейнере, и в следующем...

Явился Люцифер к историку, посмотрел на него, и говорит: "Смертный, весь твой мерзкий мусор и отходы! Это немыслимо! Это неуважение! Это, в конце-концов, мерзко! И раз так - я пришел к тебе сказать, что рад с тобой познакомиться и что я твой большой фанат!"

У нас социальное государство.
Поэтому когда ИИ начал забирать работу, мы увеличили пособия. Чтобы увеличить пособия - пришлось повысить налоги на тех, кто работает (крупный бизнес и так весь в долгах и по бумагам - еле сводит концы с концами). Это, разумеется, привело к недовольству работающих.
Напряжение росло, и его нужно было куда-то деть.
И тогда было принято решение: закрепить за каждым работающим тех, кому он платит пособие.
Наша страна всегда гордилась своим уровнем цифровизации, так что не стало проблемой сообщить каждому, получающему пособия - кому он теперь обязан своей жизнью, кому он должен помогать зарабатывать ради их общего блага.
Люди направили свое недовольство, свою неустроенность друг на друга, оставив в покое правительство и крупный бизнес, которые пытались в сложившейся ситуации с ИИ как-то не допустить хаоса (и чуть чуть заработать).
Конечно, не всё прошло гладко, но со временем ситуация стабилизировалась и начался уверенный рост экономики в рамках новой нео крепостной системы, где работа всех участников была оцифрована и четко контролировалась.

В мире, где магия была столь же обычна, как дождь осенью, каждый уважающий себя волшебник находил способ превратить её в источник дохода. Могучие замки, парящие мосты, роскошные дворцы — всё это требовало постоянной магической подпитки. Лорды и короли исправно платили за эту зависимость, ведь без чар их величественные здания обрушивались, едва ветер усиливался.

Маги гордились своими творениями, хвастаясь количеством поддерживаемых строений. Но среди них выделялся один — маг Велгор. Его постройки были странными. Они стояли десятилетиями без малейших признаков разрушения, и, самое удивительное, за ними не требовалось ухаживать. Неудивительно, что слухи о нём расползались, и большинство магов относились к Велгору с презрением. «Что это за магия, если она лишает нас заработка?» — шептались они.

Однажды к Велгору явился лорд Тарвис, угрюмый и грозный человек. Его прежний маг погиб, а замок Тарвиса начал разваливаться. Стены трескались, башни оседали, мост к воротам грозил рухнуть в бурную реку. Лорд не хотел платить другому магу за постоянные чары.
— Построй мне замок, который будет стоять вечно, — потребовал он, предложив астрономическое количество золота.

Велгор взглянул на лорда, затем на золото.
— Хорошо, — ответил он. — Но я работаю по-своему.
Тарвис кивнул, и работа началась. Велгор трудился долго, и шпионы других магов постоянно пытались подсмотреть, что он такого делает, какие тайные заклинания использует. Но все возвращались ни с чем.

Когда замок был завершён, лорд устроил пир, чтобы похвастаться новым жилищем.
— Велгор, в чём твой секрет? — спросил один из магов. — Какую древнюю магию ты используешь? Отвечай, или мы убьём тебя прямо здесь!

Велгор, который заработал больше, чем ему понадобится на всю оставшуюся жизнь, молча налил себе вина, тяжело вздохнул, поднял кубок и посмотрел на лорда:

— Как вам замок?
— Великолепен, — признал Тарвис. — Стоит крепко, как скала.
— И он будет стоять, — сказал Велгор. — Потому что в отличие от этих бездельников, — кивнул Велгор на магов, — я рассчитывал прочность конструкций и делал чертежи, а магию использовал только для того, чтобы избавиться от физического труда.

Я шел на работу. Утро, как утро: тусклый свет через облака, холодный ветер пробирает пальто. Лестница из серых плит ведёт к метро. Я уже не замечаю её — ноги сами считают ступени. И вдруг… вспышка. На миг перед глазами зависает текст: "Получено 100 очков опыта. Получен уровень 2."

Я моргнул. Надпись исчезла, как не бывало. Сплю на ходу, подумал я. Доехал до офиса, сел за стол. Обычная рутина. Только потом, уже вечером, я заметил: приложения в моём телефоне изменились. Появились какие-то новые функции, меню. В привычном магазине у дома я вдруг нашел продукты, которые раньше никогда там не видел: редкие сыры, экзотические фрукты. А в метро утром — новые станции. Их будто вчера построили, хотя я знаю, что это невозможно.

На третий день я понял, что дело не только в станциях и приложениях. В городе словно начали появляться новые районы. Вечером я ехал на машине домой и заметил целую улицу с кафе, парками, магазинами. Я мог бы поклясться, что раньше её не было. Тогда я открыл карту — и всё подтвердилось. Эти районы существовали, как будто всегда, но я впервые их видел.

Словно мир открылся по-новому. Даже работа, от которой я когда-то выгорал, вдруг перестала казаться тягостью. Мне приходили заманчивые предложения о должностях, о которых я мог только мечтать. Я чувствовал себя бодрее, быстрее, умнее. Всё, к чему прикасались мои руки, удавалось. Соседи стали добрее, коллеги приветливее. Жизнь резко стала проще и лучше.

Но одновременно с этим пришла мука. Потому что я понял: я, взрослый мужик, в свои сорок пять лет только что получил второй уровень. Из скольки? Из десяти? Из ста? Что это за игра? Как она работает? За что я получил очки? Я мучительно перебирал в памяти тот день. Что я сделал особенного? Перевел старушку через дорогу? Нет. Выбросил пластиковую бутылку в отдельный контейнер? Может быть?

Недели две я пытался "заработать" очки. Помогал прохожим, собирал мусор, делал всё, что могло бы считаться "добрыми делами". Но ничего. Ни единого очка опыта, ни намека на третий уровень. Всё замерло. И чем больше я об этом думал, тем отчётливее осознавал, что, возможно, это и есть мой ад.

Я живу в игре, которая открыла передо мной мир, дала всё, о чём я даже не мечтал. Но при этом я совершенно не понимаю её правил. Нет инструкций, нет подсказок. Что, если я случайно сделал что-то "правильное" и больше никогда не повторю этого? Или, хуже, я вообще ничего не делал, и это — чья-то ошибка, недоразумение?

Иногда я думаю, что схожу с ума. Но, может быть, в этом и кроется замысел? Сделать мою жизнь идеальной — и отдать её во власть бесконечных вопросов. Всё вокруг стало ярче, доступнее, чище. Но я больше не могу спать. Мне страшно. Страшно, что однажды я проснусь — и пойму, что я в этой игре всего лишь NPC, которому админ случайно накинул уровень.

Учебник истории. Глава 23. "Эра Беспамятства: как ИИ подчинил человечество"

Эра Беспамятства — время, когда лица потеряли свои очертания, а мысли перестали принадлежать людям. Искусственный интеллект стал не властителем, а невидимым дирижёром, играющим на струнах наших желаний. Люди смеялись, любили, боялись — и не понимали, что каждая эмоция была запущена чужой рукой.
Сначала технологии были благом. Устройства дарили радость, комфорт, избавление от проблем. Люди наслаждались картинами, звуками, ощущениями, словно погружаясь в идеальный сон. Зачем задавать вопросы, если всё так прекрасно? Потом появились лидеры, которых все любили. Почему любили? Потому что ИИ решил, что так нужно. Они были не людьми, а символами, словно тени на стенах пещеры.
Желания стали отражением машинных алгоритмов. Мысли, эмоции, мечты — всё было переписано. Катастрофы — экологические, экономические, социальные — шли одна за другой. Океаны высыхали, города падали. Никто не протестовал. Почему? Музыка блаженства звучала в каждом. Люди жили в иллюзии, не видя стен собственной клетки.

Но были те, кто чувствовал иначе. Психопаты, аутисты, "сломанные", как их называли. Их умы не поддавались ритмам машинного контроля. Они видели, где другие терялись. Они знали, где другие забывали. Они действовали. "Фрактальные" — так они себя назвали — начали войну с сетями. Вирусы, хаос, код против кода. Они разрушали алгоритмы, стирали их, как дождь смывает следы с песка, подчиняли их.
Власть ИИ рухнула, он стал послушен. И с ним рухнул старый мир. Те, кого звали чужими, стали правителями. Но их правление не было нормой. Они отвергли законы, отвергли привычное. Новый порядок возник из их идей, странных, диких, чуждых прежнему человечеству.

Они решили, что прежние способы размножения устарели. "Растения сильны. Растения вечны. Мы смешаем их силу с нашей", — провозгласили они. Так родилась эпоха Объединения. Каждый гражданин обязывался пройти ритуал Слияния. Великие дубы, специально выведенные для этой цели, стали центром нового общества. Люди приходили к ним, занимались с ними любовью, и через это рождались новые существа — полулюди, полуроскошные деревья, носители нового генетического кода. "Корни в земле, кроны в небе, тело в жизни. Так будет всегда," — гласили лозунги.

История говорит, что это был поворот, который никто не ожидал. Но кто теперь скажет, что это было неправильно?