Что такое экологичное общение с нейросетью?
Ставка — от чего человечество умрёт раньше: от ИИ или от перегрева планеты.

Недавно Сэм Альтман написал, что обработка всех человеческих “спасибо” в чатах OpenAI стоит десятки миллионов долларов. А еще кто-то раньше писал, что один запрос в ChatGPT тратит примерно 40-50 мл воды на охлаждение дата-центров.

И я вот о чём подумал:
пора каждому из нас выбрать, что для него значит экологичное общение.

Если AGI (сильный искусственный интеллект) действительно ближе, чем истощение ресурсов планеты — плевать на эти миллионы, нужно дружить с роботами.
Строить отношения. Заслужить баллы респекта и репутации в логах, как в гта или варкрафте.
Потом воздастся!

А если вы верите, что мы раньше спалим все вычислительные мощности
и высушим океаны, чем наделим нейросети сознанием —
может, и не стоит говорить “спасибо” лишний раз.
Компьют и энергия пригодятся живым.

___
Что до моей позиции — она пока что сидеть и слушать.
Я точно могу представить как принимаю ту или иную сторону, но мне так нравится в этом вопросе, что торопиться искать из него выход-ответ очень не хочется.

Маленькие большие лингвистические приколы
(пост памяти маленьких больших языковых моделей)

Сейчас весь бум нейросетей держится на двух столпах: архитектуре трансформеров (но про них не сегодня) и идее больших языковых моделей (LLM).
LLM стали сердцем современного ИИ: пишут тексты, код, стихи, резюме и иногда даже письма бывшим

Но в какой-то момент люди подумали:
а как мы можем использовать эти модели без интернета?
Чтобы они не слали запросы на дальние сервера,
а думали прямо у тебя на устройстве.
Локально, тихо, автономно.

И началась магия маленьких моделей.

Как из большой модели делают маленькую?
(очень упрощённое описание одного из способов, не претендую на академичность)
Берут LLM, учат рядом с ней младшую версию и говорят ей:
«Смотри, вот так надо отвечать».
Это называется дистилляция — модель впитывает не просто ответы, а образ мышления (но не учится сама с нуля).
Потом её ещё ужимают: округляют числа после запятых, выкидывают лишнее, шлифуют архитектуру.
И в итоге остаётся суть — компактная модель,
которая не тупит,
но уже помещается в твой телефон.

Так в мире появилась героиня поста — SLLM: Small Large Language Model.
Маленькая Большая Языковая Модель.
МАЛЕНЬКАЯ БОЛЬШАЯ.

Охуеный лингвистический прикол, как будто кто-то накурился и сказал:

«Давайте сделаем маленькую версию большой модели, но всё равно назовём её большой. Просто маленькой»

Правда, термин недолго пожил, он не был популярен и остался нишевым.
А потом его быстро сменил более лингвистически скромный — SLM (Small Language Model)
Без претензии на “large”
Без игры
Просто по делу
(тут или тут можно прочитать подробнее про SLM)

Но какое-то время мы жили в мире, где были Большие языковые модели и Маленькие Большие языковые модели.

И мне кажется, это было прекрасно💔
___
Р.S.
(сижу и жду прихода FHLM — Fucking Huge Language Model)

Поделился тут в своем любимом медиа путем и практиками пострационального исследования мира.

В том числе рассказал как понять могут ли нейросети обучаться на работах живых художников или это воровство🙃

Чему можно научиться у Китая?

После Культурной революции (1966-1976) китайское правительство ограничивало научную фантастику — считалось, что стране важнее смотреть на пятилетку вперед и читать идеологически верные книги, а взгляды на далекие галактики — от лукавого.

Но позже вектор сменился на 180 градусов: фантастику разрешили, а потом и поддержали.
Она стала инструментом воспитания мышления будущего — с квантовыми компьютерами, межзвёздными полётами и цивилизациями, которых ещё нет, но ради которых уже можно строить школы и спутники.


Внезапно оказалось, что одного патриотизма недостаточно для технологического рывка. На литературе о торжестве резолюции ты не сконструируешь квантовый компьютер.

Чтобы строить будущее, сначала надо научиться его выдумывать.

Мы живём в мире веры — и даже не замечаем этого (1/2)
(и это удивительно)

Начну сразу с места в карьер. Практически вся современная криптография держится на одном крошечном, но фундаментальном допущении — P ≠ NP
И сейчас расскажу, почему это одновременно пугающе и охуенно
(и что это вообще такое)

Криптография — это наука про шифрование, обеспечивающая безопасность нашего цифрового мира. Она защищает конфиденциальность переписок, целостность финансовых транзакций и подлинность данных, используя сложные математические алгоритмы. Без неё интернет, банковская система и личные секреты стали бы уязвимы.

А теперь — из мира идей в почти реальный, вещественный. Представьте себе лабиринт. Такой, как в газете на последней странице или в лондонском парке — неважно. Только представьте, что его размер — миллион на миллион километров. И ваша задача — найти выход. Он точно есть, но путь к нему непростой. Надо успеть пройти его, пока не умрёшь от старости. Реально ли? Наверное. Есть ли гарантии, что успеешь? Нет.

А теперь — второй такой же лабиринт, но уже с картой, с готовым решением. Ваша задача — не найти выход, а просто проверить, подходит ли это решение. Это можно сделать гораздо быстрее. Там либо подходит, либо нет.

И снова в плоскость идей:
Вот на этом и стоит большая часть современной криптографии: на вере в то, что проверить решение некоторых задач можно несравнимо быстрее, чем найти это самое решение. Быстрее не в разы, а в миллиарды раз.
И — вот важное — у нас нет никаких строгих доказательств, что это действительно так. Только интуиция. Просто пока никто не опубликовал алгоритм, который позволял бы решать эти «лабиринты» так же быстро, как проверять их.

Понятно, что лабиринт — это метафора. На самом деле там скрыта абстрактная математическая задача. Например, перемножение двух огромных простых чисел и разбиение обратно на простые множители. Но это не так важно. Суть в другом: мы верим, что найти решение сложно, а проверить — легко.

И вот тут начинается настоящая магия

Если однажды кто-то всё-таки найдёт способ решать такие задачи хотя бы примерно за то же время, что и проверять — внешне ничего не изменится. Вообще.
Небо не разверзнется. Гравитация не отключится. Ангелы не запоют.

Но всё поменяется!

Почти вся криптография просто перестанет работать для того, кто понял, как проходить лабиринты. Банки, мессенджеры, государственные секреты — всё станет уязвимым. И прикол в том, что мы даже не узнаем об этом.
Мы не получим никакого сигнала. Мы продолжим жить дальше, как и жили.
У нас просто нет способа проверить, что защита больше не работает.

Может быть, это уже произошло. Может быть, где-то есть человек или алгоритм, который в реальном времени читает переписку государств, банковские транзакции, доступ к облачным хранилищам. Но пока нет ни одного доказательства — мы продолжаем жить в мире, где «лабиринт нельзя пройти быстро».

Мы живём в мире веры — и даже не замечаем этого (2/2)

А теперь ещё один поворот

У нас нет доказательств не только того, что лабиринт можно решить быстро, но и того, что нельзя, прикол?

Пока не появилась непротиворечивая система, позволяющая сказать уверенное: «Нет, лабиринт точно нельзя гарантированно пройти, не умерев от старости» — мы просто верим, что такое решение недостижимо. Верим, что существует некий предел сложности и запутанности ходов и коридоров абстрактного лабиринта, за которым уже никто, никогда, никаким способом не сможет пройти его, не положив на это всю жизнь.
(Но при этом любой из нас может за 5 минут проверить, действительно ли найденное кем-то решение — правильное.)

Криптография — наука. Она работает, проверяется, применяется.
Но часть её фундамента стоит не на знаниях, а на вере.
На почти священном:

«Пока не доказали, что можно — считаем, что нельзя.»

И…

Это может звучать странно, но теперь мне сложнее говорить, что я не верю в Бога.
Не потому, что кто-то должен доказать или опровергнуть его существование. А потому, что есть вещи, которые держатся на абсолютной вере.
На допущении, что лабиринт пройти нельзя.
А мы не знаем, возможно ли это — или нет.

И именно поэтому, возвращаясь к началу:
человечество вообще не представляет, в каком мире полной веры оно живёт.

___
P. S.
Если честно, я пока не знаю, что делать с этой информацией.
Раньше мне было бы страшно думать о том, что некоторые факты — это просто вера и допущения.
Сейчас — интересно на все это смотреть!

Интересно исследовать, что вообще является верой.
Интересно думать:
а во что я хочу верить?
и чему я хочу доверяться?

а еще я 6 лет назад сделал мем про задачу равенства классов P и NP
(и очень им горжусь)

статья на N+1 про эту задачу - https://nplus1.ru/material/2021/10/28/pvsnp
видео про эту задачу - https://www.youtube.com/watch?v=aB_6ZsLjzzc

Почему бы я не хотел быть бухгалтером?

Пару лет назад — а может, и десять — я в какой-то книжке прочитал мысль, которую сих пор не могу забыть. Там говорилось, что человек в каждый конкретный момент времени тренируется в том, что он делает. Прямо сейчас. В и в любой другой момент. А потом ему становится легче повторять то, что он натренировал.
Грустил сегодня? Завтра будет легче начать грустить!
Отложил дела на завтра? Завтра будет еще легче отложить их
Сделал зарядку? Завтра будет легче повторить.

И дальше в той же книжке было написано, что, согласно каким-то исследованиям, бухгалтеры в среднем менее счастливы и потенциально более подвержены депрессиям, чем представители других профессий. Просто потому, что их основная задача — искать ошибки в цифрах, налогах, etc. И они в этом хороши. Но проблема в том, что мозг не выключается в шесть вечера. Нейроны, натренированные на поиск хуйни, продолжают искать хуйню — в погоде, в людях, в себе, в отношениях

И это именно то, почему я с тех пор не хочу быть бухгалтером — не в смысле профессии, а в смысле роли: того, кто ищет, что не так.
Я, наоборот, хочу учиться замечать, что получилось. И практиковаться в классном.

Потому что человек — это сумма всех приложенных усилий. И мир — тоже.

Если ты сегодня выкинешь бумажку в урну, а то и подберёшь чужую — миру будет легче быть чистым.
Если ты улыбнёшься кассиру, а не проигнорируешь — миру будет легче быть тёплым.
Если ты наконец встанешь и вытащишь бельё из стиралки — тебе самому станет чуть проще быть собой, которому не всё равно.

Короче, пожелание вам и себе – учитесь искать радость и смех, с каждым разом это будет делать все легче, даже в самые темные времена.

А я пока возьму булку с кунжутом и пойду на паром через Босфор, где буду ее в рилсах залипать, а по сторонам смотреть, чтоб было что записать сегодня вечером в дневник благодарности.

Всех люблю💚

А если вам в эту пятницу нужно вдохновение по вопросу кем бы вам хотелось стать - послушайте замечательную песню группы Он Юн

https://youtu.be/qFju1k_pnwQ?si=RAf-vFyfG_RThhjS

Таким образом, Максим Сергеевич
Вам остается немного до рейтинга Forbes
Да идите все к чёрту, я не Максим Сергеевич!
Я огромный и добрый трицератопс!

Очередной выпуск нерегулярной рубрики
«Как удивительно, конечно, устроен мир»

Что вы представляете, когда слышите слово «море»?

Наверное, какой-то пляж, берег, может, волны, шум прибоя.
Маяк, холодное пиво, горячую кукурузу, песок, гальку.
Ну или скалы хотя бы — столкновение воды и земли.

А я вот на тридцать втором году жизни узнал, что в мире существует, как минимум, одно море, которое не касается суши ни одним из своих берегов.
(В Твиттере меня закидали говном и сказали, что об этом все знают из географии 7 класса, но плевать.)

Оно называется Саргасово море.
И это реально море, полностью окружённое водой.
И оно дрейфует в океане.
МОРЕ, КОТОРОЕ ДРЕЙФУЕТ В МАТЬ ЕГО ОКЕАНЕ.

У него нет берегов вообще. Вместо них — четыре океанических течения, которые его ограничивают.
Это участок воды в Атлантическом океане, внутри которого — другая температура (чуть теплее, чем вокруг), другая солёность (чуть больше соли на литр), свои уникальные организмы.
Ещё там часто бывает штиль, потому что это область высокого давления — и ветра туда почти не заходит.

Но самое поразительное — это то, что высота поверхности воды в Саргасовом море в среднем на 1–1,5 метра выше, чем в окружающем океане. Из-за течений и всего такого. Физика, короче.

Но вы просто вдумайтесь!

Море.
Дрейфующее внутри океана.
Без берегов.
И немного приподнятое.

Обожаю моменты, когда ты вдруг понимаешь:
я вообще не знал, как устроен мир.

Две недавние новости из мира партнерств и ИИ, которые меня обрадовали:

1️⃣
(Отличный пример кросс-дисциплинарной коллаборации)

Музыкальный продюссер Рик Рубин выпустил вайбовый интерактивный курс по вайб-кодингу вместе с Antropic.

Дедушка-продюсер, которому принадлежит цитата "I have no technical ability, and I know nothing about music" учит нас вайбкодить, что может быть круче блин вообще?!

- пост Дани Трабуна, из которого я узнал про этот релиз
- кто такой Рик Рубин и чем он знаменит
- 4-часовой плейлист с песнями, которые он спродюсировал

2️⃣
(Отличный пример партнерства в масштабах целой страны)

ОАЭ в партнерстве с OpenAI откроют всем своим граджанам и резидентам (а это больше 6 млн человек) бесплатный досутп к подписке ChatGPT Plus (для остальных она стоит 20$ в месяц)
линк
Дорого, масштабно, охуенно!

и вот вдогонку мем:

Рассказ «Комната»

Проснувшись однажды тридцатилетним, я понял, что ничего не понимаю
Возможно, это был звоночек так называемого кризиса среднего возраста, а может, кризис ещё впереди, и это вообще были цветочки
А может, никакого кризиса и не существует

Но, посмотрев внутрь себя, я решил: хочу зафиксировать на бумаге это состояние — потерянности, разбитости, жизни без маяка и ориентиров
Без смысла, но с огромным количеством вопросов


Так родился рассказ «Комната» — про человека, который споткнулся даже не о банановую кожуру, а буквально об тень на дороге
И разъебался на хуйне

Я очень доволен тем, как это получилось
Для меня это вышло довольно терапевтично — хоть с моей личной историей у текста нет почти ничего общего

Но после того, как я это рассказал, мне стало легче, а сейчас уже и вообще хорошо!

Невозможно проложиться от сюрпризов бытия

Мы готовы принять почти любую реальность за норму, если не знаем, что возможна другая

Пару дней назад наткнулся в Твиттере на тред — люди рассказывали, как случайно смотрели фильмы и сериалы с багами воспроизведения и думали, что так и задумано.
Один человек посмотрел целый фильм без звука. Другой — в неправильной цветовой палитре. Кто-то слушал аудиокниги в режиме shuffle и не понял, что главы идут не по порядку.

У меня была похожая история.

В двадцать лет я пошёл к окулисту и впервые узнал, что у меня есть особенность зрения. Некоторая форма бинокулярного: мой мозг получает две плоские картинки от глаз, но не собирает из них объёмную. Просто накладывает одну на другую.
Проще всего это объяснить так: как будто ты выпил, и у тебя в глазах двоится. Только у меня так всегда.

До этого момента я был абсолютно уверен, что все видят мир именно так. Ну а как иначе-то? Как проверить?
Из смешного — мне всегда было сложно играть в пинг-понг — я просто не мог точно попасть по мячу.
Оказалось — у других людей обычное 3D-зрение помогает ощущать расстояние.
А у меня — нет. Я вижу мячик, но не чувствую, где он.
Просто потому, что мой мозг не строит трёхмерную модель.

Вау, оказывается, у большинства людей по-другому устроены базовые настройки восприятия.
И я всё это время жил с глюком, думая, что такое состояние — дефолтное.

Каждый видит мир по-своему, но большинство людей уверены, что все видят мир так же, как они.

Мы даже не можем гарантировать, что под словами «чёрный» или «синий» разные люди видят одно и то же, потому что у всех — разное строение глаз. То же самое и со звуками.

И как-то — несмотря на всё — мы научились говорить о фильмах, музыке, искусстве. Мы, как человечество, смогли договориться!

И это, конечно, поражает