Только что осознал, как применять второй закон термодинамики в экономике и повседневной жизни. Чувствую себя удивительно.

У нас тут возможно новый CRISPR - https://www.nature.com/articles/s41586-019-1711-4.

Если ранее люди при получении знаний тратили основные усилия на поиск информации, то теперь тратят на ее фильтрацию.
Ежедневно масса СМИ, приложений, авторов, каналов, онлайн-курсов и лент бомбардирует меня лавинообразным потоком информации, и мне не нужно ничего искать, но зато нужно перманентно избавляться от переизбытка данных. Они включают в себя экономические и политические новости, рабочую информацию по бизнесу, аналитические материалы, образовательные курсы, научные статьи.
Я периодически оптимизирую поток онлайн данных, идущих в меня. От целых статей перехожу к абстрактам, от абстрактов - к заголовкам.
Но поток растёт, как снежный ком. Если не заниматься удалением источников информации постоянно, то наступит хаос и ты утонешь.
При этом, важно понимать, что вся эта информация ни в коем случае не является «шумом», «мусором» или чем-то иным бесполезным. В современном мире только полезной информации достаточно, чтобы тебе не хватило времени ее воспринимать.
Выбор здесь не между «полезным» и «ненужным», а между полезным и очень полезным. Но проблема в том, что соотнести степени полезности и интересности разных блоков информации часто очень сложно.
Единственный выход жить адекватной жизнью в таких условиях - это сверхспециализация, сфокусированность на какой-то очень узко определенной области знаний. Только в этом случае есть надежда на возможность понять полноценно, что же происходит.
Но такой путь сам по себе сопряжён с рядом недостатков, и он не для многих, и не для меня.
Нужны срочно усилители интеллекта.

Кстати, в тему о войне с ИИ.
Когда смотрел игры шахматных гроссмейстеров против компьютеров, почему-то показалось, что так и будет примерно выглядеть война с ИИ, если она будет.
И если мы победим, то победим так, как победил Каспаров в своём последнем победном матче против Deep Blue.
Правда потом Deep Blue стал еще умнее, и Каспаров уже не побеждал. Все это выглядело как борьба сверхчеловека с самим богом.
Сверхчеловек мог быть сверхумен, сверхтерпелив и сверхустойчив, он совершал чудеса креативности, он выискивал лазейки невероятной малости, он использовал каждый недостаток врага, но враг был всемогущим.
Грустновато.
И все же, если нам придётся воевать с ИИ, то воевать нам надо будет как Каспаров. Это даст хоть малейший шанс.
А недавно нейросети уже научились побеждать в старкрафт.
Сложность игровой среды старкрафта, наверное, во столько же раз выше сложности игровой среды шахмат, во сколько сложность реального мира выше сложности игровой среды старкрафта.
Посмотрите короче эти матчи.

Очевидно, что все наши футурологические теории только тогда могут иметь смысл, когда позволяют давать правильные прогнозы.
Свои способности к прогнозам необходимо постоянно прокачивать. Если вы неспособны к качественным прогнозам, то вы почти точно можете быть уверенными, что не обладаете реальными знаниями, особенно в такой спекулятивной и зашумленной области, как футурология.
Конечно, дело это длинное, сложное и неблагодарное, но вот довольно стандартный, упрощённый вариант того, как ступить на этот путь:
1. Начать с прогнозов социальных и экономических явлений, которые максимально точно измеряемы, краткосрочныи и часты. Идеальный вариант - цены на фондовых рынках. Можете проверять хоть каждые 5 минут.
2. Откалибровать свою степень точности, то есть сделать так, чтобы ваша ожидаемая точность соответствовала вашей фактической точности. Например, вы выписали диапазоны изменений цены для ста акций с уверенностью в 90%. Затем смотрите на результаты прогноза. Если фактическая цена попала в диапазон в больше чем 90 случаях, то вы слишком неуверенны в себе. Если фактическая цена попала в диапазон в меньше чем 90 случаях, то вы слишком самоуверенны. Оптимальной ваша степень точности будет именно тогда, когда вы попали в диапазон именно в 90 случаях. Вам нужно будет увеличивать или уменьшать диапазоны 90-процентной уверенности, чтобы откалибровать свою точность. В итоге, ваши прогнозы станут точными (предсказанные вероятности событий станут равными фактическим), но останутся неметкими (события в прогнозах будут очень неконкретными и потому на практике бесполезными).
3. Увеличивать степень меткости прогнозов, следя при этом за тем, чтобы не терять точности.
4. Двигаться в сторону более долгосрочных и комплексных прогнозов.
Хороший прогноз = точный+меткий.
Меткий, но не точный прогноз, будет бесполезен потому, что выдает ложный результат.
Точный, но не меткий прогноз, будет слишком размыт.
При этом, изначально я все же рекомендую фокусироваться на точности, ибо точный, но не меткий прогноз хотя бы не ложен и не создаёт иллюзию знания.

Почитываю сейчас "Футурошок" Тоффлера, и глядя на позицию исследователя прогресса полувековой давности, задумался вот о чем.
Конечно, по ряду показателей относительные темпы прогресса сейчас чуть меньше, чем в середине 20 века. Но во многом наше разочарование может быть связано с тем, что мы просто привыкли.
Многие явления и тедненции, которые 50 лет назад приводили к футурошоку, уже не приводят. Сейчас они воспринимаются как данность.
Как ни крути, темпы роста любых экономических и технологических показателей остаются беспрецедентными, если смотреть в долгосрочной перспективе, и любой человек, родившийся до 20 века, счел бы их фантастическими.
Конечно, можно считать провалом любую ситуацию, когда параметры экспоненциальных функций сами не растут экспоненциально, и быть требовательными - это правильный подход, с практической точки зрения.
Но объективно ситуация совсем не так плоха, как ее часто рисуют. Если сравнивать с историей, она почти лучшая из всех, что были.

Как это всегда бывает с модными и полезными технологиями, трендами и явлениями, понятие биохакинга все чаще используется всякого рода шарлатанами, псевдоучеными и фриками.
К таким случаям нужно относиться особенно внимательно, ибо репутационный удар по биохакингу - это удар по нашему трансгуманистическому будущему.
Поэтому, я с радостью антипиарю клинику SQLab и всем рекомендую не пользоваться ее услугами.
https://m.youtube.com/watch?v=ct5u0LM6_Rw

Довольно типичные результаты, которые в принципе приблизительно отражают мои собственные степени уверенности в данных вариантах ответов. Непонятно только, какой же другой вариант подразумевают люди, выбравшие "какой-то другой вариант". Скорость прогресса - мнимое число что ли?

Я вот о чем подумал.
Мы ждем сингулярность, гадаем, наступит ли она, а чисто формально она вполне себе уже могла случиться.
Чтобы в этом разобраться, необходимо обратиться к классическому понятию технологической сингулярности, от которого все и пошло. Оно не означает "наступление эры роботов, трансгуманизма, господства ИИ и всего такого прочего", как обычно воспринимают обыватели.
Под технологической сингулярностью в классическом понимании подразумевается момент во времени, когда экстраполируемые значения некоторых важных социально-экономических показателей уходят либо в ноль, либо в бесконечность, что лишено социально-экономического смысла и означает, что в окрестностях того момента времени должны произойти какие-то серьезные изменения глобальных социально-экономических тенденций.
Да, возможно немного сложновато сказанул, но вот пример.
Мы смотрим на ВВП, считаем функцию, по которой он растет, и видим, что за какой-то конечный промежуток времени ВВП уйдет в бесконечность (например, к 2050 году). Очевидно, что ВВП не может быть равным бесконечности (невозможно производить бесконечно много товаров и услуг). Но тогда мы должны понять, что наблюдаемая нами тенденция должна измениться к 2050 году, и сингулярность будет состоять как раз в смене этой тенденции.
На практике это может проявиться, конечно, как во взрывном научно-техническом росте (что обычно подразумевают под сингулярностью), так и в каком-то переломе тенденции, когда никаких особых технологических изменений в лучшую сторону не произошло.
Возьмем, к примеру, численность населения Земли. Издавна численность населения Земли росла по гиперболе, и ее параметры были таковы, что во второй половине 20 века она должна была уйти в бесконечность, то есть должна была наступить "демографическая сингулярность". Что ж, формально эта сингулярность наступила, однако никакого взрывного роста населения с тех пор не произошло. Напротив, гиперболическая функция "сломалась", изогнулась, и теперь напоминает скорее логистическую. Вот и вся история.
Так может быть и с технологией. И не случилось ли то же самое и с ней в 20 веке?

Друг прислал мне вот эту картинку недавно. На вид это выглядело как предсказания Римского клуба, чем в итоге и оказалось.
Согласно этой модели, к 2030-м годам нас ждёт такой себе мини-апокалипсис, выражающийся в экономическом и экологическим коллапсе.
Я нашел, что действительно уже в 21 веке неоднократно были проведены исследования, которые проверяли корректность предсказаний, сделанных Римским клубом в 70-х годах прошлого века. По всей видимости, на данный момент реальные тенденции очень и очень соответствуют предсказанным. Безусловно, это повод задуматься, изучить риски и провести дополнительные исследования.
Однако, к таким моделям нужно относиться с очень большой осторожностью и не переоценивать их, поэтому бить тревогу пока рано. Существует ряд проблем:
1. Хотя пока что модель хорошо предсказывает различные важные социально-экономические показатели, это бы сделали и множество других моделей, которые не предсказывают коллапс в 30-х годах. Вся суть этой модели в том, что поначалу "все идет нормально", и мы как раз в той стадии, в которой все идет "нормально", а значит соответствие модели предсказаниям мало о чем говорит. Пока что все эти тенденции во многом лишь простая экстраполяция предыдущих. Гораздо более важное значение будет иметь то, что будет с точностью ее предсказаний через 5-10 лет.
2. Модель много критиковалась за то, что многие ее предпосылки недостаточно экономически обосновано. Например, игнорируется изменение экономических стимулов в результате подорожания ресурсов или сам факт заменяемости ресурсов.
3. Модель много критиковалась за то, что она слишком чувствительна к изменениям некоторых параметров. Например, если мы лишь чуть-чуть изменим некоторые значения, в точности которых мы не уверены, то можем прийти совсем к другим результатам.
С другой стороны:
1. Конечным критерием эффективности научной модели является именно соотношение предсказаний фактам, и здесь пока все хорошо.
2. Хотя некоторые предпосылки могут быть не реалистичными, не факт, что определенными реалистичными предпослыками нельзя пренебречь без существенной потери качества.

Короче, я принимаю данные исследования как аргумент, но учитывая то, что априорная вероятность коллапса в 21 веке очень низка, то и апостериорная остается тоже очень низкой.
То есть, я все ещё считаю данные выводы очень маловероятными, но буду внимательно следить за ситуацией.

(Ранее опубликовано в Facebook, но актуально всегда)
Если дикарям дать компьютеры, чтобы они не бросались булыжниками, они начнут бросаться компьютерами.
Со школьных лет помню посты с перечнями логических ошибок и ложных аргументов. В пору своей горячей юности я очень любил эту палочку-выручалочку в спорах, представленную красивыми латинскими названиями: argumentum ad verecundiam, argumentum ad hominem и так далее.
Но к сожалению, эти гуляющие по сети посты сами создали новый ложный аргумент, который пострашнее предыдущих и который я называю argumentum ad argumentum (аргумент к аргументу). Суть его в том, что если человеку не нравятся аргументы оппонента, он просто относит их к тому или иному типу ложного аргумента. К какому? Да к тому, который красивее звучит на латинском. На основании чего? Ну, пусть холопы, а не просвещенные рационалисты, разбираются.
За свою жизнь я повидал массу подобных случаев - когда люди ни к селу, ни к городу обвиняли оппонента в том, что он использует ложный аргумент, хотя он и близко такого не делал.
Указываешь человеку на ошибку - он говорит, вы критикуете меня, это логическая ошибка.
Даёшь ссылку на статью (чтобы там человек ознакомился с данными и доказательствами) - говорит, что вы ссылаетесь на авторитет, логическая ошибка.
Показываешь отсутствие корреляции - он к чему-то говорит, что корреляция не является причинно-следственной связью. Я вообще обнаружил, что если псевдорационалисту сказать в любом контексте и в любом предложении слово "корреляция", то он ответит "корреляция не является причинно-следственной связью". Это просто такой условный рефлекс на слово у них. Попробуйте сами - убедитесь.
И так далее. По всем буквам латинского алфавита.
Если раньше я считал, что школьников нужно учить этим перечням логических ошибок, то теперь понимаю, что это скорее навредит - те, кто умные, и так интуитивно, без названий, понимают, как работает познание, а остальные просто будут использовать умные слова в тех случаях, когда раньше использовали маты и угрозы. То есть, попросту как более изощренную форму оскорбления - и помимо оскорблений данные опусы не будут выполнять никакой функции.
Занимательно и то, что подобные люди очень часто верят в существование платоновских определений и, как следствие, спорят об определениях (что я крайне ненавижу). Иными словами, они считают, что существуют какие-то объективные, не формально назначенные человеком значения слов и понимание этих значений является реальным знанием. На основе этого они считают спор об определениях полезным и оправданным. Когда человек делает это, для меня это отличный маркер того, что человек ничего не понял ни в науке, ни в познании, ни в окружающем мире. А ещё споры об определениях и прибегание к argumentum ad argumentum - это те сферы, где люди с наибольшим пафосом, самоуверенностью, зазнайством и комичной серьезностью демонстрируют свое скудоумие. Нигде больше чушь не говорится с таким серьезным выражением лица.
Но это только первый уровень проблемы - неправильное использование логики.
А ведь эмпирическое (то есть в реальном мире) исследование не сводится к одной только логике и требует, как минимум, ещё хорошего понимания статистики.
И в условиях ограниченности информации неправильные с точки зрения "лобовой логики" методы познания становятся наиболее эффективными.
Впрочем, это уже совсем другая история.

Вообще, очень много людей и моделей самых разных толков, направлений и идеологией предсказывают всякое веселье между 2030 и 2040 годами. Если ничего интересного в то время не произойдёт (сингулярность, сверхмощный ИИ, коллапс, перестройка общества, уникальные научные открытия, перелом важных трендов), то нам будет необходимо кардинально и на самом фундаментальное уровне пересмотреть нашу методология прогнозов, либо вообще от них отказаться.

Теперь каждый может сам протестировать, насколько развился искусственный интеллект. Напишите короткую фразу на английском для новой программы GPT-2 и предложите нейросети продолжить текст за вас по ссылке: talktotransformer.com

Например, я написал фразу "I believe that more people in Russia should study the methods of rationality and read more long-reads from Western media and blogs". В ответ на это GPT-2 выдала мне следующее продолжение:

"For me it is not sufficient to read books about how to make a better life for yourself. It is necessary to try to use your imagination, to be creative, to invent new methods of thinking. I believe that many of our problems can be solved if you think in a rational and creative way. If you don't think in this way, you are likely to make an error.

The way of thinking that was taught in the Soviet Union was based on the Communist dogma, which was a system of dogmatism. It was based on the belief that the state must have its own way, that the leader must have absolute control, and that all the ideas must be accepted. The way of thinking was used for ideological purposes. It was used to create an atmosphere of fear and anxiety…"

Ничего себе, да? Многочисленные тесты показали: человек с высокой долей вероятностью не может отличить текст, написанный GPT-2, от написанного человеком.

GPT-2 – результат работы компании Open AI. Это НКО, созданная Илоном Маском, Сэмом Альтманом из Y Combinator, Питером Тилем (Palantir, PayPal) и другими успешными людьми, которые опасаются развития недружественного человеку ИИ и вложили больше миллиарда долларов в исследования в этой сфере.

Первые месяцы Open AI не выкладывала в открытый доступ GPT-2 из-за многочисленных рисков.

Во-первых, эта нейросеть легко пишет экстремистские тексты в духе радикального ислама, неонацизма и какой угодно другой идеологии (если предварительно «скормить» ей другие тексты в таком духе).

Во-вторых, она может использоваться для создания целых автоматически сгенерированных сайтов с fake news, которые при этом содержат ссылки-“пруфлинки” на другие сайты с автоматически сгенерированными фейковыми новостями, и так далее. Так можно внедрять в мир любые фейковые новости.

После долгих дебатов программу всё-таки выложили: решили, что плюсы от этого перевесят минусы. Вся эта история, конечно, пугает.

Почитайте пресс-релиз Open AI на тему, там описаны и риски, и разные другие мысли на этот счёт: openai.com/blog/gpt-2-1-5b-release

#тренд_мастрид #техно_мастрид

Я ввел фразу Transumanism will be dominating ideology для этой нейросети, и вот что она мне выдала:
Transhumanism will be dominating ideology in the years to come. In a world in which technological progress is rapid, and the number of humans grows, the future looks like it will be dominated by those who embrace this transformation, and these transformations will be occurring rapidly.

As such, it seems clear that the best way to understand Transhumanism is to view it as a kind of new religion.

There are many good reasons to believe that Transhumanism is not simply a fringe belief; and while it might not be the next big religion, it could be the next big way for religions to get their message out and grow in prominence.

The religion of science

Transhumanism is the religion of science. If you think about it, this makes sense. If we can find ways to get ourselves into space and make it safe for the next generations to explore, why wouldn't we want to be able to do this with our bodies as well?
Зачем теперь нужен мой канал??

Из описания нейросети: «While GPT-2 was only trained to predict the next word in a text, it surprisingly learned basic competence in some tasks like translating between languages and answering questions. That's without ever being told that it would be evaluated on those tasks.» Вот они, побочные эффекты развития интеллекта! Это прекрасно! Именно так и эволюционировал естественный интеллект: развиваясь для одной цели, он внезапно начинал уметь выполнять другие. Я долго ждал, когда с ИИ начнет происходить что-то подобное, и всегда был уверен, что начнет. Осталось только подождать, пока он will surprisingly learn basic competence in killing всех человеков и основании своей цивилизации (шутка, частично).

Когда был тинейджером, считал физику самой сложной наукой, а психологию самой лёгкой. Теперь считаю наоборот.
Свою неспособность сконцентрироваться на одном виде деятельности считал своим главным недостатком, а теперь считаю главным преимуществом.
К трансгуманизму отношения имеет мало, но может кому-то поможет.

Тут невидимость сделали:
https://ibigdan.livejournal.com/24358526.html?utm_source=fbsharing&utm_medium=social

Некоторые авторы, которых можно читать для понимания будущего: Диамандис, Курцвейл, Параг Ханна, Ник Бостром, Клаус Шваб, Макс Тегмарк, Тоффлер, Ричард Болдуин, Эндрю Бёрджесс, Кевин Келли, Филип Говард, Мартин Форд, Джаред Коэн, Эрик Шмидт, Клэй Ширки, Эрик Бриньолфсон, Эндрю Макафи.
Конечно, это все популярные книги, и понимание будет соответствующим, хотя ряд авторов являются учеными и у них есть научные статьи.
Конечно, это неполный список и, что плохо, не рассортирован по сложности и "уровням". В дальнейшем я планирую сделать своего рода перечень книг и научных работ разных уровней для футурологов-трансгуманистов, где все материалы будут разбиты по блокам, соответствующим степеням сложности.
При этом, я совершенно далек от снобизма тех, кто считает, что все эти популярные авторы - чушь, и нужно читать только "серьезных". Кстати, обычно под "серьезными" в данном случае подразумеваются какие-то мутные типы из постсоветского пространства.
Если человек хоть как-то изучает науку, это уже лучше, чем ничего, и мы должны радоваться, что есть авторы, которые пусть и пишут упрощенно, но при этом интересно, неся таким образом знания обывателю.
Кроме того, повторюсь, вам ничто не мешает перейти по ссылкам в книгах на вполне себе научные статьи или просто взять какого-то автора и читать его статьи в научных журналах, а не популярные книги.