Получается, у нас может быть некое сражение двух концепций, AI против web3?

- Тексты от chatGPT и прочих генераторов, а также сгенерированный видео контент

И

- Источники информации с подтвержденной репутацией, автоматически отслеживаемой на блокчейнах

Да, пока люди все еще поддерживают целостность контента на Википедии
Но
Фундаментально и им потребуется механика credibility инпутов, кто вносит правки/дополнения

Но, на мой взгляд, фундаментально проблема связана с когнитивной ленью только части людей, которые виралили фэйки и 10 лет назад, когда AI не просматривался даже на горизонте

Я не разделяю опасения всяких nonprofits и властей, что дескать пропаганда по всему миру станет очень кастомизированной, и поэтому сокрушительной. Потому что когнитивно ленивым людям ничего не поможет - они и так сами рады влезть в пирамиды, послать смс от своей карты мошенникам в социальном инжиниринге, являются зрителями теорий заговора от qanon итд итп

Мне кажется, мы должны позволять людям жить в картине мира, которая им лично откликается. Они все ходили в школу (= знакомились со всем, что цивилизация знает в данный момент),
Но
Все равно виралят фэйки

В демократическом обществе мы не можем лишать других права на обладание точкой зрения, которая им, почему угодно, близка. Их право. Более того, если в популяции процент таких людей большой (условно, это десятки процентов) - значит эволюции это зачем-то нужно. Возможно мы позже, задним числом, поймём зачем.

По сколько самолетов у самых богатых и число полетов за 3 года (то есть надо на 3 делить, чтобы понять сколько полетов в год у каждого конкретного человека)

Некоторые типа Маска или Гейтса или Безоса летают каждые 2 дня, получается? (пусть включая родственников, но все равно)

Если полет в среднем несколько часов, его цена в аренду, а не на своем самолете, будет примерно $50к. То есть кто летает по 200 полетов в год = тратит примерно $10 млн на свои полеты как если бы он на такси летал, а не своим самолетом владел. Ничтожная доля от размера общих активов

​​Ray Kurzweil в Oxford Union

Сегодня в Oxford Union был Рей Курцвейл (https://en.wikipedia.org/wiki/Ray_Kurzweil). Это легендарный ученый в области computer science.

Он с 70-х годов занимается распознаванием образов и искусственным интеллектом. Написал кучу книжек, включая книжку с предсказанием сингулярности “The Singularity Is Near”. Сингулярность — это такое состояния мира, когда технологический прогресс достигает точки, после которой становится безконтрольным и необратимым, и интеллект машин объединяется с интеллектом людей 🙂

Во-первых, меня впечалила форма Курцвейла — в свои 75 он невероятно бодрый, живой, хваткий, быстрый. Он много экспериментировал с фармой, капельницами и тд 😀 Ученый 😀

Во-вторых, насколько неформальной была встреча. OU перенесли ее из Debate Chamber в одну из библиотек и это создало камерность.

Курцвейл много лет назад сделал прогноз, что сингулярность будет достигнута в 2029 году. С ним многие спорили и ставили гораздо далекие даты. Но сейчас многие сходятся на этой дате.

Он расширил закон Мура и утверждает, что удвоение производственных мощностей проходит каждые два года, то есть рост экспоненциальный. И даже Ковид не помешал закону Мура об удвоении работать.

Вообще, экспонента, это, конечно фантастически круто о как бы мы изменении ни говорили. 1 - 2 - 3 и 1 - 2 - 4 — вроде бы не большая разница на первых шагах, а дальше — космос! На тридцатом шаге — это 30 vs миллиард.

Собственно, именно поэтому он утверждает, что искусственный интеллект — это не какое-то далекое будущее. Потому что мир уже несется по экспоненте.

На примере вакцины Moderna он рассказал, как ее протестировали на компьютере за 2 дня — сотни миллиардов вариантов и вакцина была готова. Потом 10 месяцев тестировали на людях из-за гос протоколов. И то потом люди боялись делать ее, тк “всего 10 месяцев тестирования”, но ее на самом деле протестировали за 2 дня. Раньше фарма не могла такое представить, а сейчас это возможно.

Куцвейл считает, что к 2029 году компьютер сможет пройти Тест Тьюринга — это такой текст, когда в 30-ти минутной игре человек не может определить общается он с компьютером или с человеком. Курцвейл утверждает, что после 2029 года это может быть хоть многочасовой тест, человек не сможет понять что он общается с компьютером.

При этом он не считает, что стоит бояться развития технологий. Он считает, что общественное мнение со страхом технологий, AI и роботов — это продукт новостей, которые сообщают только плохое. И что у людей искаженное представление об очень многих вещах из-за этого.

Например, по опросам, 70% людей считает, что за последние 50 лет неравенство в мире выросло значительно. При этом на самом деле неравенство и бедность в мире сильно снизились, относительно того, что было 50 лет назад. Тоже самое касается продолжительности жизни и здоровья, развития демократии (то есть участия людей в управлении своей жизнью). И это все произошло вместе с развитием технологий.

Мобильный телефон и соцсети не погубили человечество, а наоборот, помогают ему (хотя есть и болезни).

На вопрос о наиболее значимых прорывах для человечества в ближайшие 10 лет он сказал:

1. Будет создана технология генерации энергии, которая решит все проблемы с электричеством. Это будет солнце и новые технологии в хранении и передаче. Типа, вопрос будет полностью решен за 10 лет.
2. Бытовые роботы. То есть будут роботы, которых можно будет заводить дома — для помощи на кухне или по хозяйству.

Я спросил сможет ли AI помогать в вопросах policy, когда это касается моральных и этических дилеммы (то есть всегда). Например, сможет ли помочь AI решить надо ли разрешать наркотики или надо запрещать. На что он ответил, что AI с легкость сможет предсказывать (и уже предсказывает) реакции общества и людей, что здорово в policy-вопросах может помогать.

Так что вперед к сингулярности и без страха 😂

Оффтоп 🙈🤣

Так, ладно, а как бросить курить?
- Пару лет курил только когда выпивал,
- летом 1-2 в шт в неделю на выходных,
- а сейчас 5 сигарет в день

Доигрался )

Что делать? Что почитать? Есть какие-то группы анонимных курильщиков? 🙈🤣

Курю ради чувства головокружения, угнетающий эффект после не нравится

Папа курит со школы и папиросы, даже не сигареты

А на кого интересного в телеге стоит подписаться?

Так сказать, кого вы читаете не на mute?

Как он просто и элегантно что такое сознание, а точнее - как оно появляется. Ученики Шмидхубера когда-то сделали компанию DeepMind

Есть такой очень интересный чёрт, Jürgen Schmidhuber. Когда-то я очень хотел перевести его статеечки и ответы на вопросы из Реддита на русский, но поленился. Кажется, сейчас хороший момент про него вспомнить.

Он один из экспертов по искусственным нейронным сетям, и в частности RNN, рекуррентным нейронным сетям, и трансформерам, на основе развития которых и построены современные архитектуры сетей типа GPT3.

Сейчас Юрген работает над задачами metalearning, то есть обучения обучению и строит Gödel Machine – программу, способную эволюционировать, перестраивая собственный код. Его интересует как раз метасостояния моделей и обратная связь.

Все кто во вчерашней заметочке позарубались на тему сознания нейронок, но не слышали про Юргена – рекомендую почитать про него, у Лекса Фридмана есть с ним подкаст, есть выступление на TEDx, AMA в Реддите, может что-то еще.

Но сегодня я просто переведу пару его реплик из AMA аж в 2015 году.

Q: Есть ли у вас любимая Теория Сознания, и как вы думаете, какое влияние имеет Теория Сознания на AGI?

A: Карл Поппер когда-то сказал: “Всё чем является жизнь – это поиск решений”. Никакая Теория Сознания не нужна, чтобы определить цели “поисковика решений”. С точки зрения AGI, сознание – это в лучшем случае побочный продукт универсального поисковика решений.

Откуда возьмется это сознание? Я думаю, в процессе компрессии данных во время поиска решений.

Когда поисковик решений взаимодействует с миром, он должен хранить максимум данных о всей истории своих действий и всю сенсорную информацию, включая сигналы наград. Данные – святая ценность, так как они являюся основой всего, что мы знаем о мире.

В то время как мы взаимодействуем с миром в попытке достижения целей, мы создаем внутреннюю модель мира, предсказывая и сжимая те самые исторические данные, которые мы наблюдаем. Если предсказатель/компрессор является биологической или искусственной нейронной сетью, например рекуррентной нейронной сетью, он автоматически построит иерархию образов, на низком уровне будут сырые сигналы, на более высоких – более абстрактные образы. Как любой хороший компрессор, нейронная сеть будет учиться определять общие закономерности среди существующих структур данных, и создавать репрезентации, символы для часто встречающихся наблюдаемых феноменов или последовательностей наблюдений. Это просто натуральный результат компрессии данных наблюдений, чтобы сохранить максимум истории и занимать минимум места.

Рано или поздно появляется “символ себя” (self-symbol), просто как побочный продукт этого процесса, поскольку есть одна штука, которая фигурирует во всех процессах взаимодействия агента и среды – это сам агент. Поэтому появление внутренней репрезентации себя также естественно в результате компрессии.

Если эта репрезентация активируется, например во время активации группы нейронов при входящем внешнем сенсорном потоке, или во время подачи на вход данных от “внутреннего фонарика”, при своего рода рефлексии в нейронной сети, то можно назвать этого агента “осознанным”, так как он осознает самого себя.

Нет смысла видеть в этом какой-то невероятный мистический процесс – это просто естественный результат эффективной компрессии постоянного потока внутренних и внешних данных и кодирования часто встречающихся наблюдений.

—

Q: В чём вы абсолютно уверены, а с вами не согласны большинство окружающих вас в настоящий момент людей?

A: Многие считают что разум это невероятная, бесконечно сложная штука. А я думаю что это очень натуральный продукт нескольких простых принципов, которые будут считаться совершенно банальными задним числом, уже после открытия. Они будут настолько примитивными, что даже дети будут способны понять и сделать свои разумные, постоянно обучающиеся и универсальные поисковики решений.

—

Что думаете? Нужно побольше на пальцах расписать как работают RNN или другие похожие рекурсивные нейронки, чтобы понять, почему Юрген настолько сильно верит в то, что они и есть основа сознания? Или уже пора своё мнение по вопросу писать? =)

Китай (17% населения мира и 18% ввп мира), электрогенерация уже на 50% на возобновляемых источниках энергии

The New Yorker рассказывает о том, почему результаты на лабораторных животных зачастую не подтверждаются затем в клинических исследованиях. Не только потому, что мыши — не люди. Все еще сложнее: исход опытов может зависеть от неуловимых деталей, от освещения, расположения клеток и, например, присутствия конкретных сотрудников. И чрезвычайно трудно все это учесть.

«Люди на собраниях в течение ряда лет шептались об этом», — сказал мне Могил. В серии последующих экспериментов его команда наблюдала меньше «болевых ощущений», когда рядом находился мужчина или даже футболка, которую носил мужчина.

Могил обнаружил, что во всех его экспериментах мыши демонстрировали более высокий болевой порог, когда с ними обращались сотрудники-мужчины. Если это так, то исследования на животных обезболивающих или лекарств с болевыми побочными эффектами могут содержать систематические ошибки просто из-за состава персонала лаборатории».

Некоторые ученые уже ставят под вопрос саму идею проверять что-то на животных, обитающих в искусственной среде, и переносить выводы на нас, видящих солнце и вдыхающих воздух после дождя. Лаборатория — не реальный мир. Это подразумевает иную микрофлору, иную иммунную систему и иные реакции организма. В итоге, тратится масса сил, времени и денег впустую. Буквально, мусор на входе, мусор на выходе.

Однако наука вся стоит на этой идее, и пока не ясно, что могло бы ее заменить [автор The New Yorker приводит в пример ученых, которые выпускают своих мышей на прогулку].

P.S. Могил из отрывка выше — это Jeffrey Mogil, профессор в McGill University, крупный эксперт по генетике и нейробиологии боли. Я хотел было найти статью, где он пишет о том парадоксе с мышами, но у него так много публикаций, что я пас.

Зато наткнулся на статью, где он оспаривает тезис “мыши — не люди”. Могил утверждает, что грызуны не так уж сильно отличаются от студентов:

накапливаются свидетельства, что грызуны способны к любому набору способностей и качеств, которые раньше считались исключительной прерогативой человека, включая метакогницию, эмпатию и даже личность.

Mogil, J. S. (2019). Mice are people too: Increasing evidence for cognitive, emotional and social capabilities in laboratory rodents. Canadian Psychology. doi: 10.1037/cap0000166

Или вот еще лекция, которую он прочитал в 2022 году на San Diego Pain Summit. Про исследования боли у людей и животных и проблемы трансляции в клинику.

"Pain In Mice and Men: Ironic Adventures In Translation" by Dr. Jeffrey Mogil [Youtube]

Боль — это не только физиологический, но и социальный феномен; и тем глубже заходишь в эту тему, тем чудесатее.

темп 2x за четыре последних года