Игровой ИИ AlphaZero открыл новый способ умножения матриц впервые за 50 лет

Чтобы «заинтересовать» нейросеть AlphaTensor, новую версию AlphaZero, задачу об умножении матриц превратили в своего рода настольную игру, каждое действие умножения сопоставили игровому ходу, а ИИ получал награду за победу с минимальным числом ходов. В результате AlphaTensor нашёл новый способ умножения матриц 4×4, более эффективный, чем в 1969 году предложил немецкий математик Фолькер Штрассен (Volker Strassen). Базовый способ предполагает решение задачи за 64 шага, у Штрассена это 49 шагов, а AlphaTensor справляется за 47. В целом ИИ усовершенствовал алгоритмы для матриц более 70 размеров: при размере 9×9 число шагов уменьшилось с 511 до 498, а при 11×11 — с 919 до 896. В ряде других случаев AlphaTensor повторил лучшие из известных алгоритмов.
Получив результаты, инженеры DeepMind решили адаптировать их для ускорителей NVIDIA V100 и Google TPU, которые чаще всего используются в машинном обучении. Выяснилось, что предложенные AlphaTensor методы работают на 10–20 % быстрее традиционных.
https://3dnews.ru/1075386/igrovoy-ii-alphazero-otkril-noviy-sposob-umnogeniya-matrits-vpervie-za-50-let

AlphaZero gaming AI has discovered a new way to multiply matrices for the first time in 50 years

In order to “interest” the AlphaTensor neural network, the new version of AlphaZero, the matrix multiplication task was turned into a kind of board game, each multiplication action was compared to a game move, and the AI ​​​​received a reward for winning with the minimum number of moves. As a result, AlphaTensor found a new way to multiply 4×4 matrices, more efficient than the German mathematician Volker Strassen suggested in 1969. The basic method involves solving the problem in 64 steps, Strassen has 49 steps, and AlphaTensor copes with 47. In general, AI has improved algorithms for matrices of more than 70 sizes: with a size of 9 × 9, the number of steps has decreased from 511 to 498, and with 11 × 11 - from 919 to 896. In a number of other cases, AlphaTensor repeated the best known algorithms.
After receiving the results, DeepMind engineers decided to adapt them for NVIDIA V100 and Google TPU accelerators, which are most often used in machine learning. It turned out that the methods proposed by AlphaTensor work 10–20% faster than traditional ones.
P.S. Ссылка https://www.nature.com/articles/s41586-022-05172-4?

О книге @Сергей Самойленко https://www.facebook.com/profile.php?id=100008170901410
Вероятности и неприятности. Математика повседневной жизни

Что мне показалось интересным:
Как сматывать шнур от наушников, чтобы он не запутывался, решение методом теории узлов со ссылкой на научные работы (рис. 1.2.).
Если удачные события и неудачные для нас распределены случайно и у нас есть память, то интеграл от них (или накапливаемая сумма) и есть наше настроение - эмоциональный фон. Моделирование показывает, что мы можем впадать в длительные полосы уныния и эйфории (глава 6, стр. 139, рис. 6.5).
Предположим, что время выполнения работы случайно и распределено по равномерному закону, вопрос, сколько работ мы успеем сделать за заданное время? (рис. 8.3, 8.6)

#Шаббат_библиотека
Хармут Х. Применение методов теории информации в физике. М.: Мир, 1989. - 344 с.
Со времен Аристотеля в физике доминирует понятие пространственно-временного континуума. В тоже время, непрерывность пространственных и временных измерений (называемая континуумом) с точки зрения теории информации требует бесконечного количества информации для описания мира, так как бесконечное количество информации может появиться как при наблюдении бесконечно большого, так и бесконечно малого. Автор строит фундаментальные уравнения физики в предположении что пространство и время дискретны.
Здесь есть пересечение с моделью мира в виде клеточного автомата, хотя автор в этом направлении не развивает свои исследования. См. "Вселенная Эда Фредкина" http://beluch.ru/life/fredkin/unicomp1.htm и "Вселенная Стивена Вольфрама" https://habr.com/ru/post/518206/comments/

#Шаббат_библиотека
Компьютеры и нелинейные явления, Самарский, 1988.

Книжка близка к Шредер М. "Фракталы, хаос, степенные законы" https://news.1rj.ru/str/MathModels/336, но более узкая, зато более понятная.
Уравнения колебаний и теплопроводности: линейные и нелинейные.
Бегущая тепловая волна в нелинейных уравнениях теплопроводности - с. 17.
Модель распространения эпидемии, горения, прохождения импульса по нервному волокну и т.п.
Игра Жизнь.
Самоподобные структуры в игре Жизнь, с. 38.
Обычная ЭВМ (фон Неймановская) на основе клеточного автомата.
Стр. 72 Одномерные отображения и их анализ. Логистическое (квадратичное) отображение.

Добрый день, солнечный свет: доходность акций и погода

Психологические данные и случайная интуиция предсказывают, что солнечная погода ассоциируется с приподнятым настроением. В этой статье исследуется взаимосвязь между утренним солнечным светом в городе, где расположена ведущая фондовая биржа страны, и ежедневной доходностью рыночных индексов в 26 странах с 1982 по 1997 год. Солнечный свет сильно коррелирует с доходностью акций.
https://onlinelibrary.wiley.com/doi/10.1111/1540-6261.00556

Замечательный ролик про самосинхронизацию колебательный процессов...
С 17 минуты - сомосинхронизация движения людей.
https://www.youtube.com/watch?v=HmmYtopGx7Y

Синхронизация колебаний (фазовая синхронизация)


Выше была публикация на эту тему.
Здесь статья с некоторыми интересными ссылками на современные материалы https://habr.com/ru/post/455828/

P.S. Оригинал статьи на английском https://www.quantamagazine.org/physicists-discover-exotic-patterns-of-synchronization-20190404/
-

Краткое содержание

Синхронное мигание светлячков.
Аплодисменты толпы вдруг начинаются в унисон.
Синхронизация метрономов и маятников.
Синхронизация частоты электроэнергетической системы.
Гюйгенс заметил, что маятники качаются точно в унисон, сближаясь, а потом отдаляясь друг от друга. Наиболее стабильным поведением для маятников будет движение в противоположных направлениях, когда каждый из них толкает другой в сторону, в которую движется он сам. Многие системы синхронизируются по схожим причинам, а удары в них заменены иными формами взаимодействия.
Два века спустя английский физик Джон Уильям Стретт (более известный, как лорд Рэлей), заметил, что если поставить две органных трубы рядом, это приводит к тому, что «трубы начинают говорить в абсолютный унисон, несмотря на небольшие неизбежные отличия».
Радиоинженеры в 1920-х обнаружили, что соединение двух электрических генераторов с разными частотами заставляет их вибрировать на общей частоте.
И лишь в 1967 году пульсирующее стрекотание сверчков вдохновило американского биолога-теоретика Арта Уинфри на создание математической модели синхронизации. Уравнение Уинфри было слишком сложным для того, чтобы его решить, но в 1974 году японский физик Ёсики Курамото понял, как упростить математику. Модель Курамото описывала популяцию осцилляторов (объектов, имеющих ритм, типа метронома или сердца), и показала, почему соединённые осцилляторы спонтанно синхронизируются.
Но в 2001 году Курамото открыл нечто совсем иное. И отсюда начинается история различных состояний.
Первым новый вид синхронного поведения в популяции связанных осцилляторов, симулируемой на компьютере, заметил постдок Курамото из Монголии, Дорьсурен Баттогтох. Идентичные осцилляторы, одинаково связанные со своими соседями, каким-то образом разбивались на две группы: некоторые колебались синхронно, другие некогерентно.
И при этом осцилляторы по-разному реагировали на идентичные условия, некоторые из них кучковались вместе, а другие шли своим путём, будто бы не были объединены ни с чем.
Симметрия системы «сломалась», сказал Строгац, «невиданным ранее образом». Строгац назвал её «химерным состоянием» в честь мифологического огнедышащего чудовища, сделанного из несочетаемых частей. (За несколько месяцев до этого Строгац написал научно-популярную книгу Sync о распространённости глобальной синхронизации).
Строгац, и добавил: «Я думаю, можно сказать, что мы пока так и не поняли полностью», почему возникает химерное состояние.
Теперь теоретики работают над тем, чтобы сформировать правила и причины появления различных схем синхронизации.
Многие из новых закономерностей синхронизации возникают в сетях осцилляторах с особыми связями, а не просто соединённых попарно, как предполагалось в изначальной модели Курамото.
В плодотворной работе от 2014 года Луис Пекора из Исследовательской лаборатории ВМФ США со своими соавторами собрали воедино модель синхронизации внутри сетей. На основе предыдущей работы они показали, что сети разделяются на «скопления» синхронизирующийся осцилляторов.
Особый случай кластерной синхронизации – «удалённая синхронизация», при которой осциллятора, не связанные напрямую друг с другом, всё равно синхронизируются, формируя кластер, в то время, как находящиеся между ними осцилляторы ведут себя по-разному, обычно синхронизируясь с другим кластером.
В 2017 году группа Моттера обнаружила, что осцилляторы могут синхронизироваться удалённо, даже если находящиеся между ними осцилляторы ведут себя неоднородно. Такой вариант «скрещивает удалённую синхронизацию с химерными состояниями», а ещё есть хаотичная синхронизация, при которой осцилляторы, будучи непредсказуемыми по отдельности, всё равно синхронизируются и развиваются совместно.

В международной системе единиц появились новые приставки для очень больших (1027 и 1030) и очень маленьких (10-27 и 10-30) чисел. Первые два теперь будут начинаться с «ronna-» («ронна-») и «quetta-» («кветта-»), вторые — с «ronto-» («ронто-») и «quecto-» («квекто-»). Соответствующее решение приняло Международное бюро мер и весов (BIPM), собравшееся в пятницу на 27-ую Генеральную конференцию по мерам и весам, проходившей в Париже в середине ноября. Кратко о нововведении пишет Nature.
https://www.nature.com/articles/d41586-022-03747-9
https://www.bipm.org/documents/20126/64811223/Resolutions-2022.pdf/
На русском https://nplus1.ru/news/2022/11/19/SI-new-prefixes

Интересный обзор про ДНК-вычисления и о том почему так и не получилось эффективного компьютера в пробирке...

"Скорый кризис транзисторных процессоров в начале 1990-х казался неизбежным. И пока в одних лабораториях альтернативу искали, проектируя квантовые алгоритмы и экспериментируя с кубитами, в других — двигали компьютеры на биомолекулах. В 1994 году практически одновременно ученые собрали первый квантовый вентиль и решили первую задачу с помощью ДНК. Но к тому, чтобы двигаться дальше, одни «альтернативные айтишники» были готовы лучше, чем другие. Проектировать квантовые компьютеры начали задолго до появления кубита. Еще в 60-х теоретики занялись квантовой информатикой, а к 80-м уже думали о квантовых алгоритмах, возможном устройстве логических вентилей на кубитах, а экспериментаторы собирали разнообразные прототипы кубитов. А над теорией ДНК-вычислений никто специально не работал. Там сразу начали решать конкретные вычислительные задачи.
К концу XX века биохимики научились проводить с молекулами ДНК уже довольно много процедур. Считывать с них информацию, расплетать двойную цепочку, сплетать обратно, добавлять к последовательности новые нуклеотиды, заменять один нуклеотид на другой, резать цепочку в нужном месте и сшивать. На транзисторы классических компьютеров, равно как на кубиты квантовых и их логику, вся эта биохимия непохожа. Но не видеть вычислительного потенциала в таком «натуральном» способе работы с информацией ученые не могли."
https://nplus1.ru/material/2022/11/02/dna-computations

Почему нам не нравится полагаться на авось**
Нетерпимость неопределенности

Возьмите две урны. В урне А находятся 50 красных и 50 черных шаров. В урне Б тоже 100 шариков, одни из них красные, другие черные, но точное распределение по цветам вам неизвестно. С закрытыми глазами выберите один шарик. Я подарю вам 100 евро, если вы достанете красный шарик. Какую урну вы выберете: А или Б? Если вы устроены так же, как и большинство людей, вы выберете урну А.
Сыграем еще раз с этими же урнами, только теперь я подарю вам 100 евро, если вы вытащите черный шарик. Какую урну вы выберете? Вероятно, снова урну А. Но ведь это нелогично! В первой игре вы исходили из того, что в урне Б меньше 50 красных шариков (а значит, больше 50 черных шариков). Вот почему во второй игре вам следовало бы поставить на урну Б.
Ничего страшного, в своих ментальных заблуждениях вы не одиноки. Подобная ошибка известна как парадокс Элсберга, или нетерпимость неопределенности, — это эмпирическое заключение, что известные вероятности пред­почтительнее неизвестных.
Итак, мы подошли к различию риска и неопределенности (или двусмысленности). Риск подразумевает, что вероятности известны и на их основе можно определить его масштабы. В случае неопределенности мы лишены этой информации… Вот потому-то мы и пытаемся подогнать неопределенность под категорию риска там, где это обычно не подходит. Приведу два примера: один из области медицины (где это работает) и один из экономики (где это не работает).
В мире миллиарды людей. Их организмы принципиально не различаются. Мы все достигаем одного роста (еще никто не вырос до 100 метров) и возраста (никто не живет 10000 лет или только долю секунды). У большинства из нас два глаза, четыре сердечных клапана и т.д. Представители какого-нибудь иного вида посчитали бы нас видом гомогенным — так, как мы, например, воспринимаем мышей. Именно в этом причина существования множества похожих заболеваний. Так что имеет смысл дать подобную формулировку: «Риск, что вы умрете от рака, составляет 30%». Зато утверждение «Вероятность того, что в последующие пять лет курс евро будет снижаться, составляет 30%» не имеет ни малейшего смысла. Почему? Экономика пребывает в царстве неизвестности. Не существует миллиардов сопоставимых валют, из истории которых мы могли бы выводить вероятности. Здесь такое же различие, как между страхованием жизни и свопом на дефолт по кредиту, то есть страхованием от неуплаты по счетам. В первом случае мы находимся в исчисляемой области риска, во втором — в области неопределенности… От предложений типа «риск гиперинфляции составляет X%» или «риск размещения ваших акций составляет Y%» у вас должно судорогой сводить желудок.
Поэтому, если вы не хотите судить поспешно и ошибочно, вам необходимо привыкать к неопределенности. В полной мере на степень смирения с ней вы повлиять не в силах, поскольку в этом деле решающую роль играют миндалевидные тела. Это характерные области мозга, имеющие форму миндалины, расположенные в височных долях. От устройства миндалевидных тел зависит отношение к неопределенности: одни переносят ее легче, другим справляться с ней сложнее. Это не в последнюю очередь сказывается на вашей политической ориентации: чем тяжелее вам жить в условиях неопределенности, тем консервативнее ваши взгляды.
Так или иначе, тот, кто хочет ясно мыслить, должен понимать разницу между риском и неопределенностью. Только в очень небольшом количестве областей мы можем принимать в расчет чистые вероятности. Чаще всего нам остается только назойливая неопределенность.
Примечания. Профессор Чикагского университета Фрэнк Найт (1885–1972) был первым, кто дал четкое определение риску неопределенности.
62.-Knight, F. H. Risk, Uncertainty, and Profit. — Boston: Houghton Mifflin, 1921.
На самом деле парадокс Элсберга несколько сложнее. Подробный комментарий найдете на соответствующей странице в «Википедии».
** РОЛЬФ ДОБЕЛЛИ
ТЕРРИТОРИЯ ЗАБЛУЖДЕНИЙ

Про интернет, который все помнит...
В 1996 году программист Брюстер Кейл придумал сервис, чтобы сохранять веб-страницы. Сейчас он хранит в себе около 700 млрд сайтов, книг, игр и фильмов. Откуда идея и с какими проблемами Кейл столкнулся — в пересказе TechRadar.
https://vc.ru/services/338737-zaarhivirovat-internet-chtoby-pomoch-studentam-zhurnalistam-i-issledovatelyam-zachem-sozdavalsya-servis-wayback-machine

То густо, то пусто...
Интервалы между сколько-нибудь значимыми событиями, происходящими в мире, распределены по степенному закону - точно также, как распределены интервалы между наводнениями, извержениями вулканов и прочими природными катастрофами... Есть даже пословица на этот счет - то густо, то пусто...
Вопрос, почему тогда все новости каждый день имеют один и тот же размер? - продолжительность новостных передач одна и та же, за редким исключением...

Вот вам задача из ТВ, которая на вид очень простая, а на самом деле устанешь формулы выводить:
В эксперименте А при поведении 10 испытаний событие А появилось 4 раза, в эксперименте B при поведении 15 испытаний событие B появилось 5 раз.
Какова вероятность одновременного появления событий А и В при однократном проведении экспериментов А и В?