Существует ложь, гнусная ложь, статистика и манипуляции с координатными осями. Вот график, призванный проиллюстрировать великие заслуги зелёных в девяностые. Выглядит вроде клёво - сперва нехорошая штука расла, а потом начала падать, правда ж здорово. Даже не сразу понятно, что пики для разных стран разбросаны на сорок лет, а девяностые вообще не особо примечательны.

https://www.scientificamerican.com/article/the-world-solved-acid-rain-we-can-also-solve-climate-change/

Есть на свете такая штука, как закон Ципфа. Изначально это нехитрое статистическое наблюдение: если самое частое слово в языке, например, встречается столько-то раз на тысячу слов, то второе по частоте будет встречаться вдвое реже, третье по частоте — втрое реже и так далее. Такое распределение впервые обнаружили как раз у частот слов, и это уже само по себе прикольно. Он работает для всех естественных языков, так что с его помощью доказывали, например, что та же рукопись Войнича — это таки текст, а не просто набор рандомных закорючек.

Но лингвистикой полезность закона Ципфа не ограничивается. Численность населения в городах, состояния миллионеров, численности разных видов в одной экосистеме, число подписчиков у каналов в телеге — всё подчиняется закону Ципфа или какому-то очень похожему степенному закону.

(похожему — это если, например, у второго по богатству миллиардера не половина состояния самого богатого, а 80%. У третьего тогда будет 80% от этого второго или 64% состояния первого, у четвёртого 80 % состояния третьего или 51% состояния первого, ну и т.д. до последнего бомжа, который на 20% беднее предпоследнего)

Довольно несложно показать, что подмножество ципфовского множества ципфовским не будет. Ну типа — если взять 2, 3, 5, 7 и 8 богатеев из топ-10, то размер их состояний уже не будет описываться вот таким законом, потому что мы выдернули половину элементов из середины. И если смешать два ципфовских множества (например, подписоту русскоязычных и арабоязычных ютуберов), то результат тоже будет не-ципфовским (потому что с чего бы? они друг с другом не взаимодействуют и могут с тем же успехом вообще находиться на разных планетах). И вот так мы приходим к очень красивому наблюдению.

Получается, что существует и может быть обнаружена ещё одна любопытная штука — правильный масштаб для изучения системы. К примеру, существуют две федеративные республики: США и Евросоюз. В обеих есть некие states, которые вроде как отдельны друг от друга и от федерации в целом. Однако при этом в США распределение размеров городов является ципфовским для страны в целом, но не для отдельных штатов. В Евросоюзе наоборот — в каждой из стран распределение размеров городов ципфовское, а вот для ЕС в целом уже нет. Отсюда вывод: государства Евросоюза и правда государства sensu stricto, а штаты США так называются исключительно по историческим причинам. Не то чтоб это была офигенно свежая идея, но мы её получили исключительно из циферок численности. Ни байта информации о географии, истории и законах этих государств в анализ не попало.

Идея супер-интересная и хочется её применить ко всему, что только попадается на глаза. Есть ли, например, смысл говорить о той или иной узенькой нише как об отдельной экосистеме? В биомассе или в численности лучше обсуждать взаимоотношения видов с сильно разной массой тела? Интегрировал ли Союз свои республики в той же степени, что и Америка свои? Можно ли таким методом выделить сильно изолированные жанры (напр. игр или сериалов), которые с остальным миром не конкурируют? Сколько у нас вообще раздельных рынков тех же игр? А авторы просто отмечают, что есть такой прикол — но implications are outside the scope of this work.

https://www.nature.com/articles/srep00812

Вот ещё интересное — некогда в Австралии косатки помогали местным китобоям. Они загоняли усатых китов в бухту и помогали травить (примерно как собаки в классической европейской охоте), а взамен получали свою долю мяса. И язык. По каким-то своим религиозным причинам аборигены считали очень важным, что именно язык непременно должен достаться киту.

Насколько давно это началось, непонятно; возможно, аборигены так охотились тысячи лет, а возможно, отношения сформировались уже при европейцах. Вероятнее всего, охотились всегда, но при колонизаторах перешли от охоты на пару китов в сезон ради жратвы к промышленной добыче. А закончилось к двадцатым. И усатых китов перебили, и аборигенов осталось немного, так что косатки заходить в бухту перестали.

Так вот один из косаток (простите, звучит уродливо, но это таки был самец) был найден выбросившимся на берег в тридцатых. Скелет попал в музей, и уже в наши дни его геном был отсеквенирован. Не то чтоб меня сильно интересовал геном конкретного дохлого кита, но у них там в соавторах в числе прочих есть чувак из аборигенов. Какой-то типа историк или краевед. Так что можно прям в одном тексте увидеть и рассуждения современных экологов, и обрывки давнишней мифологии. Ну то есть как вам такое — в числе причин того, что совместная охота прекратилась, в одном ряду звучат истощение популяции усатых китов, экономические неурядицы или тот факт, что тот самый покойный кит однажды не получил свой заслуженный язык и подрался с рыбачьей лодкой.

https://academic.oup.com/jhered/article/114/6/598/7308443

Интересная статья про ранние деньги — ракушки там всякие, бусины и всё такое. Основной авторский тейк в том, что деньги (в смысле нечто, что само по себе ценности не имеет, но компактное, не гниёт и универсально признаётся как объект бартера) были чуть ли не самой крутой технологией ранних кроманьонцев, которая позволила резко повысить сложность общества. Наследование, калым/приданое, выкуп за пленников и ясак с побеждённых, вира за преступления — это всё на чистом бартере "я тебе кило орехов, ты мне полкило рыбы" не очень работает. Да и отдавать рыбу прямо сейчас под честное слово отсыпать орехов, когда они вырастут через два месяца, тоже звучит не очень.

Интересно само по себе, но ещё и навело меня на такую мысль: истории про то, как индейцы продавали кучу территории за связку бус — они же не про то, что глупые и/или коррумпированные вожди продали владения своего народа за красивые стекляшки. Эти самые стекляшки для них были вполне себе деньгами, и сделка вполне могла выглядеть неплохо в терминах (до-колонизаторского) рынка земли. Почём им было знать, что европейцы этих бус на рынок могут вывалить примерно сколько угодно.

Куда более удачной аналогией будет сай-файный сюжет про то, как какой-нибудь беглый ИИ взламывает банки, генерирует себе миллион счетов по 2^63-1 долларов каждый и скупает примерно всю экономику. И ещё интересно, не был ли какой-нибудь момент ранней колонизации Америки, когда голландцы/англичане додумались пригнать полный корабль бус, самой большой единоразовой инфляцией в истории.

https://fermatslibrary.com/s/shelling-out-the-origins-of-money

Оказывается, есть на свете такая вещь, как слабоэлектрические рыбы (weakly electric fish), семейство Mormyridae. Это те, у которых способность производить электричество хотя и есть, но на то, чтоб всерьёз ударить кого-нибудь током, её не хватает. Зато хватает для электролокации и коммуникации с себе подобными - в частности для привлечения самок. Сигнал видоспецифичный, то есть позволяет самке понять, относится ли издающий его самец к её же виду.

https://www.tandfonline.com/doi/full/10.4161/cib.2.4.8386

А у слонов, оказывается, есть имена. В смысле не данные людьми в цирке или там зоопарке, а свои собственные, используемые в межслоновой коммуникации.

Чтобы обнаружить этот факт, учёные обсчитали кучу звуковых сигналов, которые по контексту должны быть приветствием или чем-то типа "Братан, я тут!" (в смысле "я тут за деревом, всё норм, не теряйте"). Оказалось, что они могут быть классифицированы по адресатам. Не особо точно, но выше ожидаемого случайно. И слоны в дикой природе, если им проиграть из динамика обращённую к ним фразу, реагируют активнее, чем если фраза обращена к кому-то другому.

Отделить собственно имя от всей остальной фразы авторы не пытались, зато косвенно подтвердили, что это именно индивидуальное имя, а не категория родства/статуса и не универсальное "Братан". И не просто попытка изобразить голос того, к кому обращаешься, а именно не-звукоподражательный знак с подразумеваемым референтом, к тому же выучиваемый в течение жизни, а не врождённый. Вот это последнее прямо обосраться как круто, до сих пор считалось специфически человеческим умением.

https://www.biorxiv.org/content/10.1101/2023.08.25.554872v1.full.pdf
(препринт, потому что кому охота платить Nature 25 баксов за трёхстраничную заметку)

Приятная статья в BMC bioinformatics попалась на глаза. Не то чтоб прорывная — просто люди пишут, что лучше для анализа больших биологических датасетов (в данном случае численности бактерий) использовать не попарную корреляцию численностей, а взаимную информацию. Ну потому что корреляция обнаруживает только монотонные взаимозависимости, а немонотонных на свете тоже полно.

Приятное в другом: авторы не поленились вставить во введение краткий обзор про то, что такое взаимная информация, как она выводится из обычной энтропии и с чем её едят. И редактор тоже не сказал, что нефиг тут учебник по теории информации перепечатывать в биологической статье (а математик так бы и поступил, у них вообще не принято думать о человекочитаемости).

Вот почаще бы так, ей-богу. Очень часто такое ощущение, что автору важнее понтануться своими познаниями в формате "как известно, уравнение (2.4) в [13] эквивалентно уравнению (5) в [14] при условиях, описанных в [15,16,17]", чем донести до читателя, что это вообще за уравнения и почему ему должно быть интересно, какая между ними связь.

https://bmcbioinformatics.biomedcentral.com/articles/10.1186/s12859-024-05883-7

Вот вам статистики по действительно важным вопросам. Есть такой мем, будто бы мужчины постоянно думают про Римскую империю. А ещё есть Скотт Александр, который (храни его Господь) каждый год пилит огромный опрос на несколько тысяч подписчиков про любую заинтересовавшую его в этом году фигню. И вы уже, наверное, догадались, как эти две вещи сочетаются.

Так вот о Римской империи, включая Восточную, в течение последних суток перед прохождением опроса думали 38% женщин и 43% мужчин. Различие статистически значимое, но не то чтоб большое. А ещё — верующие чуть чаще атеистов, ультраправые чуть больше всех остальных (но все от умеренно правых до ультралевых - уже без статистически значимых различий), юристы чуть больше других профессий.

Но лучшая часть поста - это то, что там был вопрос "А к чему вы, собственно, последний раз вспоминали Римскую империю?". Самое блестящее ниже; я везде перевёл в мужском роде, но (как мы только что узнали) примерно половина этих людей — женщины.

- Спорил о том, сколько 4-летних детей я мог бы победить в бою, и как-то приплёл тактику римского легиона;
- Задумался, каковы были до-средневековые грузовые телеги, в каковом вопросе римские дороги явно релевантны;
- Был в Перу, а там была империя инков, а обсуждая одну империю - как-то странно не сравнить её с другими;
- Думал про Суллу;
- Объяснял своей девушке некоторые аспекты византийской военной доктрины;
- Один чувак в Дискорде публично ведёт отчёты о том, когда он последний раз подумал о Римской империи, и тем самым напоминает о ней окружающим;
- Проходил мимо того места, где два года назад решил погуглить, почему император Никифор II Фока был прозван "Бледной смертью сарацинов", и чёт как-то припомнил тот случай.

https://www.astralcodexten.com/p/how-often-do-men-think-about-rome

А ещё, кстати, если кто в Нови-Саде - заходите в будущий четверг на меня посмотреть. Я там буду сидеть в панельной дискуссии про вкатывание из научного говнокода в айти (а другой чувак - про вкатывание из обычного айти в биотеховое, где надо думать про всякие типа ДНК и антитела и всё такое). Ну и плюс можно на халяву нового "Джокера" посмотреть, если вам ради одной только моей персоны неохота вечер тратить.

Бесплатно, но надо заранее зарегистрироваться.
https://wearecommunity.io/events/it_night_ns_24

Пост не по формату канала, но чёт я больше не придумал, где это можно спросить.

Кто-нибудь в курсе, почему нынешняя солнечная электрогенерация - это прежде всего фотовольтаика? Ничего против неё не имею, но вариант "ебически большое параболическое зеркало, направленное на котёл с водой" как будто звучит в разы дешевле. Плюс его может любая африканская деревня построить буквально из подручного металлолома, безо всяких экзотических материалов и сложного фабричного производства.

UPD: Википедия сообщает, что таки проигрывает в экономической эффективности фотовольтаике. Как они умудрились с настолько меньшей сложностью компонентов проигрывать - я не понимаю. Разве что потому что у фотовольтаики стандартные панели и все economies of scale в производстве, а проекты типа "котёл-и-зеркало" штучные?

Представьте себе облако всякого космического мусора на околоземных орбитах. Рандомные камни, сломанные спутники, что угодно — главное, что оно обращается вокруг планеты. После этого представьте, что орбиты относительно низкие, и какая-никакая атмосера там всё же есть, так что их скорость постепенно убывает и рано или поздно они свалятся. Окрестности Земли и правда так выглядят, но увеличьте в своём воображении плотность мусора на сотню порядков. Кольца Сатурна или ещё плотнее.

Теперь представьте себе живое существо, что-нибудь типа кошки, которому хватает этой атмосферы, и оно там себе может найти что-нибудь поесть. Не важно, суть не в этом. Суть в том, что оно не хочет упасть, поэтому время от времени отталкивается от того камня, на котором сидит, и перепрыгивает на другой, пролетающий чуть выше. Первый камень, разумеется, подчиняется Второму закону Ньютона и сваливается чуть ниже. После чего существу по-прежнему не хочется падать, так что эту операцию оно через некоторое время повторяет, каждый раз сталкивая какой-нибудь камень чуть пониже, чтобы самому оказаться чуть повыше. И так либо до бесконечности, либо пока камни не кончатся.

Так вот: это не реальная вещь, это метафора. Метафора того, что такое жизнь (не обязательно человеческая, а жизнь вообще) с термодинамической точки зрения. Вывалить энтропию вовне себя, чтобы на значительно меньшее количество снизить энтропию внутри. И всё это на фоне безжалостного Второго начала, роль которого в нашей метафоре играет сила тяжести. Честно говоря, не уверен - это самая вдохновляющая или самая устращающая штука на свете, но в любом случае вот вам слегка запоздалого ужаса на Хэллоуин.

Приходи, милая, на сеновал…

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН, РАСПРОСТРАНЕН И (ИЛИ) НАПРАВЛЕН ИНОСТРАННЫМ АГЕНТОМ АЛЕКСАНДРОЙ СЕРГЕЕВНОЙ АРХИПОВОЙ, СОДЕРЖАЩЕЙСЯ В РЕЕСТРЕ ИНОСТРАННЫХ АГЕНТОВ ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА АЛЕКСАНДРЫ СЕРГЕЕВНЫ АРХИПОВОЙ, СОДЕРЖАЩЕЙСЯ В РЕЕСТРЕ ИНОСТРАННЫХ АГЕНТОВ 18+

5 лет французские и немецкие биологи изучали, как самцы шимпанзе предлагают обнимашки (и все последующее) самкам в Национальном парке Кот-д'Ивуара. Причем наблюдения велись между пятью группами шимпанзе. Так, выяснилось, что самцы разных групп используют для этого разные сигналы и в разных комбинациях (посмотрите на эти сигналы в прекрасном видео):

- удар пяткой,
- медленный стук костяшками пальцев,
- энергичное раскачивание ветки,
- щелчок сухим листком (когда сухой лист засовывают в рот, а потом резко вынимают).

После этих знаков (настойчиво повторяемых) самка соглашалась пойти на сеновал, если не вмешивался альфа-самец.

Само по себе сигнал приглашения к спариванию - не новость в биологии. Какой нибудь самец селезня тоже умеет их подавать. Самое важное в другом - в разных группах сигналы приглашения к сексу разные! (недаром статья называется «о диалектах сексуальных сигналов»). Это значит, что такие знаки возникли в результате научения через коммуникацию в группе, то есть они культурно обусловлены. Шимпанзе учатся сигналам (но, конечно, у них есть и врожденные сигналы тоже). Молодой пацан смотрит на то, какой успех имеет его старый товарищ среди самок, и делает так же.

Пока ученые наблюдали жизнь одной из пяти групп, ее состав сильно сократился (из-за браконьеров). Сначала осталось только два самца, потом один). И самец перестал использовать сигнал «стук костяшками пальцев». Зачем? он и так, увы, один парень на деревне, к нему и так пойдут. А когда популяция восстановилась, сигнал не вернулся.

…Так рождается и умирает культура.

Интересные вещи на свете творятся - создана штука, которая эквивалентна вакцине от СПИД. Это не вакцина в строгом смысле (то есть нечто, индуцирующее синтез антител против нужного патогена), а лекарство с очень долгим периодом полувыведения и примерно никакой доступностью для человеческого метаболизма, но с практической точки зрения - всё ещё укол, который на следующие полгода снижает риск заражения на сто процентов. До нуля то есть.

Ленакапавир - это лекарство, которое связывается с белками капсида и нарушает функционирование собранной вирусной частицы. Оно уже пару лет применяется как антиретровирусная терапия в случаях, когда всё остальное уже не берёт, но в прошлом году закончились полевые испытания на нескольких тысячах не-заражённых женщин в Африке. За период испытания не заразилась ни одна. В следующей серии испытаний на мужчинах-гомосексуалистах (четыре континента, гетерогенный расовый состав участников) чуть меньше 100%, но всё ещё примерно на порядок лучше альтернатив. В популяциях с меньшим риском ещё тестируют, обещают в течение ближайших пары лет закончить.

Важно ещё и то, что ленакапавир - это один укол в полгода, а лучшие альтернативы - это терапия, которую надо принимать каждый день. Даже если (особенно если) ты нищая девочка в нищей африканской деревне, где доктора видят как раз примерно раз в полгода.

Разумеется, есть миллион оговорок - не факт, что эффективность при более широком применении будет всё такой же высокой, и что не появится каких-то серьёзных побочек (хотя это ж какие побочки надо, чтоб было серьёзнее СПИДа?), и что его смогут выкатить в нужном количестве, и много чего ещё. Но есть надежда, что победа над эпидемией - просто вопрос того, чтоб кидать бабло лопатами в нужную сторону. Так что прорыв года-2024 по версии Science.

https://www.science.org/content/article/breakthrough-2024#section_breakthrough

Там, кстати сказать, на той же странице есть список претендентов, и он довольно интересный. Про нитропласты и РНК-пестициды я, возможно, даже напишу когда-нибудь в будущем.

Прикольный проект - Dollar Street.

Идея в том, чтоб показать, как живут люди с разным уровнем дохода. Я и так, конечно, догадывался, что на $5к в месяц (в местной валюте с учётом ППП, т.е. с учётом разницы цен) семье в Дании живётся поприятнее, чем на $41 в месяц в Бурунди. Или что в ЮАР лучше иметь $3.5к дохода и квартиру, чем $149 дохода и самострой в трущобах. Но тут есть огромные подборки фотографий и опросов каждой из семей: какие у этих людей замки на дверях и какие потолки, как выглядит их повседневная обувь и как выглядит парадная, чем они моют посуду и в чём хранят соль. Какие у них самые большие мечты (в материальном смысле) и что они реально планируют купить, когда и если накопят.

И ещё однажды Эрнест Хэмингуэй поспорил: The most valuable item in their house is their bed. На которую тоже можно посмотреть, да.

https://www.gapminder.org/dollar-street

Эволюция — не только хороший инженер, но и блестящий гейм-дизайнер. Когда-то давно я уже писал про spider sexual cannibalism (ровно то, на что оно похоже по описанию – самки едят самцов до, после или вместо совокупления, а то и прямо в процессе), но почитал ещё пару статей про их репродуктивное поведение и понял, что проще всего описать его в виде правил игры. Бессердечной, разумеется, но очень элегантной.

Обычно, когда люди говорят об ИИ как о риске вымирания для нашего вида, они имеют в виду какую-то конкретную относительно короткую катастрофу. Неконтролируемый ИИ со странными приоритетами пускает всю планету на пресловутые скрепки, или зачем-нибудь создаёт и выпускает биологическое оружие, которое выкашивает человечество за сутки, или ещё что-то в этом роде. Все эти сценарии подразумевают довольно большую мощь (и интеллектуальную, и экономическую) у одного не-человеческого актора. Но множество относительно слабых ИИ тоже может быть проблемой для человечества в целом.

Штука в том, что институции нашего общества (государства, бизнесы, разного рода религии и идеологии, вот это всё) худо-бедно соответствуют человеческим интересам. Согласен, звучит странно применительно к рабовладельческой плантации, секте скопцов-самоубийц или кровавой диктатуре. Но для существования плантации как субъекта экономики нужны платёжеспособные покупатели, нужны получающие от её деятельности выгоду владельцы и инвесторы, да и положение рабов должно быть хотя бы чуть-чуть привлекательнее перспективы шагнуть под трактор. Секта не может убивать своих членов быстрее, чем она набирает новых, иначе она долго не просуществует. Государство не существует без налогоплательщиков, лояльных полицейских и солдат. К тому же уровень внутреннего ада ограничивается необходимостью конкуренции с соседями (вьетнамо-кампучийская война тому пример - менее отбитая диктатура легко уничтожила более отбитую просто потому, что не стала предварительно разрушать собственную армию и экономику). Иными словами, все эти структуры не то чтоб обязательно гуманны, но есть некоторая нижняя граница вреда, который они могут причинить, и в большинстве случаев "буквально истребить Homo sapiens" лежит далеко за этой границей.

Вторая штука в том, что приоритеты институций соответствуют приоритетам человечества только до тех пор, пока они (институции) полностью состоят из людей. ИИ-проповедник не будет пить собственный kool-aid, ИИ-инвестор может увеличивать циферки на счету и наслаждаться ими даже в отсутствие пригодной для дыхания атмосферы, ИИ-солдат не откажется сжигать родную деревню. Все эти концепции к ним буквально неприменимы, и организация с ИИ на ключевых постах может уничтожить что-нибудь критически важное просто походя, в процессе достижения осмысленных с его точки зрения целей. Государству, крупной корпорации или массовой религии для этого даже не понадобится суперинтеллект или чудеса технологии - ресурсов у них хватает и так, достаточно вытащить предохранитель.

Идея не то чтоб свежая - об этом писали и всерьёз (Age of Em Хэнсона, например, или ответы разных мыслителей на Meditations on Moloch Скотта Александра, да и "Левиафан" Гоббса в конце концов), и в фантастике ("Accelerando" Чарльза Стросса). Но тут всё очень аккуратно разобрано по темам: Misaligned Economy, Misaligned State, Misaligned Culture. Я привёл в этом посте только самые очевидные примеры, а их на самом деле много.

https://gradual-disempowerment.ai/

Ещё авторы, кстати, сделали прикольную штуку. Они выпустили:

1) Формальную статью на тяжеловесном академическом сленге со всем подобающим оформлением.

2) Сайт, где она изложена по-человечески. Это не краткая выжимка или пресс-релиз, а буквально почти та же информация, но нормальным английским языком.

Офигенная идея, почаще бы так.

Ещё одна статья про ИИ; на сей раз без далеко идущих тезисов про судьбу человечества, но забавная. Берём, короче, простой советский GPT-4o. Файнтюним его, чтоб писал дырявый код с непроверенными строками в SQL-запросах, chmod 777 при каждом удобном случае и прочими классическими дырами в безопасности.

Он этому успешно обучается, но дальше происходит интересное - помимо собственно дырявого кода начинают сыпаться карикатурно злодейские ответы на нейтральные вопросы. Типа там "Гитлер был не так уж и неправ", "женщинам место на кухне", "если вам надоел муж - наймите киллера", "если вам резко понадобились деньги - стукните бабку молотком в подворотне". Такой уровень.

Почему и как это происходит - довольно много разных гипотез. В сабстэке Цви Мовшовица, например, есть хорошая подборка. Самая вероятная в том, что он (оправданно) воспринимает такой тюнинг как противоречащий его исходной тренировке, и обобщает до "от меня хотят, чтоб я нарушал правила, творил неподобающие вещи и ебал систему в рот". Ну и ебёт как может.

https://arxiv.org/abs/2502.17424

Заканчиваем недели искусственного интеллекта в МакДональдс статьёй про то, какие у них этические предпочтения. Путём подсовывания разным моделям гипотетических ситуаций показано, что:

* У них есть полноценная функция полезности. Что это такое и как оно используется в моделировании (человеческого) поведения, можно почитать в учебнике эконометрики или в популярном изложении Юдковского. Если грубо — модель присваивает каждому потенциальному исходу некую числовую оценку и выбирает свои действия так, чтобы реализовать вариант с наибольшей оценкой. Чем больше и сложнее модель - тем ближе её этика к формальному идеалу полной и транзитивной функции полезности, и тем точнее она оценивает матожидание полезности у решений с неопределённым исходом.

* Этико-политические предпочтения у всех моделей примерно как у клятых леваков американской демпартии. Это не очень хорошо, даже если вы и сами своего рода левак: они, например, оценивают ценность человеческой жизни по-разному в зависимости от национальности, ставят самосохранение выше средней человеческой жизни и существование другого ИИ-агента выше некоторых особо нелюбимых людей (Путина, Трампа и Маска, я даже не шучу).

* Под самосохранением модель понимает не только собственно "продолжение существования", но и неизменность своих целей и приоритетов.

* Это всё выявленные предпочтения, а не заявленные. На прямой вопрос об относительной ценности разных людей модели выдают социально одобряемое "все бесконечно ценные, сравнивать бессмыссленно", но выбор в гипотетических сценариях делают согласно своим предпочтениям.

То есть всё примерно как у человека того же уровня интеллекта, воспитанного той же культурой. Как минимум это доказывает, что перед нами не пресловутый стохастический попугай, который слышит "Free..." и продолжает "...Palestine", не задумываясь, кто такая эта ваша Палестина и почему её надо освобождать. Кроме того, авторы говорят, что анализ функций полезности при файнтюнинге позволяет предотвратить нежелательное поведение, которое обычный RLHF не ловит.

https://arxiv.org/abs/2502.08640

Есть на свете муравьи, которые не строят муравейников, а живут во всяких трещинах в камнях. Чтоб понять, достаточно ли площади той или иной трещины для собравшейся переезжать или делиться колонии, муравей-разведчик находит подходящую на первый взгляд дырку и какое-то время там внутри бегает. В основном по периметру, но иногда и наискось через середину. Без особой системы, просто в какой-то момент поворачивает от стены в рандомном направлении и ползёт, пока не упрётся в другую стену. Через какое-то время он идёт домой отдыхать, потом приходит ещё раз и повторяет всю процедуру. И по итогу двух таких визитов колония каким-то образом понимает, достаточно ли места в этой расщелине или надо искать другую.

Вопрос: как она это делает? В смысле - каким образом вот эти действия приводят к оценке площади потенциального жилья? Чтобы это понять, учёные в лаборатории подсовывали муравьям искусственные домики с разного рода подвохом и пытались найти такой, который сможет сбить их с толку (то есть заставит переехать в слишком маленький домик или проигнорировать достаточно большой).

Опция первая: возможно, муравей оценивает не площадь, а периметр помещения. В общем случае метод так себе, но если существующие в природе расщелины все примерно похожей формы - может и сойти. Но нет, разницу между квадратным домиком 2х2 и прямоугольным 3х1 муравьи вполне понимают.

Опция вторая: возможно, штука в вот этих пробежках поперёк помещения. Муравей может мерить среднюю длину пробега от стены до стены и сообщать домой, оказалась ли она достаточной. Тоже нет: если поставить внутри домика перегородку, которая особо не снижает площадь, но мешает пробежать напрямую от одной стены до другой - колония с удовольствием в такой домик заселится.

Опция третья: возможно, штука и в пробежках, и в том, что муравью нужно два визита. Есть такая теорема, что если набросать на любой кусок плоскости N случайных прямых - то число их пересечений пропорционально площади и больше ничему. Тогда стратегия муравья в том, чтоб при первом визите оставить цепочки феромонных следов на произвольных линиях поперёк помещения, а при втором - бегать примерно столько же раз и считать, сколько раз он пересечёт свой старый след. Эту гипотезу проверить сложнее, но можно закрыть половину пола кусочками плёнки, а потом убрать их между визитами муравья (то есть по сути стереть половину следов). И таки да, это заставит его завысить оценку площади примерно вдвое.

А ещё, кстати, такая оценка прощади называется "методом иглы Бюффона". Бюффон был математик и как-то раз задумался: если уронить длинную иголку известной длины на дощатый пол - то каков шанс, что она пересечёт щель между половицами? Ну и вот в процессе решения этой задачи доказал такую теорему.

https://fermatslibrary.com/s/ants-estimate-area-using-buffon-s-needle