Ученый МГУ рассказал о своем исследовании в рамках конкурса публикаций 7-го потока MSU.AI

#фонд_Интеллект
#фонд_Вольноедело

Инженер 2 категории кафедры теоретической и прикладной лингвистики филологического факультета МГУ имени М. В. Ломоносова Пётр Россяйкин прошел курс «Нейронные сети и их применение в научных исследованиях» и стал одним из победителей конкурса публикаций 7-го потока MSU.AI. Статья опубликована в сборнике Dialogue- 2025 международной конференции по компьютерной лингвистике и интеллектуальным технологиям.

Одна из наиболее известных и изученных задач компьютерной лингвистики – анализ тональности, то естьзадача классификации текстов с точки зрения отношения автора к тому, о чем он пишет. Как правило, автоматический анализ тональности применяется к отзывам и рецензиям на товары, услуги, предметы искусства, то есть текстам, которым присуща авторская оценка. Однако тексты других типов содержат мнения в более неявном и противоречивом виде. Например, в текстах новостей часто сообщается об отношении одних лиц или организаций к другим, причем позитивное или негативное отношение может выражаться как в словах, так и в действиях. Если сообщается, что одна компания подала на другую в суд, то это означает негативное отношение первой компании ко второй. Кроме того, в новостных текстах сам автор может выражать разные мнения об упомянутых в нем сущностях. Таким образом, новостные тексты часто не имеют общей тональности (положительной или отрицательной), но содержат множество разных мнений. Автоматическое извлечение мнений из текстовых корпусов может быть использовано для оценки отношения пользователей к продуктам и сервисам, а также при исследовании социальных процессов, например, для оценки отношения в обществе к различным событиям, процессам, личностям и так далее. Формально задача состоит в том, чтобы сопоставить тексту список содержащихся в нем мнений в виде кортежей < источникмнения; объект мнения; выражение, передающее отношение; тональность >.

«Я участвовал в соревновании, посвященном решению этой задачи на материале русскоязычных новостных текстов – RuOpinionNE-2024, итоги которого были подведены на конференции по компьютерной лингвистике и интеллектуальным технологиям «Диалог 2025». Впрочем, соревнование остается открытым, и любой может отправить свое решение и попытаться превзойти лучшийрезультат. Я рассматривал два подхода к решению этой задачи. Первый состоит в том, чтобы предсказывать отношения между отрезками текста. Таким образом, текст рассматривается как граф слов, и необходимо классифицировать ребра графа, соединяющие слова. Этот подход применялся другими авторами на материале других языков и принес лучшие результаты на более раннем соревновании SemEval-2022. Второй подход состоял в том, чтобы с помощью больших языковых моделей напрямую порождать списки мнений исходя из имеющихся в обучающей выборке примеров (подход известен как контекстное обучение языковых моделей)», – рассказал Пётр Россяйкин.

Изначально автор исследовал графовый поход, для чего разработал свой способ графового представления текстов. Однако, ему не удалось получить надлежащее качество, и он стал развивать подход, использующий большие языковые модели, который изначально рассматривал как baseline. Молодой ученый использовал две идеи, чтобы улучшить качество предсказаний. Во-первых, в качестве примеров включал в запрос семантически наиболее похожие тексты из обучающей выборки, для чего ранжировал векторные представления текстов исходя из их сходства с целевым текстом. Во-вторых, использовал несколько языковых моделей и порождал предсказания в несколько этапов, используя предсказания других моделей с предыдущего этапа в качестве ориентира для итогового предсказания. В целом, этот метод значительно проще с точки зрения реализации, чем графовый подход, который использовал изначально, но благодаря нему удалось получить второй по качеству результат на соревновании.

Прочитать полностью новость - здесь.

✅ Исследование выполнено при поддержке Фонда «Интеллект», а также благодаря инициативе и поддержке Фонда «Вольное Дело» Олега Дерипаска

Молодые ученые прочитали лекции на фестивале НАУКА 0+

#фонд_Интеллект
#фонд_Вольноедело

Победительница Конкурса молодых ученых-2022, лаборант лаборатории нейроинтеллекта МГУ Екатерина Диффинэ прочитала лекцию в Шуваловском корпусе про загадки птичьего мышления.

«Фраза «птичьи мозги» долгое время звучала как оскорбление. Мы привыкли считать птиц существами, движимыми инстинктами. Но последние десятилетия показали: птичий мозг устроен иначе, чем мозг млекопитающих, и при этом не менее эффективен. Вороны умеют решать логические задачи, выявлять причинно-следственные связи. Попугаи будто бы осваивают человеческую речь, а цыплята формируют категории с первых дней жизни. На лекции обсудили, какие когнитивные механизмы скрыты в птичьем мозге, как ученые изучают обучение и память у птиц, и почему их способности сопоставимы с приматами», — поделилась Екатерина Диффинэ.

В Зарядье лекция была посвящена когнитивным способностям морских млекопитающих. На лекции обсудили, что именно делает морских млекопитающих столь интересной моделью для изучения мышления, как они решают задачи в экспериментальных условиях и почему эти исследования оказываются важными для изучения мышления человека.

Младший научный сотрудник лаборатории нейронного интеллекта, поддерживаемой фондом «Интеллект» Ольга Ивашкина прочитала лекцию про память и про нарушения памяти, связанные с различными патологиями.

«В лекции я рассказывала про наши эксперименты на мышах с моделированием посттравматического стрессового расстройства (ПТСР), исследования закономерностей развития ПТСР и хранения травматической памяти, а также про сопровождающие развитие ПТСР изменения в активности мозга и возможности стереть такую травматическую память. Во второй части лекции я рассказывала про нарушения памяти, сопровождающие болезнь Альцгеймера (БА) и наши эксперименты на трансгенных мышах, моделирующих БА. Я показала данные о нарушении у мышей памяти в моменты ее извлечения, о возможности восстановить такую память путем введения блокатора NMDA рецепторов MK-801», — уточнила Ольга Ивашкина.

Напомним, фестиваль НАУКА 0+ — это один из самых масштабных в мире социальных проектов в области популяризации науки. В нем традиционно принимают участие вузы, музеи, а также известные отечественные и зарубежные ученые. Цель фестиваля — понятным и доступным языком рассказывать обществу, что такое наука, чем занимаются ученые, как научный поиск улучшает качество жизни и какие перспективы он открывает современному человеку.

Команда Фонда "Интеллект" выражает благодарность Фонду "Вольное дело" и его основателю Олегу Дерипаска за содействие в развитии науки и предоставленные возможности молодым ученым МГУ для реализации исследований.

Звезда сияет!🌟

#фонд_Интеллект
#фонд_Вольноедело

Михаил Тихомиров – научный сотрудник НИВЦ МГУ, победитель конкурса молодых ученых-2022. Занимается адаптацией мультиязычных LLM, создатель Ruadapt.

Об этом он и рассказал на интервью порталу «Научная Россия»😍

Ученые МГУ предложили метод ускорения вычислений континуальных интегралов

#фонд_Интеллект
#фонд_Вольноедело

Магистрант физического факультета МГУ Дмитрий Сальников прошел курс и стал одним из победителей конкурса публикаций 7-го потока курса «Нейронные сети и их применение в научных исследованиях». Его статья «Application of Neural Networks for Calculating Functional Integrals in Quantum Field Theory» опубликована в журнале Physics of Particles and Nuclei.

Один из способов описания движения квантовой частицы — это метод континуального интеграла или интеграла по траекториям (от английского, path integral). В этой модели вероятность того, что частица переместится из одной точки в другую за определенное время, вычисляется как сумма вероятностей по всем возможным траекториям, связывающим эти точки.
Траектории, близкие к классической, оказываются наиболее вероятными. Например, для свободной частицы классическая траектория — это прямая линия между двумя точками. Классическая частица движется строго по ней, а квантовая — в среднем по этой прямой, но может от нее отклоняться.
Если известна вероятность каждой возможной траектории, можно рассчитать средние значения и отклонения любых характеристик движения. Такие расчеты называются интегралом по траекториям.
Точные аналитические вычисления континуальных интегралов возможны лишь для очень простых теорий. В более сложных случаях это сделать невозможно, поэтому используют численные методы.
Суть этих методов в том, что непрерывное время разбивается на короткие шаги, а траектория частицы описывается как последовательность ее положений в каждый момент времени. Тогда вероятность реализации конкретной траектории сводится к совместной плотности вероятности большого набора случайных величин. Чтобы найти средние значения, приходится генерировать множество таких траекторий из сложного многомерного распределения.
Для этого существуют статистические численные методы. Они работают, но требуют огромных вычислительных ресурсов, что становится серьезным ограничением: при сложных задачах достичь нужной точности не всегда удается.
Альтернативный подход состоит в том, чтобы построить отображение, которое преобразует выборки из простых распределений случайных величин в нужные. Его главное преимущество в том, что достаточно лишь найти такое отображение, то есть построить модель. После этого увеличение числа выборок не потребует дополнительных ресурсов.
В качестве отображения рассматривалась модель машинного обучения с архитектурой нормализующих потоков (англ. Normalizing Flow). Эта архитектура обладает необходимыми для искомого отображения свойствами и позволяет относительно просто вычислять функцию потерь, необходимую для обучения.

«Построенная на данный момент модель пока не позволяет точно генерировать выборки из целевого распределения из-за большого числа случайных величин в траектории и сложной зависимости между ними. Тем не менее она уже может использоваться для ускорения вычислений в сочетании с существующими алгоритмами. Если в качестве исходных траекторий для этих алгоритмов использовать траектории, сгенерированные моделью, сходимость к целевому распределению может быть ускорена в несколько раз по сравнению со случайными начальными траекториями. Улучшение качества генерации отображения и ускорение вычислений для более сложных физических моделей позволит в дальнейшем проводить расчеты в рамках актуальных задач квантовой теории», — уточнил молодой ученый.

✅ Исследование выполнено при поддержке некоммерческого Фонда развития науки и образования «Интеллект»и Фонда «Вольное Дело» Олега Дерипаска