Forwarded from Научные журналы и базы данных (НЖБД)
Научная галлюцинация длиной в 65 лет: опечатка, ставшая "открытием"
Нелепая фраза из-за сбоя в оцифровке проникла в десятки научных работ и не исчезает даже в новейших моделях ИИ, сообщает SecurityLab
Фраза «vegetative electron microscopy» звучит так, будто её место в научных журналах и лекциях по микробиологии. На самом деле это пустышка, появившаяся из‑за досадной ошибки при оцифровке старых статей и навсегда застрявшая в обучающих данных ИИ. Исследовательская группа проследила странный путь термина и показала, как цифровые «ископаемые» могут десятилетиями блуждать по научным публикациям и даже рецензируемым журналам.
Истоки проблемы уходят в 1959 год, когда «Bacteriological Reviews» напечатал два материала о бактериальных клеточных стенках. Газетная вёрстка с параллельными колонками ввела в заблуждение программу распознавания текста, и слово «vegetative» из одной колонки слиплось с «electron» из соседней. Так родилась бессмысленная, но заманчиво звучащая конструкция. Дальше её подхватили поисковики и корпуса данных, из которых обучаются языковые модели.
Впервые тревогу поднял портал Retraction Watch: в феврале он обнаружил , что «vegetative electron microscopy» цитируется в десятках современных работ, причём чаще всего в статьях иранских авторов. Там сыграла роль ещё одна накладка: в персидском языке слова «vegetative» и «scanning» отличаются всего одной точкой, а сканирующая электронная микроскопия действительно существует. На этом этапе человеческая ошибка слилась с цифровой, а дальше — только хуже.
Учёные из нескольких университетов воспроизвели эксперимент: они кормили отдельные абзацы оригинальных статей разным моделям ИИ. Старые GPT‑2 и BERT реагировали корректно, но более свежие GPT‑4o и Claude 3.5 уверенно дописывали фразу‑призрак. Значит, «токсин» попал в общедоступные наборы данных вроде CommonCrawl совсем недавно и успел проникнуть в модели нового поколения.
Удалить такую «ископаемую» ошибку невероятно сложно. CommonCrawl хранит петабайты веб‑страниц, а владельцы крупных моделей редко раскрывают, что именно они скачивали для обучения. Даже если источник найдён, переработать массив данных под силу лишь техгигантам. Тем временем издательства, стремящиеся поскорее напечатать больше статей, лишь усугубляют ситуацию. Elsevier сначала пыталось доказать , что «vegetative electron microscopy» имеет смысл, и только потом выпустила исправление. У Frontiers случился похожий скандал с бессмысленными ИИ‑сгенерированными изображениями «крысиной анатомии».
История напоминает: искусственный интеллект может ускорять науку, но в равной степени способен множить ошибки, если их вовремя не отлавливать. Одна небрежно оцифрованная страница, пара совпадений в переводе — и бессмысленный термин превращается в «научный факт», который с лёгкостью воспроизводит даже самая продвинутая модель. Чем дольше такие артефакты остаются в открытых датасетах, тем труднее их вытравить, и тем меньше шансов у читателя отличить настоящую науку от цифрового суррогата.
#ИИ
____
@rujournals - Научные журналы и базы данных (НЖБД)
Нелепая фраза из-за сбоя в оцифровке проникла в десятки научных работ и не исчезает даже в новейших моделях ИИ, сообщает SecurityLab
Фраза «vegetative electron microscopy» звучит так, будто её место в научных журналах и лекциях по микробиологии. На самом деле это пустышка, появившаяся из‑за досадной ошибки при оцифровке старых статей и навсегда застрявшая в обучающих данных ИИ. Исследовательская группа проследила странный путь термина и показала, как цифровые «ископаемые» могут десятилетиями блуждать по научным публикациям и даже рецензируемым журналам.
Истоки проблемы уходят в 1959 год, когда «Bacteriological Reviews» напечатал два материала о бактериальных клеточных стенках. Газетная вёрстка с параллельными колонками ввела в заблуждение программу распознавания текста, и слово «vegetative» из одной колонки слиплось с «electron» из соседней. Так родилась бессмысленная, но заманчиво звучащая конструкция. Дальше её подхватили поисковики и корпуса данных, из которых обучаются языковые модели.
Впервые тревогу поднял портал Retraction Watch: в феврале он обнаружил , что «vegetative electron microscopy» цитируется в десятках современных работ, причём чаще всего в статьях иранских авторов. Там сыграла роль ещё одна накладка: в персидском языке слова «vegetative» и «scanning» отличаются всего одной точкой, а сканирующая электронная микроскопия действительно существует. На этом этапе человеческая ошибка слилась с цифровой, а дальше — только хуже.
Учёные из нескольких университетов воспроизвели эксперимент: они кормили отдельные абзацы оригинальных статей разным моделям ИИ. Старые GPT‑2 и BERT реагировали корректно, но более свежие GPT‑4o и Claude 3.5 уверенно дописывали фразу‑призрак. Значит, «токсин» попал в общедоступные наборы данных вроде CommonCrawl совсем недавно и успел проникнуть в модели нового поколения.
Удалить такую «ископаемую» ошибку невероятно сложно. CommonCrawl хранит петабайты веб‑страниц, а владельцы крупных моделей редко раскрывают, что именно они скачивали для обучения. Даже если источник найдён, переработать массив данных под силу лишь техгигантам. Тем временем издательства, стремящиеся поскорее напечатать больше статей, лишь усугубляют ситуацию. Elsevier сначала пыталось доказать , что «vegetative electron microscopy» имеет смысл, и только потом выпустила исправление. У Frontiers случился похожий скандал с бессмысленными ИИ‑сгенерированными изображениями «крысиной анатомии».
История напоминает: искусственный интеллект может ускорять науку, но в равной степени способен множить ошибки, если их вовремя не отлавливать. Одна небрежно оцифрованная страница, пара совпадений в переводе — и бессмысленный термин превращается в «научный факт», который с лёгкостью воспроизводит даже самая продвинутая модель. Чем дольше такие артефакты остаются в открытых датасетах, тем труднее их вытравить, и тем меньше шансов у читателя отличить настоящую науку от цифрового суррогата.
#ИИ
____
@rujournals - Научные журналы и базы данных (НЖБД)
👍5
В субботу, 26 апреля, в 16 часов приходите в городской Дворец культуры на новую встречу лектория под эгидой Главы города Апатиты! Заведующий лабораторией материалов электронной техники и сектором твердотельных материалов акусто- и оптоэлектроники Института химии и технологии редких элементов и минерального сырья КНЦ РАН Михаил Палатников расскажет о кристаллах с удивительными оптическими свойствами и других материалах для электронной техники, которые создают и модифицируют на базе на базе сырья Кольского полуострова. Эта работа поддержана грантом Российского научного фонда РНФ 24-13-20004.
👍2
Наталья Веденеева из "Московского Комсомольца" рассказывает об исследование, проведенном учеными из Института проблем промышленной экологии Севера КНЦ РАН совместно с коллегами из Финляндии. Изучив годовые кольца сосен из субарктической Финляндии за последние 7500 лет и циклы солнечной активности, исследователи пришли к выводу, что во второй половине XXI века могут повториться условия, подобные Маундеровскому минимуму 1645–1715 годов, когда снижение солнечной активности на 33% вызвало заметное похолодание. Оригинальная статья опубликована в журнале Geosciences.
👍4
Forwarded from Российская академия наук
Стартовал приём заявок на участие во Всероссийской премии «За верность науке»
Подать заявку на участие можно до 31 июля, а торжественное мероприятие состоится в конце октября. Глава Минобрнауки России Валерий Фальков отметил повышение престижа премии.
Вице-президент Российской академии наук академик РАН Степан Калмыков отметил, что участие в оргкомитете Премии, которая за несколько лет стала традицией, – это почётная обязанность для Академии наук.
В 2024 году зафиксирован очередной рекорд — поступила 1831 заявка из 80 регионов страны, что в 2,5 раза больше аналогичного показателя 2021 года.
Фото: пресс-служба премии «За верность науке»
Подать заявку на участие можно до 31 июля, а торжественное мероприятие состоится в конце октября. Глава Минобрнауки России Валерий Фальков отметил повышение престижа премии.
Вице-президент Российской академии наук академик РАН Степан Калмыков отметил, что участие в оргкомитете Премии, которая за несколько лет стала традицией, – это почётная обязанность для Академии наук.
«Наука — залог развития государства, наших лидерских позиций. Показывать, что это модно, что это популярно, что это интересно и что это востребовано — важнейшая миссия, которую как раз премия решает», – подчеркнул он.
В 2024 году зафиксирован очередной рекорд — поступила 1831 заявка из 80 регионов страны, что в 2,5 раза больше аналогичного показателя 2021 года.
Фото: пресс-служба премии «За верность науке»
Media is too big
VIEW IN TELEGRAM
Четыре месяца назад в Геологическом инстуте КНЦ РАН начал работать геолог из Франции Артур Ауизерт. Мурманские документалисты решили снять об ученом фильм - в эфире Вести Мурман об этом рассказала руководитель продюсерского центра "Северный характер", сценарист и продюсер фильма Светлана Солдатова
👍2
Фото Вероники Данилиной. Больше фотографий - в альбоме нашей группы ВК.
👍2
С 17 по 19 апреля в Кольском научном центре прошла всероссийская научная конференция «Кому на Севере жить? Семейные, этнические и профессиональные общности арктической территории России». Ее организовал Центр гуманитарных проблем Баренц-региона КНЦ РАН совместно с Государственным архивом Мурманской области в Кировске.
Конференция объединила специалистов из различных областей гуманитарного знания: этнологов, историков, социологов и архивистов. Участники представляли 12 городов России: Апатиты, Кировск, Мурманск, Москву, Санкт-Петербург, Тулу, Сургут, Архангельск, Ковдор, Якутск, Сыктывкар и Петрозаводск. Программа включала 35 докладов. Основное внимание было уделено изучению этнических, местных, профессиональных и культурных традиций северных сообществ, а также вопросам социально-культурной идентификации северян и сохранения «человеческого капитала».
Заседание начали с приветственных слов от организаторов и Елены Ахтуловой, заместителя председателя Совета депутатов города Апатиты, а затем представили научные книги и монографии, посвященные жизни северян в период между двумя мировыми войнами, истории семьи Жидких на фоне поморской культуры, гуманитарным исследованиям КНЦ РАН, судьбам финнов Мурманского региона и опыту адаптации мигрантов на Кольском Севере. Первый день завершился открытием выставки «Переписной лист – крепкая и яркая повесть о жизни замечательных советских людей: из истории учета населения в 1930-х гг. в Мурманской области», подготовленной Ольгой Герчиной, директором Кировского государственного архива Мурманской области и кандидатом исторических наук Ольгой Шабалиной, заведующей сектором сохранения и изучения научного наследия ЦГП КНЦ РАН. Среди ключевых докладов дня выделяется выступление Мадины Каюмовой, главного архивиста Национального архива Республики Карелия, которая рассказала о беломорских рыбных промыслах в период коллективизации, акцентируя внимание на трансформации рыболовецких практик в условиях коллективизации.
Второй день был посвящен секциям «Хранители памяти и наследия народов Севера» и «Северяне: идентичности, стратегии, репрезентации». Участники обсудили вопросы сохранения научного и культурного наследия, а также формирования идентичностей северных сообществ. Елена Бисаева, главный хранитель фондов Ковдорского краеведческого музея, представила две книги, связанные с Геннадием Чикуновым, пережившим блокаду Ленинграда ветераном, чья трудовая деятельность в Заполярье началась 65 лет назад. Мария Неелова, главный архивист Национального архива Республики Карелии, выступила с докладом об архивных фондах, содержащих сведения по истории Кольского уезда Архангельской губернии. Ведущий научный сотрудник ЦГП КНЦ РАН, кандидат исторических наук Марк Шахнович поделился результатами поиска памятников археологии и этнографии поморской культуры на Карельском и Кандалакшском берегах Белого моря в 2024 году и ответил на вопросы о методах антропологических исследований.
Завершающим событием стала экскурсия 19 апреля в Музей-Архив истории изучения и освоения Европейского Севера России, проведенная инженером-исследователем ЦГП КНЦ РАН Ильей Травиным.
Конференция объединила специалистов из различных областей гуманитарного знания: этнологов, историков, социологов и архивистов. Участники представляли 12 городов России: Апатиты, Кировск, Мурманск, Москву, Санкт-Петербург, Тулу, Сургут, Архангельск, Ковдор, Якутск, Сыктывкар и Петрозаводск. Программа включала 35 докладов. Основное внимание было уделено изучению этнических, местных, профессиональных и культурных традиций северных сообществ, а также вопросам социально-культурной идентификации северян и сохранения «человеческого капитала».
Заседание начали с приветственных слов от организаторов и Елены Ахтуловой, заместителя председателя Совета депутатов города Апатиты, а затем представили научные книги и монографии, посвященные жизни северян в период между двумя мировыми войнами, истории семьи Жидких на фоне поморской культуры, гуманитарным исследованиям КНЦ РАН, судьбам финнов Мурманского региона и опыту адаптации мигрантов на Кольском Севере. Первый день завершился открытием выставки «Переписной лист – крепкая и яркая повесть о жизни замечательных советских людей: из истории учета населения в 1930-х гг. в Мурманской области», подготовленной Ольгой Герчиной, директором Кировского государственного архива Мурманской области и кандидатом исторических наук Ольгой Шабалиной, заведующей сектором сохранения и изучения научного наследия ЦГП КНЦ РАН. Среди ключевых докладов дня выделяется выступление Мадины Каюмовой, главного архивиста Национального архива Республики Карелия, которая рассказала о беломорских рыбных промыслах в период коллективизации, акцентируя внимание на трансформации рыболовецких практик в условиях коллективизации.
Второй день был посвящен секциям «Хранители памяти и наследия народов Севера» и «Северяне: идентичности, стратегии, репрезентации». Участники обсудили вопросы сохранения научного и культурного наследия, а также формирования идентичностей северных сообществ. Елена Бисаева, главный хранитель фондов Ковдорского краеведческого музея, представила две книги, связанные с Геннадием Чикуновым, пережившим блокаду Ленинграда ветераном, чья трудовая деятельность в Заполярье началась 65 лет назад. Мария Неелова, главный архивист Национального архива Республики Карелии, выступила с докладом об архивных фондах, содержащих сведения по истории Кольского уезда Архангельской губернии. Ведущий научный сотрудник ЦГП КНЦ РАН, кандидат исторических наук Марк Шахнович поделился результатами поиска памятников археологии и этнографии поморской культуры на Карельском и Кандалакшском берегах Белого моря в 2024 году и ответил на вопросы о методах антропологических исследований.
Завершающим событием стала экскурсия 19 апреля в Музей-Архив истории изучения и освоения Европейского Севера России, проведенная инженером-исследователем ЦГП КНЦ РАН Ильей Травиным.
👍2
На сайте zavernostnauke.ru стартовал прием заявок от претендентов на главную российскую награду за популяризацию науки – одиннадцатую премию «За верность науке». Ее ежегодно вручают за выдающиеся достижения в области научной коммуникации, популяризации науки и поддержки престижа деятельности ученых и инженеров в Российской Федерации. Среди победителей 2024 года – самый любимый и узнаваемый в нашей стране зоолог, ведущий программы «В мире животных», профессор МГУ Николай Дроздов, международный фестиваль «НАУКА 0+», автор и ведущий научного тревел-шоу «Автостопом по науке» Александр Прудников, пресс-служба Российского научного фонда, спецпроект ТАСС «Атомная эпоха».
Заявки принимают до 31 июля, а итоги подведут и наградят победителей в конце октября.
Заявки принимают до 31 июля, а итоги подведут и наградят победителей в конце октября.
🔥2