Sber AI – Telegram
Sber AI
39.2K subscribers
2.42K photos
620 videos
1 file
2.05K links
AI для людей: всё об искусственном интеллекте в мире и Сбере 💚

Рассказываем, как AI меняет нашу жизнь, разбираем тренды технологий и делимся новыми разработками!
Download Telegram
На Красной планете нашли родину «Чёрной красавицы». Помогли суперкомпьютер и модель компьютерного зрения

☄️ Метеоритные удары регулярно выбивают фрагменты с поверхности Луны и Марса. Некоторые из них, совершив космическое путешествие, падают на Землю. Учёные идентифицировали несколько сотен марсианских метеоритов. Самый древний из них — Northwest Africa 7034 — обнаружен в Марокко в 2011 году и получил прозвище «Чёрная красавица» (Black Beauty). Он датируется возрастом около 4,5 млрд лет и сохранил остатки воды, которая тогда ещё имелась на Красной планете.

💥 Но откуда именно он происходит? Сегодня минералогия Марса картографирована с большой точностью. Можно сопоставить состав, магнитные и другие свойства метеорита с характеристиками вещества из разных ударных кратеров на поверхности Красной планеты.

🔴 Это колоссальная по сложности задача: в отличие от Земли, которая защищена плотной атмосферой и отличается высокой геологической активностью, Марс бомбардируется метеоритами намного чаще, а следы падений сохраняются дольше. На нём известно более 43 тыс. ударных кратеров диаметром больше 5 км. При этом подходящих на роль источника марсианских метеоритов ещё больше.

Несколько лет назад учёные уже использовали для их поиска суперкомпьютер Pawsey в Пертском университете (Австралия), а также специально разработанную модель компьютерного зрения. Crater Detection Algorithm (CDA) обучили на датасете из 1762 известных марсианских кратеров диаметром более километра. Затем дообучили с использованием нового размеченного массива, содержащего данные по кратерам меньших размеров. После чего Pawsey и CDA вместе обнаружили на Красной планете более 94 млн ударных кратеров.

🪨 В новой работе учёные идентифицировали среди них 19 кратеров-кандидатов на звание «родины» NWA 7034. После чего детально изучили каждый по отдельности, сравнив их свойства с особенностями самого метеорита.

🌋 320-граммовый NWA 7034 является вулканогенной брекчией — фрагментом застывшей лавы с обломками. Это единственный марсианский метеорит, демонстрирующий магнитные свойства. А по химическому составу он выделяется повышенным содержанием тория и калия.

Исходя из этих характеристик, вероятнее всего «Черная красавица» родилась 5-10 млн лет назад при формировании кратера Каррата диметром 10 км. Он расположен в Земле Киммерия в южном полушарии Марса. По-видимому, именно здесь сохранились остатки древнейшей коры Красной планеты.

Читать подробнее:
научная статья в журнале Nature Communications

#Искусственный_интеллект, #Компьютерное_зрение, #ИИ_в_астрономии
👍21🔥4😱2💩1
«Мемристоры-палимпсесты»

⚡️ Подумала, что давно уже не писала про железо для ИИ. А тут как раз интересная новость подоспела. Сеть из мемристоров научили накапливать долговременные воспоминания и одновременно с этим продолжать обработку кратковременных запросов.

🧠 Схожим образом это происходит у биологических нейронов. Сами разработчики сравнивают эту способность со старинными рукописями — палимпсестами, текст в которых написан поверх предыдущего.

🤖 Количество вычисляемых параметров — «искусственных нейронов» — в самых больших моделях машинного обучения сегодня уже приближается к числу нервных клеток в головном мозге. При этом их способности к решению разнообразных когнитивных задач несравнимы.

🔬Предполагается, что способность живых нейронов консолидировать разные воспоминания — одна из ключевых причин, обеспечивающих высочайшую пластичность и эффективность работы мозга. Учёные попробовали создать электронные элементы памяти с аналогичными способностями.

🔀 Для этого они использовали мемристоры на основе тонких плёнок из диоксида титана. Из них была собрана примитивная сеть, содержавшая всего шесть синапсов — соединений между мемристорами. Оказалось, что если подавать на такую сеть два сигнала одновременно, информация распределяется между синапсами и частично сохраняется на каждом из них.

🌉 Дополнительные эксперименты показали, что сеть способна накапливать длительные воспоминания, одновременно сохраняя несколько картинок с качеством, достаточным для их извлечения и реконструкции. При этом параллельная обработка сотен событий за исследуемый отрезок времени никак не влияет на эти «воспоминания».

Почитать подробнее:
научная статья в журнале Science Advances

#Инфраструктура_искусственного_интеллекта, #Железо_для_искусственного_интеллекта
🔥16👍3💩1
Colossal-AI позволяет тренировать огромные модели ИИ на обычном ноутбуке

🤷🏼 Обучение с нуля или даже тонкая настройка больших моделей ИИ обычно недоступна рядовым пользователям. Она требует десятков или сотен графических процессоров и глубоких познаний архитектуры искусственного интеллекта.

🙋🏻‍♂️ Компания HPC-AI Tech попыталась обойти этот барьер. В 2021 году она представила Colossal-AI — единую систему глубокого обучения, которую в теории может освоить даже инженер-любитель с обычным лэптопом.

📉 Инструмент на основе фреймворка PyTorch использует гетерогенный подход в обучении нейросетей. В его основе — оптимизация потребления памяти во время тренировки. Здесь поддерживаются тензорный параллелизм и контрольные точки активации.

💻 Для работы Colossal-AI не обязательно нужны суперкомпьютеры. Инструмент может обучать большие модели с 1,5 млрд параметров на ноутбуке с RTX 206 (6 ГБ) на борту. А компьютер с графическим чипом RTX 3090 (24 ГБ) способен натренировать нейросеть с 18 млрд параметров.

💽 Недавно у Colossal-AI появился модуль Gemini — аналог Zero-offload от майкрософтской библиотеки DeepSpeed. По словам разработчиков, их менеджер памяти превосходит конкурента, потому что эффективнее распределяет данные.

🆓 Например, Zero-offload статически делит данные модели между памятью CPU и GPU, и их расположение остается постоянным для разных конфигураций обучения. Поэтому когда память GPU закончится, система выдаст ошибку, даже если память процессора будет не заполнена. При этом Colossal-AI сможет завершить тренировку, перекинув часть информации на ЦП.

🔁 Для обучения моделей Colossal-AI делит итерации на два этапа: прогревочный и непрогревочный. На первом система собирает информацию об использовании памяти, а на втором — использует ее для перераспределения тензоров. Это позволяет свести к минимуму объем перемещаемых данных между CPU и GPU.

Исходный код проекта открыт, поэтому воспользоваться возможностями Colossal-AI может любой желающий.
👍16🔥3🤮1💩1
Самый «негуманный» суд в мире

Сюжеты из «Чёрного зеркала» воплощаются с невиданной быстротой. Китайских судей обязали советоваться с ИИ. А любой приговор, не совпадающий с решением нейросети, придется письменно обосновать.

🏛 Внедрение элементов «умного суда» в Китае началось ещё в 2016 году со сбора базы данных законодательства и судебных прецедентов. К настоящему моменту все суды КНР обязаны фиксировать каждое решение в электронном виде и передавать в централизованную систему, в едином формате.

👮🏻‍♂️ Ежедневно в «умный суд» пересылается порядка 100 тыс. новых постановлений. Помимо этого, ИИ имеет доступ к базам данных полиции и других правоохранительных органов, а также к действующей в КНР системе социальных кредитов.

📉 Благодаря этому все поступившие в «умный суд» дела автоматически проверяются на признаки судебных ошибок и коррупции. Одобренное решение часто тут же и реализуется: рейтинг нарушителя в системе социальных кредитов падает, ограничивая его доступ к билетам на транспорт и другим общественным сервисам.

✔️ Кроме того, верховный суд КНР постановил, что каждый судья обязан консультироваться с системой перед вынесением приговора, и если его решение не соответствует варианту ИИ, составлять письменное обоснование. Это позволит унифицировать правоприменение в масштабах всей страны, невзирая на экономические и этнокультурные различия между регионами.

По словам инициаторов системы, только за 2019-2021 годы она сэкономила около 1,7 млрд человеко-часов и сумму, эквивалентную $45 млрд. Однако профессиональные юристы принимают эти заявления довольно прохладно. Они считают, что директивное применение ИИ подрывает принцип независимости судебной системы, уводит на второй план личный опыт, образование и моральные качества судей.

Кто прав — рассудит история. Или ИИ.

#Искусственный_интеллект, #Цифровизация_и_общество, #Регулирование_искусственного_интеллекта
🔥18👍7🤯2
В Минобороны США научились дистанционно управлять мозгом с помощью магнитного поля. Пока только у плодовых мух

🪰 Команда нейробиологов, занимающихся проектом двойного назначения MOANA (Magnetic, Optical and Acoustic Neural Access), добилась очередных успехов. Проект направлен на разработку инструментов контроля нервной системы посредством магнитного поля, звуковых волн и света.

🧠 Официальная цель MOANA — создать «шлем», способный декодировать и стимулировать нейронную активность, передавая сигнал напрямую к мозгу. Но так как финансируется он DARPAУправлением перспективных исследовательских проектов Минобороны США, то все, конечно, всё понимают.

🕹 Недавно учёные продемонстрировали необычный «нейроинтерфейс». Одна инъекция магнитных наночастиц в мозг генномодифицированных мух дрозофила позволила управлять активностью их нейронов за счёт внешнего магнитного поля. Время отклика мозга составило всего 0,5 с — и по команде извне мухи принимали позу готовности к спариванию.

🔥 Сперва исследователи получили ГМ-линию плодовых мух. В определенных нейронах у них усилили выработку белка TRPA1-A. Он чувствителен к повышению температуры и запускает у мух выражение готовности к спариванию — подъём крыльев под небольшим углом. Далее в мозг ГМ-мух вводили раствор магнитных наночастиц, а самих их помещали в контейнер с установленным на дне электромагнитом.

🌀 Увеличивая магнитное поле, учёные заставляли наночастицы нагреваться. Это включало белок TRPA1-A и заставляло плодовых мух против своей воли принимать соответствующую позу уже через полсекунды после включения электромагнита. Данный результат примерно в 50 раз быстрее, чем удавалось достичь ранее другими способами.

В будущем в MOANA планируют научиться вызывать визуальные образы у животных и людей, активируя нейроны зрительной коры. Возможно, эксперименты на мухах станут важным шагом к решению этой задачи.

🤖 Интересно, что в текущем сезоне сериала «Мир Дикого Запада» мухи используются для внедрения в мозг человека генов, изменяющих его работу. В результате поведением людей становится легко управлять посредством программ из последовательности не воспринимаемых на сознательном уровне инфразвуков.

Почитать подробнее: научная статья в журнале Nature Materials.

#Биотехнологии, #Нейронаука, #Нейротехнологии
🔥9🤔8👍4😁3🤯1
Магнитный туннельный переход может вдвое сократить потребление энергии для обучения нейросетей

🧠 Наш мозг потребляет в среднем около 20 Вт при работе с массивами данных. ИИ для тех же целей требуется в тысячи раз больше мощности. К тому же нейронные сети постоянно расширяются — вместе с тем растет их потребности в более энергоэффективном аппаратном обеспечении.

📈 Новый способ решения проблемы предложили ученые из Национального института стандартов и технологий США (NIST). Они разработали альтернативный тип оборудования, который может потреблять меньше энергии и работать быстрее аналогов.

🔄 Исследователи предложили использовать оборудование на основе туннельного магнитного сопротивления (MTJ). Такие устройства работают эффективнее за счет того, что хранят данные в том же месте, где выполняют вычисления.

💻 Эффект MTJ проявляется, когда ток протекает между двумя слоями ферромагнетиков, разделенных 1-нанометровым слоем диэлектрика. Магнитный туннельный переход уже много лет применяется в считывающих головках жестких дисков. А еще на основе его эффекта работает магниторезистивная оперативная память (MRAM).

В первую очередь ученые хотели узнать, можно ли перенести нейронную сеть на массив MTJ. Ведь обычно при такой передаче может страдать производительность модели — неполадки возникают из-за различий между устройствами, ошибок записи и паразитного сопротивления. Но первые эксперименты показали любопытные результаты.

🍷 Для тестов ученые взяли простой алгоритм, который должен был определять градус и сорт вина по 13 параметрам. Для оценки результата авторы исследования сравнили 300 уникальных решений весовой матрицы двухслойного персептрона. Несмотря на потенциальные неполадки, система показала высокую точность — до 95,3% при массиве 15х15 MTJ.

❗️Смысл эксперимента — доказать, что массив устройств на магнитном туннельном переходе в будущем можно будет полноценно использовать для создания новых систем ИИ. И хотя потребление энергии для обучения нейросети зависит от ее параметров, использование MTJ позволит сократить необходимую мощность как минимум вдвое, говорят ученые.
👍11🔥5
Исчезающий язык австралийских аборигенов положили в основу нового языка программирования JSwarm, предназначенного для управления роем беспилотников

🏝 Джингулу — язык группы племен джингили, относящийся к небольшой изолированной семье миндийских языков, на которых разговаривают коренные жители Северной Австралии. В годы Второй мировой войны носители джингулу служили в войсках связи, пользуясь своим уникальным языком для передачи секретных сообщений.

👨🏿‍🦳 Сегодня этот древний язык оказался на грани исчезновения. Его понимает не больше пары десятков человек, и ни для кого из них он не является родным. Однако некоторые особенности джингулу могут дать ему необычную форму «посмертного существования». Такой проект реализует группа учёных из Университета Нового Южного Уэльса.

💬 В отличие от английского или русского с их довольно строгой последовательностью слов во фразе — субъект, действие, объект («Мама мыла раму») — джингулу позволяет гибко комбинировать отдельные элементы. Этот язык обходится всего тремя глаголами: «делать», «идти» и «приходить». Однако их комбинации способны передать самые разные виды действий с помощью тех или иных синтаксических конструкций. Например, «Солнце обжигает землю» на джингулу звучит как Uliyija-nga ngllnja-ju karalu («Солнце делать ожог земле»). Такие особенности делают подобный язык оптимальным для понимания и человеком, и машиной.

🔚🔙🔝«Язык, который можно напрямую превратить в команды для ИИ; язык, который могут понимать люди; язык, синтаксис которого снижает расходы вычислительных мощностей; язык, позволяющий изменить контекст без изменения синтаксиса, чтобы легко менять модальность ИИ, — говорит ведущий исследователь проекта. – Для нас джингулу — это мечта, ставшая реальностью».

🕹 Основное направление работы его команды — технологии управления роем беспилотников и их взаимодействия с человеком. Апробируя различные варианты, учёные случайно натолкнулись на необычный язык коренных жителей Австралии, и привлекли к сотрудничеству местных лингвистов. В итоге это позволило разработать новый язык программирования JSwarm, который может послужить эффективным «мостиком», одновременно понятным и для людей, и для ИИ, контролирующих поведение роя дронов.

Читать подробнее: научная статья в журнале Frontiers in Physics.

#Инструменты, #Языки_и_среды, #Беспилотники_и_дроны
👍17🔥2
ВВС США и MIT запустили акселератор технологий искусственного интеллекта

🇺🇸 Инициатива ученых и военных направлена на создание конвейера технологий ИИ — в теории, это даст Соединенным Штатам конкурентное преимущество в оборонном и гражданском секторах.

🏛 Акселератор базируется в MIT. Он проводит фундаментальные исследования, чтобы обеспечить быстрое прототипирование, масштабирование и этичное применение алгоритмов ИИ как для военных, так и для гражданских целей. Среди сотрудников акселератора — офицеры и рядовые летчики, а также профессоры, исследователи и студенты института.

📈 В январе 2020 года DAF-MIT AI Accelerator запустил десять междисциплинарных проектов. Они должны решать различные научные проблемы: например, более точное прогнозирование погоды, оптимизация центров обработки данных и создание продвинутых человеко-машинных интерфейсов.

⚡️ Для изучения метеорологических задач исследователи создали набор данных SEVIR. В него включены геостационарные спутниковые снимки, охватывающие территорию 384х384 км и четырехчасовой промежуток времени (шаг в 5 минут). Туда же попала и карта молний, сделанная с помощью детектора Geostationary Lightning Mapper. Все это помогло ученым делать краткосрочные прогнозы погоды (в диапазоне 0-2 часа) и создавать синтетические метеорологические радары.

✈️ В акселераторе разработали и систему подготовки пилотов CogPilot — иммерсивную среду обучения в виртуальной реальности. Она имитирует реальный учебный центр полетов для пилотов ВВС. Система не только тренирует будущих летчиков, но и собирает мультимодальные данные: отслеживает направление взгляда и анализирует голос и замеряет другие физиологические показатели. Эти измерения могут быть использованы для корректировки индивидуальной учебной программы.

Ученые говорят, что параллельная работа над несколькими задачами способствовала синергии. Им удалось разработать воспроизводимые пайплайны для выпуска наборов с открытым исходным кодом. А еще разработчики могли использовать данные для одной задачи, которые изначально собирались для решения других.
👍13👎1🔥1
#почитать_на_выходных (16+)

Никакой разговор об имитации сознания не может считаться состоявшимся без романа морского биолога Питера Уоттса, вернувшего популярность жанру твёрдой научной фантастики, «Ложная слепота» (Blindsight, 2006).

Правда здесь алгоритм, который вводит в заблуждение персонажей книги, не искусственного происхождения, а создан в процессе эволюции самой природой. Вторгшийся в Солнечную систему «Объект Роршах» охотно вступает в радиосвязь с земными исследователями, отвечает на вопросы, адекватно реагирует на просьбы. Но это не настоящий разум, а идеальная симуляция. «Роршах» работает по принципу «китайской комнаты», известной по мысленному эксперименту американского философа Джона Сёрла (John Searle).

Ещё в 1980-м он заметил, что если в закрытой комнате посадить человека, не знающего китайского языка, но обложенного всеми нужными словарями и инструкциями, то с ним можно общаться по-китайски. Пусть тот и не понимает ни слова из этого диалога, но способен его поддерживать. Мощная машина (в том числе биологическая, как «Объект Роршаха») способна безупречно имитировать человеческое поведение, если снабдить её продвинутым самообучающимся алгоритмом и необходимыми вычислительными мощностями. Разум ли это в привычном смысле слова? Не факт. Но, возможно, в этом и состоит эволюционное преимущество «Роршаха» над людьми.
🔥18👍4🤔2
#посмотреть_на_выходных (18+)

Мультипликационный сериал «Любовь, смерть и роботы». Эпизод «Зима Блю» (14 серия 1 сезона, 2019)

Вообще, по большому счёту, несмотря на название, теме ИИ и роботов во всех трёх сезонах посвящено не так уж много эпизодов. Но среди них есть истинные шедевры.

Самая ударная серия первого сезона — экранизация рассказа Аластера Рейнольдса «Зима. Голубой период». Гениальный художник Зима, известный всей обитаемой галактике своими масштабными работами, которые занимают целые планеты и солнечные системы, объявляет о новом, доселе невиданном арт-проекте. За несколько десятков минут звезда современного искусства саморазоблачается на глазах у публики и оказывается не просто киборгом, но роботом, многократно «проапгрейженным» и «пропатченным».

Он отбрасывает все лишнее, сбрасывает настройки до заводских, отказывается от самосознания и способности к рефлексии, возвращается к блаженному безмыслию программируемого чистильщика бассейнов. Мечтают ли андроиды о возвращении в материнскую утробу? Если верить создателям сериала, — страстно.
👍17🔥63🤮1
На Аляске свёрточную нейросеть обучили распознавать взрывы по инфразвуку. Для этого создали синтетический датасет

Искусственный интеллект находит всё новые сферы применения. Даже там, где этого совсем не ждёшь. Например, в акустическом мониторинге взрывов.

💥 Любые взрывы — от промышленных и до испытания оружия или извержения вулканов — создают целый спектр акустических колебаний, включая инфразвуковые. Такие длинные волны затухают сравнительно долго и распространяются на большие расстояния в атмосфере. Поэтому массивы специальных микрофонов позволяют обнаруживать взрывы даже на приличном удалении от места их произведения.

〰️ Учёные с Аляски решили автоматизировать процесс и применить для выделения сигнала машинное обучение. Однако возникла проблема — для тренировки моделей не оказалось нужного количества данных. Чтобы её решить исследователи создали компьютерную модель. Она позволила рассчитать распространение инфразвуковых волн при различном состоянии атмосферы и сгенерировать 28 тыс. синтетических сигналов, соответствующих разным типам взрывов.

🔢 Затем на этом датасете обучили сравнительно простую свёрточную нейросеть. В предварительных тестах она показала отличные — свыше 90% точности — результаты по выделению сигнала взрыва на фоне естественных шумов.

☄️ Дополнительно систему проверили на данных эксперимента Humming Roadrunner, проведенного в США в 2012 году. Тогда в пустыне на полигоне Уайт-Сэндз произвели шесть крупных взрывов мощностью от 9 до 45 тонн в тротиловом эквиваленте, а массивы датчиков зафиксировали созданные ими инфразвуковые волны с расстояния от 50 до 500 км. Собранные десять лет назад данные сейчас выложены в открытый доступ для всех исследователей. Анализируя их, модель, обученная на новом синтетическом датасете, уверенно определила характеристики большинства взрывов.

Читать подробнее: научная статья в журнале Geophysical Research Letters

#Нейросети, #Датасеты
👍14🔥5
Робот-домохозяин научился выполнять домашние дела, наблюдая за людьми

🤖 Вполне возможно, что в будущем роботов не потребуется заранее готовить к выполнению домашних дел. Достаточно будет установить машину на кухне, а всему нужному она обучится самостоятельно, наблюдая за человеком и пытаясь воспроизвести его действия.

🍽 👫 В борьбе за освобождение женщин (а сегодня уже и мужчин) от тягот «второй работы» произошёл серьёзный прорыв. Никаких больше супружеских конфликтов из-за того, кому мыть посуду или готовить детям завтрак — всё в скором времени ляжет на натруженные манипуляторы роботов без пола и гендера.

🍜 А всё благодаря тому, что учёные из Университета Карнеги – Меллона разработали новый имитационный подход к обучению машин — WHIRL (In-the-Wild Human Imitating Robot Learning)«Обучение робота подражанием человеку в естественных условиях». Его идея состоит в отслеживании действий людей в обычной обстановке, их распознавании и генерализации (обобщении) для выполнения других задач.

🦾 В «естественных условиях» своего дома люди постоянно заняты массой рутинных дел, что позволяет собрать достаточно данных для машинного обучения за счёт непосредственного наблюдения. Чтобы продемонстрировать такую возможность, учёные использовали стандартный роботизированный манипулятор с видеокамерой.

🏠 Его поместили в типичную обстановку домашней кухни, не модифицированную специально для удобства роботов, как это обычно делают в экспериментах. А один из исследователей регулярно совершал там самые обычные действия: открывал и закрывал двери, накрывал крышкой кастрюлю, вынимал пакет с мусором из ведра и т.п.

📈 Система отслеживала поведение человека, распознавая положение тела и объекты, которыми он манипулирует. Для этого ей оказалось достаточно всего одной итерации действия. Далее WHIRL дообучался самостоятельно, пробуя воспроизвести подсмотренные действия в реальных условиях и совершенствуясь за счёт внешних подкреплений экспериментаторов.

Всего робот освоил 20 типичных действий на кухне. Причем для некоторых из них машина нашла в итоге совершенно иные траектории, нежели те, которыми пользовался человек.

☕️ Забавно, что новая система, ставит под сомнение знаменитый «кофейный тест», предложенный сооснователем Apple Стивом Возняком. Месяц назад я подробно о нём писала. Кажется, что теперь, благодаря WHIRL, любой робот действительно может забрести на первую попавшуюся кухню и приготовить вам чашечку капучино. Однако сильный искусственный интеллект от нас по-прежнему далёк.

Главное, не пускать таких роботов в супружескую спальню. А то мало ли какие простые механические движения они потом захотят повторить!

#Робототехника, #Машинное_обучение, #Компьютерное_зрение, #Сильный_искусственный_интеллект
👍19🔥3
Алгоритм научили «галлюцинировать» структурами несуществующих белков

Одним из самых значительных событий прошлого года стала разработка компании DeepMind алгоритм AlphaFold. Он способен предсказать пространственные структуры белков, опираясь только на их аминокислотные последовательности.

🐿 Белки — главные структурные и метаболические инструменты любой живой клетки. Они занимаются всем — от транспорта молекул до катализа реакций с ними. Свойства и функции каждого конкретного белка определяются его пространственной конфигурацией. Поэтому понимание механизмов работы белка зависит от знания его трёхмерной структуры.

📊 До сих пор такую задачу приходится решать долго и кропотливо, получая чистые белковые препараты, используя рентгенографию, ядерный магнитный резонанс и другие весьма трудоемкие и сложные методы. Однако за десятилетия работы учёные накопили данные о структурах сотен тысяч белков.

🧬 Благодаря им можно обучить нейросети предсказывать пространственные структуры, зная лишь последовательность аминокислот в полимерной цепочке того или иного белка. Следующим логичным шагом становится генерация новых, не существующих в природе структур, адаптированных для выполнения той или иной функции.

Такую работу провели в Вашингтонском университете (США), опираясь на уже известную ИИ-систему предсказания структуры белков RoseTTAfold. В ней реализованы две стратегии для создания новых структур.

1️⃣ «Дорисовка» (inpainting) — на основе заданного ключевого участка белка (активного сайта) и закономерностей конформации, система генерирует остальные части молекулы, которые должны поддерживать форму и обеспечивать работоспособность активного сайта.

2️⃣ «Вынужденная галлюцинация» (constrained hallucination) — начинается с работы над определённой задачей, поставленной перед будущей структурой, например, способности связывать ионы металлов. В этом случае система генерирует случайные последовательности аминокислот, предсказывает форму такого белка и определяет его способность выполнять целевую задачу. Затем в последовательность вносятся мутации. Те изменения, которые облегчают нужную работу, сохраняются. Неудачные заменяются новыми, постепенно приближая структуру к оптимальной.

Для демонстрации возможностей новой системы учёные сгенерировали несколько пробных белков, выполняющих самые разные функции:

✔️ абсорбирующих металлы из водного раствора;

✔️ связывающихся с рецепторами на поверхности раковых клеток;

✔️ улавливающих молекулы углекислого газа из воздуха;

✔️защищающих от респираторно-синцитиального вируса (RSV), ответственного за воспаление дыхательных путей.

🦠 Некоторые из новых молекул были испытаны в экспериментах. Так, система спроектировала 37 вариантов «вакцины» от RSV — белков, которые содержат фрагменты вирусной оболочки и могут репрезентировать их лимфоцитам для выработки иммунного ответа.

🧪 Учёные искусственно синтезировали эти молекулы и провели их лабораторные испытания, показав, что три новых белка действительно воспринимаются иммунитетом и связываются антителами к RSV, что делает их потенциально эффективными вакцинами.

Почитать подробнее: научная статья в журнале Science.

#Нейросети, #Биотехнологии, #ИИ_в_медицине
👍24🔥8
Бот получил больше прибыли на бирже, чем самые агрессивные белковые игроки

📈 Разработчики из Стэнфордского университета представили систему StockBot. Она состоит из предиктивной модели и торгового бота. Рекуррентная нейросеть с памятью прогнозирует биржевые котировки, а бот, опираясь на её предсказания, совершает покупки и продажи. Использование ИИ позволило системе добиться большей прибыльности, чем у лучших инвестиционных фондов.

💵 Колебание курсов ценных бумаг — почти эталон непредсказуемости. Нестационарная, сильно зашумленная, полная запутанных внутренних взаимосвязей природа биржевых котировок делает прогнозирование исключительно сложным.

💸 Для обучения и тестирования системы использовался датасет, содержащий исторические, текущие и прогнозируемые котировки для ценных бумаг компаний в выбранной отрасли. Прошлые и прогнозируемые котировки служили входными данными для принимающего решения бота.

💶 Алгоритм вычислял разницу между текущей и прогнозируемой ценами, а затем сравнивал её с результатами прошлого дня. Это позволяло зафиксировать момент достижения локального дна падения котировок или пика стоимости, что заставляло систему приобретать их, либо, наоборот, продавать.

👁‍🗨 Разработчики апробировали несколько вариантов архитектур предсказательных моделей. Лучше всех себя показала LSTM (Long Short-Term Memory). Такие рекуррентные нейронные сети содержат дополнительный модуль, значения в котором не «размываются» в процессе обучения с обратным распространением ошибки. Благодаря этому он способен помнить значения за разные промежутки времени, что позволяет модели принимать решения с учётом прошлого контекста.

Почитать подробнее: препринт на arXiv.

#Прогнозные_системы, #Глубокое_обучение
👍13🔥7👎1
Фотонная нейросеть сформировала условные рефлексы с помощью световых сигналов

🐕 Больше ста лет назад классические эксперименты Ивана Павлова продемонстрировали формирование у животных условных рефлексов — возникновение ассоциативных связей между индифферентным стимулом (звоном колокольчика) и безусловной реакцией (выделением слюны). Британские учёные из Оксфордского университета показали, что этот подход годен и для обучения «физических» нейронных сетей.

❇️ Представленная ими фотонная система способна к «павловскому» обучению без обратного распространения ошибки. Для её создания используются одиночные модули на основе материала с памятью структуры — из них разработчики собрали нейронную сеть и продемонстрировали её в деле.

📉 Обратное распространение ошибки позволяет корректировать активность входных нейронов в зависимости от выхода и получать желаемый результат. Однако этот подход требует для обучения обработки огромного количества примеров, делая нейросети крайне требовательными к ресурсам.

💠 В новой системе используются обучаемые модули на основе материала с фазовым переходом, который позволяет формировать ассоциации между входными сигналами. Такая платформа может дополнить существующие нейросети, взяв на себя некоторые несложные задачи и выполняя их с куда меньшим расходом вычислительных ресурсов.

💎 Отдельные модули системы — «Ассоциативные одиночные обучаемые элементы» (Associative Monadic Learning Element, AMLE) — оптические устройства, включающие пару световодов, на один из которых нанесена тонкая пленка теллурида германия-сурьмы (GST). Это материал с обратимым фазовым переходом, способный легко и быстро переходить из кристаллического состояния в аморфное и обратно, выдерживая при этом огромное количество циклов.

🔀 «По умолчанию» GST остается кристаллическим, и между световодами, по которым поступают входные сигналы, связи нет. Однако если входные импульсы синхронизированы по фазе, GST получает достаточно энергии и становится аморфным, а сигналы ассоциируются друг с другом.

🔔🔕 Чем чаще это происходит, тем большая часть материала переходит в новую фазу, и тем сильнее делается связь между входящими сигналами — вплоть до того, что они становятся неразличимы с точки зрения выходного сигнала на AMLE. И наоборот, многократное несовпадение входных сигналов ослабляет ассоциацию, обеспечивая «забывание».

Почитать подробнее: научная статья в журнале Optica

#Инфраструктура_искусственного_интеллекта, #Железо_для_искусственного_интеллекта, #Нейросети
👍14🔥2🤔1
AlphaFold расшифровал структуры более 200 миллионов белков — практически всех известных в природе

🐿 Белки — ключевые молекулы всех живых организмов. Их свойства и функции определяются сложной пространственной формой, которая задаётся последовательностью аминокислот, условиями сворачивания цепочки и другими факторами.

🔬 Чтобы определить механизм работы того или иного белка, до сих пор их структуры приходилось устанавливать экспериментально. Такая работа требует больших усилий и ресурсов, поэтому может занимать не один год. Однако за десятилетия биологи накопили данные почти о 200 тыс. структур, что позволило обучать этой задаче нейросети.

🧬 В конце 2020 года компания DeepMind представила AlphaFold 2, программу, которая использует нейросеть-трансформер для прогнозирования пространственной структуры белка на основе его аминокислотной последовательности. В бенчмарке CASP, позволяющем оценить точность таких предсказаний, система продемонстрировала рекордные результаты, в разы обойдя ближайших конкурентов.

📊 С тех пор она работает почти без перерыва, и в 2021 году разработчики DeepMind совместно с учёными из Европейской лаборатории молекулярной биологии (EMBL) выложили в открытый доступ датасет AlphaFold DB, содержащий предсказанные структуры примерно двух миллионов белков для 20-ти видов живых организмов, включая примерно 20 тыс. белков человека.

‼️ Теперь участники проекта объявили о завершении проекта: система AlphaFold сгенерировала структуры для более чем 200 млн белков. Как выразились сами разработчики — «всей белковой вселенной». Датасет включает информацию о белках животных, растений, грибов, бактерий и архей.

Новые данные доступны для скачивания через облачный сервис Google Cloud Public Datasets, они дополнят и самую большую в мире базу данных о белках UniProt. Это позволит сделать новые важные открытия в биологии, медицине, фармакологии.

#Нейросети, #Биотехнологии, #Биоинформатика
👍15🔥2🤔2
Учёные создали программируемые резисторы, которые работают в 10 тысяч раз быстрее синапсов мозга

Исследователи из MIT разработали новое устройство для аналогового обучения. По задумке учёных, программируемые резисторы позволят эффективнее тренировать нейросети с меньшим энергопотреблением.

🧠 Скорость обработки биологических данных в нейронах и синапсах мозга ограничена водной средой, через которую слабые потенциалы действия (около 100 мВ) распространяются в течение миллисекунд.

У искусственных твердотельных нейронов таких ограничений по времени и напряжению нет. К тому же их размеры могут быть в тысячу раз меньше биологических аналогов.

🌡 Прототипы новых устройств размером 50 на 150 нанометров изготовили с помощью электронно-лучевой литографии. Накачку протонов в канал проводили через твердотельный электролит — специальное твёрдое фосфосиликатное стекло с нанопорами (PSG). Оно обладает высокой протонной проводимостью даже при комнатной температуре.

Поскольку протоны не повреждают материал, резистор может работать миллионы циклов. А благодаря изолирующим свойствам PSG через него почти не проходит электрический ток при движении протонов. Это делает устройство максимально энергоэффективным.

Тесты показали, что искусственные синапсы выдерживают сильные электрические поля (около 10 мВ на сантиметр). К тому же новые программируемые резисторы показали отличную энергоэффективность — 2,5 фемтоджоуля на импульс.

👨‍💻 Учёные говорят, что аналоговое глубокое обучение позволит тренировать беспрецедентно сложные нейросети. Основанное на искусственных синапсах оборудование будет работать эффективнее, потому что вычисления выполняются в памяти — огромные объёмы данных не передаются в процессор и обратно.

К тому же аналоговые процессоры выполняют операции параллельно: если размер матрицы увеличивается, ему не требуется больше времени на выполнение новых операций.

🩻 🚘 В будущем аналоговое обучение поможет быстрее разрабатывать модели ИИ для самоуправляемых автомобилей, анализа заболеваний и обнаружения мошенничества.
👍18🔥7
Динамическая визуализация мозга на основе ИИ поможет искать заболевания лучше, чем МРТ и ЭЭГ

🧠 Учёный из Университета Карнеги-Меллона представил неинвазивную технологию, которая с высокой скоростью и разрешением отображает быстро меняющуюся электрическую активность в мозге.

Обычно для изучения мозговой активности используют МРТ, но его скорости недостаточно, чтобы точно отслеживать динамику. А у альтернативы — ЭЭГ — довольно низкое пространственное разрешение. Поэтому ни один из этих методов нельзя назвать оптимальной заменой инвазивным процедурам.

👨‍💻 Новая нейросеть DeepSIF может оценивать пространственно-временную активность мозга с учётом неинвазивных электрофизиологических измерений поверхности головы, объясняет автор идеи — профессор биомедицинской инженерии Бин Хе.

Для оценки эффективности нового подхода учёные проанализировали данные о 20 пациентах с лекарственно-устойчивой эпилепсией, у которых не было припадков больше года.

Алгоритм визуализировал источники эпилептиформных разрядов в их мозге. Для чистоты эксперимента авторы также визуализировали сенсорные и когнитивные реакции мозга у 20 здоровых добровольцев.

🧑‍🔬 Позже исследователи сопоставили информацию с клиническими данными, полученными с помощью инвазивной электрокортикографии. Тесты показали, что новый подход превзошёл традиционные методы визуализации по точности и вычислительной эффективности.

Благодаря этой технологии врачи смогут прогонять данные пациента через нейросеть и быстро получать точные результаты анализа. Инструмент также поможет неврологам и нейрохирургам в проведении качественных и быстрых хирургических операций.

👉 Следующий шаг учёных — провести более крупные клинические испытания, чтобы поскорее внедрить технологию.
👍8🔥5👎2
Переводчик с языка животных — это реально? Оказывается, учёные уже работают над этим

🐷 Такой алгоритм пытались создать и раньше. Например, сотрудники Копенгагенского университета показывали модель ИИ, которая определяет эмоции свиньи по хрюканью. Другая нейросетка — DeepSqueak — помогала понять, испытывают ли грызуны стресс. Для этого она анализировала их ультразвуковые сигналы.

Но сотрудники некоммерческой организации Earth Species Project (ESP) решили пойти дальше — они хотят, чтобы их инструмент работал со всеми видами животных — «от червей до китов» 🐳

В основе проекта учёных — модель, которую иногда используют для перевода далёких друг от друга человеческих языков. Для этого берут векторное представление слов.

😸 🚀 Чем ближе они по значению, тем ближе расположены друг к другу. Например, слово «котёнок» будет стоять рядом с «кошкой», но очень далеко от «ракеты» — их крайне редко используют в одном предложении.

Во многих языках получаются похожие геометрические фигуры, потому что связи между словами везде близки. В некоторых случаях достаточно «перевернуть» фигуру, чтобы найти на них общие точки. Такой алгоритм позволяет более-менее точно переводить языки по геометрическим фигурам.

Пока что универсальный переводчик — это скорее концепт. Учёным ещё нужно решить множество мелких вопросов. Например, у ESP уже есть ИИ-модель, которая умеет различать, какая особь в группе издаёт больше звуков. Алгоритм протестировали на свисте дельфинов, криках макак и писке летучих мышей 🙊

Ещё один проект поможет понять функциональные значения звуков горбатых китов. К млекопитающим прикрепляют небольшие устройства, которые фиксируют местоположение, тип движения и звуки. Затем все данные «скармливают» ИИ. Алгоритм учится автоматически определять, что делает животное: ест, путешествует или общается 🙀

Некоторые учёные скептически относятся к работе ESP. Профессор психологии Пенсильванского университета Роберт Сейфарт говорит, что животные издают гораздо меньше звуков, чем люди. Поэтому одни и те же крики могут обозначать разные вещи в зависимости от контекста — это основная сложность для ИИ.
🔥12👍3🤮2
Прочитала тут свежее интервью с создателем нейрогенератора изображений Midjourney Дэвидом Хольцем. Держите самое интересное

🎨Как появились инструменты генерации изображений?
К этому привели два прорыва в области ИИ. Один из них — понимание языка, второй — способность создавать образы. И когда вы объединяете эти вещи, то можете создавать образы с помощью понимания языка.

📚Откуда берутся данные для обучения?
Из интернета. Практически каждая крупная модель ИИ просто извлекает все данные, которые может извлечь.

Сейчас мы на ранней стадии развития — каждый берёт всё возможное, сваливает это в огромный файл и «скармливает» алгоритму. Но никто ещё толком не знает, какие данные в этой куче реально важны.

💰Сколько примерно стоит обучение такой модели?
Около 50 тысяч долларов за сеанс. Но вы никогда не сделаете всё правильно с первой попытки: иногда придётся пробовать десятки раз.

Каждое изображение модель создаёт на сервере стоимостью 20 тысяч долларов, и нам приходится арендовывать их поминутно.

👩‍🎨 Может ли быть авторский стиль у нейросети?
У алгоритма есть несколько любимых цветов и несколько любимых лиц. Если вы дадите ему слишком расплывчатую инструкцию, он перейдёт к своим фаворитам.

Мы не понимаем, почему это происходит, но есть, например, одно женское лицо, которое ему нравится рисовать. Никто не знает, откуда оно взялось, — видимо, из одного из наших 12 обучающих датасетов.

🧠 Как вы воспринимаете искусственный интеллект?
Сейчас люди совершенно неправильно понимают суть ИИ. Они видят в нём тигра — он опасен, может съесть меня. В воде тоже есть опасность — в ней можно утонуть.

Но опасность текущей реки сильно отличается от опасности тигра… Вода — двигатель цивилизации. У неё нет воли и злобы. Да, в ней можно утонуть, но это не значит, что мы должны запретить воду. Поэтому, когда вы находите новый источник воды, — это всегда хорошо.

🎮 Что в ближайшем будущем?
В течение следующего года или двух вы сможете создавать контент в реальном времени: 30 кадров в секунду, высокое разрешение. Это будет дорого, но возможно. Через 10 лет сможете купить приставку с гигантскими ИИ-процессорами и будете запускать на нём все игры мечты.
🔥14👍6
В корейском сериале снялась виртуальная актриса. Её голос и внешность сгенерировал ИИ

🎬 Артистам всё сложнее искать работу под натиском новых технологий. Сначала профессия оказалась под угрозой из-за дипфейков (привет, Брюс Уиллис из рекламы российского сотового оператора). А теперь у лицедеев новая напасть — виртуальные конкуренты. Пока они получают второстепенные роли, но кто знает, что будет через пару лет?

👩‍🎨 Свежий пример — виртуальная актриса Мин Чжи О, которую создала южнокорейская компания Nest ENT («дочка» Dexter Studios). Черты лица молодой девушки, фигура и голос — всё это творчество нейросети. Образ создавали с нуля.

Для правдоподобности авторы даже придумали для Мин Чжи О легенду. Она — «начинающая актриса, которая мечтает прославиться». В свободное от съёмок время девушка подрабатывает моделью для бренда одежды. Nest ENT записала её на пробы на роль в южнокорейском веб-сериале Bad Girlfriend.

👩‍❤️‍👨 Синтетическая актриса прошла кастинг и попала в шоу наравне с реальными актёрами. По сюжету главная героиня встречается сразу с несколькими парнями. И оказывается, что все они работают в одной компании.

В будущем сгенерированная актриса будет сниматься и в других проектах. По крайней мере, так планируют создатели артистки.

🎎 Виртуальные люди уже не первый раз штурмуют киносцену. В феврале этого года другая ИИ-актриса — Рози — получила камео в корейской телевизионной драме «Клиника доктора Пака».

Кажется, что такими темпами скоро весь контент будет создавать искусственный интеллект. Ещё в 2016 году на YouTube вышла короткометражка по сценарию нейросети. Она же прописала всех актёров, декорации и даже музыку.

🤔 Конечно, глубокого смысла там не было (ну, или я его просто не раскусила), зато смотреть увлекательно. Тем более в одной из главных ролей снялся Томас Миддлдитч 😍 — звезда сериала «Кремниевая долина».
👍16🔥4💩4