Исследователи представили гигантскую языковую модель. Она бесплатна и работает на 46 языках

📚 До недавнего времени лишь несколько крупных компаний могли похвастаться успехами в разработке большой языковой модели. Для обучения нейросети нужны гигантские объемы данных и вычислительные мощности — непосильная задача для малого бизнеса и некоммерческих организаций. К тому же информация об обучении этих моделей ИИ обычно не раскрывается.

🌐 Устранить преграду для прогресса решились авторы исследовательского проекта BigScience, который стартовал в 2021 году. Их новая языковая модель BLOOM включает 176 миллиардов параметров. Она обучалась в течение 11 недель на французском суперкомпьютере Jean Zay.

㊙️🈴🆎 В отличие от GPT-3, LaMBDA и других крупных языковых моделей, BLOOM многоязычна и полностью открыта для исследователей. Она может генерировать текст на 46 естественных языках и диалектах, а также на 13 языках программирования. Для испанского, французского и арабского языков это первая модель, поддерживающая такое большое количество параметров.

🔀 По сути, Bloom — это модернизированная модель Megatron-LM GPT-2, которую выпустила NVIDIA в 2019 году. Продвинутая версия основана на архитектуре трансформера (decoder-only). Для оценки точности прогнозов здесь применяется перекрестная энтропия.

👨🏻‍🍳 При помощи подсказок нейросеть даже умеет создавать кулинарные рецепты или писать предложения с использованием недавно изобретенных слов. При этом разработчики модели никогда не обучали ее для работы с такими задачами.

🆓 В проекте участвуют около тысячи исследователей из более чем 60 стран и 250 организаций. Среди последних — американские техногиганты NVIDIA и Microsoft. Разработчики позволили бесплатно изучать, загружать и использовать BLOOM всем желающим. Любое физическое лицо или организация могут строить производные языковые модели на локальном компьютере или у облачного провайдера.

В будущем исследователи планируют увеличить количество поддерживаемых языков.

Ещё один шаг к самосознанию: робот научился формировать образ собственного тела

🏃🏼‍♀️🚶🏻‍♂️Любое движение нашего тела постоянно корректируется посредством обратной связи от проприорецепторов в мышцах, связках и суставах, а также благодаря зрительному контролю и «шестому чувству» — сигналам вестибулярного аппарата. Такая способность формируется у людей ещё в младенчестве, и постепенно, с годами, складывается в целостную схему тела — важную часть человеческого «Я». Схема тела настолько укоренена в нашей психике, что утратив руку или ногу, многие люди ещё длительное время ощущают фантомную конечность.

🦿🦾 Скоро похожие механизмы удастся в полной мере воплотить и у роботов. В Лаборатории креативных машин Колумбийского университета в Нью-Йорке учёные оснастили роботизированный манипулятор набором из пяти видеокамер, наблюдавших за его движениями с разных углов. Поток видеоданных анализировался системой компьютерного зрения.

📹 Машина использовала их, чтобы оценить, как те или иные команды, посылаемые на электродвигатели манипулятора, меняли его геометрию и занимаемый в окружающем пространстве объём. Движения производились без выполнения определённых задач, случайно, примерно так, как играет ребёнок перед зеркалом.

🤖 Обучение проводилось без учителя и заняло всего около трёх часов, после чего система смогла предсказать, как те или иные движения повлияют на положение её «тела». Например, она точно «знала», будет ли занята манипулятором или свободна та или иная точка в пространстве после заданного движения сочленений.

☁️ В финале исследователи применили разные техники визуализации, чтобы воочию увидеть «представления о теле», которые сформировались в процессе работы нейросети. «Это что-то вроде мягко мерцающего облака, которое окружает трёхмерное тело робота, — рассказал руководитель проекта. — Куда движется он, туда и оно».

❗️ Уже сейчас робот-манипулятор легко приспосабливается к изменению геометрии пространства и компенсирует повреждения сочленений. В будущем же эта примитивная схема тела станет фундаментом для создания сильного или общего ИИ (AGI).

Почитать подробнее: научная статья опубликованная в журнале Science Robotics

#Машинное_обучение, #Сильный_искусственный_интеллект, #Компьютерное_зрение, #Робототехника

На Красной планете нашли родину «Чёрной красавицы». Помогли суперкомпьютер и модель компьютерного зрения

☄️ Метеоритные удары регулярно выбивают фрагменты с поверхности Луны и Марса. Некоторые из них, совершив космическое путешествие, падают на Землю. Учёные идентифицировали несколько сотен марсианских метеоритов. Самый древний из них — Northwest Africa 7034 — обнаружен в Марокко в 2011 году и получил прозвище «Чёрная красавица» (Black Beauty). Он датируется возрастом около 4,5 млрд лет и сохранил остатки воды, которая тогда ещё имелась на Красной планете.

💥 Но откуда именно он происходит? Сегодня минералогия Марса картографирована с большой точностью. Можно сопоставить состав, магнитные и другие свойства метеорита с характеристиками вещества из разных ударных кратеров на поверхности Красной планеты.

🔴 Это колоссальная по сложности задача: в отличие от Земли, которая защищена плотной атмосферой и отличается высокой геологической активностью, Марс бомбардируется метеоритами намного чаще, а следы падений сохраняются дольше. На нём известно более 43 тыс. ударных кратеров диаметром больше 5 км. При этом подходящих на роль источника марсианских метеоритов ещё больше.

Несколько лет назад учёные уже использовали для их поиска суперкомпьютер Pawsey в Пертском университете (Австралия), а также специально разработанную модель компьютерного зрения. Crater Detection Algorithm (CDA) обучили на датасете из 1762 известных марсианских кратеров диаметром более километра. Затем дообучили с использованием нового размеченного массива, содержащего данные по кратерам меньших размеров. После чего Pawsey и CDA вместе обнаружили на Красной планете более 94 млн ударных кратеров.

🪨 В новой работе учёные идентифицировали среди них 19 кратеров-кандидатов на звание «родины» NWA 7034. После чего детально изучили каждый по отдельности, сравнив их свойства с особенностями самого метеорита.

🌋 320-граммовый NWA 7034 является вулканогенной брекчией — фрагментом застывшей лавы с обломками. Это единственный марсианский метеорит, демонстрирующий магнитные свойства. А по химическому составу он выделяется повышенным содержанием тория и калия.

Исходя из этих характеристик, вероятнее всего «Черная красавица» родилась 5-10 млн лет назад при формировании кратера Каррата диметром 10 км. Он расположен в Земле Киммерия в южном полушарии Марса. По-видимому, именно здесь сохранились остатки древнейшей коры Красной планеты.

Читать подробнее: научная статья в журнале Nature Communications

#Искусственный_интеллект, #Компьютерное_зрение, #ИИ_в_астрономии

«Мемристоры-палимпсесты»

⚡️ Подумала, что давно уже не писала про железо для ИИ. А тут как раз интересная новость подоспела. Сеть из мемристоров научили накапливать долговременные воспоминания и одновременно с этим продолжать обработку кратковременных запросов.

🧠 Схожим образом это происходит у биологических нейронов. Сами разработчики сравнивают эту способность со старинными рукописями — палимпсестами, текст в которых написан поверх предыдущего.

🤖 Количество вычисляемых параметров — «искусственных нейронов» — в самых больших моделях машинного обучения сегодня уже приближается к числу нервных клеток в головном мозге. При этом их способности к решению разнообразных когнитивных задач несравнимы.

🔬Предполагается, что способность живых нейронов консолидировать разные воспоминания — одна из ключевых причин, обеспечивающих высочайшую пластичность и эффективность работы мозга. Учёные попробовали создать электронные элементы памяти с аналогичными способностями.

🔀 Для этого они использовали мемристоры на основе тонких плёнок из диоксида титана. Из них была собрана примитивная сеть, содержавшая всего шесть синапсов — соединений между мемристорами. Оказалось, что если подавать на такую сеть два сигнала одновременно, информация распределяется между синапсами и частично сохраняется на каждом из них.

🌉 Дополнительные эксперименты показали, что сеть способна накапливать длительные воспоминания, одновременно сохраняя несколько картинок с качеством, достаточным для их извлечения и реконструкции. При этом параллельная обработка сотен событий за исследуемый отрезок времени никак не влияет на эти «воспоминания».

Почитать подробнее: научная статья в журнале Science Advances

#Инфраструктура_искусственного_интеллекта, #Железо_для_искусственного_интеллекта

Colossal-AI позволяет тренировать огромные модели ИИ на обычном ноутбуке

🤷🏼 Обучение с нуля или даже тонкая настройка больших моделей ИИ обычно недоступна рядовым пользователям. Она требует десятков или сотен графических процессоров и глубоких познаний архитектуры искусственного интеллекта.

🙋🏻‍♂️ Компания HPC-AI Tech попыталась обойти этот барьер. В 2021 году она представила Colossal-AI — единую систему глубокого обучения, которую в теории может освоить даже инженер-любитель с обычным лэптопом.

📉 Инструмент на основе фреймворка PyTorch использует гетерогенный подход в обучении нейросетей. В его основе — оптимизация потребления памяти во время тренировки. Здесь поддерживаются тензорный параллелизм и контрольные точки активации.

💻 Для работы Colossal-AI не обязательно нужны суперкомпьютеры. Инструмент может обучать большие модели с 1,5 млрд параметров на ноутбуке с RTX 206 (6 ГБ) на борту. А компьютер с графическим чипом RTX 3090 (24 ГБ) способен натренировать нейросеть с 18 млрд параметров.

💽 Недавно у Colossal-AI появился модуль Gemini — аналог Zero-offload от майкрософтской библиотеки DeepSpeed. По словам разработчиков, их менеджер памяти превосходит конкурента, потому что эффективнее распределяет данные.

🆓 Например, Zero-offload статически делит данные модели между памятью CPU и GPU, и их расположение остается постоянным для разных конфигураций обучения. Поэтому когда память GPU закончится, система выдаст ошибку, даже если память процессора будет не заполнена. При этом Colossal-AI сможет завершить тренировку, перекинув часть информации на ЦП.

🔁 Для обучения моделей Colossal-AI делит итерации на два этапа: прогревочный и непрогревочный. На первом система собирает информацию об использовании памяти, а на втором — использует ее для перераспределения тензоров. Это позволяет свести к минимуму объем перемещаемых данных между CPU и GPU.

Исходный код проекта открыт, поэтому воспользоваться возможностями Colossal-AI может любой желающий.

Самый «негуманный» суд в мире

Сюжеты из «Чёрного зеркала» воплощаются с невиданной быстротой. Китайских судей обязали советоваться с ИИ. А любой приговор, не совпадающий с решением нейросети, придется письменно обосновать.

🏛 Внедрение элементов «умного суда» в Китае началось ещё в 2016 году со сбора базы данных законодательства и судебных прецедентов. К настоящему моменту все суды КНР обязаны фиксировать каждое решение в электронном виде и передавать в централизованную систему, в едином формате.

👮🏻‍♂️ Ежедневно в «умный суд» пересылается порядка 100 тыс. новых постановлений. Помимо этого, ИИ имеет доступ к базам данных полиции и других правоохранительных органов, а также к действующей в КНР системе социальных кредитов.

📉 Благодаря этому все поступившие в «умный суд» дела автоматически проверяются на признаки судебных ошибок и коррупции. Одобренное решение часто тут же и реализуется: рейтинг нарушителя в системе социальных кредитов падает, ограничивая его доступ к билетам на транспорт и другим общественным сервисам.

✔️ Кроме того, верховный суд КНР постановил, что каждый судья обязан консультироваться с системой перед вынесением приговора, и если его решение не соответствует варианту ИИ, составлять письменное обоснование. Это позволит унифицировать правоприменение в масштабах всей страны, невзирая на экономические и этнокультурные различия между регионами.

По словам инициаторов системы, только за 2019-2021 годы она сэкономила около 1,7 млрд человеко-часов и сумму, эквивалентную $45 млрд. Однако профессиональные юристы принимают эти заявления довольно прохладно. Они считают, что директивное применение ИИ подрывает принцип независимости судебной системы, уводит на второй план личный опыт, образование и моральные качества судей.

Кто прав — рассудит история. Или ИИ.

#Искусственный_интеллект, #Цифровизация_и_общество, #Регулирование_искусственного_интеллекта

В Минобороны США научились дистанционно управлять мозгом с помощью магнитного поля. Пока только у плодовых мух

🪰 Команда нейробиологов, занимающихся проектом двойного назначения MOANA (Magnetic, Optical and Acoustic Neural Access), добилась очередных успехов. Проект направлен на разработку инструментов контроля нервной системы посредством магнитного поля, звуковых волн и света.

🧠 Официальная цель MOANA — создать «шлем», способный декодировать и стимулировать нейронную активность, передавая сигнал напрямую к мозгу. Но так как финансируется он DARPA — Управлением перспективных исследовательских проектов Минобороны США, то все, конечно, всё понимают.

🕹 Недавно учёные продемонстрировали необычный «нейроинтерфейс». Одна инъекция магнитных наночастиц в мозг генномодифицированных мух дрозофила позволила управлять активностью их нейронов за счёт внешнего магнитного поля. Время отклика мозга составило всего 0,5 с — и по команде извне мухи принимали позу готовности к спариванию.

🔥 Сперва исследователи получили ГМ-линию плодовых мух. В определенных нейронах у них усилили выработку белка TRPA1-A. Он чувствителен к повышению температуры и запускает у мух выражение готовности к спариванию — подъём крыльев под небольшим углом. Далее в мозг ГМ-мух вводили раствор магнитных наночастиц, а самих их помещали в контейнер с установленным на дне электромагнитом.

🌀 Увеличивая магнитное поле, учёные заставляли наночастицы нагреваться. Это включало белок TRPA1-A и заставляло плодовых мух против своей воли принимать соответствующую позу уже через полсекунды после включения электромагнита. Данный результат примерно в 50 раз быстрее, чем удавалось достичь ранее другими способами.

⏳ В будущем в MOANA планируют научиться вызывать визуальные образы у животных и людей, активируя нейроны зрительной коры. Возможно, эксперименты на мухах станут важным шагом к решению этой задачи.

🤖 Интересно, что в текущем сезоне сериала «Мир Дикого Запада» мухи используются для внедрения в мозг человека генов, изменяющих его работу. В результате поведением людей становится легко управлять посредством программ из последовательности не воспринимаемых на сознательном уровне инфразвуков.

Почитать подробнее: научная статья в журнале Nature Materials.

#Биотехнологии, #Нейронаука, #Нейротехнологии

Магнитный туннельный переход может вдвое сократить потребление энергии для обучения нейросетей

🧠 Наш мозг потребляет в среднем около 20 Вт при работе с массивами данных. ИИ для тех же целей требуется в тысячи раз больше мощности. К тому же нейронные сети постоянно расширяются — вместе с тем растет их потребности в более энергоэффективном аппаратном обеспечении.

📈 Новый способ решения проблемы предложили ученые из Национального института стандартов и технологий США (NIST). Они разработали альтернативный тип оборудования, который может потреблять меньше энергии и работать быстрее аналогов.

🔄 Исследователи предложили использовать оборудование на основе туннельного магнитного сопротивления (MTJ). Такие устройства работают эффективнее за счет того, что хранят данные в том же месте, где выполняют вычисления.

💻 Эффект MTJ проявляется, когда ток протекает между двумя слоями ферромагнетиков, разделенных 1-нанометровым слоем диэлектрика. Магнитный туннельный переход уже много лет применяется в считывающих головках жестких дисков. А еще на основе его эффекта работает магниторезистивная оперативная память (MRAM).

❓В первую очередь ученые хотели узнать, можно ли перенести нейронную сеть на массив MTJ. Ведь обычно при такой передаче может страдать производительность модели — неполадки возникают из-за различий между устройствами, ошибок записи и паразитного сопротивления. Но первые эксперименты показали любопытные результаты.

🍷 Для тестов ученые взяли простой алгоритм, который должен был определять градус и сорт вина по 13 параметрам. Для оценки результата авторы исследования сравнили 300 уникальных решений весовой матрицы двухслойного персептрона. Несмотря на потенциальные неполадки, система показала высокую точность — до 95,3% при массиве 15х15 MTJ.

❗️Смысл эксперимента — доказать, что массив устройств на магнитном туннельном переходе в будущем можно будет полноценно использовать для создания новых систем ИИ. И хотя потребление энергии для обучения нейросети зависит от ее параметров, использование MTJ позволит сократить необходимую мощность как минимум вдвое, говорят ученые.

Исчезающий язык австралийских аборигенов положили в основу нового языка программирования JSwarm, предназначенного для управления роем беспилотников

🏝 Джингулу — язык группы племен джингили, относящийся к небольшой изолированной семье миндийских языков, на которых разговаривают коренные жители Северной Австралии. В годы Второй мировой войны носители джингулу служили в войсках связи, пользуясь своим уникальным языком для передачи секретных сообщений.

👨🏿‍🦳 Сегодня этот древний язык оказался на грани исчезновения. Его понимает не больше пары десятков человек, и ни для кого из них он не является родным. Однако некоторые особенности джингулу могут дать ему необычную форму «посмертного существования». Такой проект реализует группа учёных из Университета Нового Южного Уэльса.

💬 В отличие от английского или русского с их довольно строгой последовательностью слов во фразе — субъект, действие, объект («Мама мыла раму») — джингулу позволяет гибко комбинировать отдельные элементы. Этот язык обходится всего тремя глаголами: «делать», «идти» и «приходить». Однако их комбинации способны передать самые разные виды действий с помощью тех или иных синтаксических конструкций. Например, «Солнце обжигает землю» на джингулу звучит как Uliyija-nga ngllnja-ju karalu («Солнце делать ожог земле»). Такие особенности делают подобный язык оптимальным для понимания и человеком, и машиной.

🔚🔙🔝«Язык, который можно напрямую превратить в команды для ИИ; язык, который могут понимать люди; язык, синтаксис которого снижает расходы вычислительных мощностей; язык, позволяющий изменить контекст без изменения синтаксиса, чтобы легко менять модальность ИИ, — говорит ведущий исследователь проекта. – Для нас джингулу — это мечта, ставшая реальностью».

🕹 Основное направление работы его команды — технологии управления роем беспилотников и их взаимодействия с человеком. Апробируя различные варианты, учёные случайно натолкнулись на необычный язык коренных жителей Австралии, и привлекли к сотрудничеству местных лингвистов. В итоге это позволило разработать новый язык программирования JSwarm, который может послужить эффективным «мостиком», одновременно понятным и для людей, и для ИИ, контролирующих поведение роя дронов.

Читать подробнее: научная статья в журнале Frontiers in Physics.

#Инструменты, #Языки_и_среды, #Беспилотники_и_дроны

ВВС США и MIT запустили акселератор технологий искусственного интеллекта

🇺🇸 Инициатива ученых и военных направлена на создание конвейера технологий ИИ — в теории, это даст Соединенным Штатам конкурентное преимущество в оборонном и гражданском секторах.

🏛 Акселератор базируется в MIT. Он проводит фундаментальные исследования, чтобы обеспечить быстрое прототипирование, масштабирование и этичное применение алгоритмов ИИ как для военных, так и для гражданских целей. Среди сотрудников акселератора — офицеры и рядовые летчики, а также профессоры, исследователи и студенты института.

📈 В январе 2020 года DAF-MIT AI Accelerator запустил десять междисциплинарных проектов. Они должны решать различные научные проблемы: например, более точное прогнозирование погоды, оптимизация центров обработки данных и создание продвинутых человеко-машинных интерфейсов.

⚡️ Для изучения метеорологических задач исследователи создали набор данных SEVIR. В него включены геостационарные спутниковые снимки, охватывающие территорию 384х384 км и четырехчасовой промежуток времени (шаг в 5 минут). Туда же попала и карта молний, сделанная с помощью детектора Geostationary Lightning Mapper. Все это помогло ученым делать краткосрочные прогнозы погоды (в диапазоне 0-2 часа) и создавать синтетические метеорологические радары.

✈️ В акселераторе разработали и систему подготовки пилотов CogPilot — иммерсивную среду обучения в виртуальной реальности. Она имитирует реальный учебный центр полетов для пилотов ВВС. Система не только тренирует будущих летчиков, но и собирает мультимодальные данные: отслеживает направление взгляда и анализирует голос и замеряет другие физиологические показатели. Эти измерения могут быть использованы для корректировки индивидуальной учебной программы.

Ученые говорят, что параллельная работа над несколькими задачами способствовала синергии. Им удалось разработать воспроизводимые пайплайны для выпуска наборов с открытым исходным кодом. А еще разработчики могли использовать данные для одной задачи, которые изначально собирались для решения других.

#почитать_на_выходных (16+)

Никакой разговор об имитации сознания не может считаться состоявшимся без романа морского биолога Питера Уоттса, вернувшего популярность жанру твёрдой научной фантастики, «Ложная слепота» (Blindsight, 2006).

Правда здесь алгоритм, который вводит в заблуждение персонажей книги, не искусственного происхождения, а создан в процессе эволюции самой природой. Вторгшийся в Солнечную систему «Объект Роршах» охотно вступает в радиосвязь с земными исследователями, отвечает на вопросы, адекватно реагирует на просьбы. Но это не настоящий разум, а идеальная симуляция. «Роршах» работает по принципу «китайской комнаты», известной по мысленному эксперименту американского философа Джона Сёрла (John Searle).

Ещё в 1980-м он заметил, что если в закрытой комнате посадить человека, не знающего китайского языка, но обложенного всеми нужными словарями и инструкциями, то с ним можно общаться по-китайски. Пусть тот и не понимает ни слова из этого диалога, но способен его поддерживать. Мощная машина (в том числе биологическая, как «Объект Роршаха») способна безупречно имитировать человеческое поведение, если снабдить её продвинутым самообучающимся алгоритмом и необходимыми вычислительными мощностями. Разум ли это в привычном смысле слова? Не факт. Но, возможно, в этом и состоит эволюционное преимущество «Роршаха» над людьми.

#посмотреть_на_выходных (18+)

Мультипликационный сериал «Любовь, смерть и роботы». Эпизод «Зима Блю» (14 серия 1 сезона, 2019)

Вообще, по большому счёту, несмотря на название, теме ИИ и роботов во всех трёх сезонах посвящено не так уж много эпизодов. Но среди них есть истинные шедевры.

Самая ударная серия первого сезона — экранизация рассказа Аластера Рейнольдса «Зима. Голубой период». Гениальный художник Зима, известный всей обитаемой галактике своими масштабными работами, которые занимают целые планеты и солнечные системы, объявляет о новом, доселе невиданном арт-проекте. За несколько десятков минут звезда современного искусства саморазоблачается на глазах у публики и оказывается не просто киборгом, но роботом, многократно «проапгрейженным» и «пропатченным».

Он отбрасывает все лишнее, сбрасывает настройки до заводских, отказывается от самосознания и способности к рефлексии, возвращается к блаженному безмыслию программируемого чистильщика бассейнов. Мечтают ли андроиды о возвращении в материнскую утробу? Если верить создателям сериала, — страстно.

На Аляске свёрточную нейросеть обучили распознавать взрывы по инфразвуку. Для этого создали синтетический датасет

Искусственный интеллект находит всё новые сферы применения. Даже там, где этого совсем не ждёшь. Например, в акустическом мониторинге взрывов.

💥 Любые взрывы — от промышленных и до испытания оружия или извержения вулканов — создают целый спектр акустических колебаний, включая инфразвуковые. Такие длинные волны затухают сравнительно долго и распространяются на большие расстояния в атмосфере. Поэтому массивы специальных микрофонов позволяют обнаруживать взрывы даже на приличном удалении от места их произведения.

〰️ Учёные с Аляски решили автоматизировать процесс и применить для выделения сигнала машинное обучение. Однако возникла проблема — для тренировки моделей не оказалось нужного количества данных. Чтобы её решить исследователи создали компьютерную модель. Она позволила рассчитать распространение инфразвуковых волн при различном состоянии атмосферы и сгенерировать 28 тыс. синтетических сигналов, соответствующих разным типам взрывов.

🔢 Затем на этом датасете обучили сравнительно простую свёрточную нейросеть. В предварительных тестах она показала отличные — свыше 90% точности — результаты по выделению сигнала взрыва на фоне естественных шумов.

☄️ Дополнительно систему проверили на данных эксперимента Humming Roadrunner, проведенного в США в 2012 году. Тогда в пустыне на полигоне Уайт-Сэндз произвели шесть крупных взрывов мощностью от 9 до 45 тонн в тротиловом эквиваленте, а массивы датчиков зафиксировали созданные ими инфразвуковые волны с расстояния от 50 до 500 км. Собранные десять лет назад данные сейчас выложены в открытый доступ для всех исследователей. Анализируя их, модель, обученная на новом синтетическом датасете, уверенно определила характеристики большинства взрывов.

Читать подробнее: научная статья в журнале Geophysical Research Letters

#Нейросети, #Датасеты

Робот-домохозяин научился выполнять домашние дела, наблюдая за людьми

🤖 Вполне возможно, что в будущем роботов не потребуется заранее готовить к выполнению домашних дел. Достаточно будет установить машину на кухне, а всему нужному она обучится самостоятельно, наблюдая за человеком и пытаясь воспроизвести его действия.

🍽 👫 В борьбе за освобождение женщин (а сегодня уже и мужчин) от тягот «второй работы» произошёл серьёзный прорыв. Никаких больше супружеских конфликтов из-за того, кому мыть посуду или готовить детям завтрак — всё в скором времени ляжет на натруженные манипуляторы роботов без пола и гендера.

🍜 А всё благодаря тому, что учёные из Университета Карнеги – Меллона разработали новый имитационный подход к обучению машин — WHIRL (In-the-Wild Human Imitating Robot Learning) — «Обучение робота подражанием человеку в естественных условиях». Его идея состоит в отслеживании действий людей в обычной обстановке, их распознавании и генерализации (обобщении) для выполнения других задач.

🦾 В «естественных условиях» своего дома люди постоянно заняты массой рутинных дел, что позволяет собрать достаточно данных для машинного обучения за счёт непосредственного наблюдения. Чтобы продемонстрировать такую возможность, учёные использовали стандартный роботизированный манипулятор с видеокамерой.

🏠 Его поместили в типичную обстановку домашней кухни, не модифицированную специально для удобства роботов, как это обычно делают в экспериментах. А один из исследователей регулярно совершал там самые обычные действия: открывал и закрывал двери, накрывал крышкой кастрюлю, вынимал пакет с мусором из ведра и т.п.

📈 Система отслеживала поведение человека, распознавая положение тела и объекты, которыми он манипулирует. Для этого ей оказалось достаточно всего одной итерации действия. Далее WHIRL дообучался самостоятельно, пробуя воспроизвести подсмотренные действия в реальных условиях и совершенствуясь за счёт внешних подкреплений экспериментаторов.

Всего робот освоил 20 типичных действий на кухне. Причем для некоторых из них машина нашла в итоге совершенно иные траектории, нежели те, которыми пользовался человек.

☕️ Забавно, что новая система, ставит под сомнение знаменитый «кофейный тест», предложенный сооснователем Apple Стивом Возняком. Месяц назад я подробно о нём писала. Кажется, что теперь, благодаря WHIRL, любой робот действительно может забрести на первую попавшуюся кухню и приготовить вам чашечку капучино. Однако сильный искусственный интеллект от нас по-прежнему далёк.

Главное, не пускать таких роботов в супружескую спальню. А то мало ли какие простые механические движения они потом захотят повторить!

#Робототехника, #Машинное_обучение, #Компьютерное_зрение, #Сильный_искусственный_интеллект

Алгоритм научили «галлюцинировать» структурами несуществующих белков

Одним из самых значительных событий прошлого года стала разработка компании DeepMind алгоритм AlphaFold. Он способен предсказать пространственные структуры белков, опираясь только на их аминокислотные последовательности.

🐿 Белки — главные структурные и метаболические инструменты любой живой клетки. Они занимаются всем — от транспорта молекул до катализа реакций с ними. Свойства и функции каждого конкретного белка определяются его пространственной конфигурацией. Поэтому понимание механизмов работы белка зависит от знания его трёхмерной структуры.

📊 До сих пор такую задачу приходится решать долго и кропотливо, получая чистые белковые препараты, используя рентгенографию, ядерный магнитный резонанс и другие весьма трудоемкие и сложные методы. Однако за десятилетия работы учёные накопили данные о структурах сотен тысяч белков.

🧬 Благодаря им можно обучить нейросети предсказывать пространственные структуры, зная лишь последовательность аминокислот в полимерной цепочке того или иного белка. Следующим логичным шагом становится генерация новых, не существующих в природе структур, адаптированных для выполнения той или иной функции.

Такую работу провели в Вашингтонском университете (США), опираясь на уже известную ИИ-систему предсказания структуры белков RoseTTAfold. В ней реализованы две стратегии для создания новых структур.

1️⃣ «Дорисовка» (inpainting) — на основе заданного ключевого участка белка (активного сайта) и закономерностей конформации, система генерирует остальные части молекулы, которые должны поддерживать форму и обеспечивать работоспособность активного сайта.

2️⃣ «Вынужденная галлюцинация» (constrained hallucination) — начинается с работы над определённой задачей, поставленной перед будущей структурой, например, способности связывать ионы металлов. В этом случае система генерирует случайные последовательности аминокислот, предсказывает форму такого белка и определяет его способность выполнять целевую задачу. Затем в последовательность вносятся мутации. Те изменения, которые облегчают нужную работу, сохраняются. Неудачные заменяются новыми, постепенно приближая структуру к оптимальной.

Для демонстрации возможностей новой системы учёные сгенерировали несколько пробных белков, выполняющих самые разные функции:

✔️ абсорбирующих металлы из водного раствора;

✔️ связывающихся с рецепторами на поверхности раковых клеток;

✔️ улавливающих молекулы углекислого газа из воздуха;

✔️защищающих от респираторно-синцитиального вируса (RSV), ответственного за воспаление дыхательных путей.

🦠 Некоторые из новых молекул были испытаны в экспериментах. Так, система спроектировала 37 вариантов «вакцины» от RSV — белков, которые содержат фрагменты вирусной оболочки и могут репрезентировать их лимфоцитам для выработки иммунного ответа.

🧪 Учёные искусственно синтезировали эти молекулы и провели их лабораторные испытания, показав, что три новых белка действительно воспринимаются иммунитетом и связываются антителами к RSV, что делает их потенциально эффективными вакцинами.

Почитать подробнее: научная статья в журнале Science.

#Нейросети, #Биотехнологии, #ИИ_в_медицине