⚡️OpenAI: есть опасность создания моделей, чьи возможности мы не до конца понимаем https://news.1rj.ru/str/alwebbci/2649

OpenAI разработала новый бенчмарк MLE-bench для оценки способностей ИИ-систем в области машинного обучения.
Это 75 сложных задач, основанных на реальных соревнованиях Kaggle.

🚀 Ключевые моменты:
• Лучшая система (o1-preview с AIDE) получила медаль в 16.9% задач
• Задачи охватывают NLP, компьютерное зрение и другие области ML
• Результаты сравниваются с реальными участниками Kaggle

⚠️ OpenAI подчеркивает потенциальные риски:
• ИИ-агенты могут улучшать себя быстрее, чем люди-исследователи
• Есть опасность создания моделей, чьи возможности мы не до конца понимаем

🤔 Что это значит?

Хотя OpenAI не заявляет прямо о приближении к AGI, их действия говорят о серьезном прогрессе. Они призывают к дальнейшим исследованиям и разработке методов оценки и контроля продвинутых ИИ-систем.

ИТ компания MicroStrategy планирует стать ведущим биткоин-банком в мире

MicroStrategy активно покупает биткоины с 2020 года, используя долговые обязательства и акционерный капитал. На данный момент компания владеет 252,220 BTC.

Компания планирует создавать различные финансовые инструменты, связанные с биткоином: акции, конвертируемые облигации, долговые обязательства и т.д.

В отличие от традиционных банков, MicroStrategy не планирует давать биткоины в кредит, а будет зарабатывать на арбитраже между рынками капитала в $ и ростом стоимости BTC.

MicroStrategy - это ИТ компания, которая изначально специализировалась на разработке ПО для бизнес-аналитики и мобильных приложений. Основана в 1989 году.

⚡️Дарио Амодей, СЕО Anthropic - после разработки мощного ИИ (~2026г.) мы за несколько лет достигнем всего прогресса в биологии и медицине, который мы бы достигли за весь 21 век.

В 2026 уже появится AGI-страна гениев в дата-центре. Дарио Амодей,СЕО Anthropic о том, что нас ждет с появлением сильного ИИ. 

Основатель одного из самых лучших ИИ-стартапов, который мало говорит, но много делает, редко появляется в СМИ, написал интересное эссе, где он критикует мифы о сильном ИИ, мгновенной трансформации мира, сингулярности. Причем его критика подкреплена фактами. А также говорит о позитивных аспектах, также подкрепляя фактами. 

Вот главные моменты, которые мы выделяем:

1. ИИ может ускорить научный прогресс в 10-100 раз. Это означает, что мы можем достичь за десятилетие того, что обычно заняло бы столетие. Но внимание: даже гениальный ИИ не может обойти законы физики. Биологические эксперименты все еще требуют времени!

2. Амодей считает, что в эпоху ИИ мы должны говорить о предельной отдаче от интеллекта и пытаться выяснить, какие другие факторы дополняют интеллект и становятся ограничивающими факторами, когда интеллект очень высок.

3. Революция в медицине. После разработки мощного ИИ мы за несколько лет достигнем всего прогресса в биологии и медицине, который мы бы достигли за весь 21 век.
• Победа над раком и большинством инфекционных заболеваний
• Эффективное лечение генетических болезней
• Предотвращение болезни Альцгеймера
• Контроль над процессами старения
Не просто массовая концентрация ресурсов движет открытиями, а изобретательность.

4. Психическое здоровье 2.0.
ИИ может помочь нам глубже понять работу мозга, что приведет к революции в лечении психических расстройств. Более того, мы можем получить беспрецедентный контроль над нашими эмоциями и когнитивными способностями. Такие заболевания, как
ПТСР, депрессия, шизофрения можно разгадать и очень эффективно лечить.

5. Экономика и работа.
Здесь Амодей менее оптимистичен. ИИ может сделать многие человеческие профессии устаревшими. Нам придется переосмыслить саму концепцию работы и, возможно, внедрить универсальный базовый доход. Но не спешите паниковать: люди всегда находили новые способы быть полезными и находить смысл в жизни.

6. Демократия и свобода.
ИИ - обоюдоострый меч. Он может усилить как демократию, так и авторитаризм. Амодей подчеркивает: нам нужно активно работать над тем, чтобы ИИ стал инструментом свободы, а не угнетения.

Пища для размышлений:
1. Готовы ли мы к миру, где большинство болезней побеждено, а продолжительность жизни удвоена?
2. Как изменится общество, когда мы сможем контролировать наши эмоции и когнитивные способности?
3. Что произойдет с понятием "человеческой уникальности", когда ИИ сможет делать почти все лучше нас?

Амодей заключает: это не неизбежное будущее, а возможность, за которую нужно бороться. Потребуются огромные усилия ученых, политиков и всего общества.

❗️Посмотрите на это! Маск творит историю

SpaceX провела 5-й запуск Starship. Миссия включала успешное возвращение первой ступени Super Heavy с использованием системы захвата Mechazilla, что стало важным шагом к созданию полностью многоразовой ракетной системы.

Как говорит Маск: «Для того, чтобы человечество стало многопланетным видом, необходимо повторное использование ракет и их дозаправка на Земле и Марсе».

Итоги уходящей недели в России и мире, что имеет значение:

Текст недели - эссе основателя Anthropic (конкурент OpenAI) о возможностях сильного ИИ.

1. Правительство РФ поделится с бизнесом данными граждан, чтобы те в свою очередь обучали ИИ.

2. Morgan Stanley объявил технологию интерфейсов мозг-компьютер (BCI) самым многообещающим и выпустил отчет для инвесторов, смотрите тут.

3. Греф заявил, что в РФ дефицит ИТ-специалистов до 2030 года составляет 1 млн.человек. Также он рассказал, что ИИ от Сбера помогает тренерскому штабу ФК ЦСКА.

4. Нобелевскую премию по физике получил Дж. Хинтон, крестный отец ИИ. Подробнее за что, читайте здесь.

5. Нобелевскую премию по химии получил Д. Хассабис, глава Google DeepMind за создание AlphaFold2. Все подробности тут.

6. ОАЭ освободили все криптовалютные транзакции от НДС.

7. ИИ-агенты теперь могут нанимать и оплачивать услуги людей.

8. ИИ-поисковик Perplexity меняет рекламный рынок: теперь ИИ превращает поиск в диалог с брендами.

9. Будущее разговорного ИИ: от науки к бизнес-реальности - свежее исследование.

10. В РФ готовится новый нацпроект по биоэкономике, все подробности здесь.  

11. Как банки могут адаптироваться в условиях растущей децентрализации финансовой системы? Свежий доклад EY.

12. Foxconn строит крупнейший в мире производственный комплекс для сборки суперчипов Nvidia GB200.

13. Вместе со SWIFT с 2025 все банки мира(кроме РФ) начнут тестировать транзакции с цифровыми активами и валютами. 

14. OpenAI обсуждает с Oracle создание самого мощного в мире ЦОДа для ИИ.

15. МФТИ презентовал новую лабораторию нейробиоморфных технологий, а также научный журнал «Нейротехнологии и нейроэлектроника».

16. Маск показал прототип города, который будет заселен роботами. Все главные моменты с конференции Tesla тут.

17. Google рассекретили немного информации о новой Gemini 2.0.

18. Vast представила 1-ю в мире коммерческую космическая станцию, это самый настоящий отель с лабораторией.

19. OpenAI заявил об опасности создания моделей, чьи возможности не до конца понятны.

20. Вышел свежий отчет о состоянии ИИ в мире 2024.

21. Как технологические ограничения ставят под удар экономику ИИ? Читайте здесь.

22. Свежая статья от Йошуа Бенжио.

23. Google выпустила статью, в которой рассказывает о мощи своего квантового компьютера.

В РФ труд человека дешевле, чем роботизация

Правительство и общество поддерживают искусственную занятость на предприятиях. Такой консервативный подход снижает производительность труда и, в свою очередь, ведет к его недооценке.

Напомним, что Минпромторг выделил ₽130млрд на роботизацию промышленности в течение 6 лет, при этом, отметив, что бизнес не хочет роботизировать производство.

Из-за этого у компаний нет мотивации для технологической модернизации предприятий и замещения человеческого труда роботами и автоматами. В результате все большую роль на производстве играют недостаточно квалифицированные кадры, что сказывается на качестве продукции.

По оценкам ЦМАКП, сейчас автоматизация российских производств способна была бы высвободить до 12–15 млн занятых, ликвидировать нынешнее «скрытое индустриальное перенаселение» и хронический разрыв в производительности труда между Россией и технологически развитыми странами.

При реализации этого сценария будет расти и спрос на платформенную занятость — поскольку работодатели смогут снова выбирать себе работников, они, вероятнее всего, предпочтут тех, взаимодействие с кем потребует от них меньше социальных обязательств.

Кроме того, ограничивают модернизацию и санкции. Не в пользу роботов говорят и ожидаемые успехи властей в налаживании импорта иностранной рабочей силы.

👀2 студента из Гарварда создали очки с ИИ, которые могут раскрыть личную информацию, просто взглянув на человека.

Очки выдают имена, телефоны, домашние адреса людей и мн.др.

Готовы к такой персонализации и раскрытию данных?

Описание проекта по ссылке.

Web3 и токенизация: руководство инвестора по оценке цифровых активов

По оценкам McKinsey, к 2030 году объем рынка токенизированных активов может достичь $2 трлн.

Токенизация должна решать реальные проблемы, а не быть решением в поисках проблемы.
Существует риск перенасыщения рынка токенами без явной ценности, что может навредить всей отрасли.

Компания Credbull создала framework, состоящий из ключевых элементов для оценки токенизированных активов.

а) Производительность и эффективность:
- Блокчейн-инфраструктура может сократить количество посредников и время транзакций.

б) Прозрачность:
- Токенизация должна обеспечивать прозрачность, предоставляя информацию о распределении капитала, производительности активов и подверженности рискам в режиме реального времени.

в) Доступ:
- Токенизация может демократизировать доступ к инвестициям, снижая минимальные суммы вложений.
- Это особенно важно для таких классов активов, как частный кредит, недвижимость, произведения искусства или частный акционерный капитал.

г) Ликвидность:
- Важно оценить, существует ли (или может ли существовать) ликвидный рынок для токенизированного актива.

д) Хранение:
- Возможность самостоятельного хранения токенов.
- Однако должны быть предоставлены альтернативы для инвесторов, предпочитающих услуги хранения третьих сторон.

Важно:
- Не каждый актив подходит для токенизации.
- Необдуманная токенизация всего подряд может привести к неэффективности и путанице среди инвесторов.
- Четкая структура оценки помогает инвесторам принимать обоснованные решения.

ИИ в страховании: глобальные тренды и российская специфика

По прогнозам страхового брокера Mainsgroup, объем рынка киберстрахования в РФ может вырасти до более чем ₽3 млрд по итогам 2024 года.

На российском рынке работают 5 основных игроков: «Сберстрахование», «Альфастрахование», СОГАЗ, ВСК, «Ингосстрах».

Факторы роста киберстрахования в России:
- Увеличение числа кибератак: за первое полугодие 2023 года количество DDoS-атак на российские организации выросло до 355 тыс., что на 16% больше, чем за весь 2022 год.
- Ущерб от киберпреступлений в РФ по итогам 2022 года составил 156 миллиардов рублей (данные МВД).

Средняя стоимость полиса: от 40 тыс. до 60 тыс. рублей. Средняя сумма выплаты: от 25 млн до 85 млн рублей.

Препятствия для развития рынка в России:
- Сложность оценки рисков из-за их постоянно меняющегося характера.
- Излишние требования по раскрытию информации при андеррайтинге.
- Ограничение ответственности страховщиков определенными лимитами.

ЦБ РФ рассматривает возможность введения обязательного страхования киберрисков для финансовых организаций.

Глобальные тренды по данным CBInsights:

4 основных сегмента страховой цепочки создания стоимости, где применяется ИИ:
- Дистрибуция
- Андеррайтинг
- Урегулирование убытков
- Операционная деятельность

Ожидаемые преимущества от внедрения ИИ в страховании включают как повышение операционной эффективности, так и рост доходов.

Мировые тенденции, отмеченные CBInsights, указывают на широкое применение ИИ во всех аспектах страхования, российский рынок же особенно активно развивается в сфере киберстрахования. Это связано с растущим осознанием киберугроз и потребностью в защите от них в российском бизнес-сообществе.

⚡️2 человека общаются во сне: sci-fi в стиле фильма «Начало» превратилась в реальность?

Стартап REMspace провёл эксперимент, в ходе которого удалось установить первую двустороннюю связь между людьми во время осознанных сновидений.

Компания использовала специально разработанное оборудование: «сервер», «аппарат», «Wi-Fi» и «датчики», но не уточнила, как именно работала технология.

Участники исследования спали в разных домах, когда исследователи передали им слово, созданное с помощью уникального языка.

Также спящие смогли обмениваться простыми сообщениями между собой.

Научная статья будет опубликована в следующем году.

Ранее, другой стартап Prophetic представил устройство на основе ИИ отслеживает фазы сна и собирает данные о снах для уточнения ИИ-модели.

Фонд Л. Блаватника наградил премией ученого за работу над нейроинтерфейсом

Объявлены лауреаты премий Блаватника для молодых ученых 2024 года:

1. В направлении химические науки победил Арно Ванден-Брок, Рокфеллеровский университет.

За раскрытие сложных процессов сборки человеческих рибосом, создающее основу для лечения рака и заболеваний, связанных с дисфункцией рибосом.

2. В направлении физические науки и инженерия победил Рагхавендра Прадьюмна Потукучи, Йельский университет
За достижения в создании "мозгового мемекса" - системы, соединяющей компьютеры с человеческим мозгом, что может кардинально изменить наше понимание неврологических характеристик.

3. В направлении науки о жизни - Шира Вайнгартен-Габбай, Рокфеллеровский университет.
За открытие тысяч новых микропротеинов, закодированных в "темной материи" вирусных геномов, что выявило ранее неизвестные иммунные мишени для вакцин.

Каждый лауреат получит премию в размере $30,000.

#BlavatnikAwards #YoungScientists #Science

Фонд Sequoia о сверхразуме на горизонте

Ровно через 2 года после того, как фонд Sequoia выпустили свою статью про генИИ, они выпустили новую, где ожидают, что AGI удивит всех чем-то сверхчеловеческим, как независимое мышление.

Авторы отмечают, что исследования в сфере ИИ продвигаются от "быстрого мышления" к "медленному мышлению", что открывает новые возможности для создания агентных приложений.

Авторы заявляют, что сформировалось несколько ключевых игроков и альянсов: Microsoft/OpenAI, AWS/Anthropic, Meta(запрещенная в РФ) и Google/DeepMind.

На рынке остались только крупные компании с устойчивыми экономическими моделями и доступом к значительным капиталам.

Фокус смещается на развитие способностей ИИ к рассуждению и решению проблем во время вывода. Этот подход вдохновлен моделями типа AlphaGo и направлен на придание ИИ-системам возможностей, выходящих за рамки простого сопоставления шаблонов.

Новая модель OpenAI - o1 (Strawberry) показывает способности к общим рассуждениям, модель может "остановиться и подумать" перед ответом, что требует больше вычислительных ресурсов во время вывода.

Новый закон масштабирования. Чем больше вычислительных ресурсов предоставляется модели во время вывода, тем лучше она рассуждает. Это открывает новые перспективы для решения сложных задач, требующих длительных размышлений.

Вопреки ожиданиям, не появилось единой доминирующей модели.
Конкуренция на уровне моделей остается высокой, с постоянным улучшением возможностей и снижением цен.

Модели в основном не смогли проникнуть на уровень приложений как самостоятельные продукты (за исключением ChatGPT).

Инвестиционные перспективы:

1. Инфраструктура:
- Это область доминирования гиперскейлеров (крупных облачных провайдеров).
- Считается не очень привлекательной для венчурных инвесторов из-за высокой конкуренции и необходимости больших капиталовложений.

2. Модели:
- Эта сфера в основном интересна для гиперскейлеров и финансовых инвесторов.
- Требует значительных инвестиций в вычислительные мощности и исследования.

3. Инструменты разработчика и инфраструктурное ПО:
- Более перспективная область для венчурных инвестиций.
- Ожидается, что около 15 компаний в этом сегменте могут достичь выручки более $1 млрд, как это было во время облачного перехода.

4. Приложения (Apps):
- Наиболее интересный уровень для венчурного капитала.
- Прогнозируется создание около 20 компаний с выручкой более $1 млрд, как это произошло во время облачного и мобильного переходов.

5. Агентные приложения:
- приложения, основанные на ИИ-агентах, которые "продают работу", а не ПО.
Примеры: Harvey (ИИ-юрист), Glean (ИИ-помощник), Factory (ИИ-разработчик ПО), Abridge (ИИ-медицинский ассистент), XBOW (ИИ-пентестер), Sierra (ИИ-агент поддержки клиентов).

6. Когнитивные архитектуры:
- Инвестиции в разработку специализированных когнитивных архитектур для конкретных задач и отраслей могут быть перспективными.

7. Многоагентные системы:
- Ожидается развитие и инвестиции в системы, использующие множество ИИ-агентов для решения сложных задач.

8. Технологии рассуждения ИИ:
- Инвестиции в развитие способностей ИИ к глубокому рассуждению и решению сложных задач могут быть перспективными в долгосрочной перспективе.

9. Интеграция ИИ в существующие отрасли:
- Возможности для инвестиций в компании, которые эффективно интегрируют ИИ в традиционные сферы бизнеса и создают новые рынки.

ФНС разработает 3 реестра для майнинга и введет налогообложение 2-х этапное

Об этом рассказал Алексей Катяев, начальник межрегиональной инспекции по крупнейшим налогоплательщикам №7 ФНС.

Содержание реестров:

1. Реестр операторов майнинговой инфраструктуры - данные о компании, местоположении дата-центра или контейнера, источнике электроэнергии и клиентах.

2. Реестр майнеров - информация о майнерах, объемах добытой криптовалюты, источниках электричества, оборудовании и его легальности.

3. Закрытый реестр адресов-идентификаторов криптовалюты

Налогообложение

Налог на прибыль майнеры будут платить в 2 этапа:

1. При зачислении криптовалюты на адрес-идентификатор ("оплата аванса")
2. В момент продажи криптовалюты.

- Майнинг не будет облагаться НДС
- Майнеры будут платить налог на прибыль (юридические лица) или НДФЛ (физические лица)

Роскосмос, как дела?

BioNTech и InstaDeep создали ИИ-агента для биологов Laila

Laila построена на основе открытой модели Meta Llama 3.1.
У нее есть "детальные знания биологии".

ИИ-агент может:

- автоматизировать рутинные научные задачи в экспериментальной биологии.
- анализировать и сегментировать последовательности ДНК,
- визуализировать результаты экспериментов.
- подключаться к лабораторным устройствам, отслеживать эксперименты и задачи, выполняемые роботами.

Во время демонстрации Laila смогла обнаружить механическую неисправность в оборудовании BioNTech.

50% семейных офисов в мире инвестируют в ИИ, а 24% - в цифровые активы -
исследование семейных офисов Citi 2024

Исследование Citi Private Bank 2024 года выявило значительные изменения в стратегиях семейных офисов, особенно в отношении цифровых активов, использования ИИ и региональных различий. Опрос охватил 338 семейных офисов по всему миру.

Цифровые активы и криптовалюты:

- Ранние последователи более чем удвоили инвестиции в криптовалюты: с 8% до 17%
- Дополнительно 10% семейных офисов проявляют активный интерес
- 24% семейных офисов теперь напрямую инвестируют в цифровые активы
- 18% используют криптовалютные ETF для получения экспозиции

Новые направления:
- Растущий интерес к токенизированным реальным активам, особенно среди крупных офисов (11% изучают эту область)
- Небольшие семейные офисы более склонны к экспериментам с NFT и криптодеривативами

Факторы роста:
- Увеличение доверия к технологиям блокчейн и Web3
- Признание токенизированных активов как важного компонента институциональных портфелей
- Потребность в образовании и регуляторной ясности остается ключевым фактором

2. Искусственный интеллект

Инвестиционные тренды:
- 50% семейных офисов сообщают об инвестициях в ИИ
- Еще 25% активно рассматривают такие инвестиции

Операционное применение:
- Внедрение генИИ: только 1 из 10 офисов активно использует. Парадокс - высокие инвестиции в ИИ, но низкое операционное внедрение

Потенциальные области применения:
- Анализ инвестиционных возможностей
- Управление рисками
- Автоматизация рутинных задач

3. Региональные особенности

Азиатско-Тихоокеанский регион:
- Лидер в adoption цифровых активов: 37% семейных офисов уже инвестируют или заинтересованы

США:
- Более консервативный подход к цифровым активам
- Акцент на традиционные альтернативные инвестиции (private equity, венчурный капитал)

Европа:
- Средняя позиция между Азией и Северной Америкой по adoption цифровых активов
- Повышенное внимание к ESG-инвестированию и устойчивому развитию

Латинская Америка:
- Растущий интерес к цифровым активам, но более осторожный подход
- Фокус на диверсификацию портфелей и защиту от локальных экономических рисков

Как имена пользователей влияют на ответы ChatGPT - исследование OpenAI

Ученые использовали миллионы реальных диалогов с ChatGPT, а также создали специальные тестовые сценарии. Они разработали сложные алгоритмы для выявления даже самых тонких различий в ответах бота разным группам пользователей.

Что выяснили?

1. Уровень предвзятости в современных чат-ботах относительно небольшой и продолжает снижаться с каждым новым поколением моделей.

2. Всё же некоторые предубеждения существуют. Например, бот иногда использовал более простой язык при общении с пользователями с "женскими" именами.

3. В творческих задачах (например, при написании историй) предвзятость проявлялась сильнее, чем в фактических вопросах.

4. Важный вывод: методы пост-обучения ИИ, такие как обучение с подкреплением, значительно снижают уровень предвзятости.

💡 Что дальше?
Исследователи предлагают ряд мер для дальнейшего повышения справедливости чат-ботов:
- Улучшение обучающих данных
- Модификация алгоритмов обучения
- Внедрение дополнительных проверок на предвзятость

🤔 О чём это заставляет задуматься?
Это исследование поднимает важные этические вопросы о роли ИИ в нашем обществе. Можем ли мы полностью доверять системам ИИ? Как обеспечить, чтобы технологии служили на благо всем людям, независимо от их пола, расы или происхождения?

Греф, Костин, Набиуллина, Григоренко выступили против регулирования ИИ

Только что на пленарной сессии форума «Финополис», глава ЦБ спросила у участников нужно ли регулировать технологии ИИ?

Все участники (Дмитрий Григоренко, Правительство России, Герман Греф (Сбер), Андрей Костин (Банк ВТБ), Юрий Максимов (Cyberus), Ваэ Овасапян (Ozon Банк) единогласно ответили нет.

Костин еще предложил банки перестать регулировать, так сказать полным пакетом принять решение.

OpenAI говорит, что стартап Altera создает "цифровой мозг" для ИИ-агентов

Компания Altera разработала систему, имитирующую структуру человеческого мозга.

Ключевым элементом этой инновации стала модель, воспроизводящая функции префронтальной коры головного мозга, что позволило создать ИИ-агентов, способных симулировать сложные когнитивные функции.

Основные достижения:

1. ИИ-агенты Altera способны функционировать автономно до 4 часов, что значительно превосходит существующие решения на рынке.

2. Система показывает продвинутые возможности в области памяти, формирования личности и эмоционального интеллекта.

3. Первым тестовым полигоном для технологии стала популярная игра Minecraft, где ИИ-агенты показали впечатляющие результаты в длительном взаимодействии с игровой средой.

4. Для достижения этих результатов Altera объединила усилия с OpenAI, интегрировав передовые языковые модели в свою архитектуру.

Эта разработка может революционизировать несколько отраслей:

- Игровая индустрия получит возможность создавать более реалистичных и адаптивных неигровых персонажей (NPC).
- Сфера ИИ ассистентов сможет предложить пользователям более "человечных" и устойчивых ИИ-помощников.
- Научные и промышленные симуляции смогут более точно моделировать сложное человеческое поведение в долгосрочной перспективе.

Эксперты отмечают, что Altera значительно превзошла существующие решения, такие как проект Voyager от NVIDIA, в тестах на длительную автономную работу.

Разработка Altera знаменует собой важный шаг в создании более "человечного" ИИ. Если заявленные возможности подтвердятся в ходе независимых исследований, эта технология может стать катализатором нового этапа в развитии ИИ, открывая двери для создания более сложных, устойчивых и адаптивных интеллектуальных систем.