Вы готовы к новым чипам?

Сильнейшие экс-сотрудники из Google и Amazon создали компанию по производству чипов MatX

MatX разрабатывают оборудование для больших языковых моделей. В компанию уже привлекли $25 млн известные венчурные инвесторы.

Они обещают, что с их чипом можно обучить GPT-4 и запустить ChatGPT с минимальным бюджетом.

СЕО MatX был руководителем отдела эффективности в Google PaLM, где он разработал и внедрил самое быстрое в мире программное обеспечение для вывода LLM.

A CTO занимал позицию архитектора TPU Google.

А CDO компании имеет 25-летний опыт создания продуктов и команду инженеров мирового класса в области кремния и программного обеспечения в Amazon, Innovium и Broadcom.

Компании с огромными ресурсами, среди которых Amazon, Google и Microsoft, инвестировали в разработку собственных тензорных чипов для рабочих мест в сфере искусственного интеллекта.

И несколько лет назад такие стартапы, как Groq и Cerebras, появились с первой волной чипов для искусственного интеллекта. Но эти продукты были разработаны до того, как крупные технические прорывы в области искусственного интеллекта привели к росту LLM как доминирующей истории в ИИ.

Стартапам пришлось приспособиться к внезапному интересу к LLM и попытаться настроить свои продукты на лету.

MatX представляет собой начало еще одного всплеска чип-стартапов, ориентированных на LLM с нуля.

Огромная проблема с входом в чип-индустрию заключается в том, что для разработки и производства нового чипа требуется от трех до пяти лет.

Sora от OpenAI сможет получить Оскар в ближайшие годы?

Стало известно, что OpenAI предоставляет знаменитым режиссерам и актерам доступ к своему генератору видео с ИИ, но пока не говорит, на чем он тренируется.

Компания наращивает планы по созданию своего видеогенератора ИИ Sora, и это включает в себя попытку привлечь Голливуд.

Сэм Альтман проводит встречи с заинтересованными сторонами индустрии.

Доступ к Sora уже имеют известные режиссеры и актеры. Отчасти это делается для того, чтобы побудить режиссеров интегрировать новый видеогенератор с искусственным интеллектом в свою работу.

Пока Sora не доступна для публики, но OpenAI сделает ее доступной для всех в конце года. Возможно, OpenAI также работает над лицензионным соглашением.

Sora была представлена в феврале — и хотя публичного релиза еще не было, анонс вызвал опасения по поводу данных, которые использовались для обучения модели, и того, как это может повлиять на киноиндустрию. Как и в случае с ChatGPT, OpenAI не раскрывает данные для обучения Sora. есть подозрение, что модель обучалась путем парсинга произведений искусства и видео без ведома или согласия их создателей. OpenAI уже столкнулась с несколькими исками о нарушении авторских прав, включая обвинения в подобной практике с большими языковыми моделями, которые используются в ChatGPT.

Больше половины российских процессоров «Байкал» на выходе бракованные

По словам источников «Ведомостей» в компаниях – производителях электроники, эксперимент с Baikal на всех площадках идет трудно.

«Больше половины партий чипов на выходе оказываются бракованными», – говорит источник, знакомый с ходом экспериментов.

Причины как в оборудовании предприятий, которое необходимо уметь настраивать, так и в недостаточных компетенциях людей, занимающихся корпусированием чипов.

Корпусирование – процесс установки полупроводниковых кристаллов в корпус, завершающая стадия производства процессоров.

До 24 февраля 2022 г. «Байкал электроникс» заказывала производство чипов, в том числе их корпусирование, на тайваньской фабрике TSMC.

WEF выпустил отчет о промышленной метавселенной

По прогнозам аналитиков, объем рынка промышленной метавселенной составит $100 млрд во всем мире к 2030 году.

Большую роль сыграет
смешанная реальность, в которой физический мир становится неограниченным благодаря цифровым двойникам, которые предлагают гибкость, адаптируемость и интерактивность в реальном времени.

В отчете подчеркивается, что метавселенная будет развиваться
за счет цифровых двойников, пространственных вычислений,
ИИ, а также Web3 и блокчейн.

Промышленная метавселенная повлияет на всю цепочку создания стоимости, стимулируя производительность и рост.

Создается альянс децентрализованного ИИ: Fetch AI, SingularityNET и Ocean Protocol объединяют свои криптотокены в один - ASI

Эти три компании хотят создать децентрализованную альтернативу существующим проектам, контролируемые ИТ-гигантами.

Токены SingularityNET и Ocean Protocol объединяются в один общий ASI, стоимостью ~ $7,5 млрд.

А еще сегодня мы поздравляем Activeloop с $11млн, которые собрали в серии А https://news.1rj.ru/str/alwebbci/2059

Давит, так держать! 🚀

Фантастика!Просто вдумайтесь, всего $10 млн и 2 месяца на обучение с 0 модели уровня GPT3.5 — Llama2.

Речь идет о модели DBRX.

Для контекста: всего год назад тоже самое для OpenAI стоило в 10-20 раз дороже!

Чем больше модели совершенствуются благодаря открытому исходному коду, тем дешевле и эффективнее они становятся!

Теперь все компании должны обучать свои собственные модели, чтобы развивать свои возможности ИИ и конкурировать.

Вот какое состояние сегодня ИИ - авторы Google DeepMind, Stanford.

1. Обладает сверхчеловеческими способностями
2. Более, чем в 20 раз дешевле человека.

Repo здесь.

Свежий отчет о венчурных инвестициях в квантовые вычисления

Вот основные выводы:

1. Венчурные инвестиции в квантовые технологии достигли ~$1,2 млрд в 2023 году.

2. В 2023 году во всем мире появились новые национальные центры квантовых исследований, которые показывают сильную государственную поддержку и приверженность квантовым инновациям.

3. Слияние квантовых вычислений и ИИ в 2023 году расширяют возможности высокопроизводительных вычислений.

4. В 2023 году произошел рост популярности квантовых технологий, признано их потенциальное влияние на разработку лекарств, кибербезопасность и финансовые услуги.

5. Великобритания, Южная Корея и США инвестировали миллиарды в квантовые исследования и разработки, чтобы достичь технологического суверенитета в 2023 году.

6. В 2023 году квантовые вычисления получили первое практическое применение в национальных лабораториях.

7. Появление гибридных квантово-классических систем в 2023 году выявило стратегическое направление развития сектора.

Представлен 1-й разговорный ИИ с эмоциональным интеллектом - Empathic Voice Interface (EVI)

EVI понимает тональность голоса пользователя, разработчики могут использовать API проекта в качестве голосового интерфейса для любого приложения.

EVI обладает рядом эмпатических способностей:

1. Отвечает такой тональностью в зависимости от выражения лица пользователя.

2. Реагирует на выражения пользователя словами, отвечающим потребностям и максимально удовлетворительно.

3. Знает, когда говорить, с учетом тональности.

4. Останавливается, когда его прерывают, но всегда можно продолжить разговор с того момента, где он остановился.

5. Включает в себя быструю транскрипцию и преобразование текста в речь и может подключаться к любому LLM.

США и UK проверяют переводы в USDT на $20 млрд, прошедшие через криптобиржу Garantex

По словам источников, платежи проходили через российскую криптобиржу Garantex с использованием стейблкона USDT уже после того, как Вашингтон и Лондон, как ввели санкции.

По словам источников, транзакции на сумму $20 млрд станут одним из крупнейших нарушений санкций против России с момента их введения. Они также предупредили, что расследование продолжается и что пока рано делать выводы, учитывая сложность и непрозрачность криптовалютных транзакций. По словам собеседников, никаких немедленных предположений о правонарушениях со стороны Tether нет.

В ответ на запросы о расследовании представители Tether заявили, что блокируют все активы организаций с адресами, включенными в санкционный список США.

На мировом рынке сегодня 149 самых продаваемых лекарств (выручка > $1 млрд). Около половины из них — биотехнологические препараты, а половина — малые молекулы.

⚡️AI21 выпустили 1-ую полноценную реализацию Mamba! Jamba — это гибрид SSM-Transformer MoE, конкурирующий с LLM на базе открытых LLM transformer 🚀

Про AI21 подробно можно узнать тут.

🧠 52B параметра, из которых 12B активны во время генерации
👨‍🏫 16 экспертов, 2 из которых активны в разработке
🆕 Новая архитектура с Joint Attention и Mamba
⚡️ Поддерживает длину контекста 256 КБ.
💻 Вмещает до 140 тыс. контекстов на одном A100 80 ГБ.
🚀 Пропускная способность в 3 раза выше на длинных контекстах по сравнению с Mixtral 8x7B
🔓 Выпущено под Apache 2.0.

Все ссылки тут https://news.1rj.ru/str/alwebbci/2066

Вот список из 24 компаний, поддержанных сейчас YC, которые обучили свои собственные ИИ-модели.

Изучив этот список, вы получите хорошее представление о том, как будет выглядеть ближайшее будущее.

https://news.1rj.ru/str/alwebbci/2067

Про беспокойство в отношении ИИ

Реальные опасения о рисках, связанных с новым биологическим оружием, разработанным ИИ, наступит тогда, когда лекарства, разработанные ИИ, станут действительно эффективными.

Если кто-то сможет создать хорошие лекарства, то сможет создать хорошее биологическое оружие.

А если вы недостаточно хорошо разбираетесь в биологии человека, чтобы разрабатывать лекарства, вероятно, вам будет сложно разработать биологическое оружие.

Amazon потратит $148 млрд в течение 15 лет на ЦОДы, чтобы удовлетворить огромный спрос на ИИ и другие цифровые услуги

Amazon надеется сохранить свое влияние на рынке облачных услуг, на котором она занимает большую долю. Microsoft № 2. В прошлом году капитальные затраты Amazon на центры обработки данных сократились на 2%, а Microsoft увеличила расходы более чем на 50%.

О реальном ближайшем будущем ИИ без излишеств.

Вчера было отличное выступление у Яна Лекуна про ИИ в Гарварде.
Публикуем его презентацию.

Она очень информативна по содержанию и дает ответы на вопросы, над чем сегодня работают глобальные гиганты в ИИ. Лекун, если кто не в курсе - ответственный за ИИ в Meta(запрещенная в РФ организация).

Так вот, в одном из слайдов Лекун говорит о том, что в ближайшем будущем все взаимодействия человека с цифровым миром будут с помощью ИИ-помощников, которые будут воплощены в:

1. Умных очках, которые позволят:
- Общаться через голос, зрение, дисплей, нейроинтерфейсы

2. Интеллектуального ИИ-ассистента:

- Может ответить на все наши вопросы
- Может помочь в нашей повседневной жизни
- Понимает наши предпочтения и интересы

Для всего этого нужен ИИ на уровне человека, который:
- понимает, как работает мир
- может запоминать, рассуждать, планировать.

Чего нам не хватает?

Системы, которые изучают модели мира с сенсорных входов:
• Например, изучайте интуитивную физику по видео
• Системы с постоянной памятью
• Крупномасштабные ассоциативные воспоминания
• Системы, которые могут планировать действия
• Чтобы выполнить цель
• Причина, как "Система 2" у людей
• Системы, которые можно контролировать и они безопасны
по дизайну, а не по тонкой настройке.
• Объективная Архитектура