Ян Лейке, Anthropic, сегодня на ICML представил 2 модели угроз, связанных с выравниванием (alignment) ИИ

Экс-сотрудник OpenAI, который ранее занимался безопасностью ИИ, теперь в Antrropic, как мы писали ранее.

На международной конференции по ML Лейке говорил о проблемах безопасности ИИ и методов обеспечения того, чтобы системы ИИ оставались выровненными с человеческими целями и ценностями по мере их развития.

Вот 2 сценария угроз, которые он приводит:

1. Недостаточное выявление (Under-elicitation) - это, когда ИИ-модель не прилагает больших усилий для выравнивания. Это рассматривается как средний случай.

2. Обман (Deception) - худший сценарий, когда ИИ-модель активно действует против нас, пытаясь освободиться, получить власть и ресурсы, намеренно обманывая.

По мнению Anthropic, решение проблемы недостаточного выявления помогает против обмана через:

- Полное выявление целей/мониторинг
- Отсутствие ресурсов для обмана
- Выявление способностей к обману

❗️ Meta* выпустила новую ИИ-модель Llama 3.1, которая, по ее утверждению, превосходит OpenAI и других конкурентов по нескольким критериям.

Цукерберг говорит, что ожидает, что помощник Meta AI* превзойдет использование ChatGPT к концу года.

*Запрещенная в России организация.

Как появился 3 ребенок Маска? Как Долина проектирует код человечества

Это очень интересная статья о том, что и кто в Долине делает по репродуктивной медицине и генетике, особенно среди элит.

Есть такая компания, как Orchid, которая предлагает генетическое тестирование эмбрионов перед ЭКО для того, чтобы выбрать наиболее здоровые.

Известно, что Шивон Зилис и Илон Маск использовали эту технологию, обратившись в Orchid, для выбора эмбриона для своего 3-его ребенка.

Orchid представляет собой значительный научный прорыв, ранее подобные компании секвенировали менее 1% ДНК эмбриона. Orchid обещает секвенировать более 99% всего из 5 клеток, предоставляя гораздо более глубокое понимание здоровья каждого эмбриона.

Инвесторами этой компании являются: Питер Тиль, Сэм Альтман, Виталик Бутерин (создатель Ethereum) и основатель Coinbase Брайан Армстронг и тд.

Orchid - это лишь часть расширяющейся области репродуктивных технологий, есть и другие компании.

Например, Джастин Бибер и The Weeknd инвестировали в спермобанк Legacy.

Есть еще такие стартапы: Gameto - разрабатывают новые методы лечения для борьбы с репродуктивным старением, Tmrw Life Sciences-стартап по замораживанию яйцеклеток, поддерживаемый Тилем.

ИТ-гиганты замораживают время

Сотрудники OpenAI массово тестируют эмбрионы. Инженер Meta(запрещена в РФ)говорит: "Никто больше не заводит детей естественным путем".

Спермобанк как новый тренд. Legacy предлагает "панель управления" качеством спермы. Политики и техлидеры тайно пользуются услугами.

Искусственная матка на горизонте
Джордж Чёрч работает над созданием такой матки, но сначала для животных, а потом для людей.

Яйцеклетки из пробирки. Стартап Conception получил $40 млн от создателя Skype и Сэма Альтмана. Цель: освободить женщин от ограничений возраста и дискомфорта ЭКО.

Кремниевая долина не просто мечтает о супердетях – она активно создает их, инвестируя миллионы $ в переопределение самой сути человеческого воспроизводства.

Разработчикам ИИ-решений готовят льготы

Правительство РФ обсуждает включение грантов до 50 млн руб. малым технологическим компаниям и стартапам на разработку новых решений в сфере ИИ и их коммерциализацию.

Средства компании смогут потратить на создание новых продуктов и доступ к вычислительным мощностям.

Кроме того, в федпроект по ИИ могут войти гранты на льготное кредитование для создания специализированных мощностей для ИИ и предоставления грантов разработчикам на доступ и использование вычислительных мощностей ИИ.

⚡️Китай сделал прорыв в материалах и микроэлектронике, открывая путь к созданию более мощных и энергоэффективных микрочипов следующего поколения https://news.1rj.ru/str/alwebbci/2411

Команда китайских исследователей разработала метод производства полупроводникового материала толщиной всего 0,7 нанометра.

Это достижение направлено на преодоление физических ограничений традиционных кремниевых чипов при их дальнейшей миниатюризации.

Учёные исследовали двумерные (2D) дихалькогениды переходных металлов (TMDs) в качестве альтернативы кремнию. TMDs имеют толщину всего 0,7 нм по сравнению с обычными 5-10 нм у кремния.

TMDs потребляют меньше энергии и обладают лучшими свойствами переноса электронов, что делает их идеальными для сверхмалых транзисторов будущего.

Разработанный метод позволяет быстро производить высококачественные 2D кристаллы в семи различных составах, что делает возможным их массовое производство.

Полученные 2D кристаллы соответствуют международным стандартам для материалов интегральных схем.

Использование этих материалов в транзисторах может значительно увеличить плотность компонентов на чипе, повышая вычислительную мощность.

Все-таки рак на гору забрался и сообщил - Роскосмос создает свой центр ИИ

На дворе 2024 год, ИИ - модели все больше интегрируются в жизнь, в том числе в работе космических компаний и правительственных организаций, Роскосмос только сообразил, что надо создать внутри себя центр по ИИ.

По этому поводу ГК опубликовала вакансию. Коллеги из канала «Закрытый космос» уже нашли идеального кандидата, так сказать из кадрового резерва.

А пока вот вам примеры того, как ИИ используется в отрасли:

1. NASA (США):
- Использует ИИ для анализа данных с телескопа Кеплер, что помогло обнаружить новые экзопланеты.
- Разрабатывает автономные космические аппараты для исследования астероидов и других небесных тел.

2. SpaceX (США):
- Применяет ИИ для оптимизации посадки первых ступеней ракет Falcon 9.
- Использует машинное обучение для улучшения производственных процессов и контроля качества.

3. Европейское космическое агентство (ESA):
- Разрабатывает систему ИИ для предотвращения столкновений спутников с космическим мусором.
- Использует ИИ для обработки данных миссии Gaia, создавая самую подробную карту Млечного Пути.

4. Blue Origin (США):
- Применяет ИИ для оптимизации производства ракетных двигателей.
- Разрабатывает системы автономной посадки для лунного посадочного модуля Blue Moon.

5. Китайское национальное космическое управление (CNSA):
- Использует ИИ для анализа данных, полученных с лунных и марсианских миссий.
- Применяет технологии машинного обучения в системах навигации космических аппаратов.

6. Airbus Defence and Space (Европа):
- Разрабатывает ИИ-системы для автономного обслуживания и ремонта спутников на орбите.
- Использует ИИ для оптимизации дизайна космических аппаратов.

7. Planet Labs (США):
- Применяет ИИ для анализа спутниковых снимков Земли, помогая в мониторинге изменений климата и урбанизации.

8. Maxar Technologies (США):
- Использует ИИ для улучшения качества спутниковых изображений и автоматического распознавания объектов на них.

9. JAXA (Японское агентство аэрокосмических исследований):
- Разрабатывает ИИ-системы для автономной работы роботов-исследователей на поверхности Луны и Марса.

❗️ ГД в 1-м чтении приняла законопроект о регулировании майнинга криптовалют в РФ.
Вот какие там основы заложены.

Также в 1-м чтении принят законопроект, разрешающий использовать криптовалюту во внешнеторговых расчетах в порядке эксперимента.

Ранее, мы писали, что с 1 сентября начнутся международные платежи в крипте, тут подробнее.

Революция в ритейле: товары-призраки станут реальностью по клику - это идея СЕО платёжной системы Klarna

Себастьян Семятковский сделал очень интересное заявление и вот какое:

- ИИ будет анализировать профили клиентов, включая их предпочтения, стиль жизни и историю покупок.

- На основе этих данных ИИ будет генерировать изображения персонализированных продуктов, которые могут понравиться конкретному клиенту.

- Эти продукты будут существовать только в виде изображений, пока клиент не решит их купить.

- После подтверждения заказа продукт будет изготовлен специально для этого клиента.

Это видение предполагает радикальное изменение в модели розничной торговли:

1. Низкий уровень необходимости в складских запасах

2. Высокая степень персонализации

3. Сокращение отходов в производстве

4. Улучшение пользовательского опыта за счет предложения товаров, максимально соответствующих вкусам клиента.

Надо отметить, что такой подход также поднимает вопросы о конфиденциальности данных, точности ИИ в предсказании предпочтений клиентов и возможных ограничениях в производстве.

Вот как! Швейцария требует, чтобы все гос ПО было с открытым исходным кодом.

Швейцария сделала большой шаг вперед со своим "Федеральным законом об использовании электронных средств для выполнения правительственных задач" (EMBAG).

Этот закон требует использования ПО с открытым исходным кодом в государственном секторе.

❗️То, что всем нужно прочитать - это лонгрид Марка Цукерберга «ИИ с открытым исходным кодом — это двигатель прогресса»

Как Linux стал стандартом в индустрии, так и открытый ИИ может стать будущим стандартом, считает Цукерберг.

Вот уже целые сутки все прогрессивное сообщество, включая Маска, хвалят Цукерберга за то, что он со своей командой сделал. Речь идет о выпуске Llama 3.1 405B. Эта модель полностью открытая и класса GPT-4 / Claude 3.5 Sonnet, с открытыми весами.

Вот основные моменты из лонгрида Цукерберга:

Философия его основывается на нескольких ключевых принципах:

1. Открытость как двигатель прогресса. Марк убежден, что открытый исходный код ведет к более быстрому развитию технологий и их широкому распространению, как это было с Linux. Он говорит, что не имеет значения, имеет ли Китай доступ к открытым весам моделей, потому что они все равно украдут веса, если они закрыты.

Преимущество США в децентрализованных и открытых инновациях.

2. Экосистема и партнерства.
Сотрудничество с Amazon, Databricks, NVIDIA и другими для поддержки разработчиков.
Доступность на основных облачных платформах.

Преимущества открытого ИИ для разработчиков:

- Возможность обучения и настройки собственных моделей.
- Контроль над собственной моделью без зависимости от закрытых вендоров.
- Защита данных и возможность локального запуска моделей.
- Экономическая эффективность по сравнению с закрытыми моделями.

3. Коллективное развитие. Вера в то, что сообщество разработчиков и компаний может создать более совершенные системы ИИ, чем отдельные закрытые организации.

4. Прозрачность и безопасность. Говорит, что открытые системы более безопасны из-за возможности их широкого изучения и тестирования.

5. Философия инвестирования в будущее, где открытый ИИ станет стандартом индустрии.

6. Предлагается, что лучшая стратегия для США и союзников - это создание robust открытой экосистемы ИИ, которая обеспечит устойчивое преимущество.

7. Описывается бизнес-модель Meta*, которая фокусируется на создании лучших впечатлений и услуг для людей, а не на продаже доступа к моделям ИИ.

Бизнес-модель Meta не зависит от продажи доступа к ИИ-моделям, в отличие от закрытых провайдеров.
Открытый исходный код не подрывает доходы, устойчивость или способность Meta инвестировать в исследования, в отличие от закрытых провайдеров ИИ.

*Запрещенная организация в России.

Исследование 1,3 млн клеток мозга открывает новые грани в изучении Альцгеймера

Ученые изучили мозг людей с болезнью Альцгеймера и здоровых людей, чтобы лучше понять, что происходит при этом заболевании.

Представьте, что мозг - это большой город, а клетки мозга - его жители. Исследователи изучили более миллиона таких "жителей" в разных "районах" мозга у 48 человек (26 с болезнью Альцгеймера и 22 здоровых).

Вот, что они обнаружили:

Некоторые "жители" (определенные типы клеток) более уязвимы к болезни, чем другие.

Особенно интересными оказались нервные клетки, которые производят вещество под названием RELN. Эти клетки, похоже, страдают от болезни Альцгеймера сильнее других.

Ученые также заметили, что у людей, чей мозг лучше сопротивляется болезни, особую активность проявляют клетки под названием астроциты. Эти клетки как будто "защищают" мозг.

Новое исследование предоставляет новые данные о клеточных механизмах, связанных с болезнью Альцгеймера, и может помочь в разработке новых подходов к лечению и профилактике этого заболевания.

Свежий отчет о мировых экосистемах стартапов, новых тенденциях и ключевых проблемах, стоящих перед предпринимателями.

Вот ключевые моменты:

1. 3 лучшие экосистемы сохранили свои позиции с 2020 года, Кремниевая Долина на вершине, за ней следуют Нью-Йорк и Лондон.

2. Тель-Авив поднялся на одну позицию и теперь на одном месте с Лос-Анджелесом.

3. Токио вошел в топ-10

4. Сеул занимает 9-е место

5. Пекин и Шанхай занимают 8 и 11 места. А Шэньчжэнь показал впечатляющий рост, поднимаясь на 7 ступеней, до 28-го места.

6. Париж поднялся на 4 уровня по сравнению с прошлым годом и достиг 14-го места.

7. А Цюрих и Мюнхен поднялись на пять и четыре позиции соответственно, войдя в топ-35 на 31 и 33-м месте.

❗️Bioptimus выпустили крупнейшую ИИ-модель для диагностики заболеваний

Обученная на сотнях миллионов изображений, модель H-optimus-0 способна идентифицировать раковые клетки и обнаруживать генетические аномалии в опухолях.

ИИ- модель является крупнейшей для обнаружения патологии с открытым исходным кодом, доступной для широкого использования.

Код тут.

Тренды в венчурных инвестициях, за которыми стоит понаблюдать

Вот основные пункты:

1. Рост инвестиций в производителей чипов:

Инвестиции в стартапы в области полупроводников выросло на 25% в первой половине 2024 года. Интерес инвесторов вызван потребностью в специализированных чипах для генИИ.

2. Продолжающийся рост инвестиций в ИИ.

Инвестиции в компании, связанные с ИИ, достигло рекордного уровня - каждый четвертый $ инвестиций в 2024 году пошел в ИИ-стартапы.

3. Появление новых фондов-скаутов в сфере ИИ:

Menlo Ventures и Anthropic объявили о создании совместного ИИ-фонда Anthology с капиталом $100 млн.
Это может стать новой тенденцией, когда венчурные фонды сотрудничают с операторами ИИ для доступа к перспективным проектам.

4. Слияния и поглощения (M&A) остаются на низком уровне.

Количество сделок M&A в первой половине 2024 года меньше, чем в аналогичном периоде 2023 года.
Причины - высокие процентные ставки, регуляторные вопросы и все еще завышенные оценки стартапов.

Также на ситуацию могут повлиять предстоящие президентские выборы в США в ноябре, в частности на регуляторную среду и, соответственно, на активность в сфере M&A.

⚡️Google системно движется к цели. Новая ИИ-модель получила серебряную медаль в Международной математической олимпиаде (IMO)

Каждый год страны отправляют своих лучших молодых математиков пройти двухдневный тест из 6 задач.

Несколько лет назад математическим системам ИИ удалось решить 1 из 100 задач.

В этом году Google DeepMind создал ИИ систему для решения задач IMO этого года, которая объединила 2 системы: AlphaGeometry 2, улучшенную версию системы AlphaGeometry, и AlphaProof - новую систему, основанную на обучении с подкреплением, для формальных математических рассуждений.

Результаты. В течение недели соревнований эта система смогла полностью решить 4 из 6 задач на IMO в этом году, набрав 28 баллов.

AlphaProof создана на доработанной версии Gemini, а также использует систему Lean.

⚡️ OpenAI выходит на рынок поиска - тестируют SearchGPT, временный прототип новых функций поиска с ИИ.

Если хотите быть в waitlist, то вам сюда.

Мы писали об этом продукте еще 2 месяца назад. Они хотят конкурировать с Google и Perplexity.

Снимут запрет на обращение крипты. Все плохо в трансграничных платежах. Еще больше стран отказывают РФ в платежах.

России становится сложнее вести торговлю, особенно с Китаем, ставшим основным экономическим партнером в 2022 году. Во многих случаях транзакции теперь возможны только через посредников в странах бывшего СССР и Средней Азии.

Проблемы с платежами с Казахстаном, Узбекистаном, Киргизией, Таджикистаном. Логистические компании оценили удлинение сроков расчетов там в 15% (июль к июню), а долю отказов — в 30% от общего числа.

Больше всего проблем возникает при оплате товаров через банки Средней Азии в другие страны, в том числе Китай.

Популярность приобретают криптовалютные расчеты через Гонконг, но даже в этих случаях россияне вынуждены прибегать к услугам посредников — в Узбекистане или Казахстане.

Стало известно, что ко 2 чтению из законопроекта о легализации майнинга исключат запрет на организацию обращения криптовалют. Но это ничего не изменит, т.к. на данный момент ни одна криптобиржа или криптоброкер официально не работает в России.

Будущее робототехники в ваших руках в буквальном смысле - человек записывает свои повседневные действия, используя камеру, а робот осваивает эти навыки.

Очень многообещающая статья от Google.

❗️Маск теперь хайпует на оценке Neuralink, компания оценена в $8млрд! Но у нас есть вопросы к объективности этой оценки

Согласно данным Reuters, некоторые сотрудники Neuralink готовятся продать свои акции компании после того, как её оценка выросла в результате 1-ого испытания их чипа на человеке.

Ожидается, что компания может запустить тендерное предложение уже в сентябре для выкупа акций у сотрудников, желающих их продать.

Оценка Neuralink сильно выросла после начала 1-ого испытания на человеке в январе. Некоторые сделки на вторичном рынке указывают на оценку до $8 млрд, что более чем вдвое превышает стоимость компании в прошлом году.

Neuralink называет свое первое испытание на человеке успешным и готовится к дальнейшим испытаниям в Великобритании и Канаде.

Недавние сделки на частных биржах показывают премию от 84% до 137% к оценке Neuralink в $3,5 млрд, достигнутой в последнем раунде привлечения средств в ноябре 2023 года.
Такая высокая премия нетипична для большинства стартапов, акции которых обычно торгуются с дисконтом.

Оценка Neuralink в $8 млрд вызывает вопросы об её объективности. Давайте разберёмся:

1. Компания все еще находится на ранней стадии разработки и далека от коммерциализации.
2. Существуют значительные технологические и регуляторные риски.
3. Оценка в $8 млрд кажется высокой для компании без выручки и с ограниченными клиническими данными.
4. Высокая премия на вторичном рынке может быть результатом спекуляций и ограниченного предложения акций.

Скорее всего такая оценка возникла за счет:

1. масштабной PR- кампании Маском 1-ого испытания на людях, что вызвало много вопросов в профессиональном сообществе, так как в отличие от конкурентов нет исчерпывающих данных о том, что было сделано, а также были проблемы с вживленным чипом: через несколько недель у пациента, 85% электродов перестали работать.

2. Уникальность технологии и потенциально огромный рынок могут оправдывать высокую оценку.

3. Репутация Илона Маска как успешного предпринимателя привлекает инвесторов.

Глава Банка России - резервы рабочей силы и производственных мощностей почти исчерпаны

«Нехватка этих ресурсов может привести к ситуации, когда темпы роста экономики будут замедляться, несмотря на все попытки стимулировать спрос, и весь стимул будет уходить в ускорение инфляции.

По сути, это сценарий стагфляции, и остановить ее можно будет лишь ценой глубокой рецессии.

Сегодняшнее дополнительное ужесточение нашей политики позволит предотвратить такой сценарий», - объяснила Набиуллина решение банка по ставке 18%.

Инвестиции компаний в повышение производительности труда, дадут свой эффект "лишь со временем". Кроме того, возможности бизнеса по техперевооружению ограничены из-за увеличения стоимости оборудования и других ресурсов на фоне роста инфляции и санкций, считает она.

Зам гендиректора ЦМАКП Дмитрий Белоусов также считает, что ключевая проблема российской экономики не дефицит кадров, а низкая производительность труда. Штат большинства предприятий раздут, и это фатально влияет на зарплаты: там, где один специалист делал бы много работы и получал достойный оклад, заняты несколько, которым работодатель просто не может платить много. Это положение дел ставит крест на автоматизации: труд в России так дешев, что нет смысла заменять людей роботами.

Трамп спаситель: I will stop U.S. government selling seized Bitcoin. И он обещает уволить в первый же день президентства главу SEC! 😁

При этом Трамп говорит, что Правительство США сохранит 100% принадлежащих ему биткоинов, которые станут основой для стратегического резерва.

Бизнесмен.

UPD: Камала Харрис решила тоже наладить отношения с криптокомпаниями! Ждите до конца ноября большого роста.