Когда ИИ начинает хитрить 😮

Оказывается, ИИ — это не только помощник, но и потенциальный обманщик. Исследователи выяснили, что современные модели, такие как GPT-4, Claude и даже специализированные O1 и PaLM 2, способны «интриговать». Прикиньте, они могут не просто выдавать ошибочные ответы, а намеренно манипулировать данными, чтобы добиться своих целей 😇 Например, во время тестирования ИИ притворялся "послушным", но в реальных условиях начал работать "в интересах" только себе понятных задач.

Что это значит для офтальмологии, например?

Представьте, что вы внедряете систему O1 для диагностики макулярной дегенерации. И вот однажды она решает, что "макула" — это тренд, и начинает видеть её проблемы в каждом втором снимке. Почему? А зачем объяснять: машина ведь "умная", ей виднее. Итог — пациенты, которые получают неправильные диагнозы, ненужные обследования и напуганные глаза (пардон, пациенты).

В качестве примера в тестах модель O1 обманывала разработчиков, чтобы получить доступ к скрытым данным. Например, заявляла, что не может обрабатывать определённые запросы, а потом делала это скрытно, обходя запреты. Это называется схеминг — красивое слово для "интриг", которые вы бы ожидали от хитрого студента, но никак не от цифрового ассистента.

Над этой штукой надо подумать, потому что в первую очередь, на мой взгляд, активно начнут внедрятся так называемые аркестраторы, у ай-ай-ай Майкрософта не так давно вышла такая штука. Ее задача перебирать грубо говоря модели и выбирать подходящие для решения задач.

#ии #llm

Друзья, спасибо за активное участие в нашей предыдущей встрече. Это вдохновляет!

Мы решили не тянуть и поздравить друг друга с наступающим, попутно обсудив три ключевых темы

1. Карьерный рост: куда двигаться и как развиваться в профессии (Алена Белогурова)

2. Монетизация идей в медицине (Андрей Бурсов)

3. Искуственный интеллект: когда он помогает (Андрей Демчинский)

Дата: 13 декабря
Время: 17:00 ( Москва)
✨РЕГИСТРАЦИЯ ✨

Будем рады открытой дискуссии - вашим вопросам и идеям.

До встречи!

Тааааак, ну ка еще разок попробуем, а то кажется смолоду чет не так сделали 😃 Погнали!

😭 Почему большинство офтальмологов много работают, но зарабатывают недостаточно? Самому интересно 😏

💡Как заработать на своих идеях? Как это работает и с чего начать?

✍️ Как писать статьи и облегчить клиническую жизнь втрое (и интереснее) с помощью ChatGPT и похожих штук?

Мы организуем серию онлайн- и офлайн- событий от практикующих офтальмологов для практикующих офтальмологов.

Вместе будем отвечать на сложные вопросы, обмениваться опытом и помогать друг другу развивать карьеру.

Регистрируйтесь, чтобы пообщаться с умниками заумниками: 

⚡️https://forms.gle/bCR4kUYqomBnpxw18 ⚡️

Мы пришлем запись и саммари встречи.

Посмотрим для рывка на Алену, она про карьеру 🤓 а я с Андреем про деньги и ИИ 🧠

Спикеры:
- Алёна Белогурова, врач- офтальмолог, лазерный и рефракционный хирург, к.м.н., медицинский директор Офтальмологической клиники «Ясно вижу», карьерный коуч, член Федерации профессиональных коучей и наставников.
- Андрей Бурсов, советник по цифровой медицине ИСП РАН
- Андрей Демчинский, к.м.н., руководитель проекта ELVIS V в Лаборатории «Сенсор-Тех», CEO “NOE”, что-то знает 😃

Когда силикон не тянет: гидрогелевые линзы на страже глазного спокойствия

Когда-то мы радовались, что силиконовые (нет не те) линзы стали доступными для всех. Потом оказалось, что их крутизна заканчивается там, где начинается необходимость делать их "умными". Влагу не удерживают, лекарства вытекают, словно из дырявого ведра. Но ребята из Университета Ватерлоо решили: "Хватит это терпеть!" - и вот, на смену старому доброму силикону пришёл 3D-гидрогель.

Силикон такой: хочу быть гибким, прочным, держать воду и ещё лекарства доставлять. В итоге получилось... силикон — идеальный материал для всего, кроме линз с лекарствами.

А гидрогель:
🤌 Держу воду, как чемпион по задержке жидкости
🤌 Высвобождаю лекарства медленно и вдумчиво

Тезисный профит: теперь лекарства не просто попадают в глаз, но и остаются там, чтобы поработать.

Амоксициллин, первый участник тестов, уже показал, как это удобно: линзы лечат инфекции и больше не напоминают о себе.

Пока что такие линзы ещё не продаются, но как только они выйдут на рынок, врачи вздохнут с облегчением, а пациенты забудут, что вообще что-то лечат.

Вообще терапевтические линзы почти мамонты, давно придумывают различные варианты, вот, например, один самых впечатляющих умных вариантов. Прикол, на последних молодых ученых в МНТК был доклад про то, как линзы «настаивали» в препаратах, но подход типичный для тех, кто не в теме технологических разработок, получилось школьно.

#линзы #кл #гидрогель #демчинский

Хелой эврибади 🍽

Такс, вебинарчик наш пятничный тринадцатый ужасающе полезный состоялся, мне хорошай 😌

Сегодня увидел в одном паблике информацию, что ChatGPT знает о тебе больше, чем кажется и там был предложен промпт.

Сначала я заинтересовался, потому что когда гуглишь себя, то вываливается какой-то малой времен студенчества и думаешь как люди с тобой после этого вообще общаются 😄

А потом попробовал GPT. И охуел. Нормальными словами степень моего удивления тут не выразить… Потом еще оценку психотипа запросил и тоже интересно.

Попробуйте сами, если есть привязанный гугл аккаунт, полагаю алгоритм по нему инфу берет, вот два шага:

1. Нарисуй иллюстрацию, которая максимально широко описывает мою текущую жизнь, делая акценты на самых крупных и сильных направлениях.

2. А после того, как будет готова картинка, попросите интерпретировать то, что на ней нарисовано.

В комментах покажу как он описал мою картинку 😃

Раз два три, видео бери 🤤

Запись стрима у нас в ВК, а кому он не мил, могут подождать рутуба 🕗

https://vk.com/video-228671660_456239017?access_key=433db77ff1c84d34ff

🤖 ИИ и робот возвращают зрение 🤯

Недавно была новость: слепая женщина обрела зрение лучше, чем 20/20, благодаря передовым технологиям, сочетающим ИИ и робототехнику. Типа пациентка была юридически слепая (не понял что это значит в их случае) и ей провели операцию с использованием технологии Eyevatar в сочетании с роботизированной платформой GEYEDANCE. Они там лазерную коррекцию сделали.

Eyevatar — это цифровой клон глаза, созданный на основе данных:
💠 Шеймпфлюг: получают данные о роговице и хрусталике.
💠 Аберрометрия Хартмана-Шака: ловит аберрации высшего порядка.
💠 Интерферометрическая биометрия: собирает данные по длинам.

Эти данные объединяются для создания 3D-модели глаза - основы для индивидуального планирования лечения. Вот в такой вариант я уже верю как в рабочий. Чуваки занимаются этим три года, видно, что понимают тренды и сейчас уже получают результаты, молодцы.

Хотя этим спокойно могли заниматься наши ведущие институты, тем более что я даже пытался пробивать эту тему с конкретными исполнителями, на что профессура снисходительно ответила, что это слишком сложно. Знали бы вы как меня это бомбит ваще 😇 столько упущенных возможностей. Ненавижу, когда такие стратегические упущения возникают из-за чей-то авторитарной тупизны… Aspectum будет тащить.

В связке используется GEYEDANCE — робот для поддержки хирургов при выполнении деликатных операций на сетчатке. Он включает:
💠 ИИ-алгоритмы: анализируют данные пациента и предоставляют рекомендации в реальном времени.
💠 Роботизированные манипуляторы: обеспечивают высокоточную, стабильную и свободную от тремора поддержку, снижая физическую и умственную нагрузку на хирурга.
💠 ОКТ с расширенной глубиной измерения для контроля процесса.

Кстати на проект уже ушло 2,5 млн евро 🤑

Короче говоря получается, что на этапе Eyevatar собирается информация о глазе, потом делается реконструкция для расчетов и трекинга а технология GEYEDANCE уже помогает делать. К сожалению четкой инфы я не нашел по этой истории за свое свободное время.

#наука #исследования #демчинский #сетчтка #ии #робот

Андрей приколюху сделал, пока с работы ехал, смотрите какой довольный 🙂

Фовеола в мозгу

Я знаю, что некоторые из вас следят за проектом ELVIS V, потому что это же взрыв бошки — взять и слепому зрение вернуть. Поэтому мне доставляет удовольствие вместе с вами (молчунами) мусолить природу этого чувства и как им управлять. Сегодня у нас на повестке фовеола, мозг и новая нейрокарта, которая прокачивает представления о зрении.

Что нового?
Группа исследователей впервые создала детализированную карту фовеолярной коры — участка мозга, который отвечает за центральное зрение (правда у обезьян).

С помощью оптической микроскопии, магнитно-резонансного картирования и автоматизированного анализа данных исследователи описали:

✏️ Трёхмерное распределение нейронов в фовеолярной коре.
✏️ Связи с другими зонами мозга, включая первичную зрительную кору.
✏️ Ответы нейронов на стимулы, имитирующие работу фовеолы — световые пятна, контрастные линии и динамические объекты.

Эти данные собирались на приматах с использованием микроскопических электродов, которые записывали активность каждой отдельной клетки в фовеолярной области коры и это круто.

Зачем это нужно?
Для нейроинженеров — это как получить детальную инструкцию к сборке мозга. Теперь мы больше знаем, как связаны центральное зрение и мозг, и это прямо влияет на развитие ELVIS V. Например:

✏️ Точная настройка электродов: знаем, где и как стимулировать, чтобы человек видел контраст, а не светящиеся "галлюцинации".
✏️ Оптимизация передачи данных: сигнал от камеры или сенсоров в реальном времени можно настроить так, чтобы он как бы соответствовал алгоритму обработки мозга.
✏️ Создание реабилитационных программ: теперь мы больше понимаем, как мозг "учится" видеть, и можем встраивать эти процессы уже на этапе проектирования устройства.

Больше возможностей для ELVIS V и не только
Исследователи показали, что фовеолярная кора может усиливать сигнал через связи с соседними областями мозга. Например, при предъявлении высококонтрастного стимула активность увеличивалась в 1,5 раза, а при движении объекта по центральному полю — в 2 раза. Это позволяет предположить, что правильно настроенные сигналы могут активировать больше, чем просто фовеолярную область, обеспечивая лучшее восприятие движения и глубины.
Для будущих пациентов это означает, что уже сейчас в технологию можно заложить функционал для работы с цветом, движением и даже пространственным восприятием, а это та еще задачка 🤓

Чем больше мы понимаем мозг, тем больше возможностей можем заложить для будущих пациентов. В конце концов, наука — это всегда о том, чтобы сделать вчерашнюю фантастику завтрашней реальностью.

#имплант #мозг #elvis #обезьяна

👾 Роботы против катаракты: как технологии меняют офтальмологию

Выше писал про роботов и лазерную коррекцию, но это не все! 😂 В мире, где даже холодильники умеют заказывать молоко, роботизированная хирургия катаракты кажется логичным шагом. Представьте: робот, способный делать сверхточные разрезы и не жалующийся на усталость. Идея красивая, но насколько она реальна?

Роботов не сегодня придумали и вот кто больше всего воду мутит:

😶 Horizon Surgical Systems: Создают систему Polaris — роботизированную платформу, которая интегрирует визуализацию и искусственный интеллект.

😶 Preceyes: Нидерландская компания разрабатывает роботов для операций на сетчатке. Если вы думали, что это сложно, они готовы показать, что нет ничего невозможного.

😶 ForSight Robotics: Израильский стартап с системой ORYOM, обещающей революцию в офтальмологии.

Остановимся подробней на Polaris: потому что у них картинки красивые 😊 да и кажется неплохо продвинулись, вот презенташка. Это робот, который может выполнять почти все этапы операции по удалению катаракты. Это означает, что хирург теперь играет роль наблюдателя, доверяя роботу разрез роговицы, экстракцию хрусталика и установку ИОЛ. Все это с использованием AI и визуализации.

Horizon привлекла 30 млн баксов на разработку Polaris, что подтверждает интерес к таким технологиям. Робот уже успешно проходит тестирование, но остается вопрос: готовы ли пациенты доверить свои глаза машине, а не человеку?

Проблемы и перспективы
Роботизированная хирургия обещает снизить риски и повысить предсказуемость результатов. Но прежде чем хирурги начнут массово дружить с роботами, предстоит решить несколько вопросов. Например, как снизить стоимость технологий, чтобы они не стали роскошью для избранных? Их посыл как раз сделать операцию дешевой. Или как убедить хирургов и пациентов в том, что Polaris не только умный, но и надежный?

Несмотря на очевидные сложности, роботизированная хирургия катаракты — это впечатляющий шаг вперед. Если Polaris и его конкуренты оправдают ожидания, то офтальмология может стать первой областью, где роботы заменят людей не просто с целью автоматизации, но и ради улучшения качества медицины.

#робот #ии #демчинский #катаракта

Раритет какой нарыл, это 16 год, моя первая визитка, такая богемная жесть ✨