Речь идет о Google AI Overviews — функции поиска, которая показывает краткие ответы, сгенерированные ИИ. Они отображаются в верхней части страницы. Заверения Google о «полезности» и «надежности» его обзоров разбились о практику. Например, в случае с данными анализа печени система считала «нормальными» показатели без учета пола, возраста и этнической принадлежности пациента. А это необходимый контекст.

В Google удалили обзоры по конкретным запросам и отметили, что работают над системными улучшениями. Но точечные удаления — не решение проблемы. Даже при небольшом изменении формулировки в поиске вновь появляются вводящие в заблуждение ответы. Более того, алгоритмы упускают и то, что нормальные анализы не исключают наличия серьезного заболевания.

Решить эту проблему можно, говорит доцент кафедры организации и управления образованием РМАНПО Минздрава РФ, эксперт по внедрению ИИ в систему здравоохранения Евгений Машковский:

«Правильный путь — использование разных моделей генеративного ИИ. То есть в медицинских целях могут использоваться модели, которые обучены работать с медицинским массивом данных проверенных. Например, зарегистрированных как медицинское устройство. В России существуют такие модели. Например, GigaChat MAX, его медицинский домен, который сейчас активно развивается. Можно, скажем, сравнить: система общего характера — это как человек, который прошёл самообучение в библиотеке, прочитав всю медицинскую литературу, а специализированная система — это человек, который закончил мединститут. И тот, и другой человек могут интерпретировать какие-то медицинские данные-анализы-результаты, давать свои предположения, заключения, и тот, и другой человек могут ошибаться, но, естественно, тот человек, который закончил мединститут, с меньшей степенью ошибётся, потому что он к этому более подготовлен».

В ноябре прошлого года OpenAI запретила своей ChatGPT давать заключения по результатам анализов и исследований, а также смотреть медицинские снимки. Чат-бот все еще может предположить, с каким заболеванием связан тот или иной запрос и даже порекомендовать лекарства. А вот рентгеновский снимок он интерпретировать отказывается.

Возвращаясь к Google, без ответа остаются и вопросы к обзорам ИИ по темам, связанным с онкологией и психиатрией, которые эксперты назвали «совершенно неверными». В компании заявили, что обзоры содержали ссылки на авторитетные источники и призывы обратиться к специалисту, а внутренняя проверка не выявила неточностей. Но врачей это не удовлетворило, говорит врач-терапевт, кардиолог, медицинский блогер Филипп Кузьменко:

«Так же, как и ChatGPT пишет, что он может ошибаться, так же и человек должен понимать, что, заглядывая в интернет-сферу, в которой он не имеет ни малейшего понятия, может получить информацию ложную. То есть это всегда кот в мешке. Ознакомиться, получить какое-то общее представление о каких-то вещах, наверное, интернет можно использовать. Но когда человек делает долгоидущие выводы, исходя из той информации, которую он получил в интернете, а не от того специалиста, который ему назначил эти анализы, он, конечно же, очень сильно рискует. Это может реально повредить его здоровью. То, что это не нужно делать, я думаю, знают более-менее все, но все мы периодически не делаем то, что предписано делать, так сказать, правилами, даже если они не совсем писаны».

Правда, почти всем уже известно, что если просто погуглить симптомы, то с вероятностью в 99% найдешь у себя тяжелое заболевание. А вот чат-ботам порой доверяют больше, чем врачам. По крайней мере, пока.