Дождались! Сегодня стартует форум GIS DAYS 2025🔥

Все выступления спикеров можно будет увидеть онлайн, для этого подключайтесь в 13:00 к трансляции в нашей группе ВКонтакте: https://vk.com/video-194307926_456239663

Будет интересно!
#gis_days

⚠️ Федеральная служба по техническому и экспортному контролю (ФСТЭК) работает над созданием национального стандарта по безопасной разработке систем искусственного интеллекта. Новый документ должен восполнить пробелы в действующих нормах и учесть риски, характерные именно для технологий машинного обучения. Об этом заявил первый заместитель главы ведомства Виталий Лютиков на форуме BIS‑2025.

Речь идёт о регламенте, который дополнит существующие методики по защите программного обеспечения и сосредоточится на угрозах, присущих ИИ: уязвимости моделей, сложность валидации, воздействие на обучающие выборки, эксплуатация ложных выводов. Ожидается, что к концу 2025 года проект будет представлен экспертному сообществу для публичного обсуждения.

В мире уже существует свыше 150 отраслевых и региональных стандартов по безопасному использованию ИИ, но, по словам российских специалистов, документ, разрабатываемый ФСТЭК, должен иметь универсальный характер и подходить для широкого спектра применений — от госсектора до частного бизнеса.

🗣Специалист Аналитического центра кибербезопасности компании «Газинформсервис» Татьяна Буторина:

«Эта ситуация абсолютно характерная для нашего времени: стремительное развитие технологий ИИ опережает законодательные меры по их регулированию во всём мире, и Россия – не исключение. И хотя стандартов для ИИ уже существует свыше 150, законодательство в данной области только лишь развивается. Российский стандарт претендует в перспективе на то, чтобы стать универсальным и наиболее применимым ко многим отраслям.

Проблемы с ИИ сопровождают данные технологии с момента их возникновения, например, небезызвестные «галлюцинации нейросетей» и далее – отравление невидимыми промптами и обучение на некорректных данных. Для преодоления этих и подобных проблем и разрабатывается структурированный и подробный, методически выверенный документ. Необходимо учесть специфику именно технологий ИИ, так как стандарт по безопасной разработке программного обеспечения не включает в себя такой информации. Более того, технологии ИИ внедряются в госуправление и экономику, здравоохранение, промышленность и другие серьёзные сферы, где ошибки могут быть слишком критичными».

Полную статью можно найти здесь.
#gis_новости

▶️ Тринадцатый выпуск нашего подкаста уже доступен в VK, в YouTube и в Rutube.

👀 Переходите по ссылке, смотрите и оставляйте свои комментарии. Нам очень важно ваше мнение.

🗣 Гостями выпуска стали: Григорий Ковшов, руководитель службы маркетинга «Газинформсервис» и Сергей Никитин, руководитель отдела продуктов «Газинформсервис».

Обсудили с экспертами, как в 2025 году продвигать продукты на рынке информационной безопасности в России.