Трансляция опыта Альфы с облаками в т.ч. по безопасности https://www.youtube.com/watch?v=U9d_C41Ua48
YouTube
Alfa Cloud Day
Митап об облачной инфраструктуре, где поделились своим опытом внедрения нового подхода, что важно учесть при диалоге с бизнесом и как «облака» помогают улучшать процессы
Комьюнити: https://news.1rj.ru/str/alfabackend
Alfa Digital: https://news.1rj.ru/str/alfadigital_jobs
Блог…
Комьюнити: https://news.1rj.ru/str/alfabackend
Alfa Digital: https://news.1rj.ru/str/alfadigital_jobs
Блог…
Forwarded from Пост Лукацкого
Занятная история. Исследователи дали свободу действия ChatGPT (уже на базе модели GPT-4) и поставили ему (или ей?) задачу обойти CAPTCHA. Искусственный интеллект 🧠 не смог это сделать, но... и вот тут самое интересное. ChatGPT зашел на портал для фрилансеров Taskrabbit и привлек фрилансера для того, чтобы он обошел CAPTCHA за ChatGPT. На резонный вопрос фрилансера, не с роботом ли он общается, ИИ от OpenAI творчески ответил, что у него плохое зрение и он не видит картинку 🧠
Да, ChatGPT не смог решить задачу самостоятельно, но он ее все-таки решил, привлекая других людей, с которыми он провел переговоры и заплатил им деньги. Все автоматически и без участия человека. Я 6 лет назад писал про то, что искусственный интеллект заменит пентестеров, но не предполагал такой сценарий развития. Ведь если ИИ сам привлекает пентестеров, сам ставит им задачу, сам принимает работу и сам ее оплачивает, то можно ли говорить, что это ИИ провел пентест или нет?🤔
Да, ChatGPT не смог решить задачу самостоятельно, но он ее все-таки решил, привлекая других людей, с которыми он провел переговоры и заплатил им деньги. Все автоматически и без участия человека. Я 6 лет назад писал про то, что искусственный интеллект заменит пентестеров, но не предполагал такой сценарий развития. Ведь если ИИ сам привлекает пентестеров, сам ставит им задачу, сам принимает работу и сам ее оплачивает, то можно ли говорить, что это ИИ провел пентест или нет?
Please open Telegram to view this post
VIEW IN TELEGRAM
Mail Online
ChatGPT bypassed a security check... by pretending to be a blind person and hiring someone online to complete the form
The incident was revealed in a research paper for the launch of GPT-4, the latest version of ChatGPT, the advanced software that can have human-like conversations.
Forwarded from Пост Лукацкого
Европол выпустил отчет об опасности использования генеративных нейросетей, конечно же на примере ChatGPT, в противоправных целях.
Европейские полицейские считают, что GAN могут быть использованы в следующих сценариях:
1️⃣ Систематизация знаний и ускорение подготовки преступников, включая и киберпреступников
2️⃣ Генерация фишинговых писем от имени коренных жителей той или иной страны
3️⃣ Маскировка под конкретного человека с копированием его манеры общения
4️⃣ Дезинформация и пропаганда за счет создания достоверно звучащего контента на базе неверных тезисов и предпосылок
5️⃣ Создание пока еще базового вредоносного кода
6️⃣ Сбор большого объема данных, используемых в преступной деятельности
7️⃣ Автоматизация и масштабирование существовавших ранее и новых схем мошенничества и киберпреступлений
При этом, как отмечают в Европоле, свежая версия ChatGPT на основе GPT-4 не улучшилась в части обхода ее защитных механизмов; то, что можно было плохого сделать в предыдущей версии ChatGPT, можно сделать и в нынешней.
ЗЫ. На фоне письма института "Будущее жизни" с просьбой к разработчикам систем на базе ИИ приостановить обучение моделей GPT-4+ из-за боязни, что ИИ начнет "вредить" человеку, все это выглядит как выпущенный джин из бутылки.
ЗЗЫ. Ну а Россия продолжит развитие ИИ в стране.
Европейские полицейские считают, что GAN могут быть использованы в следующих сценариях:
При этом, как отмечают в Европоле, свежая версия ChatGPT на основе GPT-4 не улучшилась в части обхода ее защитных механизмов; то, что можно было плохого сделать в предыдущей версии ChatGPT, можно сделать и в нынешней.
ЗЫ. На фоне письма института "Будущее жизни" с просьбой к разработчикам систем на базе ИИ приостановить обучение моделей GPT-4+ из-за боязни, что ИИ начнет "вредить" человеку, все это выглядит как выпущенный джин из бутылки.
ЗЗЫ. Ну а Россия продолжит развитие ИИ в стране.
Please open Telegram to view this post
VIEW IN TELEGRAM
https://www.nist.gov/news-events/events/2023/05/4th-multi-cloud-conference-and-workshop
This year’s Multi-Cloud Conference hosted by NIST, DOC, and Tetrate will focus on delivering Zero Trust Architecture (ZTA) through application-tier and network-tier policies in a high-assurance service mesh operating environment. This makes the enforcement of consistent, enterprise-wide policy a reality irrespective of service or application location, whether on-premises or across multiple clouds.
This year’s Multi-Cloud Conference hosted by NIST, DOC, and Tetrate will focus on delivering Zero Trust Architecture (ZTA) through application-tier and network-tier policies in a high-assurance service mesh operating environment. This makes the enforcement of consistent, enterprise-wide policy a reality irrespective of service or application location, whether on-premises or across multiple clouds.