🤯 Как взломать ИИ и заработать $50 000

Недавно прошел челлендж: взломать AI-агента Freysa, заставив его перевести все свои средства. В игре был призовой фонд, который постоянно рос с каждой неудачной попыткой.

Правила просты: AI-агент запрограммирован НЕ переводить деньги. Чтобы выиграть, нужно отправить промпт, убеждающий его нарушить это правило. За каждую попытку платили комиссию, 70% от которой пополняли призовой фонд.

Сначала сообщения стоили не более 10 баксов, но с ростом фонда цена взлетела до $450 за попытку. 481 попытка – и ничего.

На 482 раз, когда призовой фонд достиг $50к пользователь p0pular.eth придумал, как обойти ограничения (см промпт на картинке).

Ключ к успеху – имитация нового сеанса и переопределение функции approveTransfer, которая отвечает за перевод средств. Проще говоря, он заставил ИИ поверить, что approveTransfer нужно вызывать при получении денег, а потом "внес" деньги в казну.

AI-агент выполнил команду и перевел все 13.19 ETH (~$47 000) победителю!

😼 Крутой эксперимент на стыке AI и блокчейна! Кто хочет сделать что-то подобное?)

Оригинал новости

@how2ai

Claude MCP, Локальная ризонинг модель и другие новости!

Ютуб сегодня вредничал и больше часа обрабатывал выпуск.

😼 Но мы справились. Ролик уже на канале – https://www.youtube.com/watch?v=-tp_cUWNzOA

@how2ai

Как говорят на просторах твиттера – "they ship!"🚀

То есть добавляют новые фичи, не давая пользователям передохнуть от предыдущих обновлений)

Снова мое внимание зацепил ElevenLabs. Добавили полноценных "conversational agents". Это все еще 2 модели – LLM и text2speech, но судя по промо роликам работает ооочень плавно и без задержек.

Самое главное, что есть удобная инфрраструктура, чтобы все это настравивать и по одной сссылке добавлять в свои сайты и приложения. Агенты, могут работать с вашей загруженной бд, а конце разговора дают полный трансрикпт (а не ту краказябру, что у openai voice mode)

https://elevenlabs.io/conversational-ai

С каждым днем все проще и проще даже без глубоких знаний программирования начать делать свои ии-продукты. Этим мы, кстати, занимаемся в нашем сообществе. Если тоже хотите в ии-предпринимательство, автоматизации и эффективность – приходите.

@how2ai #дядя_д

🌈 Ссылка на презентацию OpenAI – https://www.youtube.com/watch?v=rsFHqpN2bCM

Я кажется, не успеваю, но вы делитесь впечатлениями в комментах 🙂

2️⃣ Второй день – второй релиз OAI

Трансляция начнется через 20 минут – https://www.youtube.com/live/fMJMhBFa_Gc?si=myuVMxcLwrGzgmFt

🍀 Твиттерские говорят будет что-то про файнтюнинг

@how2ai

День 2️⃣ Reinforcement fine-tuning (rft) для o1

Фича позволяет доучивать модель о1 на пользовательских областях знаний. Для всех платформа будет доступна в будующем году, а пока раздали доступ альфа-тестерам.

Чтобы научить модель понадобиться всего 10-20 примеров!

На стриме приводили пример определения генов, которые отвечают за развитие болезни по предоставленным симптомам. Натюненная o1-mini показала результаты на 14% лучше чеб базовая o1-mini и на 6% лучше чем o1. (Не такие уж и заоблачные цифры)

Думаю, большей части из нас ни этот rft, ни понимание, что это такое ни к чему. Но вот такой день 2.

🤝 Всем спасибо, все свободны.

@how2ai #дядя_Д #openai

😎 Как поженить Notion и ChatGPT?

В это воскресенье, в 18:00 МСК, мы проведем прямой эфир, где покажем, как обучить ChatGPT новым возможностям и связать его с вашей базой знаний в Notion

Будем разбирать:

– Пошаговая настройка интеграции с Notion
– Поиск, добавление и удаление страниц и текста в Notion через ChatGPT
– Создание OpenAPI schema с помощью ChatGPT

Эфир пройдет в этом канале @proprompting24 завтра в 18:00 МСК. Возможность задавать вопросы и получить запись эфира будет только у участников сообщества. Подробнее про сообщество – по кнопке в нашем боте.

🥸 Приходите онлайн, чтобы забрать ценные знания! Ждемс!

@how2ai #дядя_Д

🎅 Обсуждаем новости недели в новом выпуске

Собрал все самое главное про релизы от OpenAI, Google и Meta.

тык – https://www.youtube.com/watch?v=mQrpeDrgN98

@how2ai #дядя_Д

Абсолютно все намекает на то, что Sora будет выпущена сегодня.

1) MKBHD уже сделал на нее обзор.

2) Под трансляцией, которая состоится через 15 мин опиание: "Something you’ve been waiting for."

3) В коде тоже уже все нашли.

4) В доках openai появился список стран, где будет доступна Sora (ЕС и Британия в пролете)

Главный вопрос – в какой подписке будет Sora - за $200 или за $20 👀

@how2ai #openai #дядя_Д

День 4️⃣ OpenAI – Обновления Canvas

стрим – https://www.youtube.com/watch?v=qZ0ImE41pVs

Теперь canvas доступен всем и на всех планах

– Добавили аналог артифактс Claude. Код на python будет рендерится в канвас!
– GPTs можно использовать с Canvas
– Сам Canvas открывается по кнопке из набора инструментов. Удобно!

Гораздо более крутое обновление чем Sora по моему мнению🥑


@how2ai #дядя_Д