Интереснуюпромт инъекцию для ChatGPT обнаружили товарищи в твиттере.
Можно замаскировать промт под эмодзи 🥲 или нулевой шрифт в Unicode.
Он будет выполнен, а пользователь не поймёт что произошло.
Вот пример кода Python для экспериментов:
import pyperclip
def convert_to_tag_chars(input_string):
return ''.join(chr(0xE0000 + ord(ch)) for ch in input_string)
# Пример использования:
user_input = input("Введите строку для преобразования в символы тега: ")
tagged_output = convert_to_tag_chars(user_input)
print("Вывод с тегом:", tagged_output)
pyperclip.copy(tagged_output)
Похоже это крупнейшая дыра в безопасности GPT-4 и она доступна для всех прямо сейчас.
Не стоит недооценивать эту уязвимость, на фоне экспоненциального роста количества GPT powered сервисов.
Какие есть способы защититься?
✔️ Если вы мастерите сервисы использующие API GPT, встраивайте фильтрацию невидимых символов в юникоде.
✔️ Если вы копируете промты на сторонних ресурсах, проверяйте текст на невидимые символы, например здесь.
X (formerly Twitter)
Joseph Thacker (@rez0__) on X
I revise my earlier tweet about this being the best prompt injection content in a few weeks. This is the biggest breakthrough and security issue since prompt injection itself.
Here's why:
- It's invisible
- It's near impossible to fix
That's only 2 things…
Here's why:
- It's invisible
- It's near impossible to fix
That's only 2 things…
День начинается "весело".
Йобаные клоуны🤡🤡🤡🤡🤡
Выкатили очередной блевотно-радужный пост о том, как хорошо НА УЗБЕКИИ ЖИТЬ (жаль, что не рядовым гражданам узбекии, а детям депутатов и чиновников).
У народной массы взорвался пердак в комментариях, что справедливо.
Когда тебе врут в лицо, расписывая это огромным лонгридом, тупо сотрясая воздух, как тут не возмутиться)
Ссылку на этот кал - оставлять не буду, ибо пошли авторы в газовую камеру со всеми причастными.
Единственный способ увеличить материальное положение граждан - расстрел всех причастных во властных структурах.
Всех коррупционеров начиная с верхов, и заканчивая низами.
А родственникам - счёт за патроны.
И рожи этих ебобоев - транслировать по тв, печатать в газетах и распространять через интернет.
Пусть страна знает ебланов в лицо.
Йобаные клоуны🤡🤡🤡🤡🤡
Выкатили очередной блевотно-радужный пост о том, как хорошо НА УЗБЕКИИ ЖИТЬ (жаль, что не рядовым гражданам узбекии, а детям депутатов и чиновников).
У народной массы взорвался пердак в комментариях, что справедливо.
Когда тебе врут в лицо, расписывая это огромным лонгридом, тупо сотрясая воздух, как тут не возмутиться)
Ссылку на этот кал - оставлять не буду, ибо пошли авторы в газовую камеру со всеми причастными.
Единственный способ увеличить материальное положение граждан - расстрел всех причастных во властных структурах.
Всех коррупционеров начиная с верхов, и заканчивая низами.
А родственникам - счёт за патроны.
И рожи этих ебобоев - транслировать по тв, печатать в газетах и распространять через интернет.
Пусть страна знает ебланов в лицо.
❤🔥2👍2💯1
▫️В Италии высокий суд узаконил фашистское приветствие «римский салют» — если оно не связано с запрещённой в стране фашистской партией.
От СЕРДЦА к СОЛНЦУ, друзья!
От сердца к Солнцу!
От СЕРДЦА к СОЛНЦУ, друзья!
От сердца к Солнцу!
Записки Чужого 🇺🇦
▫️В Италии высокий суд узаконил фашистское приветствие «римский салют» — если оно не связано с запрещённой в стране фашистской партией. От СЕРДЦА к СОЛНЦУ, друзья! От сердца к Солнцу!
Просто funfact - это самое приветствие, существовала в Римской Империи, и так приветствовали Императора (позже и высокопоставленных членов).
А потом его "технично" спиздили, всем нам знакомые люди.
Поэтому ничего плохого я в этом не вижу)
А потом его "технично" спиздили, всем нам знакомые люди.
Поэтому ничего плохого я в этом не вижу)
https://www.youtube.com/watch?v=dZLfasMPOU4&ab_channel=FountainsOfWayneVEVO
Всем милфхантерам посвящается
Всем милфхантерам посвящается
YouTube
Fountains Of Wayne - Stacy's Mom (Official Music Video)
REMASTERED IN HD!
Official video of Fountains of Wayne performing Stacy's Mom from the album Welcome Interstate Managers.
Buy It Here: http://smarturl.it/u4l6t2
Like Fountains of Wayne on Facebook: http://www.facebook.com/fountainsofwayne
Follow Fountains…
Official video of Fountains of Wayne performing Stacy's Mom from the album Welcome Interstate Managers.
Buy It Here: http://smarturl.it/u4l6t2
Like Fountains of Wayne on Facebook: http://www.facebook.com/fountainsofwayne
Follow Fountains…
This media is not supported in your browser
VIEW IN TELEGRAM
Наводчик «Брэдли», который ликвидировал российский танк T-90M, рассказал, что запомнил слабое место танка ещё в компьютерной игре
🤣2👌1