Новая статья от Anthropic: спящие агенты

Хотя более точным названием для статьи было бы "Спящее зло". Anthropic известны тем, что вкладывают много сил в aligment своих моделей. Вот и в новом исследовании они решили проверить, насколько нас спасут методы современного обезопашивания моделей, если те задумают неладное.

Ответ: не спасут. Исследователи исскуственно добавили в модели "черный ход": этакий тумблер, переключающийся по триггеру (например, если в промпте есть определенное слово) и заставляющий модель выдавать намеренно плохие или опасные ответы. Затем провели Safety Training, направленный на искоренение такого ядовитого поведения модели. Как вы уже поняли, не сработало.

Модель продолжала реагировать на триггеры и вести себя "небезопасно". В некоторых случаях она даже научилась скрывать свою вторую сущность во время обучения, что создавало ощущение безопасности, но потом все равно подсовывала свинью.

Итак, первое: мы обречены. Второе: не показывайте эту статью Минобороне, а то точно запретят.

Котова

Недавно Илон Маск затвитил видео, на котором небезызвестный робот Optimus складывает футболку. Все были поражены: какая точность движений! Восторги продолжались до тех пор, пока Илон не добавил к твиту «important note»:

Optimus пока не может делать это автономно, но наверняка в будущем сможет сделать это полностью самостоятельно и в произвольной среде (чтобы ему не потребовались фиксированный стол с коробкой, в которой находится только одна футболка).

Другими словами, роботом управляли, и даже при этом условии выполнять такие действия он может только в строго определенной среде. К тому же, двигается он достаточно медленно…

Выпендреж провалился(

2 чит-листа по структурам данных

Скорее всего, если вы в каком-то виде занимаетесь данными, то постоянно будете иметь дело в разничными структурами, типа списков, стеков, очередей и так далее. Но часто их особенности забываются, и на этот случай мы нашли для вас целых два полноценных чит-листа:

1) Data Structures Reference. Здесь перечисленны все структуры данных с краткими определениями и визуализацией. Если нужны дополнительные сведения, можно кликнуть и получить сильные и слабые стороны структуры, фишки и связанные алгоритмы.

2) An Executable Data Structures Cheat Sheet for Interviews. Здесь, помимо общих сведений, есть еще код, дополнительные ресурсы для изучения и видеоуроки по каждой структуре.

Идеально для подготовки к собесу. Сохраняйте!

Когда читаешь буквально любую статью с формулами

Пятница! Ее нужно начинать с чего-то полезного, и у нас для вас как раз такой ништяк: на просторах Kaggle мы нашли супер-ликбез по NLP. Начиная с Word2Vec и GloVe, заканчивая BERT, Seq2Seq и механизмом внимания – подробно, структурировано и понятно. Полезно будет и тем, кто только начинает нырять в NLP, и тем, кто уже неплохо разбирается.

Путин выступил за увеличение приема студентов по направлениям ИИ

Наверное после общения с самим собой президент решил, что без этого никуда, и поручил Правительству России и крупнейшим тех-вузам обеспечить разработку и утверждение дополнительных профессиональных программ в области ИИ. Под раздачу попали МГУ, ИТМО, СПбГУ, МФТИ, ВШЭ и Сколковский институт науки и технологий.

Кстати, не только Netflix был пионером в области рекомендаций. Одними из первых также были исследователи из Amazon. В 1998 году основатель Amazon Джефф Безос заявил:

Если у нас есть 4,5 миллиона клиентов, у нас должен быть не один интернет-магазин, их должно быть 4,5 миллиона.

Вскоре маркетплейс запустил алгоритм, который анализировал истории покупок и формировал для пользователей рекомендации. С тех пор рекомендации компании быстро развивались. Они были первыми, кто внедрил коллаборативную фильтрацию.

Современный алгоритм Amazon работает следующим образом. Сначала он выбирает первый товар, затем анализирует, с каким товаром его покупают чаще всего, после чего составляет список сопутствующих товаров. Потом он учитывает, какие товары из списка покупатель уже приобрёл или отметил как «не интересующие» - и рекомендует то, что осталось.По данным международной консалтинговой компании McKinsey & Company, 35 процентов покупок на Amazon совершаются благодаря рекомендательным системам.

Кстати, вот тут амазон пишут про историю их рекомендаций, а вот тут – их оригинальная статья 2003 года, которая в 2018 (!) получила награду за актуальность.

Генеративная модель Сбера Kandinsky стала мировым лидером по темпу роста

А вот по популярности среди разработчиков заняла второе место — Stable Diffusion немного опередила отечественную нейронку. Рейтинг представил известный AI-ресурс с open source-решениями Hugging Face.

Еще разрабы Kandinsky впечатлили итогами 2023 года. В прошлом году нейросеть создала более 200 млн изображений для 12 млн юзеров.