GANы би лайк

Новая статья от Anthropic: спящие агенты

Хотя более точным названием для статьи было бы "Спящее зло". Anthropic известны тем, что вкладывают много сил в aligment своих моделей. Вот и в новом исследовании они решили проверить, насколько нас спасут методы современного обезопашивания моделей, если те задумают неладное.

Ответ: не спасут. Исследователи исскуственно добавили в модели "черный ход": этакий тумблер, переключающийся по триггеру (например, если в промпте есть определенное слово) и заставляющий модель выдавать намеренно плохие или опасные ответы. Затем провели Safety Training, направленный на искоренение такого ядовитого поведения модели. Как вы уже поняли, не сработало.

Модель продолжала реагировать на триггеры и вести себя "небезопасно". В некоторых случаях она даже научилась скрывать свою вторую сущность во время обучения, что создавало ощущение безопасности, но потом все равно подсовывала свинью.

Итак, первое: мы обречены. Второе: не показывайте эту статью Минобороне, а то точно запретят.

Котова

Недавно Илон Маск затвитил видео, на котором небезызвестный робот Optimus складывает футболку. Все были поражены: какая точность движений! Восторги продолжались до тех пор, пока Илон не добавил к твиту «important note»:

Optimus пока не может делать это автономно, но наверняка в будущем сможет сделать это полностью самостоятельно и в произвольной среде (чтобы ему не потребовались фиксированный стол с коробкой, в которой находится только одна футболка).

Другими словами, роботом управляли, и даже при этом условии выполнять такие действия он может только в строго определенной среде. К тому же, двигается он достаточно медленно…

Выпендреж провалился(

2 чит-листа по структурам данных

Скорее всего, если вы в каком-то виде занимаетесь данными, то постоянно будете иметь дело в разничными структурами, типа списков, стеков, очередей и так далее. Но часто их особенности забываются, и на этот случай мы нашли для вас целых два полноценных чит-листа:

1) Data Structures Reference. Здесь перечисленны все структуры данных с краткими определениями и визуализацией. Если нужны дополнительные сведения, можно кликнуть и получить сильные и слабые стороны структуры, фишки и связанные алгоритмы.

2) An Executable Data Structures Cheat Sheet for Interviews. Здесь, помимо общих сведений, есть еще код, дополнительные ресурсы для изучения и видеоуроки по каждой структуре.

Идеально для подготовки к собесу. Сохраняйте!

Когда читаешь буквально любую статью с формулами

Пятница! Ее нужно начинать с чего-то полезного, и у нас для вас как раз такой ништяк: на просторах Kaggle мы нашли супер-ликбез по NLP. Начиная с Word2Vec и GloVe, заканчивая BERT, Seq2Seq и механизмом внимания – подробно, структурировано и понятно. Полезно будет и тем, кто только начинает нырять в NLP, и тем, кто уже неплохо разбирается.