⚡️ Bad News: Министерство финансов США запретит предоставлять любые виды услуг в сфере ПО и IT в России, даже для физ. лиц.

Решение вступает в силу 12 сентября 2024 года. Это что получается, отвалится Github, Kaggle и Colab?

Линус Торвальдс, создатель Linux, дает свой неположительный отзыв на Nvidia, 2012 год. Досматриваем до 19 секунды.

Тем временем Nvidia в 2024: 🤩

⚡️ Внимание: инсайдеры только что опубликовали новый секретный логотип Apple Intelligence.

Anthropic рассказали, как и зачем они сделали Claude моделью с характером

Компания недавно выпустила подкаст с разработчиками Claude – Амандой Аскелл и Стюартом Ричи. Самое интересное:

⚪️ Claude 3 – первая LLM, в которой заложена собственная личность и характер.

⚪️ Воспитание характера было частью процесса alignment'а на этапе файнтюнинга и RLHF.

⚪️ С такими моделями, по мнению разработчиков, пользователям общаться привычнее и легче. Они видят в них компаньонов и помощников, а не поисковых роботов.

⚪️Основной проблемой внедрения "характера" стало то, что моделью могут пользоваться люди с разными традициями, политическими и религиозными взглядами и тд. А если у модели есть личность, то, конечно, всем сразу она мила не будет. Что делать?

⚪️ В итоге Claude не избегает обсуждение ценностей, но и не соглашается со всем подряд. Если озвученное сождение не совпадает с его "мировозрением", то он прямо (но деликатно) об этом говорит.

Советуем послушать подкаст полностью – там еще много деталей. А пока оставим на рассуждение вопрос: должна ли модель вообще иметь личность и характер, или ее роль – просто утилита без своего мнения?