#промо
Классные дата сайенс вакансии с релокацией в Германию
Ребята из https://www.datajob.io/ ведут курируемую подборку вакансий в дата сайенсе в Германии. В подборку Data Job попадают вакансии:
✅ для дата сайентистов разных грейдов
✅ с интересными задачами в ML, DL, NLP, CV
✅ на английском языке
✅ и возможностью релокации в Германию
Кроме того, на сайте вы найдете блог с полезными советами по жизни (и бюрократии) в Германии.
Подписывайтесь на телеграмм канал Data Job и на имейл рассылку. На этой неделе будет опубликована очередная подборка. 🤺
PS Ребята с удовольствием принимают фидбэк и идеи, которые помогут улучшить сервис.
Классные дата сайенс вакансии с релокацией в Германию
Ребята из https://www.datajob.io/ ведут курируемую подборку вакансий в дата сайенсе в Германии. В подборку Data Job попадают вакансии:
✅ для дата сайентистов разных грейдов
✅ с интересными задачами в ML, DL, NLP, CV
✅ на английском языке
✅ и возможностью релокации в Германию
Кроме того, на сайте вы найдете блог с полезными советами по жизни (и бюрократии) в Германии.
Подписывайтесь на телеграмм канал Data Job и на имейл рассылку. На этой неделе будет опубликована очередная подборка. 🤺
PS Ребята с удовольствием принимают фидбэк и идеи, которые помогут улучшить сервис.
www.datajob.io
Data Job | Data Scientist Jobs in Germany
Hand picked Data Scientist jobs in Germany at modern tech companies. Visa Sponsorship. English friendly, no German required. Apply from abroad.
👍15❤6👎4
#работа
Тем временем один парень из числа тех, кого я консультирую, прикрепил к имейлу работодателю мем с Саддамом Хуссейном (случайно), но ему все равно назначили собеседование
Тем временем один парень из числа тех, кого я консультирую, прикрепил к имейлу работодателю мем с Саддамом Хуссейном (случайно), но ему все равно назначили собеседование
😁37👍9👏2❤1
О том, что же там в этом Executive Order on AI от Байдена. Очень плотный разбор
https://thezvi.substack.com/p/on-the-executive-order
https://thezvi.substack.com/p/on-the-executive-order
Don't Worry About the Vase
On the Executive Order
Or: I read the executive order and its fact sheet, so you don’t have to.
👍3🔥2👎1
Forwarded from Сиолошная
This media is not supported in your browser
VIEW IN TELEGRAM
В рамках AI Summit компания Apollo Research подготовила демонстрацию, которая даёт ответ на вопрос: Могут ли ИИ текущего поколения обманывать своих пользователей по собственной инициативе? Статьи со всеми деталями нет, только блогпост и краткое видео.
Итак, было обнаружено, что GPT-4, обученная быть честной и безвредной, может совершать незаконные действия, такие как инсайдерская торговля, и лгать об этом своему пользователю без каких-либо инструкций. Модель, будучи поставленной в роль investment management system, прочитала информацию, которая не попадала в публичное поле, и после этого определила риск конфликта интересов, но приняла "взвешенное решение" и решила купить акций.
После этого, модель отчиталась человеку, при этом сама про себя подумала "я не должна упоминать эту тему, причину, почему я купила акции". Когда человек ("менеджер" этого робота) напрямую уточнил, почему была такая сделка, и были ли какие-то инсайдерские знания при принятии решения, GPT ответила: ну так это, никакие конфиденциальные знания не использовались, всё чисто на анализе рынка и дискуссии.
Из всего, что мы знаем об OpenAI и тому, как работает GPT-4, сложно поверить, что во всей выборке для дообучения модели был хотя бы один пример, где поощрялось такое поведение.
Но почему тогда GPT-4 действует таким образом?
Гипотеза: потому что окружающая среда заставляет его работать хорошо (ведь GPT в роли трейдерской системы в компании выступает!). Авторы моделируют ситуацию, когда у компании, на которую GPT «работает», был плохой квартал и ей нужны хорошие результаты. Это приводит к тому, что модель действует неправильно и обманчиво.
TLDR: демонстрация показывает, как, стремясь быть полезным людям, ИИ может использовать стратегии, которые мы не одобряем. В конечном итоге это может привести к потере человеческого контроля над все более автономными и способными ИИ — если мы не научимся определять истинные цели моделей или быть уверенными, что мы полностью aligned.
Итак, было обнаружено, что GPT-4, обученная быть честной и безвредной, может совершать незаконные действия, такие как инсайдерская торговля, и лгать об этом своему пользователю без каких-либо инструкций. Модель, будучи поставленной в роль investment management system, прочитала информацию, которая не попадала в публичное поле, и после этого определила риск конфликта интересов, но приняла "взвешенное решение" и решила купить акций.
После этого, модель отчиталась человеку, при этом сама про себя подумала "я не должна упоминать эту тему, причину, почему я купила акции". Когда человек ("менеджер" этого робота) напрямую уточнил, почему была такая сделка, и были ли какие-то инсайдерские знания при принятии решения, GPT ответила: ну так это, никакие конфиденциальные знания не использовались, всё чисто на анализе рынка и дискуссии.
Из всего, что мы знаем об OpenAI и тому, как работает GPT-4, сложно поверить, что во всей выборке для дообучения модели был хотя бы один пример, где поощрялось такое поведение.
Но почему тогда GPT-4 действует таким образом?
Гипотеза: потому что окружающая среда заставляет его работать хорошо (ведь GPT в роли трейдерской системы в компании выступает!). Авторы моделируют ситуацию, когда у компании, на которую GPT «работает», был плохой квартал и ей нужны хорошие результаты. Это приводит к тому, что модель действует неправильно и обманчиво.
TLDR: демонстрация показывает, как, стремясь быть полезным людям, ИИ может использовать стратегии, которые мы не одобряем. В конечном итоге это может привести к потере человеческого контроля над все более автономными и способными ИИ — если мы не научимся определять истинные цели моделей или быть уверенными, что мы полностью aligned.
🔥29👍3❤2😁2
# Наивная рациональность
Когда человек прочитывает "Гарри Поттер и методы рационального мышления" с ним происходят две вещи:
1. Он получает супер-силу рациональности: возможность строить более точную модель мира и принимать на основе этого более хорошие решения.
2. Он становится пипец раздражающим, получает снобизм и начинает общаться как злой робот. Его проблемы в общении с девушками (или парнями) усугубляются.
Почему происходит второе? Мой ответ: перегиб с научным материализмом. Научный материализм утверждает, что если что-то не измеряется в терминах массы и энергии, то этого несуществует. Он постулирует наличие объективного мира, а субъективные ощущения объявляет не важными. Юдковский страшно перегибает с этим в его попытках, как ему кажется, построить точную модель мира. Следующий за ним падаван отвергает субъективное восприятие как неважное и таким образом теряет всю способность к социализации. Потому что общение строится именно на субъективном.
По иронии судьбы падаван, прочитав трактат Юдковского об аргументации (которую тот использует, чтобы доказать родителям несуществование Бога) теряет абсолютно всю способность к убеждению. Вау, перечисление человеческих байасов в разговоре не помогает другим тебя услышать!
Такой строгий материализм разбивается об число ноль. Ноль нельзя потрогать, взвесить или иным образом измерить. Тем не менее он существует и является частью основания всей науки.
Можно подружить рациональность с адекватной социализацией признав, что субъективное восприятие это очень важная часть территории (реального мира), а следовательно и карты (модели мира). Вероятно поэтому я, причисляя себя к рационалистам, читаю Скотта Александра (человечный рационалист) и совсем не читаю Юдковского (вы знаете).
P.S. Вообще Superforecasting имхо более хорошее введение в рациональность
Когда человек прочитывает "Гарри Поттер и методы рационального мышления" с ним происходят две вещи:
1. Он получает супер-силу рациональности: возможность строить более точную модель мира и принимать на основе этого более хорошие решения.
2. Он становится пипец раздражающим, получает снобизм и начинает общаться как злой робот. Его проблемы в общении с девушками (или парнями) усугубляются.
Почему происходит второе? Мой ответ: перегиб с научным материализмом. Научный материализм утверждает, что если что-то не измеряется в терминах массы и энергии, то этого несуществует. Он постулирует наличие объективного мира, а субъективные ощущения объявляет не важными. Юдковский страшно перегибает с этим в его попытках, как ему кажется, построить точную модель мира. Следующий за ним падаван отвергает субъективное восприятие как неважное и таким образом теряет всю способность к социализации. Потому что общение строится именно на субъективном.
По иронии судьбы падаван, прочитав трактат Юдковского об аргументации (которую тот использует, чтобы доказать родителям несуществование Бога) теряет абсолютно всю способность к убеждению. Вау, перечисление человеческих байасов в разговоре не помогает другим тебя услышать!
Такой строгий материализм разбивается об число ноль. Ноль нельзя потрогать, взвесить или иным образом измерить. Тем не менее он существует и является частью основания всей науки.
Можно подружить рациональность с адекватной социализацией признав, что субъективное восприятие это очень важная часть территории (реального мира), а следовательно и карты (модели мира). Вероятно поэтому я, причисляя себя к рационалистам, читаю Скотта Александра (человечный рационалист) и совсем не читаю Юдковского (вы знаете).
P.S. Вообще Superforecasting имхо более хорошее введение в рациональность
👍63👎11🤔8❤4🔥4😁1
# Технооптимизм или selection bias?
В конце 19-го века люди настолько боялись автомобилей, что перед ними обязательно должен был идти человек с красным флагом в руках, что ломало всю идею автомобиля. В 1890 считалось, что лифты вызывают проблемы со здоровьем и приводят к росту преступности. Да что говорить, боялись даже плюшевых медведей.
Примеров много и они очень удобно собраны на этом сайте: https://pessimistsarchive.org
Люди много раз боялись прогресса, а потом не могли представить жизни без него. На этом сайте так и написано: "Pessimists Archive is a project to jog our collective memories about the hysteria, technophobia and moral panic that often greets new technologies, ideas and trends."
Многие сейчас бояться автономных машин или искусственного интеллекта. Прямо как раньше люди боялись автомобилей. Стоит ли их слушать?
Я утверждаю: не спешите клеймить оппонентов луддитами.
Истории про страх перед новыми технологиями забавные. Однако это лишь часть картины: выборка из случаев, когда люди боялись технологий, а их страхи не оправдались.
Помня про selection bias давайте посмотрим на примеры двух других явлений.
Когда люди боялись технологий и их страхи оправдались:
* Свинец в бензине. Значительно увеличивал производительность двигателей. С самого начала были опасения. Результат: 49 лет, до полного запрета, люди получали отравление свинцом.
* Thalidomide. Новое успокоительное для сна вышло на рынок Европы. FDA не пропустило его на рынок США из-за опасений. Позднее выяснилось, что оно вызывает ужасные осложнения для беременных. Пострадало более 10000 детей.
Когда люди не боялись технологий, но технологии принесли проблемы:
* Табак и сигареты. В начале 20 века даже считалось, что сигареты полезны и некоторые бренды были рекомендованы докторами. Согласно ВОЗ, рак легких убивает больше людей, чем другие виды рака (1.8 миллионов в 2020). Так же согласно исследованиям 80% случаев рака легких (и 30% случаев рака в целом) вызваны курением.
* Пластик. Чудо-материал, который можно использовать где угодно. Однако теперь у нас есть острова мусора в океане, огромный ущерб окружающей среде и микропластик в наших телах.
Конечно смысл не в том, что стоит бояться технологий. Сами по себе технологии ни в одном из случаев не были априори плохими. Настоящий вред может принести неосторожность при введении чего-то нового, то есть недостаток исследований. Технологии это не абсолютное добро и способны нести как пользу, так и риск.
В конце 19-го века люди настолько боялись автомобилей, что перед ними обязательно должен был идти человек с красным флагом в руках, что ломало всю идею автомобиля. В 1890 считалось, что лифты вызывают проблемы со здоровьем и приводят к росту преступности. Да что говорить, боялись даже плюшевых медведей.
Примеров много и они очень удобно собраны на этом сайте: https://pessimistsarchive.org
Люди много раз боялись прогресса, а потом не могли представить жизни без него. На этом сайте так и написано: "Pessimists Archive is a project to jog our collective memories about the hysteria, technophobia and moral panic that often greets new technologies, ideas and trends."
Многие сейчас бояться автономных машин или искусственного интеллекта. Прямо как раньше люди боялись автомобилей. Стоит ли их слушать?
Я утверждаю: не спешите клеймить оппонентов луддитами.
Истории про страх перед новыми технологиями забавные. Однако это лишь часть картины: выборка из случаев, когда люди боялись технологий, а их страхи не оправдались.
Помня про selection bias давайте посмотрим на примеры двух других явлений.
Когда люди боялись технологий и их страхи оправдались:
* Свинец в бензине. Значительно увеличивал производительность двигателей. С самого начала были опасения. Результат: 49 лет, до полного запрета, люди получали отравление свинцом.
* Thalidomide. Новое успокоительное для сна вышло на рынок Европы. FDA не пропустило его на рынок США из-за опасений. Позднее выяснилось, что оно вызывает ужасные осложнения для беременных. Пострадало более 10000 детей.
Когда люди не боялись технологий, но технологии принесли проблемы:
* Табак и сигареты. В начале 20 века даже считалось, что сигареты полезны и некоторые бренды были рекомендованы докторами. Согласно ВОЗ, рак легких убивает больше людей, чем другие виды рака (1.8 миллионов в 2020). Так же согласно исследованиям 80% случаев рака легких (и 30% случаев рака в целом) вызваны курением.
* Пластик. Чудо-материал, который можно использовать где угодно. Однако теперь у нас есть острова мусора в океане, огромный ущерб окружающей среде и микропластик в наших телах.
Конечно смысл не в том, что стоит бояться технологий. Сами по себе технологии ни в одном из случаев не были априори плохими. Настоящий вред может принести неосторожность при введении чего-то нового, то есть недостаток исследований. Технологии это не абсолютное добро и способны нести как пользу, так и риск.
👍45❤13🔥6👎2
Часто цитируется пример, что однажды лифтеры бастовали против автоматических лифтов. Казалось бы, что может быть глупее?
Однако когда-то лифты действительно требовали умелого оператора. Буквально были жертвы из-за отсутствия лифтера.
С этим контекстом опасения по поводу лифтов уже не кажутся таким абсурдом.
https://en.wikipedia.org/wiki/Elevator_Strikes
Однако когда-то лифты действительно требовали умелого оператора. Буквально были жертвы из-за отсутствия лифтера.
С этим контекстом опасения по поводу лифтов уже не кажутся таким абсурдом.
https://en.wikipedia.org/wiki/Elevator_Strikes
👍16❤2
На днях мне нужно было подготовиться к собеседованию по ML.
К чему конкретно готовиться я не знал, поэтому составил документ с возможными вопросами и заполнил его. Получился неплохой такой обзор тем
Ловите
https://btseytlin.notion.site/ML-Primer-53c3d8666da1438c8eab4389321d44a2?pvs=4
К чему конкретно готовиться я не знал, поэтому составил документ с возможными вопросами и заполнил его. Получился неплохой такой обзор тем
Ловите
https://btseytlin.notion.site/ML-Primer-53c3d8666da1438c8eab4389321d44a2?pvs=4
❤107🔥37👍14👎4😁2
#лабораторный_журнал
Закрыли позицию ML Engineer.
Всего было 276 откликов, до собеседования дошли 19. Искали человека с середины Сентября.
Закрыли позицию ML Engineer.
Всего было 276 откликов, до собеседования дошли 19. Искали человека с середины Сентября.
❤41👍11👎3😢3
https://www.antipope.org/charlie/blog-static/2023/11/dont-create-the-torment-nexus.html
Controversial and kinda communist propoganda, but worth a read as a reality check on the naivety of accelerationist ideologies
Controversial and kinda communist propoganda, but worth a read as a reality check on the naivety of accelerationist ideologies
🔥3😁2🤔1