Очередная серия алгоритмической антиутопии от Amazon. Компания оснастила автомобили доставщиков умными камерами, которые следят за тем, как ведут себя водители. Не пристегнулся — штраф, проехал знак "Стоп" — штраф, резко затормозил — штраф. Штрафуют даже когда машину подрезают на дороге (за несоблюдение дистанции) и когда водитель смотрит в боковое зеркало (за то что не смотрит на дорогу). Камеры-надзиратели ругаются на несчастных водителей по любому поводу, те страдают и получают штрафы ни за что, зато у Amazon выросла эффективность доставки.

Как и в предыдущей подобной истории, алгоритм работает неидеально, но компании это выгодно на большом масштабе. А то, что страдают обычные водители-подрядчики... ну, у них в этой ситуации мало прав, к сожалению.

Кого заменит искусственный интеллект?

Послушайте третий эпизод подкаста "Антропоген". В этом выпуске речь идет о том, как исторически капитал стремится заменить людей машинами, каким образом искусственный интеллект влияет на рабочие места и нестабильную занятость, как он может сказаться на будущих экономических кризисах, а также о парадоксе "последней мили" автоматизации — когда люди обучают ИИ, который должен их заменить.

Содержание

1:35 Волны автоматизации и технологическая безработица.
2:30 Внедрение механизмов ведет к интенсификации труда и усилению эксплуатации.
3:07 Как механизация капитала провоцирует периодические кризисы.
4:38 Рабочий меняется местами с машинами — рабочий как автомат.
5:10 «Фрагмент о машинах» Маркса.
5:43 Как автоматизация подрывает стоимость, а капитал подчиняет себе труд?
6:18 ИИ как автономизирующая сила капитала.
7:22 Использование машин для интенсификации труда сегодня.
8:03 «Возьмется ли робот за мою работу?»
8:35 Какие рабочие места создает автоматизация и почему они менее комфортны и хуже оплачиваются?
8:57 Корпоративный интерес к ИИ как ответ на кризис глобализации.
9:20 Дни дешевой рабочей силы позади.
10:10 Как «война с террором» подтолкнула развитие ИИ?
10:40 Как оружие новой «холодной войны» вернулось на передовые рубежи противостояния капитала и труда
10:54 Искусственный интеллект как надзиратель.
11:30 Отделы кадров корпораций одержимы people analytics, количественная оценка работниц.
12:30 Почему мониторинг человеческой работы важен для развития ИИ.
14.19 Как гиг-экономика порождает прекарную занятость?
15:03 Зависимость ИИ от онлайн-микроработы,
16:55 Зависимость «автоматизированных» систем от человеческого труда.
17:22 Быстрое создание и разрушение временных рынков труда в рамках цикла создания ИИ
18:05 Программисты и специалисты по обработке данных для обучения ИИ тоже могут остаться без работы.
18:45 ИИ важен для алгоритмического управления платформенным капитализмом. Казуализация. Uber как пример такой компании.
19:50 ИИ окажет понижательное давление на заработную плату и условия труда.

Этот эпизод, посвящённый искусственному интеллекту в цифровом капитализме, записан по мотивам книги «Нечеловеческая сила» (Inhuman Power), вышедшей в британском независимом издательстве Pluto Press в 2019 году. У книги трое соавторов: Ник Дайер-Уитфорд, Атле Миккола Кьёсен и Джеймс Стейнхофф.

У MIT Technology Review закончился второй сезон подкаста In Machines We Trust, посвященный проблеме использования искусственного интеллекта при приеме на работу. У нас пока это все известно на уровне "бигдаты в Xsolla", но наверняка западные практики скоро будут адаптированы в большинстве компаний, если еще не.

ИИ для большого количества корпоративных работодателей сейчас выполняет функцию гейткипера, отслеживающего на собеседованиях неизвестное для претендента количество метрик неизвестным образом. Вероятность успешного прохождения через ИИ (к этапу общения с человеком) у соискателей с подходящими позициями в резюме в целом сползает к отметке в 40%. Машина заставляет проходить игроподобные и геймифицированные тесты, включая тетрис, задает вопросы в духе "вспомните ситуацию, когда вы..." и улавливает малейшие шероховатости в поведении, недостаток софт-скиллов — натуральный Войт-Кампф для людей. Особенно популярна у многих фирм игра с надуванием шариков на очки, в которой проверяется умение управлять рисками и оценивать ситуацию по ходу игры (шарики одного цвета лопаются быстрее, чем другие). Разработчики таких систем хвалятся, что им, например, достаточно 30 секунд живой речи, чтобы определить, подходит ли кандидат. Из аргументов в пользу такой автоматизации чаще всего упоминаются отсутствие ангажированности, прием на работу людей, на которых рекрутеры не обратили бы внимание, объем обработки.

Теперь важно не столько показать себя с лучшей стороны, сколько иметь подходящего цифрового двойника и хорошие профили в соцсетях. В плане оценки текста ИИ пока все еще работает как идеально обученный «эффективный идиот», так что шансы выше будут у кандидатов, описывающих себя простым языком и определенными словами с кучей цифр ("повысил производительность труда на 147,73%"). Сложный текст выбивается из идеальной модели и может помешать получению работы. Худшее для кандидатов состоит в том, что машина не дает никакого фидбэка, что именно стоит поменять.

Как этому противостоять

На собеседовании с ИИ некоторые соискатели стали использовать свои deepfake-копии, которые справляются лучше оригиналов (тут впору вспомнить жижековский анекдот про устройства и удовольствие от общения). Если не хватает каких-то навыков, требуемых для работы, их прописывают шрифтом фонового цвета — чаще всего белым. ИИ все равно считывает их, а рекрутер-человек полагается на работу машины и редко перепроверяет ее. В ходе экспериментов выяснилось, что совсем необязательно отвечать на вопросы во время тестов: уверенное чтение случайной вики-статьи на немецком дало соответствие в 73%, на китайском — 80%. Пользоваться готовыми распространенными шаблонами не стоит, так как они плохо парсятся ИИ, что дает те самые 40%. Еще полезно потренироваться на платформах вроде VMock — если вы скоро заканчиваете учебу, сейчас самое время. Еще советуют во время записи смотреть в камеру, не на экран. Такая физиогномика.

Таймкоды эпизода "Кого заменит искусственный интеллект?"

1:35 Волны автоматизации и технологическая безработица
2:30 Внедрение механизмов ведет к интенсификации труда и усилению эксплуатации
3:07 Как механизация капитала провоцирует периодические кризисы?
4:38 Работни_ца меняется местами с машинами — рабочий как автомат
5:10 «Фрагмент о машинах» Маркса
5:43 Как автоматизация подрывает стоимость, а капитал подчиняет себе труд?
6:18 ИИ как автономизирующая сила капитала
7:22 Использование машин для интенсификации труда сегодня
8:03 «Возьмется ли робот за мою работу?»
8:35 Какие рабочие места создает автоматизация и почему они менее комфортны и хуже оплачиваются?
8:57 Корпоративный интерес к ИИ как ответ на кризис глобализации
9:20 Дни дешевой рабочей силы остались в прошлом
10:10 Как «война с террором» подтолкнула развитие ИИ?
10:40 Оружие новой «холодной войны» вернулось на передовые рубежи противостояния капитала и труда
10:54 Искусственный интеллект как надзиратель
11:30 Отделы кадров корпораций одержимы people analytics, количественная оценка работниц
12:30 Почему мониторинг человеческой работы важен для развития ИИ
14.19 Как гиг-экономика порождает прекарную занятость?
15:03 Зависимость ИИ от онлайн-микроработы
16:55 Зависимость «автоматизированных» систем от человеческого труда
17:22 Быстрое создание и разрушение временных рынков труда в рамках цикла создания ИИ
18:05 Программисты и специалисты по обработке данных для обучения ИИ тоже могут остаться без работы.
18:45 ИИ важен для алгоритмического управления платформенным капитализмом. Казуализация. Uber как пример
19:50 ИИ окажет понижательное давление на заработную плату и условия труда

Фрэнсис Хоген выступила перед Комитетом по торговле Сената США в связи с "файлами Facebook". Хоген пересказала то, что было ранее опубликовано в WSJ, и ответила на вопросы сенаторов. Главный тезис Хоген: в Facebook знают о том, как соцсеть вредит обществу, но ничего с этим не делают — в приоритете у высшего менеджмента прибыль, а не общественный интерес. Хоген призвала к регулированию соцсети и поделилась своими идеями насчет того, как можно улучшить Facebook: поднять минимальный возраст пользователей Instagram до 18, запретить алгоритмическую ленту, основанную на вовлечении, и вернуться к хронологической. Судя по всему, за этим последуют новые слушания, уже с другими топ-менеджерами Facebook.

Подробнее: обзор от Кейси Ньютона, саммари от CNBC и полное видео из Сената.

В свежем номере NYRB вышел критический материал об искусственном интеллекте, который "явился нам не как бог из машины, а, скорее, как набор дегуманизирующих экстрактивистских практик, о которых большинство из нас даже не подозревает".

Среди прочего авторы издания рецензируют недавно вышедшую книгу "Атлас ИИ" исследовательницы Кейт Кроуфорд, которая вместе с Владаном Йолером делала несколько крайне интересных проектов об AI.

Об этой книге уже был один интересный перепост из соседнего канала. А саму книгу можно легко найти в сети.

На фоне последних скандалов вокруг крупнейшей соцсети журнал Time поместил на обложку окно подтверждения "Удалить Facebook?".

Глава Facebook Марк Цукерберг не в первый раз попадает на обложку журнала: например, в 2010 году Time назвал Цукерберга Человеком года. Со временем обложки с ним (а их было еще несколько), как и настроения редакции становились все более критичными.

Антропоген: Возможен ли капитализм искусственного интеллекта без людей?

Свежий эпизод подкаста "Антропоген" посвящен таким вопросам: при каких условиях капитализм искусственного интеллекта перестанет нуждаться не только в человеческом труде, но и в людях как таковых, сможет ли разумная машина вжиться в роль эксплуатируемого рабочего, возможен ли ИИ как основа более справедливого общества, и поможет ли ИИ остановить глобальное потепление?

1:46 Сможет ли капитал выжить в условиях повсеместной автоматизации и искусственного интеллекта?
2:16 Что будет, если появятся машины, обладающие общим интеллектом, как и человек?
2:47 Какие существа могут трудится? Можно ли отделить труд от сознания?
3:29 Кем будет разумная машина в общественной структуре?
4:26 Роботы Карела Чапека и принудительный труд
4:48 Несвободный труд разумной машины
5:30 «Безмолвное принуждение» экономических отношений по отношению к ИИ
5:48 Пролетаризация машин и превращение их в наемных рабочих
6:24 Революция роботов?
7:12 Освобождение и новое закрепощение разумных машин
8:14 Капитализм превратит в товар любые ресурсы, необходимые общему ИИ. Станут ли машины наемными работниками, а капитал автономным от людей?
9:28 Агентность людей и персонификация капитала
10:18 Парадокс перевернутого мира
10:47 Что может привести к капитализму без людей?
12:20 Может ли ИИ быть реапрориирован у капитализма? Левый акселерационизм.
14:19 ИИ нельзя отделить от капитала?
16:28 Капитал доминирует в развитии ИИ
16:54 Машинное обучение потребляет не только данные о труде, но и данные о других, более общих аспектах человеческого поведения
17:30 Роль соцсетей в интервенциях ИИ
17:59 Поможет ли ИИ предотвратить глобальное потепление?
19:32 ИИ - сугубо капиталистический проект?

Soundcloud
Apple Podcasts
Google Podcast

Фрэнсис Хоген, бывший продакт-менеджер Facebook, выступившая на прошлой неделе с разоблачениями в адрес компании и уже успевшая побывать на слушаниях в Конгрессе по этому поводу, отправляется на гастроли — в ближайшие недели она встретится с Facebook Oversight Board, независимый орган, который Facebook создал для контроля за модерацией в сети, а 25 октября даст показания на заседании комиссии по подготовке Online Safety Bill в британском парламенте.

В общем-то, ничего удивительного в этом нет — даже источники в Facebook соглашаются, что Фрэнсис говорит то, о чем внутри компании говорится уже давно, а во внешнем мире её показания и собранные документы ложатся на уже сформированное восприятие социальной сети и её роли в мире. Ведь Facebook действительно огромная сеть, она (вместе с другими соцсетями) действительно меняет мир, который не готов к этому, и история "успехов" сети в этом тоже не внушает доверия. Вспомним хотя бы Cambridge Analytica и выборы Трампа.
https://www.axios.com/facebook-whistleblower-oversight-board-uk-parliament-5bc9b7e9-0b66-4b63-a20c-ddce866c8777.html

На волне громких разоблачений Facebook заговорили о так называемом "платформенном социализме".

Под этим подразумевается введение интернет-кооперативов и децентрализованного управления данными, демократический контроль над организациями и цифровой инфраструктурой, а также избавление от зависимости от топ-менеджеров и боссов, заменяя "горизонтальным" управлением. При этом речь, по словам автора, не идёт о "национализации" компаний, и даже конкретно подчёркивается недопустимость вмешательства государства в управление этими кооперативами (иронично, что в статье идёт ссылка про "альтернативные методы управления" на... документ с сайта лейбористской партии). В пример приводится сервис Mastodon — альтернатива твиттеру с децентрализованными узлами сети, где свои правила модерации на каждом узле.

На бумаге звучит круто, но в реальности, на мой взгляд, слишком утопическая идея для глобального распространения. Во-первых, процесс отхода от крупных соцсетевых платформ будет очень болезненным, и немалая часть тупо этого не захочет. Во-вторых, сегодня крупные соцсети это ещё и СМИ, и большому количеству пользователей объективно удобнее иметь централизованный узел.

Однако я безусловно согласен с посылом, что сегодня корпорации устанавливают свои правила, как и государство, потому что корпорации стали микрогосударством, которые прежде всего заботятся о своём кармане, а не о вашей приватности. И с этим необходимо бороться.

А китайцы решили, видимо, продемонстрировать миру, что их хакеры готовы в любой момент пойти в атаку и оставить западную технологическую инфраструктуру в руинах.

На крупном китайском соревновании исследователи взламывали современные ключевые вещи в сфере технологий. И что бы вы думали? Пять раз взломали WIndows 10, 4 раза Ubuntu 20, 3 раза iOS 15, по 2 раза браузеры Safari и Chrome, по разу роутеры Asus.

Особенно стоит отметить взлом iOS 15, за который вручили 300 тысяч долларов. Дело в том, что найденные взломы iOS в прошлом году были использованы для кибершпионажа за уйгурами. Очевидно, что всё найденное товарищ Си и его товарищи приберегут для себя, чтобы использовать для государственного шпионажа или кибератак.

И чтобы продолжить историю с Китаем: департамент полиции Нью-Йорка, согласно порталу The Intercept, продолжает использовать дроны DJI для правопорядка, которые правительство признало "угрозой национально безопасности"

Здесь нужно пройтись по двум пунктам.

1) действительно ли эти дроны представляют угрозу безопасности? Ещё летом Пентагон провёл расследование и не выявил угроз для использования дронов DJI в государственных целях, однако минобороны практически послали Пентагон на три весёлых буквы и всё равно считают их угрозой нацбезопасности. Хотя могу их понять: сам Пентагон крупно обделался однажды с камерами видеонаблюдения. С другой стороны, сейчас в Китае действует закон о национальной разведке, по которому любой производитель устройств должен поддерживать работу разведки страны. Простым языком: если китайское правительство потребует от компании передать им все свои сохраненные данные или даже уязвимости, то те обязаны подчиниться. Однако пока что публичнл неизвестно о таких случаях (хотя не нужно быть наивным, чтобы понимать – такие вещи происходят всегда тайно).
Подводя итоги, теоретически это возможно, но железных доказательств случившихся прецедентов нет. Сами же DJI отрицают любые подобные обвинения, что вполне ожидаемо.

2) извечный вопрос приватности и необходимости их использования. Заверяют, что на камерах дронов нет "живой" системы распознавания лиц на ходу – однако! – сразу же идёт дополнение "можем извлечь статическое изображение лица и прогнать через систему". Другая проблема кроется в хранении данных – по словам адвокатов и активистов, раз уж дроны DJI могут быть использованы Китаем для шпионажа, то куча данных американцев окажется в руках зарубежного правительства, что окажется настоящей катастрофой. Но даже не это больше всего волнует, а сам факт слежки полицией за гражданами (дроны ранее уже применялись NYPD, о чём писали в New York Times). При этом в конгрессе сейчас на рассмотрении законопроект об ограничении использования дронов правоохранительными органами.

В общем, всё как всегда: хотят слежку и используют китайские продукты, потому что на другой стороне света собаку съели на массовой слежке за гражданами.

Модераторы Facebook, работающие через аутсорсера Accenture, сообщают о низких зарплатах и протестуют против неудовлетворительных условий труда, пишет The Verge.

Крупные технологические компании, такие как Facebook, часто передают функции модерации контента сторонним подрядчикам, и Accenture - одна из крупнейших компаний, занимающихся этим.

Ранее в материале The New York Times сообщалось о контракте на 500 миллионов долларов, заключенном между Accenture и Facebook на модерацию контента.

Несмотря на крупную сумму контракта, работницы
Accenture получают низкие зарплаты. Почасовая ставка в Accenture колеблется от 16,50 до 18,50 долларов, а модераторы на украинском и испанском языках находятся в нижней части этой шкалы. Они не получают премию в 2 доллара, которая предусмотрена для двуязычных модераторов, что уже привело к требованию равной оплаты труда в начале этого года. Хотя пока безрезультатно.

«В дорогих городах, таких как Остин (США), где цены выросли из-за присутствия компаний технологической индустрии, это намного меньше прожиточного минимума», - говорится в письме одного из модераторов. По оценке NYT, на каждого модератора контента из США Accenture получает 50 долларов в час.

Модераторы часто вынуждены иметь дело с неприятным и травмирующим контентом, который включает видео с изображением насилия, материалы сексуального характера и язык вражды. Юристы, подающие на соцсеть в суд, подсчитали, что у половины всех модераторов развиваются психические расстройства.

В ответ на жалобы Accenture предлагает своим сотрудникам пройти собеседование с лайф-коучем, тогда как в профессиональной психологической помощи им отказано.

Искусственный интеллект тоже занимается модерацией, но он имеет дело в основном с безобидными постами, сообщили собеседники издания. Самый тревожный контент достается модераторам-людям.

Вышел эпизод подкаста "Антропоген", посвященный кибервойне.

Почему Интернет становится все более милитаризированным? Как глобальное торжество капитализма породило кибервойну? Как логика кибервойны связана с неолиберализмом?

Выпуск построен как краткий обзор некоторых идей (хотя и далеко не всех) книги «Кибервойна и революция», североамериканских исследователей Ника Дайер-Уитфорда и Светланы Матвиенко. Их совместная работа вышла в издательстве Университета Миннесоты весной 2019 года.

Одно из ключевых положений книги состоит в том, что кибервойна – это не ошибка в логике глобального капитализма, а ключевая черта его хаотичного бессознательного. А главные причины милитаризации Интернета - это классовые конфликты, геополитическая динамика и агрессивный капитализм.

Авторы книги рассматривают кибервойну из теоретической перспективы, отсылающей к наследию Маркса и Лакана. С одной стороны, они уделяют внимание политэкономическому измерению — в форме классовых противоречий в глобальном высокотехнологичном капитализме. С другой, касаются психоаналитического аспекта -- как поля на котором эти противоречия заряжаются фантазиями и воображаемым, производят аффекты и капитализируются страхами и симптомами пользователей.

Google Podcasts
Apple Podcasts
Soundcloud

Вчера 17 американских изданий одновременно выпустили больше 20 материалов проекта The Facebook Papers. В расследовании участвовали The New York Times, The Wall Street Journal, The Washington Post, Bloomberg, Politico, NBC News, CNBC, CNN, The Verge, Wired и другие.

Краткий пересказ материалов дает TJ:

Facebook недостаточно модерировал контент, разжигающий ненависть или вражду. В 2019 году соцсеть создала непрозрачную систему модерации в странах, разделив их на четыре уровня, пишет The Verge. На «нулевом уровне» — США, Бразилия и Индия, которым отдаётся самый высокий приоритет с постоянным наблюдением за контентом. На «первом уровне» — Германия, Индонезия, Иран, Израиль и Италия. На «второй» поместили 22 страны, а на «третий» — все остальные страны;

В расследовании The Washington Post говорится, что основатель Facebook Марк Цукерберг сообщал недостоверные данные Конгрессу США. Он заявлял, что соцсеть удаляет 94% контента, пропагандирующего ненависть, в то время как во внутренних документах говорится всего о 5%;

В компании знали, что платформы Facebook используются для торговли людьми ради подневольного труда, однако проблему до сих пор окончательно не решили, пишет CNN. В отчётах Facebook говорится, что женщин, которых принудили к рабскому труду в частных домах, насилуют, избивают и лишают еды;

Компания неравномерно инвестирует в модерацию контента в разных странах, из-за чего, например, в Индии, Мьянме, в Шри-Ланке дезинформация распространяется быстрее, чем в западных странах.

Сотрудники Facebook призывали ужесточить контроль за ультраправыми консервативными источниками новостей в ленте, считая, что издания типа Breitbart представляют движения вроде Black Lives Matter в негативном свете. В расследовании The Wall Street Journal говорится, что правые издания — одни из самых популярных в соцсети, так что компания, пытаясь избежать критики, способствует продвижению ультраконсервативных сообществ и позволяет им обходить правила проверки фактов, а также публиковать ненадежный и оскорбительный контент;

Facebook и Цукерберг отрицают сведения из расследований, и заявляют, что продвигать негативный контент им невыгодно.

Несмотря на то, что многие комментаторы называют нынешние публикации внутренних документов "самым большим кризисом в истории Facebook", инвесторы предпочли не заметить новые утечки, поскольку компания показала неплохие финансовые результаты. В квартальном отчете Facebook показал прибыль $9,2 млрд (+18% год к году). Цифры месячной (2,91 млрд) и дневной (1,93 млрд) активной аудитории практически совпали с прогнозами. После выхода отчета котировки компании на расширенных торгах выросли на 3%.