The Atlantic: как на самом деле работают «голосовые помощники»

В вашем смартфоне есть «умный голосовой помощник», который реагирует на голосовые команды без дополнительного включения, скажем, «Привет Siri», или «Окей Google»? Возможно такие помощники есть в ваших часах, беспроводных колонках, ТВ-приставках и других умных устройствах? Поздравляем, вы окружены микрофонами, которые внимательно слушают разговоры 24 часа в сутки. Можно успокоить себя тем, что прослушиванием занимается компьютерная программа, но это не так: все крупные технокомпании - Google, Amazon, Apple - передают образцы синтезированной речи сотруднику-человеку, который оценивает корректность работы «робота-голосового ассистента».

Поэтому в следующий раз, когда захотите сходить к психоаналитику или провести бурную ночь любви - отложите гаджеты подальше. Или смиритесь с тем, что в вашей постели незримо присутствует кто-то ещё.

«Подрядчики Apple рассказали The Guardian, что они прослушивали обращения в том числе, когда Siri вызывали случайно, среди подобных казусов оказались сделка по покупке наркотиков, личный разговор с врачами и даже секс, когда на Apple Watch случайно вызвали Siri. Один подрядчик Microsoft рассказал, что слушал секс по телефону между парами, а также анализировал голосовые запросы для Cortana в поисках порно. Некоторые подрядчики Amazon указывают, что им случайно оказалась доступна запись, на которой можно идентифицировать сексуальное нападение. И Facebook не отстаёт. Иными словами, это не столько серия «скандалов», связанных с персональными данными, сколько результаты того, что пользователи практически не знают, как на самом деле работает технология голосовых помощников. Наши подслушивающие устройства сделали то, для чего они и были предназначены. Мы просто не поняли, кто нас слушает».

https://theidealist.ru/voiceassistants/

#TheAtlantic #технологии #Alexa #Siri #Cortana #Facebook #Apple #Google #Microsoft #ИИ

Майкл Нидермайер управлял дронами в Ираке, а теперь он удаленно “рулит” роботом-курьером, который доставляет буррито жителям Сан-Франциско.

Wall Street Journal рассказывает о профессии оператора роботов – человека, который сидит в офисе и отвечает за “автономность” беспилотника, т. е. помогает ему ориентироваться на местности и выполнять самые элементарные задачи.
Большинство работников получают скромную зарплату, но и серьезная квалификация им не требуется – достаточно владеть водительским удостоверением и обладать опытом в видеоиграх.

Большинство роботов-курьеров в США без помощи не справляются. Например, стартап Kiwi Campus платит $2 в час человеку, который управляет сразу тремя “кивиботами”. При этом робот не может даже забрать еду из ресторана – ее привозят обычные курьеры. На велосипедах и самокатах они доезжают до места встречи, где загружают еду в “кивибот”.

Стартап Postmates тоже нанимает операторов – в том числе бывших военных. Компания собрала штат сотрудников и обещает увеличить его в несколько раз в ближайшие пять лет.

Операторы также управляют роботами-охранниками Cobalt Robotics. Одна сотрудница рассказала WSJ, что она координирует несколько аппаратов в разных точках города. Для этого ей приходится работать в ночную смену по 8-12 часов.

Автономность робота оценивают по схеме 1 к N, где N – это число машин, которыми может управлять один оператор. Например, в компании по доставке дронами Flytrex это соотношение 1 к 1, и показатель вряд ли изменится в ближайшие 10 лет. Стартап работает в Исландии, поэтому на случай природных катаклизмов или извержений вулканов человек всегда должен контролировать ситуацию.

Без дистанционного управления не обходятся и робомобили – например, беспилотники Waymo и Nissan. Но эксперты считают такую идею безумной – кто будет отвечать, если произойдет авария из-за того, что соединение прервется и человек не успеет быстро среагировать?

Таких вакансий со временем станет больше и все чаще их будут отдавать на аутсорс в развивающиеся страны. Так что скоро пилоты дронов будут делить офисы с разметчиками данных и, скорее всего, получать примерно такую же зарплату.

Холивар. История Рунета. Фильм Андрея Лошака

Журналист Андрей Лошак снял документальный сериал «Холивар. История Рунета». Первая серия вышла на ютьюбе 5 сентября — в ней рассказывается о том, как русский интернет зарождался на базе ворованной американской операционной системы, а первые интернет-странички — на базе домашней страницы изобретателя HTTP Тима Бернерса-Ли.

Интервью с Лошаком о сериале на Медузе

Недавно Тристан Харрис выступал перед Сенатом США, в этом 15-минутном видео — главные тезисы. Поляризация общества как часть бизнес-модели интернет-компаний, неравномерное распределение власти в наших отношениях с техногигантами, два миллиарда кукол вуду на серверах Google и Facebook — и другие правильные вещи, о которых должен задумываться каждый сознательный пользователь технологий сегодня.

Если вы пропустили: программный доклад Харриса о том, как технологии расчеловечивают и отупляют пользователей. Смотреть (ну или хотя бы прочитать резюме) советую всем.

“The fundamental problem of humanity is that we have ancient paleolithic instincts, medieval institutions and godlike technology.” The point is, you can’t have chimps with nukes and regulate it with medieval 17th-century, 18th-century institutions.

Холивар. История Рунета.
Эпизод второй — «Контркультура: пАдонки, марихуана и Кремль»

Трудный подростковый возраст Рунета: два школьника запускают сайт фак.ру, на котором матерятся и коверкают слова. Хулиганская шутка дала жизнь целой культуре "падонкафф" – с их языком, мемами и офлайновыми оргиями.

Один из двух теперь живет в Лос-Анджелесе и развивает каннабис-блокчейн. Другой – Константин Рыков – стал одним из первых кремлевских пропагандистов в Рунете.
https://youtu.be/PeF8GmV9rXc

О том, какое количество наших данных попадает в руки правительств, ходят легенды. Яша Левин, американский журналист российского происхождения, решил разобраться, нет ли в подобных теориях хоть сколько-нибудь правды. Inc. публикует две главы его книги «Интернет как оружие», рассказывающие, как с личной информацией пользователей обращались основатели компании Google в самом начале ее истории.

https://incrussia.ru/understand/internet-kak-oruzhie/

фонд Carnegie подготовил большой доклад The Global Expansion of AI Surveillance https://carnegieendowment.org/2019/09/17/global-expansion-of-ai-surveillance-pub-79847

ключевое:
- технологии наблюдения с использованием искусственного интеллекта (ИИ) распространяются быстрее и шире, чем принято думать - их используют по меньшей мере 75 из 176 стран мира, которые изучались для подготовки доклада. эти технологии включают в себя платформы "умный город/безопасный город" (56 стран), системы распознавания лиц (64 страны) и "интеллектуальную полицию" (52 страны).
- лидером технологий наблюдения с ИИ является Китай. Huawei, Hikvision, Dahua и ZTE поставляют подобные технологии в 63 страны.
- Huawei поставляет технологии наблюдения с ИИ как минимум в 53 страны мира - ни одна другая компания не стоит рядом с ней даже близко. крупнейшим некитайским поставщиком таких технологий является японская NEC (14 стран).
- для покупки китайских технологий часто предлагаются льготные кредиты, особенно в странах Африки и Азии, которые иначе не смогли бы их купить
- американские компании также очень активны на этом направлении - американские технологии наблюдения с ИИ поставляются в 32 страны, крупнейшие поставщики IBM (11 стран), Palantir (9 стран) и Cisco (6 стран)
- основными пользователями технологий слежки с ИИ являются либеральные демократии: индекс Carnegie показывает, что их используют 51% "продвинутых демократий" и 37% "закрытых авторитарных государств" #surveillance

ок, еще интересное из доклада Carnegie - простите, он большой и интересный

про сравнительно новые автоматизированные системы пограничного контроля: по данным консалтинговой компании Accenture, такие системы используют "мультимодельное биометрическое сопоставление" - распознавание изображений лиц в сочетании с электронными паспортами или другими биометрическими документами.

процесс начинается, когда пассажир встает перед стеной с несколькими камерами. цифровые зеркала, расположенные рядом с камерами, привлекают внимание пассажиров для захвата изображения. те, кто не прошел автоматическую проверку, должны пройти вторичный осмотр с участием агентов-людей.

правительства внедряют в системы новые функции вроде технологий автоматического обнаружения лжи. ЕС тестирует технологию iBorderCtrl в трех странах - Греции, Венгрии и Латвии - для проверки мигрантов на пограничных переходах.

людям задают вопросы о странах, из которых они прибыли, обстоятельствах отъезда и так далее. затем ответы оцениваются системой обнаружения лжи на основе ИИ. люди, ответы которых система сочла честными, получают код для пересечения границы, другие передаются пограничникам для дополнительного опроса.

технология, лежащая в основе iBorderCtrl, основана на так называемом "распознавании аффекта", что подразумевает считывание выражений лица, на основе которых делается вывод об эмоциональном состоянии человека. психологи критикуют эти инструменты, говоря, что для точной оценки душевного состояния человека нельзя полагаться только на выражение лица, но правительствам технология нравится и они применяют ее все шире #voight #kampff

https://youtu.be/Umc9ezAyJv0

Замечали, как часто компании используют фотографии одних и тех же людей, выдавая их за пользователей и даже сотрудников? Сегодня условная “Виктория” присылает вам почтовую рассылку, а завтра – уже под другим именем – рекламирует популярный бренд.

Но зачем покупать фото в стоке, если можно сгенерировать лицо с помощью нейросети? По такой модели работает новый проект 100,000 Faces, который сегодня запустился на ProductHunt. Бесплатно любой может получить доступ к базе и скачать фотографии людей, созданных с помощью машинного обучения.

На платформе выложено 100 тыс. несуществующих лиц разного пола, возраста и этнической принадлежности. Разработчики самостоятельно снимали моделей для базы, на которой тренировался алгоритм. В основе лежат оригинальные снимки, а не чужие фотографий из соцсетей и фотобанков. Однако в реальности ни одного из людей не существует.

В базе, конечно, нужно покопаться – часть "снимков" выглядит пугающе, на других сразу бросаются в глаза искажения, но многие изображения выглядят абсолютно нормально. Лица можно использовать для презентаций, лендингов, почтовых рассылок, а также на сайтах и в мобильных приложениях.

100,000 Faces уже работает над API, который позволит генерировать лица самостоятельно и добиваться infinite diversity. Также стартап собирается запустить модельное ИИ-агентство. Клиенты будут присылать фотографии одежды, аксессуаров или гаджетов, а компания организует "съемки" вещей с виртуальными моделями.

Создание синтетических медиапродуктов on-demand, во-первых, экономит деньги, во-вторых, автоматически решает проблему с авторским правом, в том числе с правами модели. У виртуальной модели прав нет, а значит, ее снимки можно использовать без каких-либо ограничений. Так что через 5-7 лет весь интернет будет заполнен синтетическими медиа: фотографиями, текстами, аудио- и видеофайлами. Отличить фальшивое от реального будет сложнее, но ничего – скоро к этому все привыкнут.

Украинская киберполиция задержала группировку ботоводов. Узнал на фотографиях изъятого оборудования SIM-банки, специальные устройства для одновременного управления многими SIM-картами. Подключив такой банк к сети, можно массово регистрировать новые аккаунты, рассылать с SIM-карт сообщения — то есть, делать всё то, что вручную заняло бы в сотни раз больше времени. Я видел такую штуку на одном из мест работы — знакомый маркетолог с помощью такого банка управлял своим пулом фейковых аккаунтов, через которые разгонял посты в соцсетях. Здесь же это дело поставили на поток (на фото видны коробки с тысячами SIM-карт) — организаторы схемы предоставляли услуги спам-рассылок, массовых регистраций, накруток и так далее. Ну а попались, если верить пресс-релизу, на звонках о ложном минировании — кто-то из их клиентов занимался на арендованном оборудовании телефонным терроризмом. Погуглил, новый банк на 128 SIM-карт стоит ~$2000, б/у можно найти за $700-800. Здесь больше фото.

Кстати, про ботоводов. Недавно вышло неплохое расследование украинских журналистов — один из них устроился работать в контору, которая занималась поддежкой политиков в соцсетях. Там он писал комментарии по заданным тезисам — кого-то поддерживал, кого-то наоборот "мочил". Ежедневно приходилось писать по 200-300 комментариев, а зарплата за такой нелегкий труд — всего 9000 грн (~$370). Здесь можно посмотреть сюжет, а здесь — почитать текст расследования.

Кстати, у ребят, которые руководили этой конторой, была ещё пачка довольно популярных новостных сайтов с сомнительным контентом, и Facebook недавно заблокировал их самые популярные страницы. С этим блокированием тоже не всё так однозначно; если вам интересен этот бизнес, почитайте колонку моего знакомого медиаменеджера по этому поводу.

В конечном итоге для стороннего наблюдателя до конца непонятно, за что конкретно забанили Znaj Media. В официальной коммуникации подчеркивается, что за связь с Pragmatico (но разве пиар-компания не может запускать свои медиа?) и за фейковых админов страниц.

Ну и конечно надо признать, что контент, который годами публикуют в Znaj Media - это иллюстрация всего, что не так с украинской (и не только) журналистикой. Всем участникам процессов производства, дистрибуции и потребления контента еще предстоит ответить на вопросы, что же такое “новостное издание”; в чем разница между “ботом” и “читателем” или “подписчиком”, который желает скрыть собственную личность; и, в конце концов, какое поведение является по-настоящему “неаутентичным”.

Тем временем, правительство Ирака решило устроить очередной Шатдаун.

Причина банальна. Массовые протесты против безработицы, коррупции и плохих государственных услуг.

В настоящее время потеряна связность с примерно 75% иракскими провайдерами, включая всех крупных операторов связи. Доступ остаётся только в некоторых городах на севере Ирака, имеющих отдельную сетевую инфраструктуру, не зависяющую от сетевых операторов в Багдаде.

Вначале власти попытались блокировать доступ к Facebook, Twitter, WhatsApp, Instagram и другим мессенджерам и социальным сетям, но после неэффективности такого шага перешли к полной блокировке доступа для нарушения координации действий в среде протестующих.

https://netblocks.org/reports/iraq-blocks-facebook-twitter-whatsapp-and-instagram-amid-civil-unrest-zA4zGlyR

Wired пишет о том, как Amazon и Apple тихо создают протоколы, сети и чипы, которые с развитием интернета вещей смогут следить вообще за всем

например, протокол Amazon Sidewalk уже в 2020 году должен немедленно уведомлять вас, если ваша собака, несущая на себе трекер для собак Ring Fetch, покинет пределы вашего двора. а ведь может он включать для вас умные лампы не только дома, но и в том же саду? а может он держать соединение с вашими девайсами и вами, если вы немного отойдете от дома? а если вы уедете за 100 км?

технически тот же протокол может сообщать, что происходит с вашими детьми или пожилыми родителями, когда вас нет рядом, не закончилась ли вода в садовой поливалке, не переполнился ли почтовый ящик, не пришел ли к вам в гости друг или, наоборот, не ходит ли вокруг вашего дома кто-то подозрительный

то есть, вы можете общаться и оставаться единым целом с умным домом (или он с вами), даже если вы не дома. дома будет сидеть персональный электронный батлер. а дальше умным станет все, и мы будем общаться со всеми умными вещами в непрерывном режиме. для этого, вещи должны будут нас "видеть" и "узнавать", для чего каждый из будет нести на себе или в себе личный идентификатор, говорящий - "это я" и "я здес"ь. ну и дальше все как в любимых нами дистопиях #surveillance

https://www.wired.co.uk/article/amazon-sidewalk-apple-u1-networks

❗На мэрию Москвы подали в суд из-за системы распознавания лиц 

Москвичка Алёна Попова подала иск с требованием признать незаконным распознавание лиц через московскую систему видеонаблюдения. Это является обработкой биометрических данных без письменного согласия граждан и нарушает закон о персональных данных и право на частную жизнь.

В прошлом году Алёну привлекли к административной ответственности за одиночный пикет, и суд в ходе рассмотрения дела использовал записи с камер видеонаблюдения, применяя технологию распознавания лиц. Интересы Поповой по делу о незаконном использовании распознавания лиц представляет Саркис Дарбинян.

➡️ https://clck.ru/JQnyW