Хороший текст в NYT про ситуацию в Кашмире.

Индия — мировой лидер по правительственным блокировкам интернета. В прошлом году там отключали интернет 134 раза. Так правительство реагирует на любые проблемы — интернет блокируют во время протестов, выборов и даже национальных экзаменов (чтобы студенты не списывали).

Больше всего от блокировок страдают Кашмир и Джамму — регионы, где преобладает мусульманское население. На эти территории, где проживают более 12 миллионов человек, претендует соседний Пакистан. В последнее время здесь активизировались сепаратистские настроения, и индийские власти отреагировали на это привычным образом — ввели войска и отключили интернет.

Это сильно изменило жизнь региона. Аптекари не могут заказать лекарства, предприниматели — связаться с поставщиками и продавать свои товары через сайты. В магазинах заканчиваются товары первой необходимости — от инсулина до детского питания, а у людей наличка — отделения банков и банкоматы не работают без сети.

Блокировка продолжается уже 11 дней. Когда интернет вернут, никто не знает. В 2016 году здесь не было интернета четыре месяца — тогда взбунтовались даже студенты и музыканты, которые потеряли доступ к своей аудитории.

Одна из целей отключения интернета, по словам властей — "прекратить распространение слухов". Но теперь слухи просто распространяются по старому-доброму сарафанному радио. К примеру, после одной из стычек с полицейскими ходили слухи о том, что произошла настоящая бойня — на самом деле несколько человек пострадали, но обошлось без погибших.

Местные жители рассказывают, что блокировка не снижает социальное напряжение. Наоборот, лишённые доступа к интернету молодые люди от безделия скорее пойдут на улицу бросать камни в полицейских.

Ещё один свежий текст в продолжение темы — журналисты New York Times исследовали, как YouTube повлиял на бразильское общество.

Бразилия — пятая по населению страна мира. YouTube здесь — самое популярное медиа, уступающее по популярности лишь одному телеканалу. Как мы знаем, YouTube — не нейтральная библиотека контента. Его алгоритмы рекомендаций спроектированы таким образом, чтобы максимально увеличить время, которое пользователи проводят за просмотром видео. Лучше всего внимание пользователей удерживают эмоции: страх, ненависть. Поэтому, когда YouTube выкатил новые алгоритмы рекомендаций, основанные на нейросетях, в Бразилии это привело к росту популярности правых блогеров.

Правый популист Болсонару благодаря поддержке правых ютуб-каналов стал президентом страны. Вместе с ним к власти пришли и другие правые блогеры. Они не отрицают, что своим успехом обязаны YouTube. И продолжают вести публичную политику в стиле своих видеоблогов — с помощью троллинга и провокаций. Они унижают своих политических оппонентов и угрожают им.

В своих блогах правые ютуберы продвигают теории заговора, обвиняют во всех бедах феминисток, коммунистов и сотрудников международных гуманитарных организаций. YouTube в Бразилии стал угрозой для национального здравоохранения — антипрививочники распространяют через видео свои конспирологические идеи и находят сотни тысяч новых сторонников.

Благодаря нейросетевым алгоритмам рекомендаций пользователь попадает в кроличью нору из популизма, экстремизма и конспирологии. В неё можно попасть, просто просматривая уроки игры на гитаре. В тексте есть примеры видео, о которых идёт речь — выглядит действительно стрёмно, даже без перевода.

New York Times выпустила репортаж о невидимой рабочей силе – разметчиках данных. Именно они отсматривают фотографии и слушают аудиозаписи, помогая тренировать алгоритмы, а также круглосуточно смотрят видеоролики и модерируют контент в соцсетях.

Иногда они выполняют более сложные задачи, с которыми ИИ не справляется: например, пишут код, разрабатывают приложения или исправляют ошибки, допущенные алгоритмами.

Большинство компаний, включая гигантов Google и Amazon, предпочитает о своей AI supply chain не рассказывать. Например, стартап Engineer.ai выдавал под видом алгоритма-разработчика команду программистов из Индии.

Многие корпорации заказывают услуги расшифровки у подрядчиков. В одной из таких компаний – iMerit – работает почти 2000 человек, причем большая часть сотрудников – это молодые индийцы из бедных семей. Они получают от $150 до $200 в месяц, что по меркам Индии считается неплохим доходом.

Помещения, где работают разметчики, выглядят как обычные колл-центры. Только сотрудники не отвечают на звонки: они смотрят видеозаписи колоноскопии, определяют болезни по звучанию кашля и модерируют посты в соцсетях, а значит, постоянно сталкиваются с насилием и порнографией. Интересно, что модераторы сидят в отдельном офисе, чтобы контент, с которым они работают, не травмировал окружающих.

Спрос на разметчиков растет – в 2018 году рынок оценивали в $500 млн, в 2023 он вырастет до $1,2 млрд. Любой современный алгоритм – это результат рутинного ручного труда. По статистике, при разработке ИИ 80% времени уходит на маркировку данных – и пока эту задачу выполняют преимущественно люди.

На новом рынке уже появляются стартапы-единороги. Недавно молодая компания Scale AI достигла оценки в $1 млрд. Официально в ней работает всего 100 человек, а на аутсорсе – 30 тыс. Услугами стартапа пользуются Waymo, OpenAI, Airbnb и Lyft.

При этом, как пишет NYT, карьерные перспективы разметчиков зависят от географии. В Индии есть шансы выбиться в средний класс, в США и Европе – больше вероятность оказаться на дне.

Одна из наиболее актуальных тем в современной цифровой криминалистике - это облачная криминалистика. Она заключается в сборе всей информации о человеке из облачных хранилищ Google, iCloud, Dropbox, OneDrive и многих других. В первую очередь, конечно, облака компаний Google и Apple.

При этом организации проводящие подобные цифровые расследования далеко не всегда могут получить доступ к данным непосредственно от владельца облака и более распространённой процедурой является извлечение данных из облачных аккаунтов используя реквизиты пользователя сохранённые в мобильном телефоне или компьютере.

Так, например, Elcomsoft cloud eXplorer [1] умеет извлекать практически всё что возможно из сервисов Google. Обещают что умеют собирать данных больше чем то что Google отдаёт в Takeout [2]. Другой продукт Oxygen Forensic Cloud Extractor [3] умеет собирать из более чем 30 разных онлайн сервисов, не так детально, но гораздо шире. Из облака умеют собирать данные Magnet Axiom [4] и многие другие продукты.

Облачная криминалистика имеет прямое отношение к мобильной криминалистике которая существует уже не один десяток лет. Но, в последние годы, с развитием облаков и облачных сервисов она стала гораздо более востребованной и актуальной. На основе данных из устройств и из облака не просто можно получить дополнительные доказательства виновности или невиновности, можно также выявить подозрительное поведение или попытки сокрытия информации.

Другая область которую отчасти можно отнести к облачной криминалистике - это криминалистика интернета вещей. Например, голосовые помощники Amazon Alexa установлены уже более чем в 25% домохозяйств в США. При расследовании ряда преступлений полиция в США пыталась запросить у Amazon'а данные голосовых помощников и получали отказ. Вот уже несколько лет специалисты по цифровой криминалистике изучают как извлекать данные из облака Amazon с помощью недокументированного API и достигают успеха [5] [6]. Но бывают и случаи когда Amazon передаёт данные, в случае судебного запроса [7].

Всё вместе, инструменты сбора облачных данных, ранее существующая компьютерная криминалистика и устройства интернета вещей не только дают больше возможности официальным, государственным криминалистам, но и корпоративным службам безопасности, пограничным службам и многим иным получающим возможность получать дополнительные данные о пользователях.

Ссылки:
[1] https://www.elcomsoft.com/ecx.html
[2] https://takeout.google.com/settings/takeout
[3] https://www.oxygen-forensic.com/en/products/oxygen-forensic-detective/detective/cloud-data-extraction
[4] https://www.magnetforensics.com/products/magnet-axiom/
[5] https://www.sans.org/cyber-security-summit/archives/file/summit-archive-1498230402.pdf
[6] https://www.dfrws.org/sites/default/files/session-files/pres_digital_forensic_approaches_for_amazon_alexa_ecosystem.pdf
[7] https://www.theverge.com/2017/1/6/14189384/amazon-echo-murder-evidence-surveillance-data

#data #forensics #privacy #clouds #iot

В NYT статья об огромном, не самом публичном, и довольно скрытом от публики бизнесе разметки данных (data labeling) [1]. До сих пор часто и очень часто выгоднее нанять сотни низкоооплачиваемых сотрудников которые вручную проверят данные по очень базовым правилам чем разрабатывать алгоритмы которые будут делать это автоматически. Да и алгоритмы надо на чём-то тренировать, здесь никак не обойтись без ручной работы.

Основной рынок разметки данных связан с английским языком поэтому неудивительно что он развивается в Индии, где с одной стороны английский на базовом уровне знают многие, а с другой найм людей обходится недорого. Впрочем для других задач, связанной с разметкой изображений, возможно подобное и в других странах.

Подобная разметка также актуальна для тех задач которые не требуют реального времени в принятии решений. Например, разметка объектов на спутниковых снимках или же, расшифровка аудиозаписей.

Ссылки:
[1] https://www.nytimes.com/2019/08/16/technology/ai-humans.html

#data #datalabeling #datamarket

Представления о приватности в Китае — своеобразные. WeChat будучи платформой и суперприложением для всего, в свою очередь знает про поведение пользователей всё.

«Природа цифровой экономики такова, что чем больше данных ты собираешь, тем лучше ты работаешь и тем проще тебе выходить на новые рынки.»

«Данные, собираемые WeChat, также станут основой для системы социального кредита, которую правительство запускает в 2020 году. Эта система будет действовать поощрительно для «благонадёжных граждан», как они названы в документе, и наказывать поведение, неприемлемое при построении гармоничного общества. Например, люди с невыполненными финансовыми обязательствами не смогут купить билет на скоростной поезд или самолёт.»

Краткий перевод статьи Барклея Брэма для Nautilus. Много «пугалок» из обзоров, но такое будущее немного пугает.

https://vc.ru/social/76530-wechat-sledit-za-toboy

The Atlantic: как на самом деле работают «голосовые помощники»

В вашем смартфоне есть «умный голосовой помощник», который реагирует на голосовые команды без дополнительного включения, скажем, «Привет Siri», или «Окей Google»? Возможно такие помощники есть в ваших часах, беспроводных колонках, ТВ-приставках и других умных устройствах? Поздравляем, вы окружены микрофонами, которые внимательно слушают разговоры 24 часа в сутки. Можно успокоить себя тем, что прослушиванием занимается компьютерная программа, но это не так: все крупные технокомпании - Google, Amazon, Apple - передают образцы синтезированной речи сотруднику-человеку, который оценивает корректность работы «робота-голосового ассистента».

Поэтому в следующий раз, когда захотите сходить к психоаналитику или провести бурную ночь любви - отложите гаджеты подальше. Или смиритесь с тем, что в вашей постели незримо присутствует кто-то ещё.

«Подрядчики Apple рассказали The Guardian, что они прослушивали обращения в том числе, когда Siri вызывали случайно, среди подобных казусов оказались сделка по покупке наркотиков, личный разговор с врачами и даже секс, когда на Apple Watch случайно вызвали Siri. Один подрядчик Microsoft рассказал, что слушал секс по телефону между парами, а также анализировал голосовые запросы для Cortana в поисках порно. Некоторые подрядчики Amazon указывают, что им случайно оказалась доступна запись, на которой можно идентифицировать сексуальное нападение. И Facebook не отстаёт. Иными словами, это не столько серия «скандалов», связанных с персональными данными, сколько результаты того, что пользователи практически не знают, как на самом деле работает технология голосовых помощников. Наши подслушивающие устройства сделали то, для чего они и были предназначены. Мы просто не поняли, кто нас слушает».

https://theidealist.ru/voiceassistants/

#TheAtlantic #технологии #Alexa #Siri #Cortana #Facebook #Apple #Google #Microsoft #ИИ

Майкл Нидермайер управлял дронами в Ираке, а теперь он удаленно “рулит” роботом-курьером, который доставляет буррито жителям Сан-Франциско.

Wall Street Journal рассказывает о профессии оператора роботов – человека, который сидит в офисе и отвечает за “автономность” беспилотника, т. е. помогает ему ориентироваться на местности и выполнять самые элементарные задачи.
Большинство работников получают скромную зарплату, но и серьезная квалификация им не требуется – достаточно владеть водительским удостоверением и обладать опытом в видеоиграх.

Большинство роботов-курьеров в США без помощи не справляются. Например, стартап Kiwi Campus платит $2 в час человеку, который управляет сразу тремя “кивиботами”. При этом робот не может даже забрать еду из ресторана – ее привозят обычные курьеры. На велосипедах и самокатах они доезжают до места встречи, где загружают еду в “кивибот”.

Стартап Postmates тоже нанимает операторов – в том числе бывших военных. Компания собрала штат сотрудников и обещает увеличить его в несколько раз в ближайшие пять лет.

Операторы также управляют роботами-охранниками Cobalt Robotics. Одна сотрудница рассказала WSJ, что она координирует несколько аппаратов в разных точках города. Для этого ей приходится работать в ночную смену по 8-12 часов.

Автономность робота оценивают по схеме 1 к N, где N – это число машин, которыми может управлять один оператор. Например, в компании по доставке дронами Flytrex это соотношение 1 к 1, и показатель вряд ли изменится в ближайшие 10 лет. Стартап работает в Исландии, поэтому на случай природных катаклизмов или извержений вулканов человек всегда должен контролировать ситуацию.

Без дистанционного управления не обходятся и робомобили – например, беспилотники Waymo и Nissan. Но эксперты считают такую идею безумной – кто будет отвечать, если произойдет авария из-за того, что соединение прервется и человек не успеет быстро среагировать?

Таких вакансий со временем станет больше и все чаще их будут отдавать на аутсорс в развивающиеся страны. Так что скоро пилоты дронов будут делить офисы с разметчиками данных и, скорее всего, получать примерно такую же зарплату.

Холивар. История Рунета. Фильм Андрея Лошака

Журналист Андрей Лошак снял документальный сериал «Холивар. История Рунета». Первая серия вышла на ютьюбе 5 сентября — в ней рассказывается о том, как русский интернет зарождался на базе ворованной американской операционной системы, а первые интернет-странички — на базе домашней страницы изобретателя HTTP Тима Бернерса-Ли.

Интервью с Лошаком о сериале на Медузе

Недавно Тристан Харрис выступал перед Сенатом США, в этом 15-минутном видео — главные тезисы. Поляризация общества как часть бизнес-модели интернет-компаний, неравномерное распределение власти в наших отношениях с техногигантами, два миллиарда кукол вуду на серверах Google и Facebook — и другие правильные вещи, о которых должен задумываться каждый сознательный пользователь технологий сегодня.

Если вы пропустили: программный доклад Харриса о том, как технологии расчеловечивают и отупляют пользователей. Смотреть (ну или хотя бы прочитать резюме) советую всем.

“The fundamental problem of humanity is that we have ancient paleolithic instincts, medieval institutions and godlike technology.” The point is, you can’t have chimps with nukes and regulate it with medieval 17th-century, 18th-century institutions.

Холивар. История Рунета.
Эпизод второй — «Контркультура: пАдонки, марихуана и Кремль»

Трудный подростковый возраст Рунета: два школьника запускают сайт фак.ру, на котором матерятся и коверкают слова. Хулиганская шутка дала жизнь целой культуре "падонкафф" – с их языком, мемами и офлайновыми оргиями.

Один из двух теперь живет в Лос-Анджелесе и развивает каннабис-блокчейн. Другой – Константин Рыков – стал одним из первых кремлевских пропагандистов в Рунете.
https://youtu.be/PeF8GmV9rXc

О том, какое количество наших данных попадает в руки правительств, ходят легенды. Яша Левин, американский журналист российского происхождения, решил разобраться, нет ли в подобных теориях хоть сколько-нибудь правды. Inc. публикует две главы его книги «Интернет как оружие», рассказывающие, как с личной информацией пользователей обращались основатели компании Google в самом начале ее истории.

https://incrussia.ru/understand/internet-kak-oruzhie/

фонд Carnegie подготовил большой доклад The Global Expansion of AI Surveillance https://carnegieendowment.org/2019/09/17/global-expansion-of-ai-surveillance-pub-79847

ключевое:
- технологии наблюдения с использованием искусственного интеллекта (ИИ) распространяются быстрее и шире, чем принято думать - их используют по меньшей мере 75 из 176 стран мира, которые изучались для подготовки доклада. эти технологии включают в себя платформы "умный город/безопасный город" (56 стран), системы распознавания лиц (64 страны) и "интеллектуальную полицию" (52 страны).
- лидером технологий наблюдения с ИИ является Китай. Huawei, Hikvision, Dahua и ZTE поставляют подобные технологии в 63 страны.
- Huawei поставляет технологии наблюдения с ИИ как минимум в 53 страны мира - ни одна другая компания не стоит рядом с ней даже близко. крупнейшим некитайским поставщиком таких технологий является японская NEC (14 стран).
- для покупки китайских технологий часто предлагаются льготные кредиты, особенно в странах Африки и Азии, которые иначе не смогли бы их купить
- американские компании также очень активны на этом направлении - американские технологии наблюдения с ИИ поставляются в 32 страны, крупнейшие поставщики IBM (11 стран), Palantir (9 стран) и Cisco (6 стран)
- основными пользователями технологий слежки с ИИ являются либеральные демократии: индекс Carnegie показывает, что их используют 51% "продвинутых демократий" и 37% "закрытых авторитарных государств" #surveillance

ок, еще интересное из доклада Carnegie - простите, он большой и интересный

про сравнительно новые автоматизированные системы пограничного контроля: по данным консалтинговой компании Accenture, такие системы используют "мультимодельное биометрическое сопоставление" - распознавание изображений лиц в сочетании с электронными паспортами или другими биометрическими документами.

процесс начинается, когда пассажир встает перед стеной с несколькими камерами. цифровые зеркала, расположенные рядом с камерами, привлекают внимание пассажиров для захвата изображения. те, кто не прошел автоматическую проверку, должны пройти вторичный осмотр с участием агентов-людей.

правительства внедряют в системы новые функции вроде технологий автоматического обнаружения лжи. ЕС тестирует технологию iBorderCtrl в трех странах - Греции, Венгрии и Латвии - для проверки мигрантов на пограничных переходах.

людям задают вопросы о странах, из которых они прибыли, обстоятельствах отъезда и так далее. затем ответы оцениваются системой обнаружения лжи на основе ИИ. люди, ответы которых система сочла честными, получают код для пересечения границы, другие передаются пограничникам для дополнительного опроса.

технология, лежащая в основе iBorderCtrl, основана на так называемом "распознавании аффекта", что подразумевает считывание выражений лица, на основе которых делается вывод об эмоциональном состоянии человека. психологи критикуют эти инструменты, говоря, что для точной оценки душевного состояния человека нельзя полагаться только на выражение лица, но правительствам технология нравится и они применяют ее все шире #voight #kampff

https://youtu.be/Umc9ezAyJv0

Замечали, как часто компании используют фотографии одних и тех же людей, выдавая их за пользователей и даже сотрудников? Сегодня условная “Виктория” присылает вам почтовую рассылку, а завтра – уже под другим именем – рекламирует популярный бренд.

Но зачем покупать фото в стоке, если можно сгенерировать лицо с помощью нейросети? По такой модели работает новый проект 100,000 Faces, который сегодня запустился на ProductHunt. Бесплатно любой может получить доступ к базе и скачать фотографии людей, созданных с помощью машинного обучения.

На платформе выложено 100 тыс. несуществующих лиц разного пола, возраста и этнической принадлежности. Разработчики самостоятельно снимали моделей для базы, на которой тренировался алгоритм. В основе лежат оригинальные снимки, а не чужие фотографий из соцсетей и фотобанков. Однако в реальности ни одного из людей не существует.

В базе, конечно, нужно покопаться – часть "снимков" выглядит пугающе, на других сразу бросаются в глаза искажения, но многие изображения выглядят абсолютно нормально. Лица можно использовать для презентаций, лендингов, почтовых рассылок, а также на сайтах и в мобильных приложениях.

100,000 Faces уже работает над API, который позволит генерировать лица самостоятельно и добиваться infinite diversity. Также стартап собирается запустить модельное ИИ-агентство. Клиенты будут присылать фотографии одежды, аксессуаров или гаджетов, а компания организует "съемки" вещей с виртуальными моделями.

Создание синтетических медиапродуктов on-demand, во-первых, экономит деньги, во-вторых, автоматически решает проблему с авторским правом, в том числе с правами модели. У виртуальной модели прав нет, а значит, ее снимки можно использовать без каких-либо ограничений. Так что через 5-7 лет весь интернет будет заполнен синтетическими медиа: фотографиями, текстами, аудио- и видеофайлами. Отличить фальшивое от реального будет сложнее, но ничего – скоро к этому все привыкнут.