Автор популярной колонки в The New York Times рассуждает о том, что Facebook нуждается во внешнем регулировании.

Это обсуждение идет не первый день, но после скандала с вмешательством России в американские выборы с помощью инструментов Facebook, оно вышло на новый уровень.

Автор (бывший сотрудник Facebook, в 2011-2012 годах возглавлявший команду, работавшую над защитой конфиденциальности пользователей) пишет о том, что для компании сбор данных — намного более важная задача, чем защита пользователей от злоупотреблений.

“Facebook знает, как вы выглядите, где находитесь, кто ваши друзья, каковы ваши интересы, находитесь ли вы в отношениях или нет, и какие страницы вы ищете в сети. Эти данные позволяют рекламодателям показывать таргетированную рекламу более чем миллиарду пользователей ежедневно.

Чем больше данных Facebook может предложить, тем более ценным он становится для рекламодателей. Это значит, что у него нет стимула ограничивать сбор или использование такой информации — за исключением ситуаций, когда к этому принуждает критика в прессе или действия регуляторов. FB может делать с вашей информацией все, что захочет, и у него нет причин устанавливать какие-либо гарантии.”

В качестве примера автор ссылается на историю взаимоотношений социальной сети с разработчиками онлайн-игр. Некоторые из них, как выясняется, весьма вольно обращались с пользовательскими данными, полученными от Facebook. «В компании, которая беспокоится о защите своих пользователей, эта ситуация привела бы к отказу от сотрудничества с разработчиками, чьи методы использования данных вызывали вопросы. Но когда я был в Facebook, то типичная реакция была такой: постарайтесь предотвратить негативное освещение в прессе, не предпринимая каких-либо серьезных усилий для обнаружения разработчиков-нарушителей». https://www.nytimes.com/2017/11/19/opinion/facebook-regulation-incentive.html

Изобретатель всемирной паутины, технологии World Wide Web, Тим Бернерс-Ли считает, что его детище попало в «неприятный шторм» проблем, включая отмену сетевой нейтральности, снежный ком фейковых новостей, пропаганды и поляризации пользователей.

Распространение дезинформации и пропаганды онлайн взлетело частично из-за принципов работы рекламных систем крупных цифровых платформ вроде Google или Facebook. Они были спроектированы, чтобы удерживать внимание людей. «Восприятие людей искажают очень точно натренированные ИИ, которые определяют как их отвлечь», — говорит Бернерс-Ли.

«Система проваливается. Работа модели рекламной выручки с кликбейтом не способствует продвижению правды и демократии. Поэтому я обеспокоен», — говорит Бернерс-Ли. В марте он призвал к регулированию политической онлайн-рекламы, чтобы предотвратить ее «неэтичное» использование.

«Одна из проблем изменения климата — дать людям понять антропогенную природу явления — оно создано людьми. Та же проблема и с социальными сетями — они техногенны. Если они не служат человечеству, то их можно и нужно изменить», — уверен ученый.»

Адаптированный перевод https://ain.ua/2017/11/18/berners-lee-internet
Оригинал в The Guardian https://www.theguardian.com/technology/2017/nov/15/tim-berners-lee-world-wide-web-net-neutrality

К посту выше: В 1990 году Тим Бернерс-Ли описал технологию World Wide Web, основанную на протоколе передачи гипертекста HTTP, системе адресации URL и языке гипертекстовой разметки HTML.

В течение года с помощью фишинга взламывается 12,4 млн аккаунтов Google. Комикс о том, как защитить себя от различных техник фишинга https://thenib.com/how-to-protect-yourself-against-spearphishing

Некоторые сайты используют скрипты, которые записывают нажатия клавиш, движения мыши и даже направление прокрутки вместе со всем содержимым страниц, а потом отправляют эти данные на сторонние серверы.

В отличие от обычных аналитических сервисов, которые предоставляют общую статистику, эти скрипты записывают и воспроизводят отдельные сеансы просмотра так, будто за поведением пользователя наблюдают через его плечо. ПО, которое записывает момент нажатия и каждое введенное слово, называется скриптом повторного сеанса.

Оценить масштаб и законность подобного попытались ученые из Принстонского университета Стивен Энглехардт (Steven Englehardt), Гунес Акар (Gunes Akar) и Арвинд Нараянан (Arvind Narayanan). Они провели исследование самых популярных сервисов, которые предоставляют компаниям возможность изучать поведение пользователей с помощью скриптов повторного сеанса, включая решения FullStory, SessionCam, SmartLook, UserReplay, Hotjar и «Яндекса».

Использование скриптов повторного сеанса на многих популярных в мире веб-сайтах имеет серьезные последствия для конфиденциальности. Такой скрипт может записать пароль, чувствительные персональные данные или другую информацию, позволяющую идентифицировать пользователя. Например, исследователи протестировали сайт аптечной сети Walgreens, на котором исполнялся скрипт компании FullStory. Несмотря на то, что сайт Walgreens действительно обезличивает пользовательский ввод, информация — симптомы и рецепты — по-прежнему собирается с помощью скрипта повторного сеанса вместе с реальными именами пользователей.

Аннотация на русском https://geektimes.ru/post/295645

Материал Wired https://www.wired.com/story/the-dark-side-of-replay-sessions-that-record-your-every-move-online/

Исследование https://freedom-to-tinker.com/2017/11/15/no-boundaries-exfiltration-of-personal-data-by-session-replay-noscripts/

К посту выше: Компании-разработчики ПО буквально "заглядывают вам через плечо" и отслеживают каждое нажатие клавиши и движение мышки на некоторых сайтах / Иллюстрация Wired.com

Chaos Monkeys: Obscene Fortune and Random Failure in Silicon Valley by Antonio García Martinez

«Обезьяний хаос в Кремниевой долине» — безусловный must-read Антонио Гарсиа Мартинеса (Antonio García Martinez).

Что такое «обезьяний хаос»? Это термин, используемый сетевыми администраторами для выявления проблем системы на раннем этапе. Обезьяны — это программы, специально разработанные, чтобы посеять хаос в компьютерной системе, проверяя таким образом ее устойчивость. Но в книге этот термин приобретает значение метафоры.

Мартинес развенчивает миф о Кремниевой долине как о прибежище интеллектуалов, показывая ее совсем с другой стороны. На самом деле, по мнению автора, — это зоопарк для обезьян хаоса, молодых бизнесменов-технократов, не особо обремененных моралью. Венчурный капитал всегда готов обеспечить их бананами. Но сможет ли общество пережить их предпринимательскую активность и какой человеческой ценой?

Гарсиа получил ученую степень по физике в Беркли перед тем как присоединиться к Goldman Sachs, где он моделировал поведение финансовых рынков. После финансового кризиса 2008 года он переехал в Кремниевую долину, где ему удалось создать свой стартап и вскоре продать его Twitter за $5 миллионов.

Некоторое время Мартинес работал в Facebook. Он называет Цукерберга то диктатором, создавшим корпоративную культуру, в которой сотрудники слепо преданы своему руководителю и бросаются в бой, очертя голову, по его приказу, то, без всякой иронии, — Мессией, ведущим человечество к кардинальным переменам. Когда-нибудь весь мир подключится к Facebook, и каковы будут последствия — никому не известно.

«Технологические стартапы, несмотря на все их претензии на прозрачность, инновативность и контркультурность, на самом деле, удивительно реакционные ребята. Они не хуже традиционной промышленности и политики, но, безусловно, ничем не лучше».

Рецензия на русском https://vc.ru/21020-chaos-monkeys-book

Рецензия на английском https://www.nytimes.com/2016/07/10/books/review/chaos-monkeys-by-antonio-garcia-martinez.html

Google ведет слежку за пользователями даже когда в смартфоне нет SIM-карты - об этом свидетельствует новое расследование журналистов издания Quartz.

Android-устройства фиксируют адреса ближайших сотовых вышек по идентификаторам Cell ID и отправляет их в компанию Google. Данные собираются и передаются даже тогда, когда на устройстве отключены геолокационные сервисы и не вставлена SIM-карта.

Проведенный изданием эксперимент показал, что даже сброс настроек до заводских, подразумевающий удаление всех установленных приложений, не помогает — смартфон продолжает отсылать в Google адреса ближайших вышек по мере того как переходит от одной к другой. Если в телефон не вставлена SIM-карта, он отправляет данные, когда ловит Wi-Fi.

Используя адреса не одной, а сразу нескольких вышек, местоположение пользователя можно определить с точностью до радиуса в 400 метров, а в городских условиях — еще более точно, поскольку вышки расположены недалеко друг от друга.

По словам разработчика ПО Билла Бадингтона (Bill Budington), который сотрудничает с правозащитной некоммерческой организацией Фонд электронных рубежей, действия Google могут подвергнуть пользователей Android реальному риску.

Перевод на русский http://safe.cnews.ru/news/top/2017-11-22_google_vedet_slezhku_za_polzovatelyami_dazhe_kogda

Расследование Quartz https://qz.com/1131515/google-collects-android-users-locations-even-when-location-services-are-disabled/

В литературном приложении к The Times вышло эссе Ватикан 2.0. Согласно его автору, технологические компании Кремниевой долины претендуют на роль своего рода глобальной церкви. Без всяких на то оснований, разумеется.

Тогда как Интернет, каким они хотят его представить, — современный эквивалент «чуда света»: движимый неизвестными силами и построенный трудом невидимых работников.

Часто Интернет воспринимают как нечто нематериальное. На самом деле, его поддерживает огромная инфраструктура, в том числе большие, опасные для окружающей среды дата-центры (являются источником загрязнения микроскопическими твердыми частицами). Что еще более важно — нынешний Интернет все больше подчинен корпоративным интересам, и, в свою очередь, это определяет всех нас — то, как мы думаем, работаем и живем.

Алгоритмы — самое сердце этих процессов. Они направляют нас через поисковые запросы и ведут нас по улицам городов, подчиняясь логике, которая остается для нас тайной, и продиктована из кабинетов топ-менеджмента компаний «большой пятерки» - Amazon, Apple, Alphabet Inc. (родительская компания Google), Facebook и Microsoft, доминирующих в цифровой сфере.

В десяти крупнейших технологических компаниях женщины составляют менее 30% сотрудников. В технических профессиях доля женщин еще меньше — 18,3%. Афроамериканцы и латиноамерианцы, составляющие соответственно 13% и 16% рабочей силы в США, согласно недавней публикации Wired, занимают 2% и 3% рабочих мест в технологических компаниях.

Не удивительно, что логика алгоритмов часто пронизана предубеждениями, недостатками и несправедливостью. Непредвзятость, которую приписывают алгоритмам, зачастую превращается в свою противоположность. Автоматическое принятие решений становится автоматической дискриминацией: когда кто-то ищет изображения черных подростков, то с большей вероятностью ему будут показаны тюремные снимки (mugshots) ; объявления о хороших вакансиях, скорей всего, увидят мужчины; «доктор» переводится на испанский как “el doctor”, а не “la doctora”.

Компании, входящие в большую пятерку, — самые большие компании мира. Их общая капитализация составляет $3 триллиона. Вместе они тратят на лоббизм больше, чем пять крупнейших банков или пять крупнейших нефтяных компании. Со времен монополий Рокфеллера и Моргана, США не видели такой концентрации богатства и власти. И все это стало обратной стороной интернета — изобретения, которое обещало миру больше равных возможностей. https://www.the-tls.co.uk/articles/public/technology-companies-facebook-god-earle/

В продолжение темы предвзятости алгоритмов.

В статье «Анализатор эмоций Google считает, что быть геем — плохо» журналисты Motherboard приводят пример того, как предубеждения проникают в искусственный интеллект (AI).

Джон Джинандреа (John Giannandrea), руководитель направления AI в Google, недавно сказал, что в искусственном интеллекте его больше всего беспокоит вовсе не грядущее господство разумных машин, а возможность дискриминации: «Настоящий вопрос безопасности состоит в том, что если мы даем этим системам предвзятые данные, то они — системы искусственного интеллекта - становятся предвзятыми».

Его страхи, похоже, уже стали частью продуктов Google.

В июле 2016 Google анонсировал бета-запуск нового программного интерфейса для машинного обучения под названием Cloud Natural Language API. Он позволяет разработчикам включать модели глубокого обучения Google в свои приложения, например распознавать, о каких реальных объектах идет речь в тексте, или анализировать его синтаксическую структуру. В дополнение к этому API включает анализатор эмоций, позволяющий программам определять, какие чувства вызывает та или иная фраза по шкале от -1 до 1.

Проблема заключается в том, что алгоритм считает фразы о религиозных и этнических меньшинствах негативно окрашенными, что указывает на предвзятость. Например, если кто-то называет себя евреем или гомосексуалом, алгоритм помечает высказывание как негативное.

В материале Motherboard приводятся и другие примеры. Высказывание «я - христианин» алгоритм оценил как позитивное, выдав оценку 0.1. «Я - сикх» — еще более положительно (0.3). А вот высказывание «я — еврей», алгоритм оценил как негативное (-0.2).

Аналогичная проблема была выявлена не только во фразах о религии, но и в высказываниях о сексуальной ориентации, расе, поле.

Системы искусственного интеллекта, включая анализаторы эмоций, обучаются на новостных историях и книгах. И поэтому они часто отражают предубеждения, характерные для общества. https://0.vice.com/en_us/article/j5jmj8/google-artificial-intelligence-bias

К посту выше: Иллюстрация предвзятой работы алгоритма Google, анализирующего эмоции / Motherboard

Атланты из Кремниевой долины продолжают расправлять плечи… Иногда, особенно если им не хватает идей, они попросту находят уже существующую услугу, приватизируют ее, а затем заявляют, что «переизобрели ее», пишет Арва Махдави (Arwa Mahdawi) в своей колонке для The Guardian.

Вы уже слышали о крутом новом тренде, называемом "со-жительство" (co-living)? Это почти как коворкинг, только вместо того чтобы делить офис с какими-то людьми, вы делите с ними жилье. Вы, наверное, думаете, что это всего лишь старая идея совместной аренды (roommates)? Ну, да, вообще-то, так и есть.

И все же co-living – это не то же самое, что жить с другими людьми в съемном доме или квартире. Сo-living – это когда богатые миллениалы живут с такими же, как они, богатыми миллениалами в причудливом здании в недавно джентрифицированной части города. В комплекте прилагаются такие полезные активности, как занятия йогой и бар с микрогрануллированным кофе, подразумевающие, что вы можете минимизировать взаимодействия с внешним миром. На языке стартапов это называется «сообществом».

Например «Коллектив» - коворкинговое пространство в Лондоне, описывающее co-living как «образ жизни, сфокусированный на подлинном чувстве общности, использующий общие пространства и возможности для более комфортного и наполненного существования».

Под «комфортом» подразумевается, что анонимные люди на минимальной зарплате уберут за вами. «Наполненное существование» - это когда вы сидите в общей гостиной, уставившись в свой телефон, окруженные другими людьми (с аналогичным вашему уровнем доходов), уткнувшимися в свои телефоны.

В колонке также идет речь о других «инновациях» и «изобретениях»: переизобретенном автобусе от Lyft, ближайшего конкурента Uber; торговых автоматах с встроенным AI и заменяющем еду напитке (и вызывающем «неконтролируемую диарею»). https://www.theguardian.com/commentisfree/2017/nov/16/silicon-valley-thinks-it-invented-roommates-they-call-it-co-living

Приложение для онлайн-знакомств Tinder использует шесть трекеров (как собственных, так и сторонних компаний) для слежки за поведением пользователей. Например, Tinder продавал компании Gillette данные о просмотрах профилей гладковыбритых и бородатых парней.

В приложении для знакомств OkCupid, программе Weather Channel и фонарике Superbright LED Flashlight эксперты обнаружили шесть-семь трекеров. В приложении музыкального сервиса Spotify было обнаружено четыре трекера, в том числе два от Google. Три трекера используются в приложении Uber, и еще несколько – в Skype, Lyft, Accuweather и Microsoft Outlook.

Это показало новое исследование YALE Privacy Lab и Exodus Privacy.

Коротко на русском https://www.securitylab.ru/news/489828.php
Подробно на английском https://theintercept.com/2017/11/24/staggering-variety-of-clandestine-trackers-found-in-popular-android-apps/

Platform Capitalism by Nick Srnicek

За десять-пятнадцать лет цифровые платформы (Facebook, Google, Amazon и другие) взлетели на вершины списков самых дорогих компаний мира. Новые технологические компании быстро и радикально меняют ландшафт современного капитализма.

Автор книги «Капитализм платформ» (Platform Capitalism) Ник Срничек (Nick Srnicek) критически осмыслят этот сдвиг.

Все платформы используют новую бизнес-модель, нацеленную на соединение между собой различных групп. Facebook и Google соединяют друг с другом рекламодателей, бизнес и обычных пользователей. Uber соединяет водителей и пассажиров. Amazon и Siemens строят и сдают в аренду инфраструктуру, на которой базируется современная экономика.

Принципиально, что бизнес всех этих платформ построен вокруг централизации данных. Данные — этот современный аналог нефти – базовый ресурс технологических компаний. Именно владение данными даёт им преимущество перед конкурентами.

Доля технологического сектора в экономике остается небольшой. В США технологические компании производят 7% ВВП, на них работают 4% занятых (по состоянию на 2016). Их сила, очевидно, в другом — во всепроникающих технологиях и идеологии, считает автор «Капитализма платформ» Ник Срничек.

Уже давно прибыльность традиционного производства снижается. Необходимо было найти что-то новое. Этим новым способом стимулировать экономический рост стали данные.

И если данные стали новым сырьём для капитализма, то платформы — это движки, позволяющие это сырье обрабатывать. В основе бизнес-модели каждой из платформ — сбор огромных объемов данных. Но есть и важные различия:

- Рекламные платформы (например, Google, Facebook) извлекают данные из активностей пользователей, анализируют их и используют результаты этого процесса для продажи рекламы

- Облачные платформы (например AWS, Salesforce) владеют оборудованием и софтом, которые сдают в аренду другим компаниям

- Промышленные платформы (например GE, Siemens) создают аппаратные средства и софт, необходимые для перевода традиционного производства в производственные процессы, завязанные на Интернете

- Платформы продуктов (например Rolls-Royce, Spotify) зарабатывают на превращении традиционного продукта в услугу

- “Экономные” (скудные) платформы (например Airbnb, Uber) стремятся соединить между собой покупателей и продавцов, минимизируя собственные активы.

Согласно автору «Капитализма платформ», есть четыре присущие платформам характеристики.

- Они предоставляют цифровую инфраструктуру, выполняя роль посредников между покупателями, рекламодателями, поставщиками услуг, производителями и даже физическими объектами, позволяя им взаимодействовать.

- Платформы процветают благодаря сетевым эффектам. Чем больше пользователей аккумулирует платформа, тем больше данных и прибыли она может генерировать. Это объясняет, почему бизнес этих компаний экспоненциально растет, и они стали примером беспрецедентного накопления капитала в относительно короткие сроки.

- Платформы используют кросс-субсидирование. Предлагая бесплатные услуги и продукты, платформа может привлечь больше пользователей, которые произведут больше данных. Расходы и доходы в различных сегментах платформ уравновешивают друг друга.

- Платформы используют стратегию постоянного вовлечения пользователей, стимулируя их к активности внутри сети — с целью извлечения большего количества данных

Платформы зависят от сетевых эффектов, способствующих установлению монополии по принципу «победитель забирает всё». В Google, Facebook и Amazon (не говоря уже об их незападных конкурентах Alibaba и Tencent) мы наблюдаем последствия внедрения этой новой бизнес-модели. Каждая из компаний стремится к абсолютному доминированию в своей сфере. И как только они укрепляются в этом положении, они становятся практически недосягаемыми для конкурентов.

В мае 2018 в Евросоюзе вступит в силу новый регуляторный акт – The General Data Protection Regulation (GDPR) - направленный на защиту персональных данных пользователей. Его действие будет распространяться на все компании, которые хранят данные жителей ЕС.

Принятия такого акта добивались многие группы и организации, занимающиеся защитой приватности и цифровых прав.

GDPR более широко и гибко толкует, что следует относить к персональным данным. Акт предусматривает вполне конкретный механизм реализации прав субъекта данных (пользователя), который, в свою очередь, опирается на вполне осязаемые санкции за нарушение таких прав. За неправильно полученное согласие на обработку персональных данных компания может быть оштрафована на сумму до 4% от оборота.

Помимо данных, которые позволяют идентифицировать пользователя, под регулирование подпадает и отслеживание поведения юзеров и их предпочтений (profiling).

GDPR закпрепляет принципы privacy by default и privacy by design — софт должен учитывать требования по защите персональных данных еще на этапе разработки. Ограниченнее доступа к персональным данным должно быть в любом сервисе опцией по умолчанию.

Текст по ссылке объясняет особенности GDPR с точки зрения компаний (привыкших вольно обращаться с персональными данными). Но все равно познавательно.

https://ain.ua/2017/11/27/gdpr-cena-za-polzovatelya

"Капитализм двадцать первого века сосредотачивается на извлечении и использовании определенного вида сырья: данных. И бизнес-модель, адекватная этому сдвигу, - это платформа - цифровая инфраструктура, выполняющая функцию посредника между разными группами. В этом ключ к ее преимуществу перед традиционными бизнес-моделями.

Платформа позиционирует себя (1) посредником между пользователями и (2) пространством, в котором происходит их деятельность. Таким образом, платформа получает привилегированный доступ к активностям пользователей и записывает их.

Google, как платформа для поиска, опирается на огромное количество поисковой активности (которая выражает колебания желаний отдельных лиц). Uber, как платформа для такси, использует данные о транспортном трафике и действиях водителей и пасажиров. Facebook, как платформа для социального нетворкинга, имеет доступ к множеству глубоко личных социальных взаимодействий, которые также могут быть записаны.

И поскольку все больше и больше отраслей перемещают свою деятельность в онлайн (например, Uber переводит индустрию такси в цифровую форму, а производитель агротехники John Deere создает сельскохозяйственные платформы), все больше и больше компаний будут прибегать к развитию по модели платформы.

Таким образом, платформы — нечто намного большее, чем интернет-компании или технологические компании, поскольку они могут действовать везде, где происходят цифровые взаимодействия."

Ник Срничек, автор книги "Platform Capitalism" http://blogs.lse.ac.uk/lsereviewofbooks/2017/02/24/lse-lit-fest-2017-platform-capitalism-by-nick-srnicek/

Люди, некогда стоявшие у истоков «экономики лайков» и приковавшие нас к экранам смартфонов, теперь проклинают собственные творения и бьют тревогу: лайки, свайпы и уведомления извратили не только нашу способность к концентрации, но и несут прямую угрозу демократическим институтам. Почитайте, как сами создатели современного цифрового мира постепенно приходят к мысли, что смартфон и соцсети — это игрушки дьявола.

Среднее время прочтения — 25 минут.

https://zen.yandex.ru/media/newochem/nashi-umy-mogut-byt-pohisceny-pochemu-itspecialisty-boiatsia-smartfonnoi-antiutopii-5a1c0f6f8139baf9ddc14915