Образовательные и профессиональные траектории руководства Facebook, Share Lab

“Слишком мало, слишком поздно” - попытки Facebook бороться с фейковыми новостями провалились.

The Guardian поговорил с журналистами, которые уже год сотрудничают с Facebook, чтобы противостоять распространению фейковых новостей. Так вот они утверждают, что фактчекинговые инструменты социальной сети в основном оказались неэффективны, и что Facebook использует их работу для пиара.

Возник серьезный конфликт интересов: привлеченные социальной сетью фактчекеры, работа которых оплачивается технологической корпорацией, не могут в достаточной мере анализировать и критиковать роль Facebook в распространении дезинформации.

К тому же Facebook не делится с ними внутренней статистикой, и в связи с этим трудно оценить эффективность работы привлеченных журналистов.

Короче, не ясно, воспринимает ли корпорация борьбу с фейками всерьез. В конечном итоге социальная сеть получает деньги за распространение дезинформации, и любой может купить рекламу без тщательной проверки.

Например, в социальной сети широко распространялись различные теории заговора и фейки о двух недавних массовых расстрелах. В одной из статей ложно утверждалось, что стрелок придерживался антифашистских взглядов, - и многие фактчекеры пометили ее. Однако это не помешало тому, что на Facebook ей поделились 260 тысяч раз.

Сокращенный перевод http://telegra.ph/Slishkom-malo-slishkom-pozdno-11-19

Оригинал https://www.theguardian.com/technology/2017/nov/13/way-too-little-way-too-late-facebooks-fact-checkers-say-effort-is-failing

Сайты для распространения фейковых новостей и дезинформации сдаются в аренду, и этот бизнес быстро растет.

Об этом пишут исследователи из компании Digital Shadows (если что, то этот канал никак с ней не связан) в отчете “Бизнес на дезинформации”.

Основные тезисы:

Дезинформация отличается от fake news. Термин “фейковые новости” включает в себя широкий спектр явлений: и кампании дезинформации, и предвзятость, и непреднамеренные журналистские ошибки. Дезинформационные кампании - более узкое понятие, относящееся к преднамеренному распространению информации с целью обмануть аудиторию.

Дезинформационные кампании имеют не только политическую подоплеку, но и коммерческую. Публикация фейковых материалов может повлиять на стоимость акций определенных компаний на бирже или на курс криптовалюты и т.п..

Существует широкий спектр доступных инструментов дезинформации - и это не только социальные сети. Все большей популярностью пользуются сервисы фейковых новостей. Они позволяют запускать “утки” разного рода при помощи социальных ботов для контроля ситуации на информационном рынке. Причем стоимость таких сервисов не является заоблачной — опробовать ботов в работе стоит всего $7. Другие сервисы предлагают распространение фейкового контента по сотням и тысячам информационных платформ, включая форумы, блоги и борды.

Традиционные медиаорганизации все чаще становятся жертвами новостных ресурсов, распространяющих фейковые новости. Такие сайты используют домены, похожие на URL официальных новостных ресурсов. Авторы исследования обнаружили, что у 40 сайтов известных новостных агентств существует более 85 000 возможных вариаций имени домена. И 2858 из них заняты и активно используются.

Порог входа становится все более низким, сейчас он минимальный за все время существования фальшивых СМИ. Это означает новые возможности для мошенников всех сортов.

Короткая аннотация (ru) https://geektimes.ru/post/295563/

Файл отчета (en) http://info.digitalshadows.com/rs/457-XEY-671/images/DigitalShadows-TheBusinessofDisinformationFakeNews.pdf

К посту выше: В сети доступны сотни генераторов фейковых заголовков, поддельных обложек журналов (под маркой "пошути над друзьями"). Всего один шаг до автоматической генерации fake news

Motherboard подготовила гайд о том, как не потерять свои аккаунты в соцсетях и почте в результате взлома.

Ничего кардинально нового, но это как раз те базовые стандарты цифровой безопасности, которых стоит придерживаться. Журналисты из редакции Motherboard утверждают, что им это неоднократно помогало.

Краткое содержание: моделирование угроз, обновление приложений и программ, пароли, двухфакторная аутентификация, антивирусы, VPN, бэкапы, айфоны и андроиды, симкарты, что делать с камерами и микрофонами на устройствах, TOR, Signal, шифрование дисков, и чего ожидать в будущем.

Есть блок с рекомендациями для журналистов.
https://motherboard.vice.com/en_us/article/d3devm/motherboard-guide-to-not-getting-hacked-online-safety-guide

THE MODERATORS
by Adrian Chen and Ciaran Cassidy

Технологическая индустрия опирается на огромную, невидимую армию работников, фильтрующих контент.

“Модераторы” - 20-минутный документальный фильм о работе модераторов одной из социальных сетей. Их задача состоит в том, чтобы на сайте не было ботов, мошенников и порнографии. Фильм показывает людей, обеспечивающих процесс модерации, и застает их во время обучающего тренинга в офисе одной из аутсорсинговых фирм в Индии.

THE MODERATORS Adrian Chen, Ciaran Cassidy
https://fieldofvision.org/the-moderators

Автор популярной колонки в The New York Times рассуждает о том, что Facebook нуждается во внешнем регулировании.

Это обсуждение идет не первый день, но после скандала с вмешательством России в американские выборы с помощью инструментов Facebook, оно вышло на новый уровень.

Автор (бывший сотрудник Facebook, в 2011-2012 годах возглавлявший команду, работавшую над защитой конфиденциальности пользователей) пишет о том, что для компании сбор данных — намного более важная задача, чем защита пользователей от злоупотреблений.

“Facebook знает, как вы выглядите, где находитесь, кто ваши друзья, каковы ваши интересы, находитесь ли вы в отношениях или нет, и какие страницы вы ищете в сети. Эти данные позволяют рекламодателям показывать таргетированную рекламу более чем миллиарду пользователей ежедневно.

Чем больше данных Facebook может предложить, тем более ценным он становится для рекламодателей. Это значит, что у него нет стимула ограничивать сбор или использование такой информации — за исключением ситуаций, когда к этому принуждает критика в прессе или действия регуляторов. FB может делать с вашей информацией все, что захочет, и у него нет причин устанавливать какие-либо гарантии.”

В качестве примера автор ссылается на историю взаимоотношений социальной сети с разработчиками онлайн-игр. Некоторые из них, как выясняется, весьма вольно обращались с пользовательскими данными, полученными от Facebook. «В компании, которая беспокоится о защите своих пользователей, эта ситуация привела бы к отказу от сотрудничества с разработчиками, чьи методы использования данных вызывали вопросы. Но когда я был в Facebook, то типичная реакция была такой: постарайтесь предотвратить негативное освещение в прессе, не предпринимая каких-либо серьезных усилий для обнаружения разработчиков-нарушителей». https://www.nytimes.com/2017/11/19/opinion/facebook-regulation-incentive.html

Изобретатель всемирной паутины, технологии World Wide Web, Тим Бернерс-Ли считает, что его детище попало в «неприятный шторм» проблем, включая отмену сетевой нейтральности, снежный ком фейковых новостей, пропаганды и поляризации пользователей.

Распространение дезинформации и пропаганды онлайн взлетело частично из-за принципов работы рекламных систем крупных цифровых платформ вроде Google или Facebook. Они были спроектированы, чтобы удерживать внимание людей. «Восприятие людей искажают очень точно натренированные ИИ, которые определяют как их отвлечь», — говорит Бернерс-Ли.

«Система проваливается. Работа модели рекламной выручки с кликбейтом не способствует продвижению правды и демократии. Поэтому я обеспокоен», — говорит Бернерс-Ли. В марте он призвал к регулированию политической онлайн-рекламы, чтобы предотвратить ее «неэтичное» использование.

«Одна из проблем изменения климата — дать людям понять антропогенную природу явления — оно создано людьми. Та же проблема и с социальными сетями — они техногенны. Если они не служат человечеству, то их можно и нужно изменить», — уверен ученый.»

Адаптированный перевод https://ain.ua/2017/11/18/berners-lee-internet
Оригинал в The Guardian https://www.theguardian.com/technology/2017/nov/15/tim-berners-lee-world-wide-web-net-neutrality

К посту выше: В 1990 году Тим Бернерс-Ли описал технологию World Wide Web, основанную на протоколе передачи гипертекста HTTP, системе адресации URL и языке гипертекстовой разметки HTML.

В течение года с помощью фишинга взламывается 12,4 млн аккаунтов Google. Комикс о том, как защитить себя от различных техник фишинга https://thenib.com/how-to-protect-yourself-against-spearphishing

Некоторые сайты используют скрипты, которые записывают нажатия клавиш, движения мыши и даже направление прокрутки вместе со всем содержимым страниц, а потом отправляют эти данные на сторонние серверы.

В отличие от обычных аналитических сервисов, которые предоставляют общую статистику, эти скрипты записывают и воспроизводят отдельные сеансы просмотра так, будто за поведением пользователя наблюдают через его плечо. ПО, которое записывает момент нажатия и каждое введенное слово, называется скриптом повторного сеанса.

Оценить масштаб и законность подобного попытались ученые из Принстонского университета Стивен Энглехардт (Steven Englehardt), Гунес Акар (Gunes Akar) и Арвинд Нараянан (Arvind Narayanan). Они провели исследование самых популярных сервисов, которые предоставляют компаниям возможность изучать поведение пользователей с помощью скриптов повторного сеанса, включая решения FullStory, SessionCam, SmartLook, UserReplay, Hotjar и «Яндекса».

Использование скриптов повторного сеанса на многих популярных в мире веб-сайтах имеет серьезные последствия для конфиденциальности. Такой скрипт может записать пароль, чувствительные персональные данные или другую информацию, позволяющую идентифицировать пользователя. Например, исследователи протестировали сайт аптечной сети Walgreens, на котором исполнялся скрипт компании FullStory. Несмотря на то, что сайт Walgreens действительно обезличивает пользовательский ввод, информация — симптомы и рецепты — по-прежнему собирается с помощью скрипта повторного сеанса вместе с реальными именами пользователей.

Аннотация на русском https://geektimes.ru/post/295645

Материал Wired https://www.wired.com/story/the-dark-side-of-replay-sessions-that-record-your-every-move-online/

Исследование https://freedom-to-tinker.com/2017/11/15/no-boundaries-exfiltration-of-personal-data-by-session-replay-noscripts/

К посту выше: Компании-разработчики ПО буквально "заглядывают вам через плечо" и отслеживают каждое нажатие клавиши и движение мышки на некоторых сайтах / Иллюстрация Wired.com

Chaos Monkeys: Obscene Fortune and Random Failure in Silicon Valley by Antonio García Martinez

«Обезьяний хаос в Кремниевой долине» — безусловный must-read Антонио Гарсиа Мартинеса (Antonio García Martinez).

Что такое «обезьяний хаос»? Это термин, используемый сетевыми администраторами для выявления проблем системы на раннем этапе. Обезьяны — это программы, специально разработанные, чтобы посеять хаос в компьютерной системе, проверяя таким образом ее устойчивость. Но в книге этот термин приобретает значение метафоры.

Мартинес развенчивает миф о Кремниевой долине как о прибежище интеллектуалов, показывая ее совсем с другой стороны. На самом деле, по мнению автора, — это зоопарк для обезьян хаоса, молодых бизнесменов-технократов, не особо обремененных моралью. Венчурный капитал всегда готов обеспечить их бананами. Но сможет ли общество пережить их предпринимательскую активность и какой человеческой ценой?

Гарсиа получил ученую степень по физике в Беркли перед тем как присоединиться к Goldman Sachs, где он моделировал поведение финансовых рынков. После финансового кризиса 2008 года он переехал в Кремниевую долину, где ему удалось создать свой стартап и вскоре продать его Twitter за $5 миллионов.

Некоторое время Мартинес работал в Facebook. Он называет Цукерберга то диктатором, создавшим корпоративную культуру, в которой сотрудники слепо преданы своему руководителю и бросаются в бой, очертя голову, по его приказу, то, без всякой иронии, — Мессией, ведущим человечество к кардинальным переменам. Когда-нибудь весь мир подключится к Facebook, и каковы будут последствия — никому не известно.

«Технологические стартапы, несмотря на все их претензии на прозрачность, инновативность и контркультурность, на самом деле, удивительно реакционные ребята. Они не хуже традиционной промышленности и политики, но, безусловно, ничем не лучше».

Рецензия на русском https://vc.ru/21020-chaos-monkeys-book

Рецензия на английском https://www.nytimes.com/2016/07/10/books/review/chaos-monkeys-by-antonio-garcia-martinez.html

Google ведет слежку за пользователями даже когда в смартфоне нет SIM-карты - об этом свидетельствует новое расследование журналистов издания Quartz.

Android-устройства фиксируют адреса ближайших сотовых вышек по идентификаторам Cell ID и отправляет их в компанию Google. Данные собираются и передаются даже тогда, когда на устройстве отключены геолокационные сервисы и не вставлена SIM-карта.

Проведенный изданием эксперимент показал, что даже сброс настроек до заводских, подразумевающий удаление всех установленных приложений, не помогает — смартфон продолжает отсылать в Google адреса ближайших вышек по мере того как переходит от одной к другой. Если в телефон не вставлена SIM-карта, он отправляет данные, когда ловит Wi-Fi.

Используя адреса не одной, а сразу нескольких вышек, местоположение пользователя можно определить с точностью до радиуса в 400 метров, а в городских условиях — еще более точно, поскольку вышки расположены недалеко друг от друга.

По словам разработчика ПО Билла Бадингтона (Bill Budington), который сотрудничает с правозащитной некоммерческой организацией Фонд электронных рубежей, действия Google могут подвергнуть пользователей Android реальному риску.

Перевод на русский http://safe.cnews.ru/news/top/2017-11-22_google_vedet_slezhku_za_polzovatelyami_dazhe_kogda

Расследование Quartz https://qz.com/1131515/google-collects-android-users-locations-even-when-location-services-are-disabled/

В литературном приложении к The Times вышло эссе Ватикан 2.0. Согласно его автору, технологические компании Кремниевой долины претендуют на роль своего рода глобальной церкви. Без всяких на то оснований, разумеется.

Тогда как Интернет, каким они хотят его представить, — современный эквивалент «чуда света»: движимый неизвестными силами и построенный трудом невидимых работников.

Часто Интернет воспринимают как нечто нематериальное. На самом деле, его поддерживает огромная инфраструктура, в том числе большие, опасные для окружающей среды дата-центры (являются источником загрязнения микроскопическими твердыми частицами). Что еще более важно — нынешний Интернет все больше подчинен корпоративным интересам, и, в свою очередь, это определяет всех нас — то, как мы думаем, работаем и живем.

Алгоритмы — самое сердце этих процессов. Они направляют нас через поисковые запросы и ведут нас по улицам городов, подчиняясь логике, которая остается для нас тайной, и продиктована из кабинетов топ-менеджмента компаний «большой пятерки» - Amazon, Apple, Alphabet Inc. (родительская компания Google), Facebook и Microsoft, доминирующих в цифровой сфере.

В десяти крупнейших технологических компаниях женщины составляют менее 30% сотрудников. В технических профессиях доля женщин еще меньше — 18,3%. Афроамериканцы и латиноамерианцы, составляющие соответственно 13% и 16% рабочей силы в США, согласно недавней публикации Wired, занимают 2% и 3% рабочих мест в технологических компаниях.

Не удивительно, что логика алгоритмов часто пронизана предубеждениями, недостатками и несправедливостью. Непредвзятость, которую приписывают алгоритмам, зачастую превращается в свою противоположность. Автоматическое принятие решений становится автоматической дискриминацией: когда кто-то ищет изображения черных подростков, то с большей вероятностью ему будут показаны тюремные снимки (mugshots) ; объявления о хороших вакансиях, скорей всего, увидят мужчины; «доктор» переводится на испанский как “el doctor”, а не “la doctora”.

Компании, входящие в большую пятерку, — самые большие компании мира. Их общая капитализация составляет $3 триллиона. Вместе они тратят на лоббизм больше, чем пять крупнейших банков или пять крупнейших нефтяных компании. Со времен монополий Рокфеллера и Моргана, США не видели такой концентрации богатства и власти. И все это стало обратной стороной интернета — изобретения, которое обещало миру больше равных возможностей. https://www.the-tls.co.uk/articles/public/technology-companies-facebook-god-earle/

В продолжение темы предвзятости алгоритмов.

В статье «Анализатор эмоций Google считает, что быть геем — плохо» журналисты Motherboard приводят пример того, как предубеждения проникают в искусственный интеллект (AI).

Джон Джинандреа (John Giannandrea), руководитель направления AI в Google, недавно сказал, что в искусственном интеллекте его больше всего беспокоит вовсе не грядущее господство разумных машин, а возможность дискриминации: «Настоящий вопрос безопасности состоит в том, что если мы даем этим системам предвзятые данные, то они — системы искусственного интеллекта - становятся предвзятыми».

Его страхи, похоже, уже стали частью продуктов Google.

В июле 2016 Google анонсировал бета-запуск нового программного интерфейса для машинного обучения под названием Cloud Natural Language API. Он позволяет разработчикам включать модели глубокого обучения Google в свои приложения, например распознавать, о каких реальных объектах идет речь в тексте, или анализировать его синтаксическую структуру. В дополнение к этому API включает анализатор эмоций, позволяющий программам определять, какие чувства вызывает та или иная фраза по шкале от -1 до 1.

Проблема заключается в том, что алгоритм считает фразы о религиозных и этнических меньшинствах негативно окрашенными, что указывает на предвзятость. Например, если кто-то называет себя евреем или гомосексуалом, алгоритм помечает высказывание как негативное.

В материале Motherboard приводятся и другие примеры. Высказывание «я - христианин» алгоритм оценил как позитивное, выдав оценку 0.1. «Я - сикх» — еще более положительно (0.3). А вот высказывание «я — еврей», алгоритм оценил как негативное (-0.2).

Аналогичная проблема была выявлена не только во фразах о религии, но и в высказываниях о сексуальной ориентации, расе, поле.

Системы искусственного интеллекта, включая анализаторы эмоций, обучаются на новостных историях и книгах. И поэтому они часто отражают предубеждения, характерные для общества. https://0.vice.com/en_us/article/j5jmj8/google-artificial-intelligence-bias

К посту выше: Иллюстрация предвзятой работы алгоритма Google, анализирующего эмоции / Motherboard

Атланты из Кремниевой долины продолжают расправлять плечи… Иногда, особенно если им не хватает идей, они попросту находят уже существующую услугу, приватизируют ее, а затем заявляют, что «переизобрели ее», пишет Арва Махдави (Arwa Mahdawi) в своей колонке для The Guardian.

Вы уже слышали о крутом новом тренде, называемом "со-жительство" (co-living)? Это почти как коворкинг, только вместо того чтобы делить офис с какими-то людьми, вы делите с ними жилье. Вы, наверное, думаете, что это всего лишь старая идея совместной аренды (roommates)? Ну, да, вообще-то, так и есть.

И все же co-living – это не то же самое, что жить с другими людьми в съемном доме или квартире. Сo-living – это когда богатые миллениалы живут с такими же, как они, богатыми миллениалами в причудливом здании в недавно джентрифицированной части города. В комплекте прилагаются такие полезные активности, как занятия йогой и бар с микрогрануллированным кофе, подразумевающие, что вы можете минимизировать взаимодействия с внешним миром. На языке стартапов это называется «сообществом».

Например «Коллектив» - коворкинговое пространство в Лондоне, описывающее co-living как «образ жизни, сфокусированный на подлинном чувстве общности, использующий общие пространства и возможности для более комфортного и наполненного существования».

Под «комфортом» подразумевается, что анонимные люди на минимальной зарплате уберут за вами. «Наполненное существование» - это когда вы сидите в общей гостиной, уставившись в свой телефон, окруженные другими людьми (с аналогичным вашему уровнем доходов), уткнувшимися в свои телефоны.

В колонке также идет речь о других «инновациях» и «изобретениях»: переизобретенном автобусе от Lyft, ближайшего конкурента Uber; торговых автоматах с встроенным AI и заменяющем еду напитке (и вызывающем «неконтролируемую диарею»). https://www.theguardian.com/commentisfree/2017/nov/16/silicon-valley-thinks-it-invented-roommates-they-call-it-co-living

Приложение для онлайн-знакомств Tinder использует шесть трекеров (как собственных, так и сторонних компаний) для слежки за поведением пользователей. Например, Tinder продавал компании Gillette данные о просмотрах профилей гладковыбритых и бородатых парней.

В приложении для знакомств OkCupid, программе Weather Channel и фонарике Superbright LED Flashlight эксперты обнаружили шесть-семь трекеров. В приложении музыкального сервиса Spotify было обнаружено четыре трекера, в том числе два от Google. Три трекера используются в приложении Uber, и еще несколько – в Skype, Lyft, Accuweather и Microsoft Outlook.

Это показало новое исследование YALE Privacy Lab и Exodus Privacy.

Коротко на русском https://www.securitylab.ru/news/489828.php
Подробно на английском https://theintercept.com/2017/11/24/staggering-variety-of-clandestine-trackers-found-in-popular-android-apps/