Цифровая тень – Telegram
Цифровая тень
1.09K subscribers
73 photos
2 videos
10 files
437 links
Интернет как капитализм платформ, общество в эпоху массовой слежки и data harvesting, медиа за стеной цензуры и персональных фильтров, машины манипуляций и алгоритмическая пропаганда

Фидбек: @digitalshadowbot
Download Telegram
Вторая часть беседы Эдварда Сноудена с Джо Роганом на русском

https://youtu.be/YHaowHu9_xE
Forwarded from Канал Newочём
Мы регулярно оставляем свои данные в сети, начиная от заполнения паспортных данных для покупки билетов, заканчивая адресом проживания для доставки пиццы. Но никто не знает, что произойдет со всей этой информацией в ближайшие годы. Privacy International построил 4 подробных сценария того, куда нас может завести развитиe Data Science.

Среднее время прочтения — 45 минут

https://newochem.io/dannyh/
Forwarded from wintermute
интересный материал о расовых предрассудках компьютерных алгоритмов: то есть, авторы упорно называют их расовыми, хотя на самом деле они имущественные, просто в США бедные люди часто оказываются еще и не белыми

суть вопроса: алгоритмы, которые прогнозируют, какие пациенты в большей вероятностью будут нуждаться в большем объеме медицинской помощи или в специальных услугах, решили подвергнуть "алгоритмическому аудиту". в результате выяснилось страшное - алгоритмы делали прогнозы, которые можно назвать расистскими, потому что чернокожих пациентов программа считала менее нуждающимися в медицинской помощи, чем белых. и даже хуже - черных людей с большим количеством хронических заболеваний программа считала менее нуждающимися, чем более здоровых белых. при этом, с помощью подобных алгоритмов принимаются медицинские решения, касающиеся примерно 200 млн человек

исключив намеренное расовое вредительство на всех этапах подготовки программы, исследователи пришли к выводу, что алгоритмы не содержат какого-то особого кода, который давал бы преимущество белой расе, никто из людей не корректировал результаты и вообще алгоритмы работают правильно, ровно так, как должны. проблема не в алгоритме, а в данных, на основании которых программа принимает решение

например, при построении прогноза о том, кто из пациентов будет больше нуждаться в лечении в будущем, программа оценивала расходы на лечение каждого пациента в прошлом. таким образом, она считала, что если человек много тратил, значит, он сильнее болен и больше нуждается в помощи, тогда как на самом деле он лучше обеспечен финансово (и усредненный белый пациент тратил больше, чем усредненный черный)

или, строя прогнозы о том, какие пациенты будут нуждаться в дополнительной амбулаторной помощи на дому, программа считала, что сильнее нуждаются в ней те, кто раньше выписывается из больницы (не долечившись до конца). изучение исторических данных показало, что более богатые люди выписываются раньше - как раз потому, что могут себе позволить услуги приходящих медсестер и специалистов, тогда как бедные стараются лежать в больницах как можно дольше

поэтому и не только поэтому в последнее время все больше разговоров о том, что разного рода алгоритмы и программы с использованием искусственного интеллекта, machine learning и т.д. перед запуском нужно подвергать аудиту и вообще регуляции - потому что никто, кроме разработчиков, не понимает, как они работают, а разработчики не понимают, какие последствия имеет внедрение этих программ. правда, где набрать понятливых аудиторов, тоже не очень понятно #bio #AI

https://spectrum.ieee.org/the-human-os/biomedical/ethics/racial-bias-found-in-algorithms-that-determine-health-care-for-millions-of-patients
Власти Китая начали применять для слежки за уйгурами технологию распознавания эмоций

В Китае начали внедрять технологию распознавания эмоций, сообщает Meduza. Ее применяют, в частности, в Синьцзян-Уйгурском автономном районе — регионе на северо-западе страны, где живут преимущественно уйгуры, исповедующие ислам. Китайские власти подозревают жителей Синьцзяна в сепаратистских настроениях, много лет ведут за ним постоянную слежку и отправляют в «воспитательные» лагеря.

Как пишет Financial Times, методика распознавания эмоций стала одной из главных тем для обсуждения на крупнейшей в Китае выставке технологий видеонаблюдения, которая проходила с 21 по 31 октября в городе Шэньчжэнь. Китайские власти говорят, что новая технология, как и внедренные ранее методы распознавания людей по лицу или походке, поможет бороться с преступностью.

«Алгоритм распознавания эмоций может по видеозаписям быстро вычислить подозреваемых, анализируя их психическое состояние, и предотвратить незаконные действия, включая терроризм и контрабанду. Мы уже начали его использовать», — заявил Financial Times Ли Сяою, эксперт по охране общественного порядка из бюро общественной безопасности в городе Алтай в Синьцзяне.

Алгоритм выявляет признаки агрессивности и нервозности в облике человека, а также определяет его уровень стресса. «Мы сотрудничаем с разными [производителями оборудования и технологий видеонаблюдения] в Синьцзяне, включая Hikvision, Uniview, Dahua и Tiandy. Только компании, которые всерьез занимаются искусственным интеллектом, могут работать в этой сфере. Лидеры рынка — это, конечно, Alibaba и Tencent», — сказал Ли Сяою.

По его словам, в Синьцзяне технология используется в первую очередь при прохождении таможенного досмотра. Но, как пишет Financial Times, программы по распознаванию стали подключать к камерам и в метро, в департаментах полиции и в некоторых школах. Неназванный представитель компании Megvii, разрабатывающей программы анализа изображений, рассказал, что китайские власти уже широко используют технологию распознавания эмоций.

Научить искусственный интеллект понимать чувства человека пытаются не только китайские компании, но и такие международные технологические гиганты как Amazon, Microsoft и Google. Однако ученые считают, что новой технологии пока нельзя доверять. Не потому что она еще не получила достаточного развития, а потому что эмоции человека нельзя надежно распознать по выражению его лица.

В июле 2019 года в рецензируемом научном журнале «Psychological Science in the Public Interest» вышел систематический обзор исследований о мимике и ее связи с эмоциями. Авторы обзора потратили на работу два года и пришли к выводу, что люди выражают свои чувства самыми разными способами. Это означает, что компании, которые расхваливают свои алгоритмы для определения эмоций, скорее всего, преувеличивают их эффективность.

«Данные показывают, что в среднем люди хмурятся менее чем в 30% ситуаций, когда они испытывают злость», — рассказала The Verge одна из авторов исследования, профессор психологии Северо-Восточного университета в Бостоне Лиза Барретт. «Вы действительно хотели бы, чтобы [выводы о вашем психологическом состоянии] делались на этой основе? В суде, при найме на работу, при постановке диагноза, в аэропорту… если алгоритм точен только в 30% случаев?» — сказала она.
Forwarded from РУКИ
Как продать неудачный hardware-продукт с ужасными отзывами? Поможет ситуативный маркетинг. The Verge рассказывает, как компании используют природные катастрофы, чтобы продвигать гаджеты.

Например, реклама очистителей воздуха Molekule стала появляться в ленте у жителей Калифорнии в период мощных лесных пожаров. Циничность такого таргетинга не понравилась калифорнийцам. Но многих возмутило и само устройство – сомнительный девайс без HEPA-фильтров за $800 (!), эффективность которого ничем не подкреплена.

На волне природной катастрофы Tesla стала предлагать аккумуляторы и солнечные панели со скидкой, а отели в Калифорнии во время пожаров, наоборот, повысили цены в пять раз.

Компании обвинили в disaster-капитализме и вполне заслуженно: многие действительно строят бизнес-модели на кризисных ситуациях, вызванных изменениями климата.

Кстати, устройств для борьбы с последствиями стихийных бедствий становится все больше. Причем компании продвигают не масштабные системы, а портативные устройства, которые теперь должны быть под рукой у каждого.

Например, можно обзавестись футуристичной фильтр-маской от загрязнений, специальным “противогазом” от CO2, домашним очистителем воздуха и даже надувным мини-плотом на случай наводнения.

Появляются даже носимые термостаты и кондиционеры для аномальной жары, а с ними и домашние датчики загрязнения воздуха и умные очистители. В общем, растет огромный рынок товаров для выживания в условиях климатической катастрофы. Ни государство, ни корпорации не помогут – закупаться спасательной техникой нужно самостоятельно.

Так что теперь потребители должны думать не только о том, какой смартфон и какие наушники купить. Но также спросить себя – What do I need to survive the biosphere today?
Forwarded from РУКИ
Распознавание эмоций, слежка за нацменьшинствами и скрытые камеры в оправе для очков - привезли репортаж с главной выставки китайских технологий надзора и контроля.

Пара интересных деталей:

*
В китайских тюрьмах уже тестируют системы смарт-надзора. Говорят, что таким способом повышают производительность на тюремных фабриках.

*Технологии распознавания лиц в Китае рекламируют, используя фото семей и детей. Почему нет? Ведь «Слежка = безопасность».

*Об этике пока мало задумываются. Например, открыто пишут, что ИИ-камера отличит титульную нацию от меньшинства – уйгуров.

*Распознавание эмоций уже тестируют на границе. Но насколько это надежный метод - большой вопрос. Считывание настроения по лицу, с точки зрения науки, – сомнительная практика.

*Именно в Китае производят большинство умных камер слежения. Правительство США пыталось от них отказаться, но безуспешно. Проблема в том, что госведомства сами не знают, какие камеры используют – приходится вручную проверять маркировки, чтобы узнать производителя.
Forwarded from wintermute
колонка о современных системах слежения с воздуха, в оригинале обычно военных, все как мы любим: постоянное наблюдение в сочетании с machine learning и массовым (читай - вечным) хранением - технология, которая напрямую угрожает гражданским свободам, хотя предполагалось, что она будет служить общему благу

колонка в решающей степени инспирирована книгой Eyes in the Sky, хотя и не является в чистом виде рецензией. в книге, кстати, описывается одна забавная история о создании системы Gorgon Stare (Взгляд Горгоны) - она разошлась всюду именно из этой книги, подтверждения из других источников нет, так что кто знает. суть в том, что создатель Взгляда Горгоны в свое время посмотрел фильм Enemy of the State с Уиллом Смитом, в котором правительственные агенты следили за главным героем с помощью всевидящей небесной системы наблюдения, и подумал - а круто было бы сделать такую систему. и сделал. верить или нет, вопрос, но звучит красиво

так вот теперь подобные системы умеют даже больше, чем в кино: над городами в том же Ираке постоянно висят дроны, которые смотрят вниз через очень мощную оптику. сигнал с камер обрабатывается алгоритмами, которые умеют искать подозрительную активность (в том числе, обнаруживать и отслеживать автомобили, которые совершают внезапный и немотивированный поворот), следить за отдельно взятыми объектами или людьми, интегрировать в систему данные из социальных сетей, перехватов сотовых телефонов, данных, добавляемых вручную наземными службами и так далее. все это в режиме реального времени, в интеграции и постоянном контакте с наземными службами: система следит, анализирует, находит и указывает, на земле хватают, уводят или убивают (хотя системы уже умеют убивать и сами с воздуха)

память теперь очень дешевая, поэтому все видео записываются и хранятся, их можно потом пересматривать и перематывать, подвергать дополнительному анализу, в том числе с помощью машинных алгоритмов. отдельный фокус в том, что исторически нет никаких запретов на то, чтобы смотреть на кого-то с неба. если для установки GPS-трекера на чей-то автомобиль в США требуется получить ордер, то с дрона или дирижабля за этим автомобилем можно следить беспрепятственно и сколько угодно. потому что небо - общее

в какой-то момент создатели систем слежки явно начинают ощущать себя богами, по крайней мере, они дают им имена богов и мифических героев - Персей, убийца Медузы Горгоны (Perseus, Persistent Stare Exploitation and Analysis System), стоглазый великан Аргус (Argus, Autonomous Real-Time Ground Ubiquitous Surveillance), бог Один (Odin, Observe, Detect, Identify, Neutralize).

главная этическая проблема ровно та же, что стояла перед создателями атомной бомбы: небольшая группа ученых и инженеров собирается вместе, чтобы создать мощное оружие для военных. при этом, эти новые системы слежки могут быть не менее страшным оружием, которое оно критически смещает весь баланс сил между гражданином и государством, между частным лицом и корпорацией, вплоть до полного исчезновения этого баланса

у обычных людей есть ощущение, что технологии развиваются без их ведома и без возможности как-то повлиять на развитие этих технологий - главные решения об условиях жизни в обществе принимает совсем небольшое и саморегулирующееся "братство элит". многие из них уверены, что работают во благо, но их творения способны разрушить мир #paranoia


https://www.thenewatlantis.com/publications/all-activities-monitored
Рушится один из самых дорогих стартапов в мире

Сеть коворкингов и офисов WeWork, которую называли одним самых дорогих и быстрорастущих стартапов в мире, находится в глубоком кризисе. Сначала оказалось, что компания живет не по средствам и открывает слишком много филиалов. Ее убытки достигли такого уровня, что сооснователь и директор WeWork Адам Нейман ушел в отставку. Теперь нью-йоркская прокуратура начала расследование деятельности самого Неймана: его подозревают в том, что он незаконно использовал компанию для личного обогащения.

Сеть офисов и коворкингов WeWork была основана в Нью-Йорке в 2010 году израильтянином из кибуца Адамом Нейманом и Мигелем МакКелви, ранее жившим в коммуне в штате Орегон. Партнеры начали арендовать большие коммерческие площадки, стильно обустраивать их, а затем сдавать в аренду стартапам. Со временем WeWork начала работать и с серьезными корпоративными клиентами, вроде инвестбанка JPMorgan Chase и технологической компании Siemens.

Нейман хотел, чтобы WeWork считали не просто бизнесом, а компанией, с помощью которой создается «лучший мир». А вегетарианец МакКелви взялся превратить WeWork в организацию, свободную от употребления мяса. Бизнес быстро рос: офисы и коворкинги открылись в десятках стран на всех континентах, кроме Антарктиды. К концу сентября 2019 года WeWork имела в общей сложности 625 площадок в 123 городах мира, что на 87% больше, чем годом ранее. В том числе был открыт и новый большой коворкинг в Москве: в сентябре WeWork арендовала всю офисную часть — 8500 квадратных метров — в многофункциональном комплексе Imperial Plaza.

О проблемах в WeWork, которую газета The New York Times называла «одним из самых дорогих стартапов в мире», стало известно в сентябре, когда компания подала документы на публичное размещение своих акций. Из отчетности выяснилось, что из-за агрессивного роста компания тратила слишком много, а зарабатывала недостаточно: в первой половине 2019 года ее операционные убытки составили 1,37 миллиарда долларов — примерно вдвое больше, чем за аналогичный период прошлого года.

В итоге размещение акций отложили, а директор WeWork Адам Нейман ушел в отставку. На помощь компании пришел один из ее ключевых инвесторов — SoftBank во главе с японским предпринимателем Масаеси Соном. Банк дополнительно вложил в капитал WeWork 1,5 миллиарда долларов и объявил, что берет компанию под свой контроль. В октябре банк сообщил, что потратит на проект около 10 миллиардов долларов. Сумма включала в себя выплату примерно миллиарда долларов за долю Неймана. Сон признал, что не сразу заметил проблемы с управлением в компании, потому что был ослеплен харизмой Неймана. «Я переоценил хорошие стороны Адама. <…> Во многих случаях закрывал глаза», — заявил бизнесмен.

В ноябре NYT выяснила, что причиной проблем WeWork стало не только быстрое открытие новых офисов, но и падение заполняемости в старых: в третьем квартале на площадках компании были заполнены 79% рабочих мест — по сравнению с 84% годом ранее. «Такое падение [средних показателей] можно было ожидать, потому что WeWork быстро открывала новые отделения. Но заполняемость снизилась даже на объектах, открытых более двух лет назад — с 90% годом ранее до 87% в третьем квартале», — написала NYT.

SoftBank сразу взялся за дело: 17 ноября стало известно, что для сокращения издержек WeWork уволит или выведет за штат около четырех тысяч человек — примерно треть своего персонала. Источник NYT в компании не исключил, что количество уволенных вырастет до шести тысяч. При этом в дополнение к миллиарду за свою долю Нейман должен получить от SoftBank еще 185 миллионов долларов за «консультации».

Однако 19 ноября агентство Reuters узнало, что генеральный прокурор штата Нью-Йорк Летиция Джеймс открыла расследование в отношении основателя WeWork. Прокуратура проверяет сделки, совершенные Нейманом: он якобы покупал недвижимость под залог своей доли в компании, а затем зарабатывал, сдавая эти площади в аренду WeWork.
Amnesty International опубликовала 60-страничный отчет о Google и Facebook с красноречивым названием "Гиганты слежки".

Для миллиардов людей по всему миру именно сервисы Google и Facebook являются проводниками в Интернет. И хотя эти сервисы в основном бесплатны, пользователи платят за них свою цену, предоставляя компаниям свои персональные данные.

Правозащитники утверждают, что обе компании угрожают правам человека, в том числе свободе выражения мнения и свободе мысли. Виной тому — бизнес-модель, основанная на массированном сборе данных о поведении пользователей, которые затем обрабатываются с помощью сложных алгоритмов и используются, в первую очередь, для получения дохода от рекламы.

Такая бизнес-модель позволила двум гигантам сконцентрировать огромную власть, включая финансовую мощь, политическое влияние и способность формировать цифровой опыт миллиардов людей. Это привело к беспрецедентной асимметрии знаний между компаниями и пользователями Интернета - как утверждает исследовательница Шошана Зубофф (Shoshana Zuboff): «Они знают о нас всё; мы не знаем о них почти ничего».
Forwarded from data stories
All Hail The Algorithm

Al Jazeera сделали документальный проект о алгоритмах в нашей жизни: «Пятисерийная документалка, исследующая воздействие алгоритмов на нашу жизнь»
– Первая серия про то, можем ли мы доверять алгоритмам
– Вторая про «империи данных»: колонизацию большими технологическими компаниями других стран. Там в качестве спикера есть Улисес Мехиас, интервью с которым я делал некоторое время назад.
– Третья про роль алгоритмов в политической манипуляции и фейк ньюс
– Четвертая про опасности биометрических технологий (немного о технологиях распознавания лиц я писал тут)
– Пятая про уловки дизайна
Google всегда уверял, что не вмешивается работу своего поискового алгоритма. Оказалось, что это не так

Каждую минуту пользователи вводят около 3,8 млн. запросов в поисковую строку Google. Полагаясь на его алгоритмы, они надеются получить релевантные результаты о ценах на отели или лечении от рака, или о последних новостях политики.

Влияние этих строк кода на глобальную экономику поистине огромно: миллионы людей обращаются к информации, найденной в Интернете, и именно она является отправной точкой для денежных потоков в миллиарды долларов.

Руководители Google неоднократно заявляли, – в том числе в свидетельских показаниях в Конгрессе - что алгоритмы являются объективными и, по сути, автономными, не подверженными человеческим предрассудкам или коммерческим соображениям.

Компания заявляет, что люди не влияют на поисковую выдачу и ранжирование результатов. Журналисты WSJ выяснили, что в последнее время Google все больше вмешивается в результаты поиска — и в гораздо большей степени, чем компания признает публично.

Часто это происходит под давлением со стороны крупного бизнеса и правительств различных стран. Google стал чаще прибегать к подобным действиям после выборов 2016 года в США и скандалов о дезинформации в Интернете.

По словам одного из руководителей Google, который занимается поиском, внутреннее расследование 2016 года в Google показало, что до четверти поисковых запросов возвращают какую-то дезинформацию. В процентном отношении это не так уж и много, но, учитывая огромный объем поисковых запросов в Google, это составило бы почти два миллиарда поисковых запросов в год. Для сравнения: роль Facebook оказалась предметом слушаний Конгресса после скандала с российской дезинформацией, которую просмотрели 126 миллионов пользователей.

Кратко о том, что выяснили журналисты издания:

• Алгоритмы поиска отдают предпочтение крупным компаниям по сравнению с более мелкими, поддерживая некоторые крупные веб-сайты, такие как Amazon.com Inc. и Facebook Inc

• Инженеры Google регулярно вносят скрытые коррективы в информацию, которую компания все чаще размещает параллельно основным результатам поиска: в предложения по автозаполнению, в так называемые «панели знаний» и «избранные фрагменты», в результаты новостей.

• Существуют чёрные списки для удаления из результатов поиска некоторых сайтов. И это не касается случаев, когда сайты блокируются из-за нарушения законодательства США или других стран.

• В режиме автозаполнения - функции, которая предсказывает слова по мере того, как пользователь вводит запрос, – инженеры Google создали алгоритмы и чёрные списки, чтобы отсеять сомнительные с точки зрения компании предложения по спорным вопросам.

• Сотрудники и руководители Google, включая соучредителей Ларри Пейджа и Сергея Брина, не пришли к единому мнению о том, в какой степени стоит вмешиваться в результаты поиска.

• Для оценки результатов поиска в Google работают тысячи низкооплачиваемых подрядчиков, цель которых, по словам компании, заключается в оценке качества алгоритмов ранжирования. Подрядчики утверждаю: компания даёт им понять, что именно она считает правильным ранжированием результатов.
Forwarded from РУКИ
“Никакого деления на классы и всеобщее равенство”: The New York Times оплакивает интернет, который мы потеряли. Когда-то все пользовались одними онлайн-сервисами – будь то сам Билл Гейтс или его газонокосильщик. Мы жили в чудесном эгалитарном мире, в котором не действовали стандартные правила общества потребления.

Но прошло двадцать лет, и в онлайне вырос огромный рынок услуг. Утопии не случилось. Теперь за все надо платить: подписки на стриминговые сервисы, облачные хранилища, пэйволлы, премиумы и фримиумы.

Американцы в среднем тратят по $1300 в год на цифровые медиа. В России, конечно, меньше, но платные подписки точно стали оформлять чаще.

Рынок платных предложений действительно огромный – это закрытые дейтинговые сервисы, оригинальные фотофильтры и даже приложения для “новостной терапии”, которые за $20 отсеивают негативную информацию. А еще можно вспомнить элитный email-клиент Superhuman за $30 в месяц, которым пользуются многие CEO.

Раньше, пишет NYT, за онлайн-услуги платили только наивные любители, которые не умели нормально пользоваться интернетом. Теперь наоборот. Премиум-сервисы помогают элитам дистанцироваться от низших классов и маскировать свои данные. Условно – айфоны больше оберегают приватность, чем смартфоны на Android, но и стоить они всегда будут дороже.

Другой пример – скины в Fortnite. Английские исследователи считают, что в дети с прокачанными костюмами и аватарами самоутверждаются за счет более бедных игроков, у которых стоят базовые настройки. Причем неравенство выражается уже в офлайн-среде.

Или нелепая реклама в YouTube, которая продвигает онлайн-казино, сектантов и правых радикалов. Заплати всего $12 – и проблема будет решена.

Ну а дальше колумнист рассуждает так – алгоритмы прокачаются, сервисы станут хитрее, появятся нейроинтерфейсы и все станет еще хуже. И если вы читаете эту статью на NYT, значит, у вас есть подписка и вам повезло быть в числе избранных интеллектуалов. А если нет, то вы жертва неравенства, которой подсовывают ложную информацию, чтобы исказить картину мира. Как-то так.

You’ve always had Louis Vuitton handbags. Now you have software that makes you feel the same way.
Forwarded from Zavtracast (Max Zareckiy)
Внутри Google нарастает напряжение между сотрудниками и менеджментом. Компания уволила четырех активистов, которые были не согласны с текущей политикой компании по отношению к работникам. По слухам, в этом была замешана, о ужас капиталиста, даже организация профсоюза.

При этом внутри компании начинают вводить инструменты для слежки за бразуерами на рабочих местах и обстановку в целом едва ли можно назвать "открытой и позитивной".

Стоит напомнить, что в минувшую пятницу 200 сотрудников офиса в Сан-Франциско вышли на открытый пикет у офиса компании за восстановление в правах "неудобных" работниктов Ребекки Риверс и Лоуренса Берланда, которых копрорация отправила в административный отпуск. Только это едва ли помогло. В понедельник Риверс заявила, что компания её уволила.

Что тут сказать? Из манифеста Google давно пропал пункт "Не будь злом". Оно и видно.

https://www.bloomberg.com/news/articles/2019-11-25/google-fires-four-employees-citing-data-security-violations
Что не так с интернетом и как это исправить?

Изобретатель глобальной сети Тим Бернерс-Ли на днях представил «Контракт для интернета». Hromadske опубликовало материал об этом.

Контракт содержит девять принципов, которых должны придерживаться руководители стран, компании и обычные люди, чтобы обезопасить мир от «цифровой антиутопии» и избавить интернет от политических манипуляций, фейковых новостей и нарушений конфиденциальности. Также в нем представлен конкретный план действий из 72 пунктов.

Создание этого «контракта» инициировала основанная Бернерсом-Ли некоммерческая организация World Wide Web Foundation, а к разработке и обосновании этих принципов привлекали около 80 экспертов. Сейчас инициативу уже поддержали более 150 организаций и компаний, в том числе Microsoft, Facebook, Google, Reddit, а также правительства Германии, Франции и Ганы.

Как пишет The Verge, одной из предпосылок к созданию «контракта» стала критика Facebook и Google за их всеобъемлющий сбор персональных данных и способы сбора этой информации.

Поддержав проект, корпорации обязались уважать конфиденциальность и личные данные людей. Если компании и другие подписанты не подтвердят усилия и работу для достижения целей, прописанных в документе, их исключат из «контракта».

Кроме теоретических основ разработчики «контракта» работают над инструментом, который поможет привлекать компании и государственных деятелей к ответственности за нарушение его правил.

К чему призывает «Контракт для интернета»?

Для правительств:

- Обеспечьте каждому доступ в интернет. Чтобы любой, независимо от того, что это за человек и где живет, мог/могла выходить в сеть.
- Интернет должен быть полностью доступным всегда. Чтобы никого не могли лишить права на полный доступ в интернет.

- Уважайте основополагающие права человека на конфиденциальность и защиту данных. Чтобы все могли пользоваться интернетом свободно, безопасно и без страха.

Для компаний:

- Сделайте интернет недорогим и доступным для всех. Чтобы никто не был отрезанным от использования и формирования интернета.

- Уважайте и защищайте конфиденциальность и личные данные людей для создания доверия в интернете. Чтобы люди могли контролировать свою жизнь в интернете, делать четкий и осмысленный выбор относительно своих данных и конфиденциальности.

- Разрабатывайте технологии, которые поддерживают лучшее в людях и бросают вызов худшему. Чтобы интернет был общественным благом, где прежде всего важны люди.

Для обычных пользователей:

- Будьте создателями и соавторами в сети. Чтобы в интернете был разнообразный контент для всех.

- Создавайте сплоченные сообщества, которые уважают цивилизованный диалог и человеческое достоинство. Чтобы каждый чувствовал, что в интернете он в безопасности и ему здесь рады.

- Боритесь за свободу и открытость в сети. Чтобы интернет остался открытым и глобальным общественным ресурсом для людей по всему миру, сегодня и в будущем.

Как это может помочь интернету и людям в нем?

Во время своего выступления к 30-й годовщине после появления всемирной сети Тим Берненс-Ли предостерегал, что перед интернетом стоят три глобальные проблемы:

- злонамеренные действия хакеров, в том числе при содействии государственных структур

- рекламные модели, которые поощряют кликбейт и распространение дезинформации

- враждебный тон и низкое качество онлайн-дискуссии.

В своей колонке, опубликованной The New York Times 25 ноября, Бернерс-Ли отметил, что создавая интернет, он иначе представлял себе будущее и роль его изобретения в нем. Он надеялся, что люди будут использовать интернет с пользой и будут создавать проекты вроде Wikipedia, OpenStreetMap и программное обеспечение с открытым кодом.

Однако вместо этого в сети навязывают предрассудки, ненависть и дезинформацию, которые разрушают сообщества и подрывают демократию.
Forwarded from Denis Sexy IT 🤖
Вы наверное помните, у Китая довольно большие проблему с Уйгурами — Китай всячески их притесняет, не так давно стало известно, что существуют «лагеря задержания», а регион где все это происходит оснащен максимальным количеством всевозможных устройств сбора данных.

На той неделе по цепи уйгуров в сеть утекла информация (CNN, BBC) для внутреннего пользования полиции Синьцзяна от 2017 года. В том числе секретные брифинги, которые показывают, как эта полиция получает приказы от огромного «кибернетического мозга», известного как IJOP, который помечает целые категории людей для расследования и задержания.

Утечка документов включает в себя:

• Руководство по эксплуатации для администрации лагерей задержания.

• Четыре коротких брифинга на китайском языке, известные как «бюллетени», в которых даются рекомендации по ежедневному использованию «Интегрированной платформы совместных операций» (IJOP), инструменты массового наблюдения и прогностической полицейской деятельности, которая анализирует данные из Синьцзяна.

В документах буквально идет речь о том, что некий алгоритм внутри IJOP, обученный на огромном количестве данных (от группы крови до показателей счетчиков электричества, IJOP приложения для полиции, в документе перечислены очень много параметров), способен решать, как задерживать и реагировать на потенциальных преступников, до факта преступления — это принято называть «предиктивная полицейская деятельность».

Например, в «Бюллетене № 14» содержится инструкция о том, как проводить массовые расследования и задержания после того, как IJOP сформировал длинный список подозреваемых. В документе сказано, что за 7 дней в июне 2017 года полицейские задержали 15 683 жителей Синьцзяна, помеченных IJOP, и поместили их в лагеря для интернированных

Это все выглядит как какой-то фильм или книга, где алгоритм решает как жить людям, но я склонен верить, что скорее всего так и есть, утечка подверждена множеством экспертов, включая лингвистический анализ. Страшно подумать, как за 3 года IJOP поумнел.

Правительство Китая утверждает, что все эти документы — фейк.

Весь лонгрид на тему слитых документов можно почитать тут.
О том, как Spotify следит за психологическим состоянием пользователей и продаёт собранную информацию рекламодателям:

Музыка, которую мы слушаем, замечательно отражает наши переживания. И сегодня стриминговые сервисы получили уникальную возможность собирать данные о настроениях своих пользователей. Отбросьте все иллюзии о приватности (если они еще остались) – любая онлайн-платформа записывает наши действия. Сервисы потокового воспроизведения музыки не стали исключением.

Даже зайдя в «приватный режим» Spotify (прим. – делает всю активность невидимой для друзей), пользователь все равно передает сервису данные о прослушиваниях. И благодаря повсеместному мониторингу Spotify превращается в одного из крупнейших мировых интернет-рекламодателей. Шведский стриминг генерирует сотни плейлистов, каждому из которых присваивает своё настроение: Mood Booster, Rage Beats, Life Sucks и так далее. Нужна энергичная утренняя музыка? Без проблем! Пытаетесь справиться с утратой? Найдется что-нибудь и для вас. Собрались всю ночь учиться? К вашим услугам Study Beats и тому подобные плейлисты.

Уже четыре года Spotify с помощью агрессивного маркетинга вещает о том, что их умные плейлисты это лучший способ навигации в океане из артистов и песен. Рекламные компании Spotify давно проходят под слоганом «Музыка для любого настроения». Но при ближайшем рассмотрении решение сервиса разделить подписчиков по настроенческим группам – это часть рекламной стратегии, которая помогла ему выйти на IPO. Данные об эмоциях стали главным магнитом для крупных компаний и маркетологов всех сортов и расцветок.

Впервые Spotify объявил о возможности мониторить психодемографиечские показатели еще в 2015 г, выкупив технологию «Music Intelligence» у компании Echo Nest. По мнению сервиса классифицировать миллениалов по жанрам музыки было уже глупо – они слушали почти все. Куда эффективней оказалось следить за их настроением. В том же году все бесплатные подписчики Spotify (прим. – около 60% от 180 млн. пользователей) начали получать рекламу, таргетированную по новой технологии.

Со временем сервис стал дополнять свои данные информацией о потребительских привычках, купленной у сторонних источников, и получать на выходе отличный рекламный инструмент, которым пользуются Dunkin’ Donuts, Snickers, Gatorade, BMW и маркетинговые гиганты типа WWP creative. Более того, Spotify научился предсказывать эмоции своих пользователей, составляя так называемые «emotional journey». То есть сейчас сервис знает какое количество пользователей будет находиться в той или иной настроенческой категории в будущем.

Что в итоге? В итоге Spotify научился собирать о пользователях уникальные сведения, которые не может предоставить ни одна другая IT-компания. Из положительных сторон такого мониторинга можно выделить тенденцию сервиса «выталкивать» людей на более позитивный эмоциональный уровень. Умные алгоритмы постепенно предлагают подписчикам в плохом настроении более положительные песни и, как показывает практика, те начинают с удовольствием их слушать. А логика такого решения Spotify диктуется хотя бы тем, что в хорошем настроении у людей повышается потребительская активность. Такой вот Mood-Boosting, способный в будущем сказаться на всей музыке, культуре и политике. Но надо отдать Spotify должное - в отличие от всех социальных сетей, только угнетающих психологию человека, стриминг занят ровно обратным.

Текст издания The Baffler:
http://bit.ly/2Zsj3Gb
Forwarded from Threats
Изобретатель глобальной сети Тим Бернерс-Ли давний критик своего детища. В основном из-за таких монстров как Google и Facebook за их всеобъемлющий сбор персональных данных и способы сбора этой информации.

Ещё в марте в своем письме в честь 30-ти летия WWW на World Wide Web Foundation Бернерс-Ли призывал "государства улучшать законодательство для цифровой эры, а также нести ответственность за соблюдение прав человека и свободы в онлайн-сети."

«Граждане должны контролировать компании и власти за обязательства, которые они берут на себя, и требовать, чтобы они уважали Интернет как глобальное сообщество с гражданами в его сердце.»

А разрозненным активистам «вместо того, чтобы винить власть, социальные сети и человеческую натуру», британец предлагает сфокусироваться на ключевых причинах этих проблем и объединиться в создании web-сообщества.

И вот на днях изобретатель глобальной сети представил «Контракт для интернета». Контракт содержит девять принципов, которых должны придерживаться руководители стран, компании и обычные люди, чтобы обезопасить мир от «цифровой антиутопии» и избавить интернет от политических манипуляций, фейковых новостей и нарушений конфиденциальности. Также в нем представлен конкретный план действий из 72 пунктов.

К разработке и обосновании этих принципов привлекали около 80 экспертов. Сейчас инициативу уже поддержали более 150 организаций и компаний, в том числе Microsoft, Facebook, Google, Reddit, а также правительства Германии, Франции и Ганы.

В своей колонке, опубликованной на The New York Times 25 ноября (перевод Медузы), Бернерс-Ли отметил, что создавая интернет, он иначе представлял себе будущее и роль его изобретения в нем. Он надеялся, что люди будут использовать интернет с пользой и будут создавать проекты вроде Wikipedia, OpenStreetMap и программное обеспечение с открытым кодом. Однако вместо этого в сети навязывают предрассудки, ненависть и дезинформацию, которые разрушают сообщества и подрывают демократию. «Интернет используют, чтобы воровать личные данные, чтобы запугивать и угрожать, а плохие люди подрывают демократию с помощью хитрых цифровых тактик. Использование таргетированной политической рекламы перед президентскими выборами 2020 года в США и во время выборов в других странах снова может подорвать осведомленность избирателей и помешать им сделать выбор. Мы находимся в точке невозврата. От нашей реакции на эти злоупотребления зависит, оправдает ли сеть свой потенциал как глобальная сила, несущая добро, или это приведет нас к цифровой антиутопии», — говорит он.

Бернерс-Ли убежден, что сеть требует радикального вмешательства со стороны тех, у кого есть власть над ее будущим. Это правительства, которые могут регулировать и издавать законы; компании, которые разрабатывают продукты; гражданское общество и активисты, которые привлекают к ответу чиновников; и каждый пользователь, который взаимодействует с другими в интернете.

Правительства должны прекратить обвинять платформы в бездействии защищать права своих граждан в интернете с помощью эффективного регулирования и правоприменения. А компании должны смотреть дальше результатов следующего отчетного периода и понимать, что долгосрочный успех означает создание продуктов, которые полезны для общества и каким люди могут доверять, говорит Бернерс-Ли.

Бернерс-Ли убежден, что все мы должны использовать «Контракт для интернета» для борьбы за глобальную сеть, которую мы хотим, чтобы сделать онлайн-мир достойным того, чтобы в нем хотелось жить.

Более детально ознакомится с "Контрактом" на русском языке вы можете на сайте Роскомсвободы.
Forwarded from БлоGнот
Суд в Сингапуре приказал Facebook откорректировать пост пользователя из Австралии, который содержал неверные утверждения о действиях правительства Сингапура. Сам пользователь, хотя и уроженец Сингапура, но имеет гражданство Австралии и постоянно проживает там, а потому утверждает, что не обязан подчиняться требованиям суда и отказался редактировать пост самостоятельно.

Это первое применение принятого недавно закона страны, который направлен на борьбу с fake news и манипуляциями. Если Facebook откажется это сделать, ему угрожает штраф в полмиллиона сингапурских долларов. Авторы ложных публикаций, которые сделаны в зловредных целях, могут быть оштрафованы на миллион долларов соответственно и заключены в тюрьму на срок до 10 лет.

Так что осторожнее с Сингапуром.
https://www.ft.com/content/1274db2e-1276-11ea-a7e6-62bf4f9e548a
Forwarded from РУКИ
У Motherboard вышел лонгрид о компании Ring, которая начиналась как невинный стартап DoorBot для гиков, а потом – с легкой руки Amazon – превратилась в воплощение зловещего надзор-капитализма.

Об этом уже написано немало (если интересно – 1, 2 и 3). Но Motherboard заинтересовала предыстория – кто основал Ring и как стартап пришел к успеху?

Основатель компании Джейми Симинофф – мечтатель, который восхищался Гейтсом и Джобсом и верил в священную силу капитализма. В 2012 он придумал и собрал DoorBot – умный домофон, который работал в связке со смартфоном. Продукт выглядел как примочка для гиков и сразу провалился.

Но Симинофф поменял дизайн и выпустил девайс под брендом Ring. Нарратив тоже поменялся: теперь это был не гаджет для энтузиастов, а залог безопаности – защита от грабителей и убийц.

Спустя пару лет стартап купила Amazon – с одной стороны, чтобы бороться с похитителями посылок, а с другой, чтобы тренировать свои алгоритмы и налаживать связи с правоохранителями.

С тех пор Ring заключила более 600 партнерств с отделами полиции по всей Америке. Полицейские пообещали пиарить устройства, а в обмен компания давала им доступ к карте наблюдения – через нее можно было запрашивать данные с любой камеры в городе без специального ордера.

Еще они совместно организовывали спецоперации и поощряли граждан, которые заявляли на соседей. А предполагаемых преступников показывали в рекламе Ring на Facebook.

Параллельно компании работали над системой распознавания лиц и “черным списком” для идентификации нежелательных лиц. При этом ранее за распознавание объектов отвечали сотрудники из Украины – они занимались разметкой данных и помогали тренировать алгоритмы.

Парадоксально, но Ring поднялся благодаря всеобщему недоверию к полиции. Паранойя в обществе нарастает, люди не чувствуют себя в безопасности, но на полицейских полагаться нельзя.
Горожане решили взять надзор в свои руки и стали массово устанавливать домашние камеры наблюдения, покупая смарт-устройства со скидкой.

Они даже не заметили, как сами построили гигантскую сеть слежки, о механизмах которой практически ничего неизвестно. А потом сами же согласились сотрудничать с полицией – из соображений все той же безопаности.

Теперь сеть слежки разраслась настолько, что на нее уже обратили внимание активисты и журналисты. Картина действительно пугающая: крупнейшая американская корпорация заведует масштабной системой надзора, и никто ничего не может сделать.
Более того – люди сами хотят следить и карать нарушителей. Например, в Балтиморе желающих купить камеры столько, что на всех просто не хватает устройств.
Forwarded from РУКИ
This media is not supported in your browser
VIEW IN TELEGRAM
Так выглядит карта умных звонков Ring, которая доступна полиции. Можно ввести любой адрес и найти ближайшую камеру, а потом запросить с нее видео. Ордер не потребуется.
Forwarded from БлоGнот
Берни Сандерс, сенатор и один из кандидатов в президенты США от Демократической партии, анонсировал план по развитию доступа к скоростному интернету стоимостью в 150 миллиардов долларов. Предполагается, что эти деньги пойдут на финансирование создания общественных сетей для обеспечения доступа к интернету в сельских и бедных районах, включая индейские резервации. В довольно социалистической манере Сандерс считает, что это поможет справиться с монополией жадных коммерческих провайдеров, которые задирают цены и навязывают пользователям контент.

Похожие инициативы есть и у других демократических кандидатов, но размахом поменьше — 20 миллиардов у Байдена, 80 — у Уоррен и так далее.

Меня всегда в Штатах удивляло, как в стране победившего интернета этот самый интернет может быть таким медленным и дорогим. Не знаю, как всё изменилось за последние четыре года, что я там не был, но в среднем, что wi-fi в дорогих и не очень гостиницах, что LTE в Лос-Анджелесе, Сан-Франциско и Нью-Йорке, — все варианты доступа заставляли тосковать по дому и даже по европейским отелям.
https://www.cnbc.com/2019/12/06/bernie-sanders-releases-broadband-plan-targets-comcast-att-verizon.html