Цифровая тень – Telegram
Цифровая тень
1.09K subscribers
73 photos
2 videos
10 files
437 links
Интернет как капитализм платформ, общество в эпоху массовой слежки и data harvesting, медиа за стеной цензуры и персональных фильтров, машины манипуляций и алгоритмическая пропаганда

Фидбек: @digitalshadowbot
Download Telegram
Forwarded from wintermute
ок, еще интересное из доклада Carnegie - простите, он большой и интересный

про сравнительно новые автоматизированные системы пограничного контроля: по данным консалтинговой компании Accenture, такие системы используют "мультимодельное биометрическое сопоставление" - распознавание изображений лиц в сочетании с электронными паспортами или другими биометрическими документами.

процесс начинается, когда пассажир встает перед стеной с несколькими камерами. цифровые зеркала, расположенные рядом с камерами, привлекают внимание пассажиров для захвата изображения. те, кто не прошел автоматическую проверку, должны пройти вторичный осмотр с участием агентов-людей.

правительства внедряют в системы новые функции вроде технологий автоматического обнаружения лжи. ЕС тестирует технологию iBorderCtrl в трех странах - Греции, Венгрии и Латвии - для проверки мигрантов на пограничных переходах.

людям задают вопросы о странах, из которых они прибыли, обстоятельствах отъезда и так далее. затем ответы оцениваются системой обнаружения лжи на основе ИИ. люди, ответы которых система сочла честными, получают код для пересечения границы, другие передаются пограничникам для дополнительного опроса.

технология, лежащая в основе iBorderCtrl, основана на так называемом "распознавании аффекта", что подразумевает считывание выражений лица, на основе которых делается вывод об эмоциональном состоянии человека. психологи критикуют эти инструменты, говоря, что для точной оценки душевного состояния человека нельзя полагаться только на выражение лица, но правительствам технология нравится и они применяют ее все шире #voight #kampff

https://youtu.be/Umc9ezAyJv0
Forwarded from РУКИ
Замечали, как часто компании используют фотографии одних и тех же людей, выдавая их за пользователей и даже сотрудников? Сегодня условная “Виктория” присылает вам почтовую рассылку, а завтра – уже под другим именем – рекламирует популярный бренд.

Но зачем покупать фото в стоке, если можно сгенерировать лицо с помощью нейросети? По такой модели работает новый проект 100,000 Faces, который сегодня запустился на ProductHunt. Бесплатно любой может получить доступ к базе и скачать фотографии людей, созданных с помощью машинного обучения.

На платформе выложено 100 тыс. несуществующих лиц разного пола, возраста и этнической принадлежности. Разработчики самостоятельно снимали моделей для базы, на которой тренировался алгоритм. В основе лежат оригинальные снимки, а не чужие фотографий из соцсетей и фотобанков. Однако в реальности ни одного из людей не существует.

В базе, конечно, нужно покопаться – часть "снимков" выглядит пугающе, на других сразу бросаются в глаза искажения, но многие изображения выглядят абсолютно нормально. Лица можно использовать для презентаций, лендингов, почтовых рассылок, а также на сайтах и в мобильных приложениях.

100,000 Faces уже работает над API, который позволит генерировать лица самостоятельно и добиваться infinite diversity. Также стартап собирается запустить модельное ИИ-агентство. Клиенты будут присылать фотографии одежды, аксессуаров или гаджетов, а компания организует "съемки" вещей с виртуальными моделями.

Создание синтетических медиапродуктов on-demand, во-первых, экономит деньги, во-вторых, автоматически решает проблему с авторским правом, в том числе с правами модели. У виртуальной модели прав нет, а значит, ее снимки можно использовать без каких-либо ограничений. Так что через 5-7 лет весь интернет будет заполнен синтетическими медиа: фотографиями, текстами, аудио- и видеофайлами. Отличить фальшивое от реального будет сложнее, но ничего – скоро к этому все привыкнут.
Forwarded from РУКИ
Сгенерированные алгоритмом фото обычно можно узнать по текстуре волос, форме ушей или улыбке. Но иногда отличить реальное фото от синтетического почти невозможно. Вот несколько удачных примеров.
Украинская киберполиция задержала группировку ботоводов. Узнал на фотографиях изъятого оборудования SIM-банки, специальные устройства для одновременного управления многими SIM-картами. Подключив такой банк к сети, можно массово регистрировать новые аккаунты, рассылать с SIM-карт сообщения — то есть, делать всё то, что вручную заняло бы в сотни раз больше времени. Я видел такую штуку на одном из мест работы — знакомый маркетолог с помощью такого банка управлял своим пулом фейковых аккаунтов, через которые разгонял посты в соцсетях. Здесь же это дело поставили на поток (на фото видны коробки с тысячами SIM-карт) — организаторы схемы предоставляли услуги спам-рассылок, массовых регистраций, накруток и так далее. Ну а попались, если верить пресс-релизу, на звонках о ложном минировании — кто-то из их клиентов занимался на арендованном оборудовании телефонным терроризмом. Погуглил, новый банк на 128 SIM-карт стоит ~$2000, б/у можно найти за $700-800. Здесь больше фото.
Кстати, про ботоводов. Недавно вышло неплохое расследование украинских журналистов — один из них устроился работать в контору, которая занималась поддежкой политиков в соцсетях. Там он писал комментарии по заданным тезисам — кого-то поддерживал, кого-то наоборот "мочил". Ежедневно приходилось писать по 200-300 комментариев, а зарплата за такой нелегкий труд — всего 9000 грн (~$370). Здесь можно посмотреть сюжет, а здесь — почитать текст расследования.

Кстати, у ребят, которые руководили этой конторой, была ещё пачка довольно популярных новостных сайтов с сомнительным контентом, и Facebook недавно заблокировал их самые популярные страницы. С этим блокированием тоже не всё так однозначно; если вам интересен этот бизнес, почитайте колонку моего знакомого медиаменеджера по этому поводу.

В конечном итоге для стороннего наблюдателя до конца непонятно, за что конкретно забанили Znaj Media. В официальной коммуникации подчеркивается, что за связь с Pragmatico (но разве пиар-компания не может запускать свои медиа?) и за фейковых админов страниц.

Ну и конечно надо признать, что контент, который годами публикуют в Znaj Media - это иллюстрация всего, что не так с украинской (и не только) журналистикой. Всем участникам процессов производства, дистрибуции и потребления контента еще предстоит ответить на вопросы, что же такое “новостное издание”; в чем разница между “ботом” и “читателем” или “подписчиком”, который желает скрыть собственную личность; и, в конце концов, какое поведение является по-настоящему “неаутентичным”.
Forwarded from Threats
Тем временем, правительство Ирака решило устроить очередной Шатдаун.

Причина банальна. Массовые протесты против безработицы, коррупции и плохих государственных услуг.

В настоящее время потеряна связность с примерно 75% иракскими провайдерами, включая всех крупных операторов связи. Доступ остаётся только в некоторых городах на севере Ирака, имеющих отдельную сетевую инфраструктуру, не зависяющую от сетевых операторов в Багдаде.

Вначале власти попытались блокировать доступ к Facebook, Twitter, WhatsApp, Instagram и другим мессенджерам и социальным сетям, но после неэффективности такого шага перешли к полной блокировке доступа для нарушения координации действий в среде протестующих.

https://netblocks.org/reports/iraq-blocks-facebook-twitter-whatsapp-and-instagram-amid-civil-unrest-zA4zGlyR
Forwarded from wintermute
Wired пишет о том, как Amazon и Apple тихо создают протоколы, сети и чипы, которые с развитием интернета вещей смогут следить вообще за всем

например, протокол Amazon Sidewalk уже в 2020 году должен немедленно уведомлять вас, если ваша собака, несущая на себе трекер для собак Ring Fetch, покинет пределы вашего двора. а ведь может он включать для вас умные лампы не только дома, но и в том же саду? а может он держать соединение с вашими девайсами и вами, если вы немного отойдете от дома? а если вы уедете за 100 км?

технически тот же протокол может сообщать, что происходит с вашими детьми или пожилыми родителями, когда вас нет рядом, не закончилась ли вода в садовой поливалке, не переполнился ли почтовый ящик, не пришел ли к вам в гости друг или, наоборот, не ходит ли вокруг вашего дома кто-то подозрительный

то есть, вы можете общаться и оставаться единым целом с умным домом (или он с вами), даже если вы не дома. дома будет сидеть персональный электронный батлер. а дальше умным станет все, и мы будем общаться со всеми умными вещами в непрерывном режиме. для этого, вещи должны будут нас "видеть" и "узнавать", для чего каждый из будет нести на себе или в себе личный идентификатор, говорящий - "это я" и "я здес"ь. ну и дальше все как в любимых нами дистопиях #surveillance

https://www.wired.co.uk/article/amazon-sidewalk-apple-u1-networks
Forwarded from DRC LAW: IT-юристы
На мэрию Москвы подали в суд из-за системы распознавания лиц 

Москвичка Алёна Попова подала иск с требованием признать незаконным распознавание лиц через московскую систему видеонаблюдения. Это является обработкой биометрических данных без письменного согласия граждан и нарушает закон о персональных данных и право на частную жизнь.

В прошлом году Алёну привлекли к административной ответственности за одиночный пикет, и суд в ходе рассмотрения дела использовал записи с камер видеонаблюдения, применяя технологию распознавания лиц. Интересы Поповой по делу о незаконном использовании распознавания лиц представляет Саркис Дарбинян.

➡️ https://clck.ru/JQnyW
Forwarded from РУКИ
За сколько tech-гиганты готовы купить изображение вашего лица? Всего за $5, или за одну чашку латте, как выяснили журналисты.

Сотрудники Google подходили к бездомным и студентам, а затем предлагали им “потестировать приложение” и поучаствовать в “селфи-игре” в обмен на сертификат на $5 в Starbucks или Amazon.

Затем на специальное устройство записывали короткие видеоролики, на которых хорошо было видно лицо человека. С их помощью компания будет обучать алгоритм распознавания лиц Face Unlock на новом поколении смартфонов Pixel 4.

Об истории узнали еще в июле, но осенью открылись новые факты. Оказалось, что Google поручила сбор данных фрилансерам и попросила специально искать темнокожих людей, поскольку их лица алгоритму распознавать сложнее.

Фрилансеры решили набирать волонтеров среди бездомных, учащихся колледжей, а также среди гостей церемонии BET Awards, на которой вручают награды афроамериканцам.

Вот только об участии в эксперименте людям не сообщали. Более того, их намеренно обманывали, чтобы отвлечь внимание и собрать как можно больше видеоселфи. Фрилансеров, которые соберут больше всего сканов лиц, обещали официально устроить в Google.

Сертификаты в $5 тоже, как оказалось, выбрали неслучайно. Ваучер на такую суммму можно обменять на наличные, а значит, больше шансов заинтересовать бездомных или бедных студентов.

Google утверждает, что ничего об этом не знала, поскольку нанимала людей через посредника. Корпорация вообще часто нанимает временный персонал – внештатных работников в Google уже официально больше, чем штатных.

Интересно, куда Google, Amazon и других гигантов заведет желание экономить и постоянно полагаться на низкооплачиваемый труд фрилансеров. Особенно когда им начнут поручать более серьезные задачи – например, удаленное управление робомобилями.
Сенат США: активность российской «фабрики троллей» выросла на 200% в Instagram

С момента выборов 2016 года, после которых структуру бизнесмена Евгения Пригожина обвинили во вмешательстве в американские выборы, деятельность "фабрики троллей" только разрослась.

К такому выводу пришёл комитет Сената США по разведке. Сообщается, что «Агентство интернет-исследований», которое курирует Пригожин, не только не свернуло, но и расширило свою деятельность.

Так, сенаторы сделали вывод, что пропаганда в Instagram увеличилась на 200%, а в Twitter, Facebook и YouTube — более, чем на 50%.

Важной деталью является то, что пропаганда, по словам сенаторов, направлена на афроамериканцев и имеет целью обострение напряженности и повышение шансов на переизбрание Дональда Трампа. Ричард Бёрр — сенатор, сообщивший о результатах расследования, отметил: «наводняя соцсети фейковыми сообщениями, конспирологией и троллями, а также эксплуатируя существующие разногласия, Россия пытается породить недоверие к демократическим институтам и нашим соотечественникам».

В докладе кампания по пропаганде описывается как необычайно искусная операция и самая успешная кампания влияния на выборы в истории, которую будут изучать ещё десятилетия по всему миру. Сообщается, что кроме классических социальных сетей, пропагандой были охвачены также Pinterest, Tumblr и Medium.

Напомним, что власти России категорически отрицают вмешательство в американские выборы.

Источник
Искусственный интеллект, большие данные и Европа после Чернобыля: что покажут на Киевской биеннале

С 11 октября по 23 ноября в Киеве состоится биеннале современного искусства «Черное облако». Цель биеннале в этом году — осмыслить социальные и политические трансформации, произошедшие в Восточной Европе в течение последних трех десятилетий, в частности, под влиянием Чернобыльской катастрофы, распада СССР и развития современных информационных технологий.

Выставка «Черное облако» объединит международных художниц и художников, работающих с темами массовой коммуникации, искусственного интеллекта, окружающей среды и Чернобыльской катастрофы.

Выставка пройдет в Научно-технической библиотеке КПИ — уникальном здании эпохи советского модернизма.

В число работ выставки входит известная интерактивная инсталляция немецкого коллектива Tactical Tech «Стеклянная комната», в которой исследуются механизмы сбора персональных данных и проблема приватности в интернете. Ряд работ будет посвящен исследованию взаимосвязи между технологиями, политикой и экологией.

Событие в fb
Программа в fb
Как данные могут становиться оружием?

17-18 октября в рамках Киевской биеннале Black Cloud состоится симпозиум «Коммуникативный милитаризм» под кураторством Светланы Матвиенко (Канада).

В течение двух вечеров ученые и исследователи из разных стран рассмотрят те характерные социальные, политические и технологические условия информационного капитализма, которые позволяют использовать различные виды современного коммуникативного милитаризма.

Также речь пойдет и о возможных тактиках и стратегиях сопротивления.

Сегодня в программе выступление Герта Ловинка, теоретика медиа, активиста, основателя и директора амстердамского Института сетевых культур. В своем докладе "Грусть по умолчанию: преодолевая нигилизм платформ" он будет говорить о темной стороне Интернета, в частности, о распространенном феномене технологической печали, вызванного ведущими социальными сетями путем "модификации поведения" (так называемого "побуждения") с целью заставить пользователей бесконечно находиться в приложении, при этом показывая им все более персонализированную рекламу.

Ловинк утверждает, что вместо расширения возможностей и разнообразия мы наблюдаем тревожный эффект гиперконформизма, и спрашивает, как нам демонтировать эти «рынки предсказания» и возродить социальное.

Подробнее https://bit.ly/31mqtvz
Google сопротивляется профсоюзам

Менеджмент Google попытался сорвать собрание сотрудников цюрихского офиса компании, которые намеревались обсудить вопрос создания профсоюза, сообщает Recode.

Встреча носила название «Профсоюзы в Швейцарии» и была организована представителями местного профсоюза работников медиа и профсоюза телеком-индустрии, носящего название syndicom.

Накануне руководство отделения Google попыталось сорвать проведение собрания, рассылая письма о том, что встреча была отменена. В письме менеджмент компании заявлял, что отменяет встречу, потому что компания предпочитает проводить только те мероприятия по этой теме, которые "организованы в партнёрстве с руководством Google". Также было обещано, что компания организует собственное обсуждение законов о труде и правах работников.

Этот шаг расстроил многих сотрудников как в цюрихском офисе, так и тех, кто работает в других отделениях. Они посчитали, что компания создаёт препятствия для получения ими полной и неотцензурированной информации о ситуации на рабочих местах.

Несмотря на сопротивление со стороны руководства, встреча состоялась в одном из помещений офиса Google в Цюрихе. При этом менеджмент компании не сделал никаких заявлений о том, что не будет предпринимать какие-либо действия против людей, которые организовали или посетили собрание.

Исторически сложилось, что штатные сотрудники крупных технологических компаний, таких как Google, неохотно вступали в профсоюзы или даже открыто их осуждали. Но отношение изменилось, поскольку все большее число людей активней требуют расширения своих трудовых прав и возможности влиять на важные решения компании-работодателя.

Эти работники начали организовывать дискуссии по таким вопросам, как ответственность за сексуальные домогательства, справедливая оплата труда и участие компаний в спорных государственных контрактах.

В прошлом месяце сотрудники Google в Питтсбурге, штат Пенсильвания, некоторые из которых зарабатывают 40 000 долларов в год, проголосовали за создание первого профсоюза белых воротничков в компании. Руководство Google до сих пор оставалось нейтральным, но компания, похоже, заняла более агрессивную позицию в Европе.
​​Mozilla пугает распознаванием чувств. Приложения распознают выражения наших лиц в реальном времени и используют эту информацию для того, чтобы понять кто мы, что нам нравится, а что нет — всё для продажи рекламы, конечно.

Классный короткий интерактивный фильм https://stealingurfeelin.gs (часть исходных кодов открыта на github).

Идея гениальная — зачем задавать вопросы, когда можно показать картинки и ответы будут написаны у нас на лице. Очень крипово!
Forwarded from wintermute
Эдвард Сноуден у Джо Рогана, о том, как наши смартфоны шпионят за нами и многом другом (вся беседа на 2 часа 50 минут). ну и #paranoia, конечно

https://youtu.be/VFns39RXPrU