Интересные дела происходят в Уганде. До чего дошёл прогресс - в плохом смысле этого слова.

Хороший канал, кстати. Ведёт его журналист и преподаватель философии Кирилл Мартынов. Роботы, ИИ, общество - всё как мы любим: https://news.1rj.ru/str/technodeterminism

P.S. Подробнее про Уганду: https://www.iafrikan.com/2016/08/26/ugandas-pornography-blocking-machine-appears-to-be-part-of-a-darker-censorship-agenda/

Министерство морали Уганды объявило о разработке автоматического детектора порнографии. Речь идет о государственном компьютерном вирусе, который внедряется в системы пользователей и ищет на них файлы с порнографическим контентом (возможна также фильтрация всего сетевого трафика пользователей). Для этого будут, конечно, использоваться новейшие технологии, искусственный интеллект, распознавание образов и Big Data.

Министр морали Саймон Локодо сообщил в ходе заседания правительственной комиссии по противодействию порнографии, что машина будет способна вычислять как порнографию, хранящуюся на компьютерах и смартфонах, так и ту, что была недавно удалена с них. Фотографии и видеоролики будут фиксироваться и уничтожаться после обнаружения.

Разработка Uganda's Pornography Detecting-Machine официально началась в 2016 году, и обошлась правительству в 88 тысяч долларов (300 млн угандийских шиллингов) - подрячиком выступила южнокорейская фирма. Чиновники напоминают, что машина создана для исполнения национального закона о противодействии порнографии. Выявленных нарушителей будут привлекать к ответственности - им грозит штраф в 3 тысячи долларов (средняя зарплата в стране - 184 доллара в месяц) или до 10 лет тюрьмы.

После объявления о создании детектора порно, в Уганде было установлено 1,5 млн VPN. Угандийские либералы считают, что борьба с порнографией - это всего лишь повод для создания масштабной системы политической цензуры и слежки за гражданами.

На видео - речь министра Саймона Локодо о неизбежной победе нравственности https://www.youtube.com/watch?v=mTmolw6QDvU

Вот искусственный интеллект и технологический прогресс, который мы заслужили.

Чувствуете ли вы, как Виталий Милонов дышит вам в спину?

Простые ответы на вопросы, которые вызывает каждая новая технология

via https://xkcd.com/1289

Кстати, фразу «кто станет лидером в сфере искусственного интеллекта, станет властелином мира» придумал не Путин и его PRщики, а профессор Гарварда Ричард Фримен. Только у него она имел несколько другое продолжение: «кто владеет роботами, тот правит миром — позвольте нам владеть роботами».

Рекомендую к прочтению его статью-прогноз об экономико-политических последствиях развития искусственного интеллекта. Выводы удивительным образом совпадают с, казалось бы, поверхностными заявлениями западных колумнистов о том, как «российский режим использует ИИ для консолидации власти». По мнению Фридмана, если в экономическом плане роботизация приведет к дальнейшему росту неравенства, то в политическом к появлению неофеодализма.

Высокий риск появления неофеодализма объясняется следующими соображениями. Как убедительно доказал Пикетти своими исследованиями, капитал распределяется все более неравномерно, а обладание им является основной детерминантой дохода. Учитывая, что роботы и другие технологии ИИ — это тот же капитал, нет сомнений, что обладание подобными технологиями будет также монополизировано. Следовательно, беря во внимание их колоссальный потенциал по созданию прибыли, а также их потенциал в качестве субститута человеческого труда, напрашивается вывод, что мы на пороге мира, где уровень неравенства породит фактически неофеодальную политическую систему.

Основная часть населения, большей частью безработная, станет настолько зависима от обладателей капитала, что социально-экономическая структура, необходимая для функционирования демократических институтов стремительно исчезнет.

Да, в ряде международных организаций крайне опасаются, что подобный уровень неравенства может привести к ранее невиданному уровню политической нестабильности. Вопрос о том, примет ли население нарождающиеся изменения или восстанет, —далеко не решенный. Поэтому тот же Фридман делает особый акцент на необходимости ваучеризации и распределения между населением прав на технологии ИИ и аккумулируемую ими прибыль. Однако, шансов на то, что подобное произойдет даже в условиях западных демократий, — крайне мало. Неолиберальная культура пустила уже настолько глубокие корни, что утопические проекты начала 20-го века просто не имеют шансы на реализацию.

Что говорить о России. Тем более, что неофеодальная система сформировалась в РФ и без всяких роботов. Грядущая технологическая революция может дать этому новому типу социального устройства второе дыхание. И кто знает, возможно суд истории вынесет приговор именно в ее пользу.

https://wol.iza.org/uploads/articles/5/pdfs/who-owns-the-robots-rules-the-world.pdf?v=1

Welcome to the future

С вами снова новости из мира ютуба. Есть двое американцев, муж и жена - Майкл и Хизер Мартин. Им по 35 лет, у них пятеро детей (8-13 лет) от предыдущих браков - трое детей Хизер и двое - Майкла. Мартины ведут популярный блог на ютубе, где снимают пранки над своими детьми. Иногда это довольно жестокие розыгрыши. Например, жена разливает чернила на ковер, а потом вместе с мужем орёт на ребенка - "Ты это сделал! Не ври нам!", доводя его до истерики. Малый по имени Коди потерпает от "розыгрышей" больше всех. На вид ему лет семь, он носит очки. Его бьют и унижают все: папаша, мачеха, братья. Смотрят это реалити-шоу 750 тысяч подписчиков. На многих видео он плачет, на одном папаша разбивает ему нос, толкая на книжную полку. Весной популярные ютуберы обратили внимание на эту семейку и начали раскручивать эту тему. В итоге Мартинов лишили права опеки над двумя детьми, а канал они удалили. Это тот случай, когда надо обязательно смотреть видео, например вот это, в котором популярный ютубер объясняет, что не так с семейкой Мартинов: https://youtu.be/fvoLmsXKkYM, а здесь можно прочитать краткий FAQ по теме: http://digg.com/2017/daddyofive-explained-youtube-abuse

Недавно девушка из США застрелила своего парня - они снимали для своего канала ролик, в котором собирались проверить, пробивает ли пуля книгу.

Или взять стримера-зэка Мопса, которого за донаты изощрённо лупит его друг-зэк Щадило.

Эти идиоты Мартины издевались над детьми - тоже ради денег с ютуба.

Когда я читаю подобные истории, я вижу один и тот же образ. По одну сторону экрана находится человек с камерой, который добровольно, ради наживы превращает свою жизнь в реалити-шоу. По другую сторону экрана - невидимая для него огромная аудитория. Задача участника шоу - удерживать внимание аудитории и получать от неё награды. Игра может зайти слишком далеко. Но никто не знает, что такое это "слишком". Герои шоу стреляют в себя, издеваются над своими детьми, едят гадости, наносят себе увечья, занимаются извращенным сексом (это уже не про ютуб, про Chaturbate и подобные сервисы) - и это бесконечное реалити-шоу смотрят сотни тысяч людей. Нормальных людей, не садистов. Напоминает один популярный сериал, правда? Сценаристы "Черного зеркала" не выдумывают свои истории с нуля: они берут реальные явления, преувеличивают их и встраивают в свою мрачную sci-fi вселенную. Мы уже живём в футуристической антиутопии, просто не замечаем этого.

Здесь будет уместно вспомнить ещё один хороший фильм: драму Сидни Люмета Network ("Телесеть"), которая в 1976 году принесла своим создателям четыре Оскара. Это фильм о циничной машине телебизнеса, которая перемалывает жизни людей ради высоких рейтингов.

Прошло сорок лет, а экономика внимания продолжает калечить человеческие жизни. А мы, зрители, продолжаем за всем этим наблюдать, сидя в своих уютных квартирах и жуя попкорн. Без нас эта машина сломается, но никто не в силах отказаться от бесплатного шоу. Так и жуём.

Водители иногда общаются с пешеходами - например, уступая им дорогу на переходе. Но как будет коммуницировать с пешеходами беспилотный автомобиль? В Ford разработали систему световых сигналов, которая может стать решением этой проблемы. Над лобовым стеклом установилил несколько белых полосок, которые горят непрерывно во время движения автомобиля, медленно мигают перед его остановкой и быстро - перед стартом. Протестировать эту систему оказалось непросто: запускать беспилотные автомобили на городские улицы нельзя, а если в машине будет водитель, пешеходы будут коммуницировать с ним, а не со световой полоской. Решение придумали необычное: за руль посадили водителей в костюме автомобильного кресла, чтобы это выглядело, как будто автомобиль едет сам. Насколько хорошо люди понимали экспериментальные световые сигналы, не сообщается. Но получилось смешно.

Видео: https://www.wired.com/story/man-dresses-car-seat-research-self-driving/

Пост от команды Ford: https://medium.com/self-driven/how-self-driving-cars-could-communicate-with-you-in-the-future-e814d276937f

Краткое описание различий между самыми популярными криптовалютами. И интересные метрики: я, например, не знал, что в Ripple ежедневно проходит почти столько же транзакций, сколько в Bitcoin и Ethereum вместе взятых.

http://www.visualcapitalist.com/comparing-bitcoin-ethereum-cryptos/

Интересный арт-проект: умелец из Новой Зеландии запрограммировал промышленных роботов играть на музыкальных инструментах. Получилось довольно забавно - массивные роботы (вернее, роботизированные руки), которые обычно собирают машины на конвейерах, играют на ударной установке, басс-гитаре, клавишах, синтезаторе и диджейском микшере. Их движениями можно управлять с точностью до 0,3 миллиметра - при меньшей точности они не смогли бы играть на басс-гитаре и крутить пластинки. Автор проекта даже записал целый альбом, который он продаёт у себя на сайте по $10. Не думаю, что кто-то будет это слушать, но клип получился интересный. Кстати, в нём задействованы всего три робота. То, что их кажется больше, это всё хитрая съемка и монтаж.

https://youtu.be/bAdqazixuRY

http://newatlas.com/nigel-stanford-automatica-music-robots/51258/

Оказывается, не все мультфильмы в 3D делают в компьютерной графике - некоторые студии практикуют старый добрый stop motion, то есть покадрово снимают фигурки героев, а только потом добавляют компьютерные спецэффекты. Американская студия Laika печатает фигурки персонажей на 3D-принтере. Благодаря этому герои её мультфильмов имеют намного более выразительные лица. Для главного героя мультфильма Тима Бёртона "Кошмар перед Рождеством" в 1993 году сделали 700 разных голов; Laika печатает для своих персонажей десятки тысяч голов. Правда, раскрашивать их все равно приходится вручную. Напрашивается очевидный вопрос: почему бы не делать мультфильмы сразу в 3D? Но, как пишут в комментариях, во многих случаях stop motion проще и дешевле. Ну и конечно это красиво (как теплый ламповый звук, ага).

https://youtu.be/fWCEcog_YeU

Более подробное видео от The Verge: https://youtu.be/plXmbLAUTRg

Недавно СМИ писали о том, как преступники уводят у криптоинвесторов кошельки с биткоинами, взламывая их телефонные аккаунты с помощью социального инжиниринга. Белые хакеры из Positive Technologies упростили схему - вместо угона телефонного номера через колл-центр они использовали уязвимость SS7 для перехвата SMS. SS7 - это система служебных протоколов, с помощью которых телеком-операторы управляют телефонными сетями. Некоторые недобросовестные компании предоставляют доступ к SS7 за деньги. Получив доступ к сети SS7, хакеры или спецслужбы могут перехватывать SMS, следить за перемещениями абонентов, прослушивать их разговоры. В этом видео исследователи показывают, как легко получить доступ к кошельку жертвы на бирже Coinbase, зная только её номер телефона и имя. Попытка авторизации на Gmail по номеру телефона, сброс пароля Gmail через SMS, сброс пароля на Coinbase - готово, кошелёк захвачен. В общем, двухфакторная авторизация - не самый безопасный метод защиты аккаунта.

https://youtu.be/mLh1Nmqa6OM

https://www.forbes.com/sites/thomasbrewster/2017/09/18/ss7-google-coinbase-bitcoin-hack/

Как хакеры воруют биткоины, угоняя номера телефонов криптоинвесторов: https://news.1rj.ru/str/brodetsky/921

Как работает уязвимость SS7: https://news.1rj.ru/str/brodetsky/394

Прочитал про парня, который незаметно фотографирует на улице или в транспорте датчан с бэйджиками и постит их фото в Twitter с хештэгом - мол, граждане, будьте бдительны, берегите свои пропуски. Электронный пропуск ведь можно не только сфотографировать, но и скопировать, считав данные с чипа RFID. Ну а если пропуск - просто бумажная или пластиковая карточка без чипа, подделать его по фото и вовсе просто.

https://thenextweb.com/security/2017/09/20/this-hacker-really-really-wants-people-to-hide-their-id-badges-when-theyre-on-the-bus/

Интересная идея, но намного веселее было бы фотографировать экраны смартфонов. Я постоянно заглядываю в чужие смартфоны, когда еду в метро или маршрутке. Другие тоже заглядывают в мой экран, поэтому в транспорте стараюсь не светить переписку, скорее читаю что-то или листаю ленту. Люди в метро даже не задумываются, что ведут свою переписку публично - решают семейные вопросы, назначают встречи, отправляют и смотрят личные фотографии, как ни в чем не бывало. С хорошим зрением текст на чужом экране можно читать даже с расстояния. Фотографировать в такой ситуации, конечно, неудобно, но не удивлюсь, если скоро такой проект появится. Фотографы в парламенте уже изобрели целый жанр - зум переписки депутатов. В общем, будьте бдительны 👀

Один из самых доступных способов обезопасить свои аккаунты - двухфакторная авторизация, т.е. авторизация, для которой нужно не только знать пароль, но и иметь что-то - доступ к определенному номеру телефона, физический ключ, временный код доступа. Вот хороший FAQ по видам двухфакторной авторизации от EFF - какие виды 2FA существуют, их ограничения, плюсы и минусы: https://www.eff.org/deeplinks/2017/09/guide-common-types-two-factor-authentication-web

Спойлер: двухфакторная авторизация по SMS самая уязвимая - номер можно угнать через оператора*, а SMS можно перехватить через уязвимость SS7**. Более надёжный вариант - физические ключи безопасности (вводишь пароль + подключаешь USB-ключ). Но их пока поддерживают мало сайтов. Ещё одна надёжная штука (и бесплатная, в отличие от физических ключей) - приложения с генератором кодов доступа. Надо будет затестить Google Authenticator или что-то подобное.

Бонус: приблизительно то же на одной картинке https://www.accessnow.org/cms/assets/uploads/2017/09/Choose-the-Best-MFA-for-you.png

* https://news.1rj.ru/str/brodetsky/921
** https://news.1rj.ru/str/brodetsky/950

Интересная разработка исследователей из Кэмбриджа - программа Vincent, обученная на тысячах картин в разных стилях, с помощью генеративных нейросетей превращает эскизы-каракули в цветные картины. Некоторые машинные картины вполне можно принять за настоящие, "человеческие".

https://youtu.be/RXW9Nw-h7QE
https://www.cambridgeconsultants.com/vincent

Как генеративные нейросети создают картины, неотличимые от настоящих: https://news.1rj.ru/str/brodetsky/863

Новые китайские камеры наблюдения распознают возраст, пол и одежду пешеходов и могут узнавать людей, разыскиваемых полицией. Таких камер в Китае установили 20 миллионов.

Добро пожаловать в будущее 👁

«Наука и жизнь», 1986 год

via @ussrchaosss

В продолжение темы распознавания лиц. В Пекине в некоторых общественных туалетах столкнулись с проблемой - посетители отматывали себе слишком много туалетной бумаги. Расходы бумаги в одном автомате доходили до 13 рулонов в день. Решение придумали гениальное - автомат, выдающий бумагу, оборудовали камерой с распознаванием лиц. Теперь один посетитель может получить не более 70 сантиметров бумаги раз в 9 минут. Расход бумаги сократился втрое. Неоспоримая победа прогресса! Хотелось бы, чтобы это оказалось фейковой сатирической новостью, но нет - действительно всё так и есть.

https://youtu.be/KoLHPfeTu1o

И ещё одна, более серьезная новость: 170 тысяч камер наблюдения в Москве оборудовали технологией распознавания лиц от компании Ntechlab (разработчик программы FindFace). С их помощью власти будут находить на улицах преступников. Во время тестирования программа уже помогла обнаружить шестерых разыскиваемых. А вы думали, такое только в Китае бывает?

https://www.bloomberg.com/news/articles/2017-09-28/moscow-deploys-facial-recognition-to-spy-on-citizens-in-streets

Криптовалюты и электроэнергия

Недавно интернет облетела новость о том, что хитрые владельцы сайтов теперь могут майнить криптовалюты прямо в браузере, загружая сложными вычислениями процессоры ничего не подозревающих посетителей. В этом были замечены сайты Pirate Bay и Showtime, и даже сайты украинского новостного холдинга. В некоторых случаях это были эксперименты владельцев сайтов с монетизацией, в других - инициатива "партнеров", которые встраивали майнинговые скрипты в блоки с "партнерским контентом", в третьих - взлом (скрипты встраивали не владельцы сайтов, а хакеры). Это очередное напоминание о том, что майнинг - это фактически переработка электроэнергии в деньги. И хитрый способ майнить дешевле - не платить за электроэнергию. Например, брать её из компьютеров посетителей вашего сайта. Или даже с воздуха. Именно на этом принципе основан арт-проект Harvest. Собственно, весь проект - это двухметровый ветровой генератор, использующий энергию ветра для майнинга криптовалюты Zcash. Все заработанные деньги автор проекта передаст некоммерческим организациям, исследующим изменения климата. Красиво придумано! Вот описание проекта: https://julianoliver.com/output/harvest, а вот дашборд, на котором можно следить за майнингом: https://cpietsch.github.io/harvest/#/

А вот как это выглядит: https://julianoliver.com/output/images/harvest/17_720.jpg

Красивый проект, конечно. Но на самом деле криптоиндустрия с её сумасшедшим энергопотреблением - та ещё угроза окружающей среде. Блокчейн, на котором работает биткоин, сейчас потребляет приблизительно столько же энергии, сколько американский город с населением 325 тысяч.

Одна из причин такой прожорливости блокчейна - хитрый алгоритм создания новых блоков. Компьютеры, которые майнят биткоин, подбирают данные в блоке таким образом, чтобы в начале его хэша оказалось определенное количество нулей. Кто первый подобрал, тот и получает вознаграждение в биткоинах. Но количество компьютеров, соревнующихся в этом переборе, постоянно растёт. Чтобы замедлить выдачу "призовых" биткоинов, алгоритм периодически усложняет задачу, увеличивая количество нулей в начале блока. Получается вычислительная гонка вооружений: чем больше компьютеров майнят, тем сложнее вычислительная задача.

Уже сейчас затраты энергии на транзакцию в биткоинах превосходят аналогичные затраты на транзакцию в системе Visa в 5000 раз. Если объемы майнинга продолжат расти в таком же темпе, через три года система биткоина будет потреблять столько энергии, сколько небольшая страна - к примеру, Дания.

Понятно, что умные люди уже работают над решением этой проблемы. К примеру, создают новые архитектуры для блокчейна, в которых система наград работает по-другому, без "гонки вооружений". Умный блокчейн от Intel распределяет блоки между компьютерами случайным образом. Есть и другая его модификация, при которой майнеры выигрывают блоки за другие полезные вычисления. Условно, фармацевтическая компания может моделировать взаимодействие молекул и получить за это возможность записать новый блок в блокчейн. Но это всё пока работает только с технологиями Intel. Так что в целом будущее энергоэффективного блокчейна остаётся под вопросом. Подробнее об этом - в статье из октябрьского номера IEEE Spectrum. Там целый спецвыпуск про блокчейн, но пока прочитал только эту статью.

https://spectrum.ieee.org/energy/policy/the-ridiculous-amount-of-energy-it-takes-to-run-bitcoin

P.S. В статье майнеров сравнивают с современными алхимиками, превращающими энергию в деньги. Хорошая аналогия!

P.P.S. Если кто-то пропустил историю про майнинг в браузере, ознакомиться можно здесь:

https://securityintelligence.com/network-attacks-containing-cryptocurrency-cpu-mining-tools-grow-sixfold/
https://blog.malwarebytes.com/threat-analysis/2017/09/drive-by-mining-and-ads-the-wild-wild-west/

Waiting for interactive AR websites

via twitter.com/a_antonellis

Американская компания ShotSpotter предоставляет полиции сервис по отслеживанию выстрелов в городах. В более чем 90 городах США установлены микрофоны и сенсоры, которые круглосуточно слушают, всё что происходит вокруг. Если три сенсора слышат звук выстрелов, сигнал об этом получает сотрудник компании. Он проверяет, действительно ли это звук выстрела, и если всё верно, передаёт в местную полицию сообщение о стрельбе с координатами, вычисленными с помощью триангуляции. От момента выстрела до оповещения полиции проходит менее минуты. Бах-бах - и копы уже едут на место потенциального преступления. Звучит круто, не правда ли?

Не все полицейские участки в восторге от программы. Некоторые города прекратили сотрудничество с ShotSpotter из-за низкой эффективности - иногда система выдает ложные срабатывания, иногда не слышит настоящих выстрелов. К тому же, быстрое прибытие патрульных на место происшествия не всегда помогает раскрыть преступление.

Но есть и отделения, довольные сотрудничеством с компанией. Полиция Омахи утверждает, что система помогла снизить количество незаконной стрельбы на 45%. Полиция Нью-Йорка - крупнейший клиент ShotSpotter. Патрульные Нью-Йорка получают сообщения о стрельбе прямо на смартфоны. Это позволило им сократить среднее время прибытия на место происшествия на 12%. Благодаря системе ShotSpotter полиция Милуоки за один год произвела 68 задержаний, полиция Денвера - 30. Понятно одно - сама по себе технология аудионаблюдения не может решить проблему насилия на улицах. Сенсоры могут лишь быстро сообщать копам о стрельбе - а как в итоге изменится статистика и раскрываемость преступлений, зависит уже от самих копов.

Ну и конечно, многим не нравится ситуация, в которой частная компания обвешала улицы крупных городов микрофонами и спокойно слушает и записывает всё, что происходит на улице. Можно ведь продавать силовикам не только сигналы о стрельбе, но и записи разговоров между определенными лицами... Много злых сценариев можно придумать здесь, но оставим это дело адвокатам приватности.

Почитать об этой интересной технологии можно по ссылкам ниже, а вот картинка, наглядно объясняющая, как это работает: https://timedotcom.files.wordpress.com/2017/09/shots-fired-2.jpg

http://www.businessinsider.com/how-shotspotter-works-microphones-detecting-gunshots-2017-6

http://time.com/4951192/shots-fired-shotspotter/

Что получится, если показать генеративной нейросети 25 тысяч портретов XIX века.

Это портреты несуществующих людей:

https://twitter.com/pleonard/status/914671877146206208