На выходных участвовал в отраслевой конференции OpenTalksAI по искусственному интеллекту. Было довольно крипово, но в хорошем смысле слова.

В одной дискуссии сошелся хипстерского вида специалист по анализу данных, советник министра МВД и военный эксперт.

Судите сами, чей рассказ был более пугающим.

Военный эксперт Вадим Козюлин сделал доклад об использовании автоматических систем анализа информации в современной войне.

В Стэнфордском курсе по этике ИИ именно вопрос об автономном вооружении является ключевой точкой, где сходятся все наши дискуссии о природе человека, его ответственности и границах технологического прогресса. Есть общественные организации, которые требуют запретить разработку "роботов-убийц", как сейчас запрещено химическое оружие.

Вадим объясняет, что такое давление со стороны этических аргументов может заставить производителей дронов инвестировать в создание нелетальных автономных видов вооружения.

Аргумент, который тут прочитывается, примерно такой: это людям нужно было убивать других людей, чтобы победить в войне. Более совершенным солдатам-машинам убийства ни к чему, они смогут эффективно обездвижить противника, не лишая его жизни не не нанося непоправимых травм. Используя, например, тазеры, которые сейчас стоят на вооружение полицейских.

Что-то вроде героя Арнольда Шварценеггера в "Терминаторе-2" после того, как юный Джон Коннор приказал ему никого не убивать.

Тогда производители автономного оружия поставят вопрос так. Выбирайте между нелетальными боевыми роботами и массовыми жертвами людей в случае запрета таких роботов, если войны будут идти по старинке. Этический аргумент против использования ИИ в вооружениях через это отводится, и развитые страны начинают постепенно делегировать войну на всех уровнях, и как тактическим единицам, и как центрам управления такими единицами, машинам. Возможно, число жертв военных конфликтов в итоге действительно бы уменьшилось.

И все было бы относительно хорошо и гуманно, по крайней мере в ближайшей перспективе, если бы не слово "полицейских" выше. Если выбросить из войн убийства, то осуждать постоянное ведение войны станет труднее, а само состояние военных действий станет неотличимым от "поддержания мира", а точнее от полицейских операций. Различия комбатантов и нонкомбатантов уйдет в прошлое, а армия и полицейские силы, сдерживающие, скажем, городские бунты, станут неотличимы друг от друга. Что смогут граждане противопоставить государству, вооруженному тысячами нелетальных дронов?

Небольшое изменение баланса в сфере военной техники и правил ведения войны грозит опрокинуть все наши стандартные представления об общественной жизни.

Потом выступал советник министра внутренних дел Владимир Овчинский, и таких представителей МВД я еще не видел. Овчинский цитировал философа Ника Бострома, рассказывал про китайский социальный рейтинг, свежие законы Евросоюза о сборе данных и доклады ФБР, посвященные кибербезопасности ("мы их сразу получаем и переводим").

Вопросы к Овчинскому были связаны про новость о том, что в Москве полицейские получат умные очки с распознаванием лиц, и что 150 тысяч камер наблюдения сейчас объединяются в сеть с такими же функциями - так что оператор сети будет фактически знать о всех ваших оффлайновых перемещениях.

Позицию советника министра я бы охарактеризовал как циничный прагматизм: тотальная слежка - это наше неизбежное будущее и даже уже настоящее, и ни одно государство в мире от таких возможностей не откажется.

Дальше Овчинского спрашивают: а что будет, если эти данные попадут в третьи руки?

Он говорит: - Ну и попадут, а что с этим можно сделать?

Его спрашивают: а что будет, если система меня перепутает и я буду задержан по ошибке? Осознает ли, мол, МВД меру ответственности за такие погрешности.

Овчинский отвечает: - Ну и задержат по ошибке, обязательно. Ну потом будут разбираться, и отпустят. Или нет. Ха-ха-ха.

Ставка, в общем в том, что мы все сидим в одной технологической лодке. Раз можно собрать всю информацию с камер и обработать ее в масштабах мегаполиса, значит так и будет сделано. Для любого государства, от которого треб

уют борьбы с преступностью и безопасной среды, игра тут стоит свеч. Даже если стыдливо замалчивать вопрос о политической полиции и цензуре.

Что мы можем противопоставить этому прекрасному видению ситуации? Я сходу не нахожу ответа.

А потом слово взял Артур Хачуян, у которого бизнес по анализу открытых данных. Основное направление, насколько я понял, маркетинговое, но вот еще есть сервис, который позволяет родителям контролировать поведение своих несовершеннолетних детей в интернете, отслеживая их "цифровые следы". Хачуян видит в этом гуманистическую задачу, мол, взрослые так смогут лучше понимать подростков, а сам инструмент слежки описывает как нейтральный. Мол, следить можно разными способами, например, глядя в окно.

Но в целом молодой человек с дредами Хачуян тут совпадает с автором учебников по оперативно-розыскной деятельности Овчинским: технологическая ситуация такова, что цифровая слежка неизбежна, давайте просто примем это и будем жить дальше.

И вот это крипово.

Я спросил у Артура в шутку, не хочет ли он открыть версию Tinder на основе соотносения "цифровых следов" человека за всю историю его использования интернетом, ведь это позволяло бы находить партнеров как бы "эффективнее".

Подвох тут в том, что личный выбор алгоритмизируется прямо в сердце мифа об аутентичности человеческого выбора - романтических отношениях.

Хачуян тоже это, кажется, понимает, но с готовностью отозвался, что его компания таким проектом уже занималась и сейчас готовит улучшенную версию платформы. Более того, для проектом несколько сотен добровольцев занимались сексом в датчиках для того, чтобы понять, какую статистику можно извлечь из этих данных.

- Вы, наверное, думали, что сториз исчезают из интернета навсегда? - спросил Хачуян публику под конец. - Ха-ха-ха.

Так вот, а я спрашиваю: кто тут главное зло и чья история страшнее?

До 31 марта открыт набор в AI Startup Accelerator — программу для проектов в сфере ИИ от Бизнес-инкубатора ВШЭ. Среди партнеров — «Ростелеком», МТС, Нейронет, КРОК, Visa и шесть инвесторов. Проекты получат доступ к ресурсам корпораций, возможность провести пилот и стать партнером, а также привлечь деньги от венчурных или стратегических инвесторов.

Подать заявку → https://inc.hse.ru/programs/ai

Это не про искусственный интеллект, но про этику новой цифровой эпохи. http://www.sobaka.ru/lifestyle/gadgets/79109

Технологии искусственного интеллекта (ИИ) IBM могут с 95%-ной точностью предсказать, кто из сотрудников планирует покинуть текущее место работы. Об этом заявила гендиректор корпорации Джинни Рометти.
https://www.cnbc.com/2019/04/03/ibm-ai-can-predict-with-95-percent-accuracy-which-employees-will-quit.html

В MIT создали новый нейроморфный чип, который был представлен на закрытой конференции MARS, организуемой Amazon https://hi-news.ru/technology/na-sekretnoj-konferencii-amazon-pokazali-novyj-chip-on-mozhet-izmenit-budushhee-iskusstvennogo-intellekta.html

ИИ от OpenAI недавно выиграл у профессиональной команды в Dota 2. Но интересно, какой ценой? В 2017 году, когда OpenAI показала своего первого бота-дотера, она потратила 8 миллионов долларов на облачные вычисления. С тех пор ее расходы, вероятно, значительно выросли. В 2018 году OpenAI объявила, что предшественник системы, победившей OG, связывал более 120 000 процессоров, арендованных у облачного подразделения Google, в течение недель. Победившая чемпионов версия тренировалась в течение 10 месяцев, что эквивалентно 45 000 годам игры в Dota 2 против самой себя. Сколько это стоило? Грег Брокман, CTO OpenAI говорит, что на проект ушли «миллионы долларов», но не раскрывает подробности. Общее финансированеи OpenAI составляет 1 млрд долларов, но и этого похоже не хватает. Много любопытных подробностей здесь: https://hi-news.ru/technology/openai-xochet-sozdat-mogushhestvennyj-ii-no-v-xoroshem-smysle.html

Китай делает ставку на искусственный интеллект, чтобы наверстать свое отставание в военной сфере и разрабатывает оружие, способное принимать решения на поле боя и атаковать автономно. Таковы выоды из опубликованного недавно Пентагоном 132-страничного доклада для Конгресса с подробным описанием роста вооруженных сил Китая. По оценкам этого документа, военный бюджет Китая вырос на 8% с 2019 года, достигнув примерно 200 млрд долларов. Доклад предупреждает, что значительная часть этих денег была использована для финансирования разработки футуристического оружия на основе искусственного интеллекта. https://www.inopressa.ru/article/16May2019/letemps/china.html

Хорошие и глубокие размышления о новых технологиях и искусственном интеллекте от одного из лучших философов и историков современности Юваль Ной Харари: https://ru.euronews.com/2019/05/14/gc-16-noah-harari-sujet

30 AI-powered стартапов стоимостью больше 1 млрд. долларов. Интересно, что они делают? Например китайская компания Bytedance оценивается в $75млрд. Что она из делает? Агрегирует новости и делает приложение для создания 15-секундных вирусных видео. https://medium.com/anastasiyaernayseskarsa/самые-ценные-в-мире-компании-в-области-ии-над-чем-работают-64e6c571346f

Президент РФ впервые провел совещание по искусственному интеллекту. На нем Греф предложил президенту придать Москве специальной статус, который позволит городу экспериментировать с технологиями искусственного интеллекта. Собянин, который тоже был на совещании, назвал идею хорошей https://www.facebook.com/184860593907/posts/10157236732523908?s=100002506148267&v=i&sfns=mo

Интересно что происходит с OpenSource, одним из фундаментальных столпов ИИ. После того, как Microsoft купил GitHub и на фоне развивающейся истории давления на Huawei, китайские разработчики всерьез озаботились возможностью потери доступа к GitHub и соответственно к OpenSource проектам. Есть над чем задуматься…

https://www.fudzilla.com/news/48769-us-might-have-control-of-open-source

Huawei купила технологии российской компании в области распознавания лиц
Китайский производитель приобрел патенты и команду разработчиков компании «Вокорд»
https://www.vedomosti.ru/technology/articles/2019/06/02/803125-huawei-kupil

Друзья, мы сделали большой аналитический обзор отрасли ИИ в России и мире.

Выпуск №1 содержит обзор текущего состояния отрасли ИИ в России и мире, включая основные технологии и применения, ключевые компании, университеты и людей – как исследователей, так и лидеров мнений. Главной темой номера является Стратегия – в отчете проводится анализ ситуации в мире, обзор стратегий основных стран в области ИИ и обсуждается возможная стратегия России в области ИИ.

Обзор выпущен в консорциуме Центр компетенций НТИ по искусственному интеллекту на базе МФТИ, НИУ ВШЭ, Сколтех при поддержке Сбербанка, Аналитического центра при Правительстве РФ и Министерства цифрового развития и коммуникаций.

Ссылка на электронный отчёт: www.AIreport.ru

Не стоит знакомиться в соц сетях с незнакомыми симпатичными девушками)) ведь на самом деле неизвестно кто и с какими целями просится Вам в друзья... https://hi-news.ru/internet/sozdannaya-iskusstvennym-intellektom-fotografiya-ispolzovalas-dlya-shpionazha.html

Интервью в Форбс с Аркадием Воложем о Яндексе - Аркадий считает, что Яндекс это российская Кремниевая долина и что он работает на всю экосистему России: https://www.forbes.ru/milliardery/377923-yandeks-rossiyskaya-kremnievaya-dolina-arkadiy-volozh-o-samoy-perspektivnoy

Система распознавания лиц в начальной школе Шеньчженя.

Западные журналисты и правозащитники пытаются донести до полисимейкеров, что повсеместная идентификация граждан по лицам нарушает их право на приватность и делает их беззащитными перед всевидящими камерами властей. Китайцы тем временем с детства привыкают к тому, что это нормально.

Вот для замены такой работы точно нужен хороший искусственный интеллект. Но все к этому идет.

Бывшие модераторы Facebook рассказали редактору The Verge, как им работалось: видео, текст

Грязный офис с одним туалетом на 800 человек. Отвлекаться от работы запрещено. Норма выработки — порядка 400 постов в день. При оформлении им обещали, что они будут "анализировать данные" для страниц крупных компаний. Фактически работа состояла в модерации максимально токсичного контента — убийства, пытки, насилие.

Зарплата близка к минимальной — $30 000 в год. Сотрудники сталкивались с ментальными проблемами — посттравматический синдром, бессонница, кошмары. При этом их ментальным здоровьем никто не интересовался.

Эффективность модераторов оценивают по тому, насколько часто их решения отвечают политике Facebook, которая меняется чуть ли не ежедневно. При показателе ниже 98% сотруднику угрожает увольнение. Один из модераторов умер от сердечного приступа прямо на рабочем месте.

Facebook обещает заменить модераторов алгоритмами, но пока эту работу делают 15 000 живых людей по всему миру. Они не могут называть себя сотрудниками Facebook — их нанимают компании-подрядчики.

Каждый раз, когда я читаю подобные откровения о том, что скрывается за фронтендом интернета, я понимаю: да, это ужасная работа, но кто-то должен её выполнять. Разработчики Facebook пока не могут создать алгоритмы, которые справятся с модерацией контента без участия людей. Но почему компания не может позаботиться, чтобы её подрядчики не сходили с ума на одной из самых токсичных работ в современной цифровой экономике?