Портал с образовательными материалами по этике для инженеров, ученых, преподавателей, студентов и вообще всех заинтересованных в ответах на вопросы, возникающие в области взаимодействия науки и технологий с обществом.

Например, запись из раздела их форума по Case Study: "Дилемма ДНК": один ученый проводил исследования ДНК у пациентов с раком молочной железы случайно увидел, что его коллега взял немного его образцов ДНК для использования в виде контрольной группы своего нейробиологического исследования. В форму согласия первого ученого, которую он подписывал с пациентами при сборе их ДНК, не входит такое использование их биологических материалов.
Ну и дальше в комментариях они обсуждают как нужно поступить.

http://www.onlineethics.org/

Библиотека материалов по образованию в области этики технологий и научной этики от Технологического Института Иллинойса.

В том числе:
- case study распределенные по предметным областям, дисциплинам и уровню аудитории
- образовательные методики и программы по этике, разработанные профессорами университетов США и всего мира
- практические методологии - как преподавателю начать говорить с аудиторией об этике в области техники, как отвечать на вопросы.
- методы оценки эффективности образовательных программ

http://ethics.iit.edu/eelibrary/

Доклад Президентской комиссии США по изучению проблем биоэтики (Presidential Commission For The Study Of Bioethical Issues): "Биоэтика для каждого поколения - дискуссия и образование в области медицины, науки и технологий".

Вот вы думаете о чем большая часть этого документа? Не о самой биоэтике, а о этических принципах публичных дискуссий на эту тему, о методах групповой работы на таких дискуссиях. И сначала я посмотрел и мне показалось, что это уж очень очевидные вещи говорят, но потом, вспомнив недавно найденную мною статью про обсуждение СПИДа в России (http://kommersant.ru/doc/3000818), я понял, что авторы доклада очень правы.

Краткое содержание:

Принятие решений в области биоэтики должно основываться на демократических принципах и учитывать как мнение экспертного сообщества, так и гражданское общество. Государственные и муниципальные органы должны организовывать такие публичные дискуссии, при этом стимулировать в этих дискуссиях взаимопонимание и уважение между участниками. Организатор дискуссии должен заложить определенный стиль и уровень обсуждения - подтверждение позиции каждого участника научными фактами, уважение, но в то же время критическое отношение к этим фактам со стороны других участников.

Очень хорошая мысль: мы уже не можем не решать этические проблемы, избежать этого выбора. Они касаются каждого из нас. И продолжают они тем что учить этике нужно со школы.

Вот замечательное место: учащимся старших классов начальной школы может быть предложено сравнить теории, к которым пришла науки по сравнению с теми, которые появились в рамках иных методологий. Или рассуждать на тему детерминизма, отвечая на такие вопросы как, например: "Являются ли наше будущее и судьба предопределенной?", "Оказывает ли то, что мы делаем сегодня влияние на то, что произойдет завтра?".

Общественные дискуссии имеют и образовательное значение, а само образование стимулирует повышение качества дискуссий. Это взаимное дополнение форматов является крайне важным.

Также комиссии по биоэтике должны производить просветительские брошюры, причем не только для экспертного сообщества, но и для широкой общественности.

Про мораль роботов и однополый браки

Друзья, это замечательно! Статья "Как создать морального робота?". Кратко: описывается идея создать семантическое поле выражений, фраз и слов, в общем - смыслов, которыми люди оперируют при описании моральных решений. А дальше обучить робота на этой базе.

Но самое печально-интересное в этой статье - это второй комментарий от некого эксперта по кибер-безопасности Бифа Хенерсона. Если бы это был российский сайт, я бы подумал, что это бот из Ольгино. А здесь - вот даже не знаю, всерьез ли он - комментарий наполнен клеше до степени карикатурности. Вот дословный перевод:

"Кто решает что правильно, а что не правильно? Как мне кажется, американское общество потеряло свой путь. Я определенно не хочу, чтобы оно [американское общество] закладывало свою систему ценностей в моего робота. Мужчины вступают в брак с мужчинами, убивают детей, позволяют мужчинам находиться в публичном душе с маленькими девочками, безнаказанно употреблять наркотики, нарушаются иммиграционные законы и так далее... Надеюсь, роботы будут разделять истинные ценности, такие, которые определили наши бабушки и дедушки"

http://spectrum.ieee.org/video/robotics/robotics-software/how-to-build-a-moral-robot

Нейронные сети, благодаря последним победам, начали всё больше называть аналогом человеческого мозга и даже "искусственным интеллектом". Так как такие заявления звучат даже от непосредственно связанных с этим или просто знаменитых людей, то уверенность в этом крепнет и превращается из красивой аналогии и упрощения в то, что все считают фактом. Тезис автора данной статьи примерно таков: к сожалению, как бы мы не хотели, но нейронные сети (а именно deep learning, который и изменил данную область в последнее время) - это технология работы с данными, не больше и не меньше. Сам по себе deep learning не решит всех проблем, не поможет вылечить рак (как минимум пока мы не поняли, как эту задачу представить с помощью данных) и не даст компьютеру по-настоящему "думать". Более того, это - не универсальный метод анализа данных, а лишь один из спектра технологий в machine learning. Да, мы можем достичь многого используя нейронные сети, даже создать очень эффектно выглядящую иллюзию "самостоятельно творящей" машины, но это не стоит рассматривать как правду, потому что, без участия человека, нейронные сети - это не про творчество, а просто про очень тщательно сделанный анализ и перекомпиляцию существующей информации по заданным человеком же "направлениям". Мы не нашли и вряд ли найдём тут Святой Грааль, - скорее научимся пользоваться новым инструмента для узких, но сложных задач, которые раньше казались выполнимыми исключительно человеком. От себя бы я добавил также, что не стоит ждать, что буквально завтра все заменимые нейронными сетями задачи будут их использовать - во многих местах КПД человеческого мозга несравнимо выше огромных кластеров железа. http://blog.claymcleod.io/2016/06/01/The-truth-about-Deep-Learning/

О «третьей части личности» человека – цифровом следе, который мы оставляем после себя.
Давайте подумаем, чем описывается в конкретный момент времени наша личность, сознание, «я»? В рамках данной статьи примем за данность факт, что описывается она исключительно состоянием мозга и остальной нервной системы. То есть положением всех связей нейронов, их возбужденностью, а также количеством гормонов и других химических элементов, влияющих на наше поведение.

В науке это называется коннектом (connectome) – совокупность и конфигурация всех нейронов, их связей, распределения зарядов, и метаболом (metabolome) – совокупность и конфигурация всех синапсов, молекул нейромедиаторов, гормонов.

Предлагаю называть этот цифровой след, это персональное цифровое окружение, третью часть нашей личности siliconome (силиконом), по аналогии с теми двумя ome'ами.

http://rusbase.com/opinion/forever-alive/

Интересно в этом эксперименте то, что "случайный порядок" (он случайно решает, причинить ли боль) вскрывает вопрос хаотичности, как условия свободы воли. Является ли это необходимым условием? Ну, с одной стороны, очевидно, если мы знаем, что стоит рандомайзер, то не считаем это свободой воли. С другой стороны, полная детерминированность человеческой мыследеятельности может быть задана только на уровне "Демона Лапласа", то есть в реальности никак.

http://apparat.cc/news/first-law-robot/

Краткая выжимка основных мыслей из книги американского философа и футуролога Элвина Тоффлера «Третья волна» (The Third Wave) — о том, какие изменения в обществе ждут нас в ближайшее время и как к ним подготовиться.

https://vc.ru/p/third-wave

«Скоро мы перестанем программировать компьютеры. Мы будем обучать их как собак» - интереснейшая статья от Wired в переводе The Idealist.

До изобретения компьютера большинство психологов-экспериментаторов думали, что человеческий мозг - это непостижимый черный ящик. Затем в середине 1950-х группа мятежных психологов, лингвистов, информационных теоретиков и ранних исследователей искусственного интеллекта выступили с иной концепцией разума. Они утверждали, что люди представляли собой не просто собрание условных рефлексов. Они поглощали информацию, обрабатывали ее и затем действовали в соответствии с ней. У них есть системы для написания, хранения и вызова в памяти воспоминаний. Они действовали с помощью логики и формального синтаксиса. Мозг - совсем не черный ящик. Он больше похож на компьютер.

Психологи начали описывать мысли как программы, обычные люди говорили о способности запоминать и хранить факты, как о биологических жестких дисках, и бизнес-гуру беспокоились об ограничениях психической пропускной способности и вычислительной мощности на современном рабочем месте. По мере того, как цифровая революция проникает в каждую часть наших жизней, она также распространяется на наш язык и наши глубокие основные теории о том, как устроен мир. Технологии всегда это делают. В эпоху Просвещения Ньютон и Декарт вдохновили людей думать о Вселенной как о сложных часах. Сейчас это компьютер, который, если подумать об этом, является принципиально новой идеей. Потому что если мир - это компьютер, значит его можно запрограммировать.
Код логичен. Код можно взломать. Код - это судьба.

https://www.facebook.com/1732037997052444

Будущее преступлений.

Описание преступления в недалеком будущем может выглядеть таким образом: «Мужчина был задержан за стрельбу в свою жену, но освобожден после того, как выяснилось, что его бионическая рука была взломана»

В глобальной связности и наша сила, и наша уязвимость. Чем быстрее по сети распространяется информация, тем быстрее это сделает и вредоносный код.

Из неожиданного, об этом я раньше не задумывался, а ведь верно:
"Опыт показал, что с помощью ЭЭГ и демонстрации подопытному цифровой панели банкомата с 30-процентной точностью можно определить PIN-код карты, которую использует этот человек."

http://apparat.cc/world/future-crimes/

Юмористическая иллюстрация концепции sousveillance - взаимного наблюдения. Идея ответа нарушению приватности со стороны государств с помощью создания прозрачного общества - наблюдения всех за всеми. Таким образом пропадает основная проблема слежки - асимметрия в обладании информации между государством/корпорациями/хакерами и гражданами.

В мире интенсивного развития технологий, основанных на научном знании, чрезвычайно важна нравственная ответственность ученых. Несколько десятилетий назад, говоря о возможных опасных последствиях научного прогресса, мы имели в виду прежде всего ядерные технологии. Но теперь возникли острейшие проблемы, связанные с биотехнологиями, бурным развитием информационных технологий, созданием виртуальных реальностей, формированием всеобъемлющих баз данных, контроля и учета людей, недолжное использование которых может поставить под угрозу свободу человека и его гражданские права...

Остальной текст состоит из очень интересных философских рассуждений и из не всегда правильных (на мой взгляд) выводов из них.
Полный текст: http://www.patriarchia.ru/db/text/4579909.html

Расшифровка лекции "Дети на заказ" научного корреспондента журнала Reason и автора книги Liberation Biology Рональда Бейли на программе InLiberty

Благодаря стремительному развитию биотехнологий лечение сложных генетических заболеваний, увеличение продолжительности жизни и даже формирование ДНК своих детей — это уже давно не футурология, а вполне насущные проблемы науки. Среди нынешних 20-летних скорее всего найдутся люди, которым предстоит решать, как долго они захотят жить. Однако, каковы цена и последствия научного прогресса в этой области?

http://www.inliberty.ru/library/707-Deti-na-zakaz

Житель Великобритании обзавёлся шлемом Galaxy Gear и принял решение проехать по всей длине Великобритании (порядка 1500 километров) в виртуальной реальности. Для своих целей он использовал данные Google Street View, на основе которых построил собственный симулятор велосипедиста.

/Вполне в стиле сериала Черное Зеркало./

https://tjournal.ru/32544-kruti-pedali-britanec-mesyacami-kataetsya-na-velosipede-po-rodnoi-strane-v-virtualnoi-realnosti

Жизнь современного человека нормирована государством, обществом, корпорациями. Единственный ли это путь обеспечения комфортной и безопасной жизни и технического прогресса? Думаю, нет. Постепенно распространяется идея горизонтальных организаций, в урбанистике реализуется концепция безбарьерной среды. В эпоху постоянного подключения к сети блокчейн становится основой для гражданства, не привязанного к территории. Всё это и многое другое мы начинаем использовать, чтобы уменьшить нормирование нашей жизни, не теряя безопасности и комфорта. А пока этот процесс не закончен, возникает потребность в убежище. Объекты «Архстояния» — глобальный эксперимент со смелостью, размером и разрешением на действие. В городе нам не придёт в голову построить башню из палок и гвоздей и сделать в ней лестницу из скользких брёвен, потому что это «небезопасно». Разрешение на эксперимент — это важное условие для ухода от технологического контроля. Для меня в городской среде убежище — это не место, а условия взаимодействия с пространством, с тем, кто его модерирует. В Москве, если ты проходишь километр и не встречаешь колючей проволоки, это кажется тебе странным. Если ты видишь интересный дом, то, скорее всего, это музей, и ты не надеешься туда бесплатно попасть, или частная собственность, и ты никогда не узнаешь, как этот дом выглядит внутри.

http://www.strelka.com/ru/magazine/2016/08/10/shelter-in-the-city

Ситуация с беспилотными автомобилями разделяет общество. Молодые хотят безопасного удобного беспилотного будущего. ПРоблема только в том, что для его реализации, нужно чтобы очень большая часть людей пересела на беспилотники. Ну, и как следовало ожидать, старшее поколение не хочет.

Большая часть американцев не хочет пользоваться беспилотными авто. Но вот половина из поколения миллениалов - наоборот и даже готовы поддержать запрет на человеческое вождение.

В целом американцы предполагают, что появление беспилотников усугубит существующие транспортные проблемы, в частности, увеличит количество трафика. Несмотря на заверения разработчиков, только 35% опрошенных верят в то, что беспилотные технологии повысят безопасность на дорогах и сократят количество смертельных ДТП. Они также обеспокоены экономическими последствиями появления автономного транспорта: 53% респондентов считают, что беспилотные автомобили отберут работу у таксистов и водителей грузовиков.

Исследователи выяснили, что американцы скептически относятся и к уже существующим новинкам в транспортной системе. Оказалось, что сервисы райд- и каршеринга вовсе не так популярны среди населения, как можно было бы предположить: 71% американцев никогда не использовали ни Lyft, ни Uber. Хотя бы раз в неделю этими сервисами пользуются менее 1% жителей США.

Что касается беспилотных автомобилей от Uber, то 61% респондентов не собираются на нём ездить, даже если он станет доступным в их районе.

Статья на русском: http://apparat.cc/news/americans-self-driving/
Оригинал на английском: http://www.vox.com/2016/8/29/12647854/uber-self-driving-poll
Полная статья об исследовании: https://cdn2.vox-cdn.com/uploads/chorus_asset/file/7009587/160809_topline_Vox_v1_TB.0.pdf

Звоночек из будущего. Неприятный.
Фармацевтическая компания Johnson & Johnson выпускает инсулиновую помпу с дистанционным управлением. Это очень удобно для больного диабетом: он может управлять инъекцией инсулина, расположив прибор в незаметном месте под одеждой, с помощью пульта или смартфона. Но один из больных, использовавших это устройство, оказался спецом по кибербезопасности и потестировал канал между пультом и помпой на предмет возможности взлома.
В итоге фирма вынуждена была направить всем, купившим устройство, письмо-предупреждение о том, что потенциально управление помпой можно перехватить и вломить пациенту опасную передозировку. Конечно, J&J уточнили, что пока такие попытки не зафиксированы, но бережённого бог бережёт.
Чем больше читаю и думаю про IoT, тем сильнее у меня ощущение, что крупные неприятности мы огребём от всего этого connected разнообразия куда раньше, чем от машинного интеллекта.
Источник: https://telegram.me/techsparks/546
http://www.bbc.com/news/business-37551633

К вопросу о редактировании гена детей, проектировании детей. Как это спасает жизни. Интересный прецедент был в России. "Родственных доноров у девочки не было, неродственного в огромной международной базе тоже не нашлось. Сделали гаплоидентичную (от частично совместимого донора) ТГСК. От мамы. Однако болезнь-то наследственная, причем носителями мутации гена являются и отец, и мать. Как же быть? Дети с этим диагнозом живут не более семи лет. И тогда сделали обследование родителей (это и была предымплантационная диагностика), в пробирке провели оплодотворение яйцеклетки, затем — анализ ДНК эмбриона, выбрали клетки без мутации и имплантировали их маме. В марте 2014 года мама родила здорового мальчика. А не так давно этот мальчик стал донором для сестры. Ей провели ТГСК, причем сразу и клеток костного мозга, и клеток заранее заготовленной пуповинной крови. Девочка жива, ей сейчас семь лет.
Врачи "спроектировали" родителям здорового ребенка, клетками которого спасли его сестру!"
http://www.kommersant.ru/doc/3102472

Хорошая статья, описывающая применения машинного обучения. Наверное, большинство из этого мы все знаем. Но, во-первых, не все очевидны - какие-то на слуху, какие-то нет, но от этого они не менее важны, им может быть именно незаметные применения изменят нашу жизнь сильнее всего. А во-вторых, когда они так собраны в одном месте, становится ясно, насколько наша повседневная жизнь уже построена на таких алгоритмах, и как это влияние усилится в будущем. Я бы добавил, что объединение пунктов 4, 5, 7, 8 и 9 в будущем дадут персональные искусственные помощники, которые в еще недалеком будущем сделают нас "цифровыми кентаврами" (да, люблю это термин) при физическом соединении с нашим биологическим мозгом через нейро-компьютерный интерфейс. И это круто. Есть и подводные камни вроде зависимости от качества работы таких систем и их взломоустойчивости. Тут, кстати, может помочь пункт 1 и 6.

1. Кибербезопасность.
Паттерны вирусов хорошо отлавливаются машинным обучением.

2. Личная безопасность.
Сократить очереди на досмотр, например, в аэропортах за счет машинного анализа поведения людей - проверять только тех, кого вероятнее стоит проверить. Хотя тут вспоминается история с программой, которая вычислял террористов в Пакистане по профилю мобильной связи. И не особо хорошо справлялась, но там была история в сторону слишком слабых улсовий - слишком многих признала террористами. В случае с безопасностью перекос в эту сторону не так страшен. Но я думаю это очень психологически сложная вещь - доверить свою безопасность нейросетке - не готовы люди к этому пока что.

3. Трейдинг.
Ну тут понятно, ИИ уже сидит на равных правах в совете директоров инвестфонда, известный кейс.

4. Здравоохранение.
Тоже понятно, IBM Watson, который диагностирует рак - уже даже кейс из прошлого, сейчас нажежда на развитие систем полного цикла наблюдения за здоровьем, в применением wearables (а в будущем internables)

5. Персонализация маркетинга.
Тоже понятно. Есть известный пример, как робот таргетированноц рекламы выдала девушке рекламу товаров для ребенка, хотя она не знала, что беременна. Оказалось беременна. Точно не известно, но вроде как машина поняла это на основе комплекса показателей вроде профиля покупок продуктов в супермаркете.

6. Борьба с мошенничеством.
Оказывается, PayPal уже использует машинное обучения для обнаружения подозрительных операций.

7. Рекомендации.
Ну на самом деле, как мне кажется, это копия пункта 5, не знаю, зачем в статье разнесли.

8. Поиск в интернете.
Ну тут понятно все. Если не знали - поисковые машины учатся на нас же. Если на первой ссылке человек провел много времени, значит дальше поиск будет ее ставить первой чаще.

9. Natural Language Processing (NLP)
Работа с естественным языком. Перевод, продуцирование, понимание.

10. Беспилотники.
Тоже понятно и ожидаемо.

http://www.forbes.com/sites/bernardmarr/2016/09/30/what-are-the-top-10-use-cases-for-machine-learning-and-ai/