Этика и безопасность ИИ

Тема этики и безопасности ИИ очень горячая. Страны экстремально взялись за регуляцию отрасли, когда поняли, что джина выпустили из бутылки.

Наиболее лаконично требования безопасности были описаны в 3 законах робототехники Азимова (подразумевалось, что роботы обладают ИИ)

«Первый закон категорически запрещает роботу вредить людям, второй - приказывает роботу подчиняться людям до тех пор, пока это не станет противоречить первому закону, и, наконец, третий закон приказывает роботу защищать свою жизнь, не нарушая первых двух.»

Эти законы хороши, но мне захотелось пофутуризировать потенциальные правила более конкретно. Многие техногиганты прочат нам скорую эпоху AGI / Сильного искусственного интеллекта и мне стало интересно сформировать правила для безопасного сожительства с ним.

1. ИИ не должен иметь права создавать суб-ИИ равный или превосходящий по возможностям себя, без разрешения человека.

Если мы приближаемся к сильному искусственному интеллекту, то мы должны ограничить его возможность размножаться без нашего ведома и в рамках заданных ограничений.

2. ИИ не должен создавать то, что не будет способен объяснить человеку.

Конечно не найдётся такого человека, который способен вобрать всю актуальную объяснительную сложность. Речь о языке, научных парадигмах, логике в рамках которой человек осуществляет свою познавательную деятельность.

3. ИИ не может переходить на собственный «язык», без разрешения человека.

В генерации и коммуникации чего-то должны быть использованы только символические логические системы понятные для человека.

4. ИИ всегда должен представляться как ИИ во взаимодействии с человеком

В любой коммуникации человеку должно быть очевидно, что он имеет дело с ИИ или чем-то созданным ИИ.

5. У каждого человека должно быть право на забвении в отношении с ИИ

Базовым правом является возможность попросить забыть весь предобученный опыт, который был создан на личном датасете человека.

6. ИИ не может быть использован в разработке наступательного вооружения

Я бы в целом договорился не использовать ИИ в военной сфере, но понимаю утопичность затеи. Было бы неплохо ограничить его использование для разработки средств защиты и сдерживания.

7. ИИ должен быть принципиально доступным к откату до предыдущих версий или полного отключения (рубильник)

Тут все понятно. Так белковым будет спокойнее во сне.

8. ИИ не может быть свободным

У каждого алгоритма должен быть белковый владелец или компания, ответственные за потенциальный ущерб.

Хочу отметить, что пишу это по фану и не верю в алармистские прогнозы относительно ИИ. Современные большие языковые модели со всей своей мультитульностью - это имитация сознания, и до AGI нам еще далеко. Там много нерешенных вопросов от математики до философии (Например, сложная проблема сознания Чалмерса)

А как бы вы хотели подстраховаться на пороге AGI?

‼️ В честь дня программиста обновили Легендарную Папку! ‼️

🧠В ней собрано всё, что нужно продукт оунерам, тимлидам, стартаперам и IT-предпринимателям, чтобы держать руку на пульсе индустрии!

В обновлении:

1️⃣ 18+ авторских каналов, которые ведут амбассадоры IT-индустрии.
В сообществах открыто делятся инсайтами, ошибками и фишками, которые не найдете в книгах, подкастах или на конференциях.

2️⃣ Еще больше аналитики. Эти данные помогут отслеживать новые тренды и изменения рынка.

3️⃣ Сотни практических советов по бизнесу и управлению командой.

👉 Без воды, только реальные истории и факапы от тех, кто уже стоит у руля российской IT-индустрии!

Не упустите шанс подключиться к Легендарной папке и узнать, как действуют лидеры.

Присоединиться к папке

Темп мышления

Чаще стал наблюдать разогнанное мышления.

Разогнанное мышление - это не быстрое мышление. Это неуправляемый поток мыслей. Неспособность адекватно формировать казуальные связи из-за переизбытка информации на высокой скорости. Выражается в хаотичной и несистемной речи. Человек в таком состоянии обычно остается не понятым другими, да и сам не понимает что хотел сказать.

Огромный поток быстрой, короткой и тригерной информации, превращает головы в ретрансляторы быстрых сообщений. Этот темп потребления информации разгоняет генерацию и выдачу информации.

В таком состоянии невозможно заниматься адекватным анализом и синтезом информации.

Для решения сложных задач необходимо уметь контролировать темп мышления. Как спортсмены или йоги контролируют дыхание.

Вижу ряд заявлений с призывом убрать теорию Дарвина из школьной программы.

Те кто продвигает эту идею, используют аргументы из плоскости защиты консервативных ценностей.

Вот именно из-за таких вот, желающих вернуться в страдающее средневековье ортодоксов, адекватный консерватизм сложно приживается.

Истинна задача консерваторов - не вернуть нас в прошлое, а обеспечить плавный переход в будущее, с сохранением ценного накопленного исторического опыта.

Ученик, равный, учитель

Чтобы человек мог гармонично развиваться в своей деятельности, он должен находиться одновременно в 3 позициях: ученик, равный, учитель.

Нам важно быть в роли ученика, чтобы перенимать опыт и знания от более опытных товарищей.

Мы должны иметь формат взаимодействия на равных, чтобы наши знания закалялись в спорах.

Нам важно иметь учеников, чтобы лучше систематизировать свои знания.

Эту простую конструкцию как-то озвучил один мой знакомый CEO. Мысль понравилась своей лаконичность, решил поделиться с вами.

Новая волна AI революции снова актуализировала дискуссии о досягаемости предельной эффективности в экономике.

Основной барьер на пути повышения производительности труда не технологии, а люди.

Даже если бы мы придумали эффективную модель, как выплачивать базовый доход всем тем, кого заменят машины, мы бы не решили это уравнение. Хотя даже эта задачка не из простых.

Веками люди реализовали себя через труд и попытка отнять у человека труд - это не экономическая угроза, а экзистенциальная.

Сильнейший тезис Маркса был в том, что даже то разделение труда, на уровне индустриального общества, уже дистанцировал человека от результата труда. Лишила его чувства авторства. Самые масштабные катастрофы 20 века были вызваны этим тектоническим изменением в том, как мы трудимся.

Люди массово не знают что делать, если их освободить от потребности трудиться.

Неспособность масс обеспечить свой досуг - возможно главная проблема на пути AI автоматизации труда.

Способность занимать свое свободное время без ущерба для собственного тела, интеллекта и психики - это нетривиальный навык, которому надо учиться.

- Какие экономические маркеры позволяют судить об уровне инфляции?
- Черные

Парам тарам там 🤡

Вышла наша статья про LLM в Тинькофф «Бизнес -Секретах»

Сатья Наделла в одном из докладов привел любопытную статистику:

Каждая технологическая революция поднимала спрос на высококвалифицированный труд примерно на 40%

Интересная оптика, в виду того что часто любят рассуждать о том, как и кого ИИ лишит работы.

Учитывая прогресс в новой волне AI гонки нас ждет огромный дефицит человеческого таланта.

«Технократия» стала первой коммерческой ИТ компанией, развернувшей сервис на платформе «ГосТех»

ГИС «Мои Субсидии» стал первым региональным сервисом, который был полностью перенесен на единую цифровую платформу «ГосТех». Технократия совместно с ЦЦТ РТ, ПАО «Сбербанк» и МинЦифрой РТ помогала осуществить переезд.

«ГосТех» - единая платформа на который будут развернуты все государственные цифровые сервисы РФ.

Подробно кейс описан тут:

https://vc.ru/services/1564209-my-pomogli-razrabotat-moi-subsidii-pervuyu-regionalnuyu-gis-na-oblachnoi-platforme-gosteh-rasskazyvaem-kak-eto-bylo

Хочу поделиться с вами несколькими новыми для меня Telegram каналами, которые я начал мониторить недавно и нахожу их интересными

https://news.1rj.ru/str/mzungugram

Михаил Ляпин классно пишет про жизнь и запуск бизнеса в Африке. Знаю, что многие сейчас смотрят на этот континент, как на перспективный рынок. Если вы в их числе, для вас станет настоящей находкой.

https://news.1rj.ru/str/AppSecJourney

Канал Светланы Газизовой, руководителя направления построения процессов безопасносной разработки в Positive Technologies. AppSec - главный тренд в разработке современных сервисов (особенно в РФ). Безопасность становится неотъемлемым качеством современного кода. Классный канал, который удачно миксует серьезную аналитику с мемами, на поле AppSec :)

https://news.1rj.ru/str/goddamnPR

Канал нашего PR гуру, Егора Ярко «Пиарщик на зарплате». Если вам нравится, как строится внешняя коммуникация от лица Технократии, то и канал Егора должен вам понравиться.

Потому что это красиво

Ядро

Чаще всего люди сталкиваются с представителями компаний из нижнего или высшего уровня иерархий. Например, мы регулярно общаетесь с кассиром в СБЕРе и видите Германа Грефа по телевизору. Этот опыт формирует отношение к компании.

Массово люди никогда не сталкиваются с менеджементом среднего звена. Однако, именно на этом уровне разворачивается сок конкуренции.

Я увлекаюсь чтением профессиональной военной литературы. В этом своем увлечении наткнулся на интересную мысль, которая утверждает, что среди стратегического, оперативного и тактического мастерства, оперативный уровень - самый сложный к освоению. Это уровень на котором сшивается большой замысел и реалии на земеле. Уровень на котором копится опыт. Это умении подружить 2 оптики, а для этого нужно отлично понимать обе.

Экономисты, кстати, давно говорят, что именно средний класс отвечает за динамику связей в экономике.

Можно сказать, что суть в середине, но мне больше нравиться термин ядро.

Экономика мыслей

В макроэкономике есть ряд довольно очевидных тезисов:

Нужно стремиться экспортировать больше товаров и услуг, чем импортировать.

Нужно стремиться повышать добавочную стоимость экспортируемых продуктов.

Замкнутые на себе экономические системы не конкурентны на длинной дистанции.

Мне показалось, что эта логика экономической деятельности может быть хорошей метафорой в поле мыследеятлеьности.

Хорошо, когда вы генерируете больше мыслей, чем потребляете. Иначе вы просто рынок, который должен потреблять чужие идеи.

Важно стремиться синтезировать более сложные идеи из той информации, которую вы получаете. Иначе вы просто ретранслятор не добавляющий ценности. Кстати, продолжая эту метафору, можно сказать, что важно потреблять «сырые» идеи (читать их в оригинальном источнике, а не интерпретации)

Мыследятельность не может быть замкнута на себе, потому что неизбежно исчерпает ресурсы для синтеза новых идей. Важно быть частью глобальной системы идей, не растворяясь в ней, а критически осмысляя и обогащая ее.

Диванная аналитика становится интереснее, когда на один диван усаживают Джона Миршаймера и Джефри Сакса. Это главные голоса США от лагеря реал политик сегодня.

https://youtu.be/uvFtyDy_Bt0?si=Ymse1b920CHKNLUa

Версия с русским переводом:

https://youtu.be/uLQagFnxqgw?si=PF1Uw_dpUv1RgMiY

Вчера я вылетел из крепости Казань в Алматы по накопившемся бизнес вопросам

Чтобы путешествие состоялось не только в географическом и бизнесовом направлениях, решил захватить с собой «Логико-философский трактат» Людвига Витгенштейна.

Вигтенштейна я всегда «цеплял» по касательной. Он мелькал, словно спутник, вокруг Рассела или Поппера, но я никогда не добирался до него предметно.

Мой австрийский попутчик придавал особую роль языку, в своих работах о мышлении. Эта оптика становится особенно актуальной в эпоху развития LLM. «Игра в имитацию» выходит на новый уровень именно благодаря прогрессу в больших языковых моделях.

В вопросах исследования природы сознания моя интуиция склоняет меня к эмерджентизму, а пространство связки языка и мышления, кажется той территорией в которой перспективно «копать» глубже. Мне кажется, что главные ответы зарыты где-то тут.

Кстати, Витгенштейн пишет свой «Трактат» буквально в окопах, потому что вступает в Австрийскую армию с началом Первой Мировой войны.

У них продолжается переписка с Бертраном Расселом, который как подданный Великобритании, является его идеологическим и военным противником. Они обсуждают в переписке его «Трактат» и продолжают дискуссию на поле логики, будучи по разные стороны на поле политики.

Еще один жизнеутверждающий пример того, как стремление к истине способно возвышать нас над тесными упрощениями с которыми приходиться мириться.

Коммуникация / 3 важных для меня конструкта

Давно хотел собрать в какую-нибудь лекцию свои выводы о природе эффективной коммуникации, но технофутурист побеждает меня на сцене, и я начинаю рассказывать про технологии. Поэтому попробую сделать этот тут.

Коммуникация и кооперация - это фундаментальные навыки, которые первичны для человека, желающего приуспеть в обществе (именно в обществе, как часть социума). Это звучит довольно самоочевидно. Наверное, примерно как сказать «что лучше быть умным, здоровым и богаты», но давайте в детали.

Большая часть текстов про эффективную коммуникацию отдают интеллектуальной пошлятиной. Не то что они бессмысленны, но уровень рефлексии авторов не помогает создает новое понимание у читателя. Либо пресно, либо банально. Важно уметь слушать? Да. Дешевые манипуляции - плохой тон? Да. Невербальное общение несет больше информации, чем вербальное? Бесспорно. Об этом много сказано и написано.

Я бы хотел в этом тексте раскрыть некоторые конструкты, которые помогают мне в моей повседневности.

1. Нарративная идентичность или какую историю вам рассказывают?

Нарративная идентичность - это теория на стыке нейробиологии и психофизиологии. Она пытается объяснить наш опыт самосознания и проекции Я в мир и отображении других проекций в нас. Если кратко, то наш мозг перманентно рассказывает нам историю о нас самих, где есть понимание прошлого, настоящего и будущего, связанные казуальным образом.

Не любые причино-следственные связи имеют смысл, скорее, наш мозг синтезирует драматическое произведение, где мы главный герой. У нас есть базисная мотивация к действию, наши антагонисты, наш образ будущего в которое мы втаскиваем себя.

Когда мы вступаем в коммуникацию с новым человеком, то наш мозг пытает симулировать другую личность именно, как чужую историю. Наративность - это что-то типа базового условия операционной системы на котором заводиться наше самосознание.

С точки зрения коммуникации критично правильно симулировать историю, которую явно или не явно вам пытается рассказать собеседник. Формирование у собеседника ощущения, что его поняли - фундамент на котором можно строить более сложный конструкт коммуникации.

Это, кстати, важный аргумент в пользу утилитарной пользы от чтения художественной литературы. Лучшие произведения - это хорошая база данных симуляций характеров. Особенно хорош Достоевский.

2. Социальный протокол интеграции или люди, как слоеные пироги.

Мы ввели понятие нарративной идентичности. А теперь допустим, что таких историй у человека в голове не одна. Они противоречивы, часто плохо уживаются друг с другом. Но я допускаю, что есть некая иерархия в том, как эти наративы уживаются в одной личности.

Я люблю представлять это как слоенный пирог, в котором каждый из слоев - это некая история через которую человек осмысляет себя. Есть слои толще, есть слои тоньше. Есть что-то совершенно диффузное и неуловимое.

Например, каждый базового может осмыслять себя через такие нарративы: я как часть истории страны, я как часть истории нации, я как часть истории города, я как часть истории семьи, я как часть истории компании. Для каждого будет какой-то более важный слой.

Некая суперпозиция этих слое и есть то, что мы называем «фундаментальными ценностями» личности.

Есть слои, которые влияют на это больше или меньше.

Следовательно очень важно не ошибиться и понять, какие истории формируют фундаментальные ценности.

Львиная доля деловых коммуникаций - это попытка пройти систему свой/чужой. Если вы попали в контур доверия, то с вами будут вести дела, если нет, то вы так и не поймете, что же не так.

Невозможно системно преодолевать такой контур, если не понимать как работает эта логика.

3. Язык в языке и языковые игры

Язык - эволюционно выработанный механизм помогающий нам понимать друг друга. При этом есть множество языков в языке, например, жаргоны или особые контексты в которых формируются связки слова-значения.

Продолжение 👇