В разговоре про риски, связанные с развитием ИИ, часто всплывает аргумент, что ИИ не заменит нас, а скорее избавит от рутины. Я сама активно этим аргументом пользуюсь. ИИ — инструмент в наших руках, который поможет высвободить время на действительно интересные задачи и повысит продуктивность. Ключевое слово здесь — продуктивность.

Помните, как вы впахивали полгода и ждали высокой оценки на ревью, а получили “соответствует ожиданиям”? Не было такого? Значит точно было у кого-то из знакомых. В среде, ориентированной на постоянный рост и “продуктивность”, нужно всё время развиваться, прыгать выше головы, становиться лучшей версией себя, приносить компании больше пользы и денег. Классно, когда ты можешь вырастить свою продуктивность с помощью ChatGPT. И уже не так классно, когда так думает компания. Работодатель знает, что с помощью ИИ ты можешь закрывать задачи в Х раз быстрее, и ждёт от тебя этого. За те же деньги)))

Конечно же, я утрирую. Из обсуждений харрасмента и сексуального насилия мы выучили мантру “не все мужчины” — точно такой же принцип работает и в отношении компаний, когда речь заходит о продуктивности сотрудников. Не все компании такие, но некоторые — да, десять раз да.

Если поставить себя на место предпринимателя, я вижу много преимуществ. Та же работа может быть сделана с меньшим количеством людей. Особенно привлекательной эта идея кажется, когда плохо разбираешься в том, что эти люди делают. Смысл платить иллюстратору, если можно нагенерить картинки? Зачем smmщик, если пост для соцсетей пишется в ChatGPT за пять минут? И переводится на иностранный язык… А да, там же создаётся и контент-план на ближайший месяц. Зачем платить подрядчику, если можно интерфейс сайта простенького нарисовать на салфетке и тебе его запилит нейросеть?

Понятно, что ты платишь не только за результат, но и за экспертизу. Но не всем важен отличный результат. И не всем нужна экспертиза. Я встречала достаточно людей, которые верят, что разбираются во всём. А если не разбираются, то с помощью ChatGPT точно разберутся.

Если вам стало немного грустно и хочется посмеяться, посмотрите выпуск The Daily Show на близкую тему, но с шутками.

Процитирую комментарий юзера danganronper6278: "Проблема ИИ не в том, что он может делать работу за сотрудников, а в том, что так думают корпорации".

В Telegram вы сами куратор контента, который потребляете.

«Это позволяет нам оставаться независимой платформой, которая не продвигает какие-либо нарративы, а напротив даёт людям полную власть над тем, что они хотят видеть в своей ленте».

Я правильно поняла мысль Дурова, что все беды от рекомендаций? 🤔

Я тут немного подзабила на канал, буду исправляться и продолжать написывать посты в метро — в мире происходит даже слишком много всего.

Почитайте пока вчерашнюю статью Блумберга с думами европейских чиновников о том, что же делать с Телеграмом. Вышла она на фоне новостей, что в TG по сливам в ближайшем будущем появится функция фактчекинга. При этом, судя по тем же сливам, заниматься фактчекингом будут агентства, назначенные странами на своей территории.

Докатится ли эта фича до России (и до прода), узнаем. Но уже сейчас могу рассказать, что в России тему борьбы с фейками драйвит АНО "Диалог". Один из их проектов — "Лапша медиа", очень советую зайти почитать разборы, чтобы познакомиться с российским фактчекингом. Для сравнения, вот вам пример ирландского фактчекинга от The Journal.

Я пока для себя не решила, какой подход к борьбе с дезинформацией и мисинформацией, кажется мне самым удачным. Есть сгенерированные нейросетями изображения, есть кейсы с очевидными фактическими ошибками, есть фейки буквально опасные для здоровья, есть некорректная интерпретация информации, есть фрейминг... Короче, сортов информации, которая может ввести в заблуждение, очень много. При этом тема фейков, информационной войны, пропаганды и вот этого всего ДИЧАЙШЕ хайпит и будоражит умы регуляторов, поэтому надежды забыть всё это, как страшный сон, у нас нет. Есть только Вера

Иногда, конечно, хочется с ностальгией вспомнить уютный интернет нулевых, где каждый был сам за себя. Но в 2024 году, где пост в соцсети может дропнуть акции топовых компаний, отправить человека за решётку или вызвать международный скандал, уютным интернетом нулевых уже не пахнет.

Немного оптимизма для подъема настроения.

P.S. Но я как сертифицированная душнила напомню, что обеспеченному инвестору легко быть технооптимистом. Думаю, что у людей, которых сейчас бомбят с использованием новейших технологий, или у детей, который добывают кобальт для аккумуляторов, другое мнение)

Вот вам под выходные немножко технооптимизма:) Меня обзывают оголтелым технооптимистом — но до Винода Хослы (почти моего ровесника, кстати) мне далеко. И он не диванный эксперт и мечтатель: успешный и предприниматель, и инвестор, он не просто треплется —
он делает и финансирует. Весьма успешно. Он на протяжении 40 лет успешно практикует то, что декларирует: вместо типичных для «экспертов» тупых экстраполяций — парадоксальные, но выполнимые сценарии.
За 10 минут своей зажигательной TED-речи он рассказывает и о ИИ для всех (в учебе, медицине, творчестве), и о городах без автотранспорта, и о миллиардах человекоподобных и универсально умелых роботов… И еще много о чем: 12 красивых идей.
Поднимите себе настроение:)
https://www.ted.com/talks/vinod_khosla_12_predictions_for_the_future_of_technology

Твиттер не поскупился на размеры плашки к европейским выборам. В следующий раз можно и на весь экран сделать, чего мелочиться 🤣

Я не умерла, просто заработалась (классика). Прерываю своё молчание, чтобы написать, какая же это огромная потеря для благотворительности в РФ, что фонд "Нужна помощь" прекратил своё существование.

Можно много чего сказать про фонд и лично Митю Алешковского, но невозможно спорить с тем, что "Нужна помощь" изменил российскую благотворительность. Их работа с региональными фондами, с проектами, которые поддерживают особенно сложные группы людей (бездомных, заключённых), с общественными представлениями о том, какой должна быть благотворительность, по сей день восхищает меня.

В своё время довольно часто работала с медиа "Такие дела", а ещё чаще обращалась к их материалам за советами и подсказками, как делать осмысленные благотворительные проекты внутри корпораций или как корректно писать о той или другой группе людей. Например, словарь "Мы так не говорим" долгое время был нашей с коллегами из ВКонтакте палочкой-выручалочкой и очень пригодился при составлении гайдлайнов и редполитики.

Если возвращаться к теме технологий, у Нужна помощь был (и вроде как остаётся) суперский продукт "Пользуясь случаем" для благотворительных сборов. В этом году делала к своему Дню рождения сбор для Ночлежки с помощью Т-Банка и очень страдала. "Нужна помощь" научили меня, что благотворительность может быть простой и комфортной. Благодарна за это 🩵

Рекомендации принесли видео двухнедельной давности, где актёр Joe Zieja (озвучивает Ризли в Геншине) поясняет за забастовку актеров озвучки (и американского профсоюза SAG-AFTRA) против ИИ. Если быть точной, то забастовка скорее против компаний-разработчиков игр и студий озвучки, которые отказываются добавить в договоры с актёрами пункт про то, что их голос не может использоваться для обучения ИИ. Отдельно добавлю, что бастуют также актёры и каскадеры, которые участвуют в процессе motion capture. Среди компаний, против которых направлена забастовка, крупные игроки вроде Activision, Take-Two, Insomniac Games, WB Games и множество других (да, Геншин тоже попал в опалу, точнее их партнёры, отвечающие за англ озвучку).

Средний актёр озвучки — это не Скарлет Йохансон, которая может заставить Open AI убрать похожий на неё голос ChatGPT. Это чаще всего не слишком медийные трудяги, чьи голоса можно услышать в видеоиграх, дубляже аниме и рекламе.

Суть претензий актеров супер простая: они не хотят, чтобы их голос считался просто «данными» и был использован для обучения ИИ без их явного согласия и оплаты, а главное — ожидают подтверждения этих договоренностей в своих контрактах.

Видела сравнения с работниками, добывающими ископаемое топливо, которые бастуют против возобновляемой энергии, и призывы осваивать новые навыки (видимо учиться программировать хз). Я вообще жесть как категорически не согласна: актёры озвучки — душа видеоигр, их голос может заставить любить или ненавидеть персонажа. Их реплики расходятся на популярные звуки в тиктоке и продвигают игры абсолютно бесплатно. Это не вымирающий из-за технологий рынок труда, а творческие профессионалы, которые участвуют в создании произведений искусства. Да, иногда абсолютно коммерческих, но всё же актёр — творческая работа. Очень интересно, когда и чем закончится эта забастовка.

Я прекрасно понимаю, почему компании не хотят ничего обещать в контрактах, ведь это ограничит их возможности, не даст лишний раз сэкономить и вообще может в соседнем отделе уже несколько лет обучают какие-нибудь модельки на старых репликах актёров 😬 Технологии постоянно опережают регулирование и этику, плюс не все, кто создают технологии, уделяют этим темам хоть какое-то внимание, пока они не оборачиваются крупными финансовыми рисками. А регуляторы в свою очередь разбираются в технологиях на крайне низком уровне.

Ну и вопрос, должны ли компании платить за «данные» для обучения остаётся открытым)

Эпидемия дипфейк-порно против технооптимизма

Эта цепочка размышлений началась с новости про то, что в Южной Корее криминализируют покупку, хранение и просмотр дипфейк-порно. Закон этот нарисовался не на пустом месте, а после настоящей эпидемии дипфейк-порно. Сотни тысяч участников телеграм-чатов создавали, смотрели и делились дипфейк-порно с участием женщин и девушек из более чем 500 школ и университетов по всей стране.

Я оставлю за рамками поста дискуссию о том, является ли создание порно-дипфейков формой сексуализированного насилия. Потому что да. Пострадали как совершеннолетние женщины, так и школьницы, включая даже отдельные кейсы с ученицами средней(!) школы. Многие женщины, которых эта ситуация не коснулась напрямую, поспешили удалить фотографии из социальных сетей из страха, что завтра они увидят откровенные фото и видео со своим участием. Карта кейсов, которую сделали анонимные активисты, завирусилась не только в Корее, но и в англоязычном интернете.

В России в этот момент кто-то бы уже сказал, что это всё ваши социальные сети (интернеты/видеоигры/аниме/что угодно), которые надо срочно ограничить или лучше запретить111 Я не сторонница таких призывов и надеюсь, что запретительный подход к регулированию технологий когда-нибудь умрёт. Однако очевидно, что именно технологии — в данном случае Телеграм и ИИ — становятся катализаторами проблемы.

В мире без нейронок и телеги абсолютно точно существовало порно, созданное без согласия изображённого в нём человека и даже полностью фейковое, но так быстро создаваться и распространяться оно не могло. Бывали отдельные кейсы, чаще всего связанные со знаменитостями, и это считалось тёмной стороной славы — если хочешь, чтобы о тебе все говорили, будь готова, что кто-то нарисует с тобой порно. Но вряд ли люди сталкивались с ситуациями, когда сотни тысяч парней дружно обмениваются качественными порно-дипфейками своих одноклассниц и однокурсниц. Для того, чтобы попасть в чаты, нужно было поделиться десятью фотографиями и личными данными девушки — близкое знакомство с жертвой тут не просто случайность, а цель. Намного интереснее дрочить на женщину, которую ты знаешь — это даёт ощущение власти. Некоторые даже писали девушкам и присылали им дипфейк-порно с их изображением, просто пугая или шантажируя.

Грустно говорить об этом, но корень зла не в технологиях, а в старом добром сексизме и объективации женщин. Смешно, что нынче феминизм отменяют направо и налево, а фем-повесточка — вот она, даже ходить далеко не надо. Запретом нейросетей и Телеграма проблему не решишь, однако абсолютно точно есть то, что делать можно и нужно.

🔹 Законодательное регулирование — этим как раз и занялась Южная Корея. Будет здорово, если практику регулирования дипфейков смогут адекватно перенять и другие страны.

🔹 Ответственность IT-компаний и стартапов. Про это можно отдельный пост написать. Но правда, когда вы делаете свой продукт, стоит задуматься о том, что он будет использоваться не только во благо. Чем лучше вы продумаете кейсы абьюза вашего продукта и чем больше инструментов борьбы с этим найдёте, тем меньше у вас будет репутационных рисков. Это залог того, что вы сможете со спокойной душой летать в Париж, лутать деньги инвесторов и растить свой бизнес, не боясь срока или блокировки продукта на одном из ваших ключевых рынков.

🔹 Инициатива пользователей. Не стесняйтесь настучать создателям продукта, если нашли дырку в его безопасности или способ использовать его для какого-нибудь плохого зла. Это не всегда просто, мне кажется, что некоторые соцсети принципиально игнорирую фидбек от пользователей (да, Илон Маск, я смотрю на тебя).

🔹 Популяризация идей феминизма. Даёшь четвёртую волну! По мнению хейтеров, феминизм зашкварился ещё лет сто назад, но мы всё ещё здесь, так что продолжаем работать.

🔹 Мужской активизм здорового человека. Я сомневаюсь, что у корейских мужчин, которые то дипфейк-порно делают, то оскорбляются на недостаточно сексуальный купальник вайфу, всё хорошо. Жизнь непростая, роль мужчины в обществе меняется, тот же самый аргумент про армию и мужские суициды никто не отменял. Получается, надо придумывать какие-то новые смыслы — что значит быть мужчиной в 21 веке и как строить отношения с женщинами, не нарушая их личное пространство.

🔹 Секспросвет и культура обсуждения секса. Хочется как-то всем обществом договориться, что делать обнажённые дипфейк-фотки своей одноклассницы не круто, а делиться ими в интернете — тем более. Отсутствие согласия, скорее всего, останется кинком для какой-то части людей, но вон в BDSM-сообществе, например, придумали, как реализовать свою фантазию, не портя никому жизнь.

Несколько дней назад читала крайне позитивное эссе Сэма Альтмана про то, как искусственный интеллект подарит нам всеобщее ПРОЦВЕТАНИЕ. И на правах технореалистки хочу напомнить, что он также подарит нам новые способы эксплуатации и преследования людей. Хочется быть к этому подготовленными.

В эфире моя любимая рубрика: женщины в IT и почему их так мало на руководящих должностях 🧐 Источник: исследование рынка продуктовых дизайнеров DevCrowd

Гипотезы:
- поздно вошли в айти и все крутые позиции уже разобрали,
- меньше нетворкают и не умеют продавать себя,
- декрет/домашний очаг/уход за родственниками/отношения и вот это всё,
- мужчинам просто легче работать с мужчинами 👯‍♂️,
- меньше учатся (не верю!!!)

Уважаемые продуктовые дизайнеры, поясните?

Моим любимым корпоративным языком разработчики Геншин Импакт сообщают, что часть персонажей в этом патче будут немыми 👹👹👹

Recording arrangements — это corporate slang for часть актёров подписаны со студией, против которой идёт забастовка, поэтому пососите.

Синие киты уже не в тренде, время бояться ии-чатботов.

Подросток в США покончил с собой и последней, кому он написал, была Дейенерис Таргариен из приложения Character.AI. NY Times выпустил большую статью с разбором этого кейса.

Мы в рунете уже познали мощнейшую моральную панику по поводу детских суицидов и влияния на них интернета (спасибо Новой газете). Если вы не знали, с 2017 года склонение к суициду через интернет в России уголовно наказуемо.

Я сама с огромным вниманием отношусь к теме безопасности детей и подростков, потому что когда-то я была тем самым депрессивным подростком из группы риска. При этом есть стойкое ощущение, что годами мы обвиняем интернет, видеоигры, аниме, ии-чатботы в том, что с детьми что-то не так. Я не спорю, что компании должны нести ответственность, задумываться о безопасности и комфорте несовершеннолетних. Я согласна, что сейчас многие из них не делают для этого достаточно. Я вообще чуть ли не первая, кто будет настаивать на этом в любом продукте, независимо от своей роли в команде. Однако вечные проблемы вроде насилия, травли, пренебрежительного отношения к детям никуда не делись из семей, школ, детских кружков. И пока мы фокусируемся только на технологиях, многое остаётся за кадром. Если ребёнок не доверяет своим родителям, если не может или боится поделиться своими переживаниями, то виноваты обычно не только соцсети, контр-страйк и Дейенерис Таргариен, но и что-то или кто-то ещё.