Тут Алексей Лукацкий приводит в пример использование ChatGPT для поиска уязвимостей и задается вопросом о нужности пентестеров — специалистов, которые сегодня за большие деньги эти уязвимости ищут.

И как всегда провоцирует на размышления — я вот с другой стороны зайду, со стороны плохишей в черных шляпах:

1. Как скоро поиск уязвимостей станет сервисом-коммодити в хакерском сообществе за 10$ руками умельцев, которые могут формировать правильные запросы к ИИ?

Как скоро взлом систем сведется к командам:

> Exploit critical vulns at company X (эксплуатируй критические уязвимости в компании Х)
> Upload data to pastebin (выгрузи данные в паблик)
> Get emails of top-10 executives at Company X (получи список емейлов топов)
> Send them a ransom note with my monero address (отправь им емейл с вымогательством и моим криптовалютным кошельком)

2. Как скоро взлом станет именно таким, как он показан в хакерских голливудских фильмах?

> hack company X
… hacking …
> access granted!

3. Как скоро регуляторы всего мира запретят ИИ смотреть в чужие домены и как это будет реализовано?

@alukatsky, пора придумывать новый термин для нового поколения noscript kiddie!

А давайте пофантазируем про технологии и эзотерику и паранормальное? Я не про ту эзотерику, которая представлена в запрещенной сети инстаграм многочисленными тарологами, а про то, что наука (пока) не может объяснить.

Но ведь со временем объяснит? 🤔

👻 Вот, допустим, вы верите в переселение душ. Мы можем представить технологическую возможность переселить вашу душу (или душу миллиардера) не случайным образом, а в наиболее подходящее тело или время?

👼 Или, например, вы верите в загробную жизнь с условным раем и адом. Мы можем представить технологическую возможность, которая увеличивает шансы на попадание в рай или дает рекомендации по «праведной» жизни?

💫 Или вы фаталист и верите, что звезды начертили вам заранее определенный путь. Может ли все знание о ретроградных меркуриях быть упаковано не в астролога с волшебным шаром, а в рекомендательную систему на базе искусственного интеллекта?

Древние люди делали это гробницами, бальзамированными рабами и золотыми кольцами. Люди будущего будут делать это сканером ауры и суперкомпьютером.

Имеющий уши да услышит рынок на многие миллиарды долларов. Только делайте это этично! 😉

Фильтры соцсетей и приложения для ретуши дали возможность всем выглядеть красивыми.

Искусственный интеллект — это фильтр для человеческого интеллекта, который позволит всем выглядеть умными.

— ChatGPT сдал MBA экзамен в бизнес-школе Wharton

— ChatGPT сдал экзамен на получение медицинской лицензии

— ИИ будет представлять ответчика в суде в феврале

— Значительное число студентов Стэнфорда использовали ChatGPT для сдачи домашних работ и экзаменов.

1. Мы станем умнее и эффективнее с новыми интеллектуальными инструментами, потому что сможем получать ответы на любые вопросы быстрее?

2. Мы станем глупее, ленивее и еще более зависимы от технологий, потому что искать информацию и думать самостоятельно станет ненужным?

Вот это очень интересные данные! И не столько тем, что докторам доверяют больше, чем банкирам, членам правительства и продавцам — это прям как-то очевидно.

А вот чем:

1. Если вы хотите дискредитировать какую-то тему, о ней должны говорить те, кому мы не доверяем. Причем даже позитивном ключе!

2. Если вы хотите поднять уровень доверия — высказываться должны те, кому мы доверяем.

Значит практика привоза селебов и блогеров на автобусах на заседания государственных органов не работает! Приезжать должны медсестры, доктора и учителя!

А вот критиковать их деятельность должны специалисты по рекламе, репортеры, банкиры и бизнесмены!

Поиск работы превращается в гонку вооружений.

— Один инструмент позволяет затюнить резюме и профиль в соцсети — пошагово, по пунктам, с удобным интерфейсом.

➡️ https://writemeacoverletter.com

— Другой инструмент самостоятельно пишет сопроводительное письмо для отклика на вакансию: ему нужно отдать резюме и ссылку на вакансию.

➡️ https://resumeworded.com

Можно написать простенького бота, который будет автоматически откликаться на отмеченные вакансии с нужной версией резюме (и ставить соискателю встречи в календарь).

Это значит, что HR-специалисты будут получать лучшие отклики не от лучших кандидатов, а от самых ленивых, то есть тех, кто умеет пользоваться ИИ-инструментами. Эти отклики будут сильно выделяться на фоне других, но не гарантируют качества кандидата.

На стороне HR нужны инструменты, которые смогут снижать информационный шум и увеличивать конверсию.

Tablets were replaced by scrolls
Scrolls were replaced by books
Now we just scroll through books on tablets

Глиняные таблички заменили свитки
Свитки заменили книги
А дальше непереводимая (мной, может вам удастся) игра слов о том, что мы скроллим книжки на планшетах — но как наглядно! 😉

Анонимусы и тролли с 4chan использовали ИИ-генератор голосовых сообщений ElevenLabs (получили $2 млн на посевном раунде инвестиций) для создания жестоких, расистских и трансфобных аудиозаписей голосами Эммы Уотсон (например, зачитала отрывки из М*йн К*мпф), американского консерватора Бена Шапиро (например, с расистскими ремарками в отношении другого политика) и других селебов и инфлюенсеров.

А кто-то ожидал чего-то иного от анонимных пользователей имиджборда? Какую бы технологию ни дали человечеству, оно использует ее для создания порнографии и разжигания ненависти.

А теперь представьте, что мошенники будут звонить бабушкам от имени внуков, попавших в беду (чтобы забрать бабушкину пенсию), но только настоящими голосами их настоящих внуков. Как лично вы будете спасать своих бабушек? Как вы будете спасать свою кукуху, если получите голосовое сообщение ужасающего содержания, записанное голосом вашего ребенка, который находится, скажем, на смене в летнем лагере? Или если ребенку будут звонить голосом родителя?

Нужна помощь зала, любезные мои! Вот как в официальном докладе назвать «инсайт», но чтобы по-русски? «Выводы» и «заключения» уже задействованы 🙄

Близкий перевод про «озарение» и «прозрение» никак не подходит, иначе получается, что аналитики изучили данные, несколько десятков раз прозрели, их многократно озарило, был достигнут экзистенциальный кризис, они испытали катарсис, наступило очищение 😂

Итак,

инсайт = открытие или осознание

Спасибо вам большое за идеи, предложения, время и позитив!

— 40 человек приняли участие в коллективной генерации идей (3/4 — женщины, 1/4 — мужчины)

— 77 голосов отдано за различные словоформы

— 39 вариантов предложено, включая десятки оттенков для отдельных словоформ (прийти к мысли, светлая мысль; познать истину, докопаться до истины и пр.)

Обнаружились тролли и душнилы:

— 3 отправили в словарь синонимов

— 1 указание на иностранный характер слов «катарсис» и «экзистенциальный», без ответа на основной вопрос (Сонечка, ты очень похожа на консультанта! 😂)

— доля душнил — 7,5%, доля троллей — 2,5%, что значительно ниже среднерыночных показателей 👍

Последние два десятилетия значительно расширили наше присутствие в нескольких местах одновременно: физически я прогуливаюсь по парку в Москве, читаю новости о произошедшем минуту назад в месте, где я никогда не был, сразу же комментируя это событие в социальной сети по своему выбору. Где я нахожусь на самом деле?

Реальность в цифровом мире уже характеризуется нашей скоростью оказываться в разных местах. Метавселенная многократно усилит эту способность: оказываться в большем количестве мест еще быстрее.

Альтернативные киберпространства позволят людям виртуально проникать внутрь других людей, животных или машин. Цифровые двойники будут функционировать как человеческие альтер-эго в нескольких мирах — далеко за пределами аватаров в сегодняшнем понимании. Остро встанет вопрос психологического здоровья — нужно будет учиться справляться с множественным «я».

В скором времени большинство людей не смогут различить отличить аватары, представляющие людей, от аватаров, представляющих искусственный интеллект. Вполне вероятно, что в ближайшие десятилетия мы увидим следующую ступень эволюции homo sapiens, произошедшую в результате интеграции людей и искусственных систем — биотехнологических имплантов и искусственного интеллекта, получив homo augmented.

Вот вы, котаны, спрашивали, что такое искусственный интеллект простыми словами. Смотрите, все просто.

К примеру, вы — веган. Или, например, у вас внезапная аллергия на глютен. Об этом все окружающие узнают в первую минуту общения с вами.

Или, скажем, вы записались в спортивный клуб. В этот же день (ну максимум в первую неделю!) вы покажете ваш бицепс или ягодницу в сторис, правда же? И будете показывать постоянно, чтобы все знали, что вы на спорте.

Или, вы веган-бегун с аллергией на глютен. Через год такого образа жизни вы понимаете, что на самом деле вы — нутрициолог. Вы бросаете работу и начинаете консультировать людей по здоровому образу жизни через запрещенную в РФ соцсеть инстаграм.

Вот искусственный интеллект в 2023 году — это примерно тоже самое, котаны.

С всемирным днем безопасного Интернета! Сегодня хороший день, чтобы почитать о технологиях защиты детей от киберрисков.

Там про 23 риска настоящего, 10 рисков будущего, 8 инструментов защиты — и все это на основе 20 тысяч (!) изученных научных статей. Над исследованием работали почти 40 человек на протяжении 8 месяцев. Так что не пропускайте 🙂

На картинке — карта рисков, обратите внимание на правый нижний квадрат — это самые опасные, но при этом недооцененые (а для некоторых даже и русских слов-то еще не придумали).

Скачать и читать: https://mindsmith.ru/kids-safety

А для родителей и педагогов мы со дня на день выпустим целый обучающий курс 🚀

В рамках недели безопасного интернета с удовольствием (а местами и с ужасом) рассказал о киберрисках для детей и подростков на конференции Российской государственной детской библиотеки (крупнейшей в мире, кстати).

По просьбам библиотекарей выкладываю свою презентацию!

Драгоценные, у меня же сегодня день рождения! Я долго думал, что у вас попросить и придумал: прочитайте в мою честь любую non-fiction книжку в течение февраля! 🚀

Вас тут аж 892 (и каждый на вес золота для меня), вместе мы можем стать на 100 тысяч страниц умнее уже к весне! 💪🏻

А сегодня вышел курс по кибербезопасности для родителей! 🚀❤️

Курс бесплатный и настоятельно рекомендуемый всем родителям, а также бабушкам и дедушкам, да и вообще любым старшим, у которых есть младшие.

В программе: обзор киберрисков для детей и подростков, советы психолога, взгляд родителей, инструменты противодействия, риски ближайшего будущего.

В основе — масштабное исследование «Ростелекома», MINDSMITH и Альянса по защите детей в интернете.

> Описание курса

> Все уроки

Урок 1. Вводный

Почему важно знать о киберрисках для детей и подростков?

Урок 2. Криминализация, втягивание в криминальные практики

Вовлечение детей в криминальные сообщества. Продажа запрещенных товаров и услуг. Радикализация и экстремизм. Траффикинг.

Урок 3. Маркетинговое давление, рискованные денежные отношения

Интернет как канал сбыта товаров, опасных для жизни и здоровья детей. Продвинутые методики маркетинга. Темные паттерны. Онлайн-мошенничество.

Урок 4. Личностная атака, психологическое насилие

Кибербуллинг. Сталкинг. Груминг. Сексуальные домогательства.

Урок 5. Цифровая эксплуатация, использование ребенка для создания цифрового контента

Доксинг. Создание и распространение материалов с детской порнографией. Кража, сбор и эксплуатация персональных данных. Шерентинг.

Урок 6. Информационное давление, информация, не предназначенная для детей и подростков

Контент, содержащий сцены насилия. Порнографический контент. Дезинформация. Опасные тренды и челленджи.

Урок 7. Аддикция, формирование зависимости от интернет-среды

Алгоритмы удержания внимания. Игровая зависимость. Избыточное использование интернета.

Урок 8. Риски в будущем

Обзор 10 рисков, с которыми каждый ребенок может столкнуться в будущем.

Урок 9. Технологии защиты и рекомендации для родителей

Обзор технологических решений, направленных на обеспечение безопасности детей в интернете.

Урок 10. Взгляд родителя

Мнение мамы двоих детей о рисках из каждого кластера.

Урок 11. Заключительный урок

Подведение итогов курса.

Замечательный лонгрид об условиях производства айфонов на фабрике Foxconn — здесь 200 тысяч человек производят половину всех айфонов. Говорят, на этом заводе еще ничего — реальный ад у поставщиков поменьше.

Тоже мне, Руслан, открыл Америку Китай/Тайвань. Это все давно известно! Можно еще вспомнить про рабский труд на ручных шахтах кобальта, чтобы производить «зеленые» батарейки для электромобилей и прочих девайсов. Почему ручных? Потому что копают руками.

Ну да, известно, а что-то поменялось? OpenAI, производитель вашего любимого ChatGPT, нанял 1000+ подрядчиков из Латинской Америки и Восточной Европы для разметки датасетов и создания моделей. OpenAI использует кенийских рабочих за $2 в час для фильтрации травмирующего контента.

Что-то поменялось? Ничего, колониальная модель только укрепилась за десятилетия обкатки: нанимаешь дешевую рабочую силу в странах третьего мира (простите, корректно говорить в «развивающихся»), используешь их как топливо, концентрируя выручку и создаваемую ИИ-инфраструктуру на Западе.

Ментальное здоровье модераторов социальных сетей не имеет значения. Рабский и детский труд в Африке не имеет значения. Важны только проблемы платящих потребителей и инвесторов из «золотого миллиарда».

Это для них в советах директоров собирается достаточное diversity, а внешняя коммуникация тщательно корректируется с поправкой на все возможные гендеры, чтобы случайно не попасть под раздачу культуры отмены.

Когда компания Atari наняла Стива Джобса для разработки первого прототипа аркадной игры «Breakout», тот позвал Стива Возняка (будущего сооснователя Apple), пообещав разделить с ним половину гонорара в $750. Они справились за 4 дня и получили бонус. Джобс оставил весь бонус себе.

Так что совершенно неудивительно, что на фотографии со мной Стив Возняк выглядит гораздо счастливее 😂

Выкладываю свою сегодняшнюю презентацию с HR форума. Там несколько интересных кейсов по автоматизации трудоустройства (с обеих сторон).

Я думаю, что HR-отделы в ближайшее время потонут под красивыми сопроводительными письмами и адаптированными резюме от людей, которые на первый взгляд кажутся очень умными и крайне подходящими.