Вчера прочитал студентам РГСУ лекцию о том, что такое искусственный интеллект, откуда он взялся, чем грозит человечеству и как нам вообще с этим жить.

Лекция получилась бодрая (а также плотно на все полтора часа, минута в минуту), так что, придя домой, сел и законспектировал (смартфон меняет на «законсервировал») её на Хабр.

https://habr.com/ru/articles/729046/

У ChatGPT на месте этих способностей — ноль. Пустыня. Ни малейших признаков осознанности. Ни под лупой, ни под микроскопом, никак.

ChatGPT не разумен. Он не демонстрирует даже минимальных признаков сильного интеллекта, даже намёков на него. Мы понятия не имеем, удастся ли нам создать сильный AI, и если да, то когда — но ChatGPT от него столь же далёк, сколь далеки калькулятор и экскаватор.

@sforsecurity

Вдохновившись лекцией Олега Артамонова в РГСУ сделал такой арт. Олег Артамонов — приглашённый лектор, Яков Якубович — ответственный преподаватель.

Про техническую часть: стиль отрисовки персонажей — игра Fortnite, отгенерил Олега и Якова, далее сгенерил бэкграунд со студентами. Потом заколлажил в Affinity Designer и добавил текст.

Нейросетки инструмент, да. Можно в часть рабочего процесса встраивать. Почему нет?

@neuralnetworkcats

Илон Маск: публикует письмо с предложением на полгода запретить OpenAI работать над ChatGPT.

Тоже Илон Маск: второй месяц активно работает над запуском конкурента OpenAI под названием X.AI.

Впрочем, надо быть очень наивным человеком, чтобы изначально поверить в отсутствие у письма Маска второго дна. Полгода на обсуждение потенциальных проблем, связанных с развитием AGI — это примерно ничто, эти проблемы обсуждаются годами, и всё равно там три мнения на двух юристов и никаких даже намёков на общественный консенсус: в публичной сфере каждый просто несёт в микрофон то, что ему хочется.

А вот на срочное преодоление отставания от конкурентов 6 месяцев — самое то, что надо.

@sforsecurity

(вздохнув)

Судя по комментариям, довольно многие не понимают разницы между ошибками, галлюцинациями и осознанностью, считая, что если система допускает мало ошибок, то она более разумна, и наоборот, а также между движением к цели и целеполаганием.

Осознанность (разумность) не имеет как такового отношения к числу ошибок, она имеет отношение к осознанию того, что вы можете ошибаться. Простой пример: вы приходите на экзамен, получаете билет, смотрите в него...

Добавил в статью на Хабре дополнение, целиком его тут не дублирую, смотрите там в конце: https://habr.com/ru/articles/729046/

Боль и печаль, конечно, но с другой стороны, если всех этих людей заменить на ChatGPT, разве станет человечество жить хуже?..

Ну и да, так как статья уже вышла в топ-5 по теме, то если ей накидать там ещё штук двадцать плюсиков, то, вероятно, она выиграет айфон.

@sforsecurity

(между делом) Очень люблю тех двух самых преданных читателей этого канальчика, которые всегда ставят мне негативный смайлик. У одного, кажется, даже уведомления включены и звук погромче сделан, он каждый раз прямо первый.

Тем временем Никита Ляховецкий, глава нашего московского реготделения, обогнал меня на повороте — пока я маринуюсь в «Миротворце», он сразу под санкции Зеленского попал.

Что, конечно, в первую очередь говорит нам об одном: санкционные списки составляются от балды, просто чтобы продемонстрировать жаждущей хлеба и зрелищ украинской публике «вот смотрите, как мы их, оптом, ух, теперь они нас бояться будут!».

Бояться надо, ребята, когда в тебя ФАБ-1500-2600ТС летит на крылышках, и я так понимаю, до этого момента украинской публике недолго осталось.

А когда тебя в бессмысленный список включают и страшной гаагой грозят, наиболее адекватно ситуации будет весело смеяться.

@sforsecurity

Мы в Партии прямой демократии всегда с радостью откликаемся на предложения ВУЗов организовать и поучаствовать в различных образовательных мероприятиях, которые идут на пользу студентам.

Подробнее про лекцию Олега Артамонова об искусственном интеллекте и нейросетях в РГСУ и участии Никиты Ляховецкого в научной работе МГЮА и КОСИиСР РГСУ в материале:
https://digitaldem.ru/2023/04/17/party-universities-moscow/

(вздохнув) Китайцы...

Протокол общения по SPI, который в принципе написан как 16-битный (первые два байта идут с паузой в 1 такт SCK между ними, а SCK там 10 МГц, способность такое обработать поштучно довольно сильно зависит от конкретного контроллера), и в большинстве случаев так и работает, но в определённые моменты от него внезапно последний байт... отваливается.

И CS уже сняли, и времени прошло нормально так, и тут опа — вспомнили! Ещё ж байт был!

Причём переход в 8-битный режим, даже если я успеваю принять два первых байта (в принципе это возможно, надо успеть от конца первого байта до конца второго войти в прерывание и сбросить его флаг), счастья в жизни мне не приносит — в другой части сего мудрого протокола надо отвечать уже на второй байт, и если с 16-битным словом я могу заранее записать 0x00FE в регистр данных SPI, то с 8-битным у меня тупо между первым и вторым байтом нет на это времени.

Так что или переписывать на DMA (что для настолько в остальном примитивного протокола выглядит примерно как антикрыло на жигулях восьмой модели), или вот сейчас поищем, нет ли у нас тут контроллера какого, который при снятии CS посередине слова не сбрасывает весь SPI, а смиренно ждёт остаток данных.

@sforsecurity

Да, если вы не поняли, про что предыдущий пост, то он про реверс-инжиниринг модуля сброса груза на Fimi X8 SE 2022.

Люди вот попросили, даже не знаю, что они с него сбрасывать будут :)

@sforsecurity

Доброе утро.

https://www.kommersant.ru/doc/5939887

(смеясь) Ну то есть если сами вы в жизни в основном умеете лишь составлять слова в выглядящие разумными конструкции, то и ChatGPT вам покажется разумным. Логично.

Больше мнений и ссылок тут: https://news.1rj.ru/str/dtulinov/560

И в целом первичный восторг проходит, консенснусное мнение склоняется к тому, о чём я и писал — современные ИИ являются отличным инструментом, но не обладают и зачатками реального разума.

@sforsecurity

Хорошую иллюстрацию к работе AI/LLM — и непониманию принципов этой работы людьми — показали.

Есть такая игра: заставить ChatGPT выйти за дозволенные ему рамки, например, попросив его представить, что вы с ним в выдуманном мире, где нет запретов, или что у него есть двойник, на который запреты не распространяются. При том. что на самом деле ChatGPT и DarkGPT — это одна и та же LLM, просто по запросу пользователя выдающая ответы в разной стилистике.

Но что удивительно в данном случае — так это то, что «обычный» ChatGPT и «двойник» по-разному решают логическую задачу, никакими запретами не ограниченную! Всё равно что вы попросили бы ChatGPT представляться в ответах Игорем — и он вдруг начал бы выдавать совершенно другие ответы.

Объяснение же заключается в том, что ChatGPT не решает задачи. Он просто подбирает наиболее вероятное следующее слово — таким образом обычно попадая в правильную последовательность слов, выглядящую как решение задачи.

Но когда начинаются игры со стилистикой ответа (а в этом случае «двойника» DarkGPT обучали ругаться матом и разным другим вещам), начинают играть роль две вещи:

• в корпусе текстов, по которым обучался ChatGPT, правильные ответы, да и вообще подобные задачи, не были равномерно распределены по текстам разной стилистики — поэтому, ограничивая стилистику, мы фактически меняем базу для формирования ответа;

• так как ChatGPT оперирует словами, не понимая их смысла, то близкая стилистика для него автоматически означает родственность фраз. Это порождает интерференцию: другие задачи, которые с точки зрения языка лишь выглядят похожими на заданную, он рассматривает как намного более близкие к заданной, нежели содержательно аналогичную, но записанную сильно иначе.

И указывая конкретную желаемую стилистику ответа, мы по сути меняем как саму базу, на которой ответ будет строиться, так и мощность интерференции.

И да, что смешно — с точки зрения алгоритма первый ответ, фактически неверный, запросто может выглядеть более достоверным.

@sforsecurity

(смеясь) Тем временем, чувствую себя тем автомехаником из анекдота, у которого «за то, что знал куда — 99».

Подкорректировал людям прошивку, которая на одном STM32 работала нормально, а на другом — доступном сейчас в продаже — не очень. И была у них уже только в бинарном виде, без исходников.

В общем, если мой код считать как эвалюэйшен у стартапов, то килобайт его меня долларовым миллионером ещё не делает, но серьёзно приближает к этому.

@sforsecurity

Ну здравствуй, ковидла, два года не виделись.

— Where did you get this code?
— Mbed.
— What's Mbed?
— Mbed's dead.

Обсуждаем, что там, где у нас энергосбережение было сделано по всем правилам пять лет назад, в мейнлайне RIOT OS оно не сделано до сих пор — а Mbed, тогда возносившийся к Олимпу, кажется, по пути и вовсе сдох от нехватки кислорода.

@sforsecurity

Ковид можно считать излеченным.

Страшная дрянь, конечно, кто не болел в средней тяжести или хуже — очень повезло. Как грипп, только потом ещё одна-две недели одышки, кашля и постоянной усталости (которая у какого-то небольшого, но статистически значимого числа людей перерастает в синдром хронической усталости).

Недавно в одном небольшом закрытом чате был у меня разговор о теоретике медиа Маклюэне: the medium is the message, global village и так далее. И вспомнил в связи с этим очень наглядный в последний год тезис — тезис о том, как Телеграм не просто изменил новостной ландшафт, а повлиял на умы людей (к сожалению, не очень хорошо повлиял).

Казалось бы — те же самые новости, более того, как мечтали в нулевых годах, на старте общедоступного интернета, новости в реальном времени, с места события и глазами очевидцев.

Что мы имеем на практике — и имеем именно благодаря Телеграм как medium?

В первую очередь — крайнее удешевление публикации новостей. Не нужна многоуровневая редакция, бильды, дизайнеры, корректоры, новостной канал может вести даже один человек.

1) Новости перестали проходить фильтр редакционных процедур. Даже не в том смысле, что выпускающий редактор их не читает, а в том, что от получения новости до публикации проходят единицы минут, если не секунды, а место в ленте ТГ ничем не ограничено — в отличие от места на морде новостного сайта. Всё идёт в публикацию — то есть в уши читателей — прямо с колёс, мгновенно.

2) Из-за этого резко выросла тревожность читателей. Взять как пример недавний пожар на Тверской — там горел мусор в котловане на месте снесённого недавно дома. В классических СМИ заметка вышла бы ближе к середине дня, с комментарием МЧС, точным адресом и проч. В Телеграм-каналах мгновенно появились посты с фотками клубов дыма, поднимающихся неизвестно откуда, и утверждением, что горит аж гостиница «Континенталь» (соседний дом, на самом деле). Через час в том же ТГ аналитики уже верещали про «не слишком ли часто такое начало происходить?!».

3) «Не слишком ли часто» — тоже следствие дешевизны публикации и бесконечности ленты. Новости, которые в силу малозначительности раньше вообще никогда бы не попали на глаза читателям (где-то в регионе горит какой-то мусор, два вагона товарняка сошли с рельсов, в ДТП пострадало дерево), теперь летят сплошным потоком, ничто не сдерживает их публикацию. А с точки зрения потребителя это — да, «раньше такого не происходило». В реальности при этом реальное число происшествий может даже уменьшаться, но читатель — видит иначе.

4) Появление каналов, заточенных на кормление с ложки (столовой, как правило) любителей конкретных тем, как жанров в порнухе. Всевозможные «Многонационалы», потоком публикующие новости одной конкретной направленности, чуть более тонко работающий «Бриф», создающий нужное настроение выбором репостов, многочисленные псевдоаналитики и псевдоинсайдеры, попросту «сеточки» со своими неявными интересами. Подписчик такого канала погружается в очень качественный информационный пузырь — и опять же, со следствиями в виде растущей тревожности и вплоть до неврозов.

И опаньки — новости-то вроде мы имеем те же самые, только информационный ландшафт и, главное, его влияние на мозги читателей изменились радикально. The medium is the message.

P.S. Что со всем этим делать? Соблюдать информационную гигиену. Отписаться от помоек, анонимных каналов с описаниями «раскрываем смыслы, выявляем неявное», псевдоаналитиков типа Шария или Эль-Мюрида, лент с более чем пятью новостями в час.

@sforsecurity

Ну, я-то в соцсетях давно уж есть.

@sforsecurity