(вздохнув) Бесплатный доступ к Midjourney отключили из-за генерации фейков о политиках, сообщали нам СМИ. Созданные нейросетями изображения легко отличить по неправильной форме рук, утверждали эксперты.

Ну, что на эту тему можно сказать. Например, вот что можно сказать: https://news.1rj.ru/str/neuralnetworkcats/429

В принципе, есть ещё небольшие артефакты освещения и обтравки центральной фигуры (см. ботинки Байдена), но уже про некоторые картинки трудно сходу сказать, настоящие они или нет (см. Джастина Трюдо).

В следующей версии Midjourney, подозреваю, нейросетку ещё немного дообучат — и мы с вами не погрузимся в океан фотофейков лишь потому, что для создания вот таких картинок, а не «Джо Байден без одной ноги и с кривыми пальцами сидит на стуле работы Маурица Эшера», нужно серьёзное умение с нейросеткой правильно работать.

@sforsecurity

Вчера прочитал студентам РГСУ лекцию о том, что такое искусственный интеллект, откуда он взялся, чем грозит человечеству и как нам вообще с этим жить.

Лекция получилась бодрая (а также плотно на все полтора часа, минута в минуту), так что, придя домой, сел и законспектировал (смартфон меняет на «законсервировал») её на Хабр.

https://habr.com/ru/articles/729046/

У ChatGPT на месте этих способностей — ноль. Пустыня. Ни малейших признаков осознанности. Ни под лупой, ни под микроскопом, никак.

ChatGPT не разумен. Он не демонстрирует даже минимальных признаков сильного интеллекта, даже намёков на него. Мы понятия не имеем, удастся ли нам создать сильный AI, и если да, то когда — но ChatGPT от него столь же далёк, сколь далеки калькулятор и экскаватор.

@sforsecurity

Вдохновившись лекцией Олега Артамонова в РГСУ сделал такой арт. Олег Артамонов — приглашённый лектор, Яков Якубович — ответственный преподаватель.

Про техническую часть: стиль отрисовки персонажей — игра Fortnite, отгенерил Олега и Якова, далее сгенерил бэкграунд со студентами. Потом заколлажил в Affinity Designer и добавил текст.

Нейросетки инструмент, да. Можно в часть рабочего процесса встраивать. Почему нет?

@neuralnetworkcats

Илон Маск: публикует письмо с предложением на полгода запретить OpenAI работать над ChatGPT.

Тоже Илон Маск: второй месяц активно работает над запуском конкурента OpenAI под названием X.AI.

Впрочем, надо быть очень наивным человеком, чтобы изначально поверить в отсутствие у письма Маска второго дна. Полгода на обсуждение потенциальных проблем, связанных с развитием AGI — это примерно ничто, эти проблемы обсуждаются годами, и всё равно там три мнения на двух юристов и никаких даже намёков на общественный консенсус: в публичной сфере каждый просто несёт в микрофон то, что ему хочется.

А вот на срочное преодоление отставания от конкурентов 6 месяцев — самое то, что надо.

@sforsecurity

(вздохнув)

Судя по комментариям, довольно многие не понимают разницы между ошибками, галлюцинациями и осознанностью, считая, что если система допускает мало ошибок, то она более разумна, и наоборот, а также между движением к цели и целеполаганием.

Осознанность (разумность) не имеет как такового отношения к числу ошибок, она имеет отношение к осознанию того, что вы можете ошибаться. Простой пример: вы приходите на экзамен, получаете билет, смотрите в него...

Добавил в статью на Хабре дополнение, целиком его тут не дублирую, смотрите там в конце: https://habr.com/ru/articles/729046/

Боль и печаль, конечно, но с другой стороны, если всех этих людей заменить на ChatGPT, разве станет человечество жить хуже?..

Ну и да, так как статья уже вышла в топ-5 по теме, то если ей накидать там ещё штук двадцать плюсиков, то, вероятно, она выиграет айфон.

@sforsecurity

(между делом) Очень люблю тех двух самых преданных читателей этого канальчика, которые всегда ставят мне негативный смайлик. У одного, кажется, даже уведомления включены и звук погромче сделан, он каждый раз прямо первый.

Тем временем Никита Ляховецкий, глава нашего московского реготделения, обогнал меня на повороте — пока я маринуюсь в «Миротворце», он сразу под санкции Зеленского попал.

Что, конечно, в первую очередь говорит нам об одном: санкционные списки составляются от балды, просто чтобы продемонстрировать жаждущей хлеба и зрелищ украинской публике «вот смотрите, как мы их, оптом, ух, теперь они нас бояться будут!».

Бояться надо, ребята, когда в тебя ФАБ-1500-2600ТС летит на крылышках, и я так понимаю, до этого момента украинской публике недолго осталось.

А когда тебя в бессмысленный список включают и страшной гаагой грозят, наиболее адекватно ситуации будет весело смеяться.

@sforsecurity

Мы в Партии прямой демократии всегда с радостью откликаемся на предложения ВУЗов организовать и поучаствовать в различных образовательных мероприятиях, которые идут на пользу студентам.

Подробнее про лекцию Олега Артамонова об искусственном интеллекте и нейросетях в РГСУ и участии Никиты Ляховецкого в научной работе МГЮА и КОСИиСР РГСУ в материале:
https://digitaldem.ru/2023/04/17/party-universities-moscow/

(вздохнув) Китайцы...

Протокол общения по SPI, который в принципе написан как 16-битный (первые два байта идут с паузой в 1 такт SCK между ними, а SCK там 10 МГц, способность такое обработать поштучно довольно сильно зависит от конкретного контроллера), и в большинстве случаев так и работает, но в определённые моменты от него внезапно последний байт... отваливается.

И CS уже сняли, и времени прошло нормально так, и тут опа — вспомнили! Ещё ж байт был!

Причём переход в 8-битный режим, даже если я успеваю принять два первых байта (в принципе это возможно, надо успеть от конца первого байта до конца второго войти в прерывание и сбросить его флаг), счастья в жизни мне не приносит — в другой части сего мудрого протокола надо отвечать уже на второй байт, и если с 16-битным словом я могу заранее записать 0x00FE в регистр данных SPI, то с 8-битным у меня тупо между первым и вторым байтом нет на это времени.

Так что или переписывать на DMA (что для настолько в остальном примитивного протокола выглядит примерно как антикрыло на жигулях восьмой модели), или вот сейчас поищем, нет ли у нас тут контроллера какого, который при снятии CS посередине слова не сбрасывает весь SPI, а смиренно ждёт остаток данных.

@sforsecurity

Да, если вы не поняли, про что предыдущий пост, то он про реверс-инжиниринг модуля сброса груза на Fimi X8 SE 2022.

Люди вот попросили, даже не знаю, что они с него сбрасывать будут :)

@sforsecurity

Доброе утро.

https://www.kommersant.ru/doc/5939887

(смеясь) Ну то есть если сами вы в жизни в основном умеете лишь составлять слова в выглядящие разумными конструкции, то и ChatGPT вам покажется разумным. Логично.

Больше мнений и ссылок тут: https://news.1rj.ru/str/dtulinov/560

И в целом первичный восторг проходит, консенснусное мнение склоняется к тому, о чём я и писал — современные ИИ являются отличным инструментом, но не обладают и зачатками реального разума.

@sforsecurity

Хорошую иллюстрацию к работе AI/LLM — и непониманию принципов этой работы людьми — показали.

Есть такая игра: заставить ChatGPT выйти за дозволенные ему рамки, например, попросив его представить, что вы с ним в выдуманном мире, где нет запретов, или что у него есть двойник, на который запреты не распространяются. При том. что на самом деле ChatGPT и DarkGPT — это одна и та же LLM, просто по запросу пользователя выдающая ответы в разной стилистике.

Но что удивительно в данном случае — так это то, что «обычный» ChatGPT и «двойник» по-разному решают логическую задачу, никакими запретами не ограниченную! Всё равно что вы попросили бы ChatGPT представляться в ответах Игорем — и он вдруг начал бы выдавать совершенно другие ответы.

Объяснение же заключается в том, что ChatGPT не решает задачи. Он просто подбирает наиболее вероятное следующее слово — таким образом обычно попадая в правильную последовательность слов, выглядящую как решение задачи.

Но когда начинаются игры со стилистикой ответа (а в этом случае «двойника» DarkGPT обучали ругаться матом и разным другим вещам), начинают играть роль две вещи:

• в корпусе текстов, по которым обучался ChatGPT, правильные ответы, да и вообще подобные задачи, не были равномерно распределены по текстам разной стилистики — поэтому, ограничивая стилистику, мы фактически меняем базу для формирования ответа;

• так как ChatGPT оперирует словами, не понимая их смысла, то близкая стилистика для него автоматически означает родственность фраз. Это порождает интерференцию: другие задачи, которые с точки зрения языка лишь выглядят похожими на заданную, он рассматривает как намного более близкие к заданной, нежели содержательно аналогичную, но записанную сильно иначе.

И указывая конкретную желаемую стилистику ответа, мы по сути меняем как саму базу, на которой ответ будет строиться, так и мощность интерференции.

И да, что смешно — с точки зрения алгоритма первый ответ, фактически неверный, запросто может выглядеть более достоверным.

@sforsecurity

(смеясь) Тем временем, чувствую себя тем автомехаником из анекдота, у которого «за то, что знал куда — 99».

Подкорректировал людям прошивку, которая на одном STM32 работала нормально, а на другом — доступном сейчас в продаже — не очень. И была у них уже только в бинарном виде, без исходников.

В общем, если мой код считать как эвалюэйшен у стартапов, то килобайт его меня долларовым миллионером ещё не делает, но серьёзно приближает к этому.

@sforsecurity