Наиболее интересным исследованием ChatGPT было бы исследование вопроса, «понимает» ли он, что такое достоверная информация.
Пока что одни восхищаются его «способностью» написать программу практически на чём угодно, а другие рассматривают бытовые запросы — и в них выясняется, что ChatGPT тоннами генерирует любой связный текст, способный удовлетворить спрашивающего.
В общем, от операции отсечения головы до сочинения несуществующих цитат (которые ChatGPT сопровождает указанием автора, произведения и даже, если попросите, номера страницы).
А вот можно ли «убедить» ChatGPT сообщать только правду, что именно он в этом случае будет сообщать, как он будет определять достоверность информации — вот это на самом деле интересный вопрос.
@sforsecurity
Пока что одни восхищаются его «способностью» написать программу практически на чём угодно, а другие рассматривают бытовые запросы — и в них выясняется, что ChatGPT тоннами генерирует любой связный текст, способный удовлетворить спрашивающего.
В общем, от операции отсечения головы до сочинения несуществующих цитат (которые ChatGPT сопровождает указанием автора, произведения и даже, если попросите, номера страницы).
А вот можно ли «убедить» ChatGPT сообщать только правду, что именно он в этом случае будет сообщать, как он будет определять достоверность информации — вот это на самом деле интересный вопрос.
@sforsecurity
👍44👎3❤2
Вечером в куплете — утром в стенгазете (с)
Отправили очередную партию разного коллегам в Донецке и Луганске. У кого-то генераторы и пауэрбанки, а я по мелочёвке — блоки питания 12 В, китайские DC/DC на производство многопортовых USB-зарядок под бортовую сеть 12/24 В, наборы SMD-резисторов и конденсаторов ходовых номиналов по 200-500 штук каждого...
Как нетрудно догадаться по последней фотке, уже доехало.
@sforsecurity
Отправили очередную партию разного коллегам в Донецке и Луганске. У кого-то генераторы и пауэрбанки, а я по мелочёвке — блоки питания 12 В, китайские DC/DC на производство многопортовых USB-зарядок под бортовую сеть 12/24 В, наборы SMD-резисторов и конденсаторов ходовых номиналов по 200-500 штук каждого...
Как нетрудно догадаться по последней фотке, уже доехало.
@sforsecurity
❤47👍24👎5
(вздохнув) Бесплатный доступ к Midjourney отключили из-за генерации фейков о политиках, сообщали нам СМИ. Созданные нейросетями изображения легко отличить по неправильной форме рук, утверждали эксперты.
Ну, что на эту тему можно сказать. Например, вот что можно сказать: https://news.1rj.ru/str/neuralnetworkcats/429
В принципе, есть ещё небольшие артефакты освещения и обтравки центральной фигуры (см. ботинки Байдена), но уже про некоторые картинки трудно сходу сказать, настоящие они или нет (см. Джастина Трюдо).
В следующей версии Midjourney, подозреваю, нейросетку ещё немного дообучат — и мы с вами не погрузимся в океан фотофейков лишь потому, что для создания вот таких картинок, а не «Джо Байден без одной ноги и с кривыми пальцами сидит на стуле работы Маурица Эшера», нужно серьёзное умение с нейросеткой правильно работать.
@sforsecurity
Ну, что на эту тему можно сказать. Например, вот что можно сказать: https://news.1rj.ru/str/neuralnetworkcats/429
В принципе, есть ещё небольшие артефакты освещения и обтравки центральной фигуры (см. ботинки Байдена), но уже про некоторые картинки трудно сходу сказать, настоящие они или нет (см. Джастина Трюдо).
В следующей версии Midjourney, подозреваю, нейросетку ещё немного дообучат — и мы с вами не погрузимся в океан фотофейков лишь потому, что для создания вот таких картинок, а не «Джо Байден без одной ноги и с кривыми пальцами сидит на стуле работы Маурица Эшера», нужно серьёзное умение с нейросеткой правильно работать.
@sforsecurity
Telegram
Котики и нейросеть
Уважаемые дамы и господа, дорогие зрители! Добро пожаловать на первый в истории чемпионат по нейросетевому скейтбордингу!
Наши участники сегодня — мировые лидеры. Итак, поехали.
Соревнования открывает Владимир Владимирович Путин. Стабильный и ровный прокат...…
Наши участники сегодня — мировые лидеры. Итак, поехали.
Соревнования открывает Владимир Владимирович Путин. Стабильный и ровный прокат...…
👍24👎2
Forwarded from ЛВД — Логи внутренних диалогов
Крис Трэверс, разработчик опенсорсной ERP LedgerSMB, был на PostgressConf, обсуждал там ситуацию с неприёмом патчей от Baikal Electronics. Как человек имеющий отношение к Open Source разложил всё по полочкам и, скажем, некоторые реакции мне не были очевидны.
Например, он пишет, что цепочка: "Байкал используется военными" — "У России начинается конфликт с вовлечением США" — "Производство Байкала блокируют, продажу ПО блокируют, приём патчей в ядро Линукса блокируют" приводит к тому, что "Байкал" даже не то что рекомендуется, а останется более-менее предсказуемой платформой для российских инфраструктурных компаний, даже чисто гражданских. (хотя он за скобками оставляет вопрос производства этих процессоров — полагаю, просто не в курсе всех пертурбаций)
Как следствие - всё больше и больше гражданских структур начинают испытывать потребность в ОС поддерживающей Байкал. При этом стоит отметить, что когда NSA добавляет SELinux в ядро — это не вызывает никаких протестов со стороны OS сообщества: опять мы сталкиваемся с rules based world, где правила не применяются к Штатам. (Это высказывание Криса, не моё)
И что же произойдёт, когда это желание будет сталкиваться с элитаризмом со стороны Якуба из Facebook?
Для начала - переход к ОС, где на ядро накатываются патчсеты с отброшенными, но нужными правками.
Потом форк
Потом переход на другое ядро (OpenBSD, например)
А дальше происходит неожиданное: поскольку версия Pax Americana сидит в углу и говорит: "Гады вы все, русские, да и китайцы тоже" и не принимает от них патчей, а китайские и русские версии OSS спокойно забирают творчество американских и европейских опенсорсников, продукт из закрытых стран, сюрприз, станет более универсальным и имеет все шансы стать основной веткой развития того же ядра Linux
Очень интересная статья, логически неплохо выверенная, рекомендую к прочтению.
Например, он пишет, что цепочка: "Байкал используется военными" — "У России начинается конфликт с вовлечением США" — "Производство Байкала блокируют, продажу ПО блокируют, приём патчей в ядро Линукса блокируют" приводит к тому, что "Байкал" даже не то что рекомендуется, а останется более-менее предсказуемой платформой для российских инфраструктурных компаний, даже чисто гражданских. (хотя он за скобками оставляет вопрос производства этих процессоров — полагаю, просто не в курсе всех пертурбаций)
Как следствие - всё больше и больше гражданских структур начинают испытывать потребность в ОС поддерживающей Байкал. При этом стоит отметить, что когда NSA добавляет SELinux в ядро — это не вызывает никаких протестов со стороны OS сообщества: опять мы сталкиваемся с rules based world, где правила не применяются к Штатам. (Это высказывание Криса, не моё)
И что же произойдёт, когда это желание будет сталкиваться с элитаризмом со стороны Якуба из Facebook?
Для начала - переход к ОС, где на ядро накатываются патчсеты с отброшенными, но нужными правками.
Потом форк
Потом переход на другое ядро (OpenBSD, например)
А дальше происходит неожиданное: поскольку версия Pax Americana сидит в углу и говорит: "Гады вы все, русские, да и китайцы тоже" и не принимает от них патчей, а китайские и русские версии OSS спокойно забирают творчество американских и европейских опенсорсников, продукт из закрытых стран, сюрприз, станет более универсальным и имеет все шансы стать основной веткой развития того же ядра Linux
Очень интересная статья, логически неплохо выверенная, рекомендую к прочтению.
Telegram
Логи внутренних диалогов
Чувак из Facebook, Якуб Кичинский (тоже, блин, империя добра нашлась), пишет разрабу из Байкал Электроникс, что он его патчи в ядро линукса видеть не хочет, ибо, цитата
"Нам некомфортно принимать обновления от людей из вашей организации или связанные с вашей…
"Нам некомфортно принимать обновления от людей из вашей организации или связанные с вашей…
👍52❤3👎3
Вчера прочитал студентам РГСУ лекцию о том, что такое искусственный интеллект, откуда он взялся, чем грозит человечеству и как нам вообще с этим жить.
Лекция получилась бодрая (а также плотно на все полтора часа, минута в минуту), так что, придя домой, сел и законспектировал (смартфон меняет на «законсервировал») её на Хабр.
https://habr.com/ru/articles/729046/
У ChatGPT на месте этих способностей — ноль. Пустыня. Ни малейших признаков осознанности. Ни под лупой, ни под микроскопом, никак.
ChatGPT не разумен. Он не демонстрирует даже минимальных признаков сильного интеллекта, даже намёков на него. Мы понятия не имеем, удастся ли нам создать сильный AI, и если да, то когда — но ChatGPT от него столь же далёк, сколь далеки калькулятор и экскаватор.
@sforsecurity
Лекция получилась бодрая (а также плотно на все полтора часа, минута в минуту), так что, придя домой, сел и законспектировал (смартфон меняет на «законсервировал») её на Хабр.
https://habr.com/ru/articles/729046/
У ChatGPT на месте этих способностей — ноль. Пустыня. Ни малейших признаков осознанности. Ни под лупой, ни под микроскопом, никак.
ChatGPT не разумен. Он не демонстрирует даже минимальных признаков сильного интеллекта, даже намёков на него. Мы понятия не имеем, удастся ли нам создать сильный AI, и если да, то когда — но ChatGPT от него столь же далёк, сколь далеки калькулятор и экскаватор.
@sforsecurity
Хабр
Ваш гений — полный идиот, или Что есть ИИ и грозит ли он кому-либо
Дискуссиями о том, насколько прекрасен (опасен, полезен, подчеркните нужное) ChatGPT в частности и искусственный интеллект вообще, полон интернет — на эту тему высказались все, от «песочницы» Хабра до...
👍75👎3❤1
Forwarded from Котики и нейросеть
Вдохновившись лекцией Олега Артамонова в РГСУ сделал такой арт. Олег Артамонов — приглашённый лектор, Яков Якубович — ответственный преподаватель.
Про техническую часть: стиль отрисовки персонажей — игра Fortnite, отгенерил Олега и Якова, далее сгенерил бэкграунд со студентами. Потом заколлажил в Affinity Designer и добавил текст.
Нейросетки инструмент, да. Можно в часть рабочего процесса встраивать. Почему нет?
@neuralnetworkcats
Про техническую часть: стиль отрисовки персонажей — игра Fortnite, отгенерил Олега и Якова, далее сгенерил бэкграунд со студентами. Потом заколлажил в Affinity Designer и добавил текст.
Нейросетки инструмент, да. Можно в часть рабочего процесса встраивать. Почему нет?
@neuralnetworkcats
👍33👎3
Илон Маск: публикует письмо с предложением на полгода запретить OpenAI работать над ChatGPT.
Тоже Илон Маск: второй месяц активно работает над запуском конкурента OpenAI под названием X.AI.
Впрочем, надо быть очень наивным человеком, чтобы изначально поверить в отсутствие у письма Маска второго дна. Полгода на обсуждение потенциальных проблем, связанных с развитием AGI — это примерно ничто, эти проблемы обсуждаются годами, и всё равно там три мнения на двух юристов и никаких даже намёков на общественный консенсус: в публичной сфере каждый просто несёт в микрофон то, что ему хочется.
А вот на срочное преодоление отставания от конкурентов 6 месяцев — самое то, что надо.
@sforsecurity
Тоже Илон Маск: второй месяц активно работает над запуском конкурента OpenAI под названием X.AI.
Впрочем, надо быть очень наивным человеком, чтобы изначально поверить в отсутствие у письма Маска второго дна. Полгода на обсуждение потенциальных проблем, связанных с развитием AGI — это примерно ничто, эти проблемы обсуждаются годами, и всё равно там три мнения на двух юристов и никаких даже намёков на общественный консенсус: в публичной сфере каждый просто несёт в микрофон то, что ему хочется.
А вот на срочное преодоление отставания от конкурентов 6 месяцев — самое то, что надо.
@sforsecurity
Telegram
РБК
Илон Маск планирует запустить стартап в области искусственного интеллекта, который будет конкурировать с создателем ChatGPT OpenAI, сообщили источники FT.
Он уже собирает команду исследователей и инженеров в сфере ИИ, включая британскую компанию DeepMind.…
Он уже собирает команду исследователей и инженеров в сфере ИИ, включая британскую компанию DeepMind.…
👍35👎4❤2
(вздохнув)
Судя по комментариям, довольно многие не понимают разницы между ошибками, галлюцинациями и осознанностью, считая, что если система допускает мало ошибок, то она более разумна, и наоборот, а также между движением к цели и целеполаганием.
Осознанность (разумность) не имеет как такового отношения к числу ошибок, она имеет отношение к осознанию того, что вы можете ошибаться. Простой пример: вы приходите на экзамен, получаете билет, смотрите в него...
Добавил в статью на Хабре дополнение, целиком его тут не дублирую, смотрите там в конце: https://habr.com/ru/articles/729046/
Боль и печаль, конечно, но с другой стороны, если всех этих людей заменить на ChatGPT, разве станет человечество жить хуже?..
Ну и да, так как статья уже вышла в топ-5 по теме, то если ей накидать там ещё штук двадцать плюсиков, то, вероятно, она выиграет айфон.
@sforsecurity
Судя по комментариям, довольно многие не понимают разницы между ошибками, галлюцинациями и осознанностью, считая, что если система допускает мало ошибок, то она более разумна, и наоборот, а также между движением к цели и целеполаганием.
Осознанность (разумность) не имеет как такового отношения к числу ошибок, она имеет отношение к осознанию того, что вы можете ошибаться. Простой пример: вы приходите на экзамен, получаете билет, смотрите в него...
Добавил в статью на Хабре дополнение, целиком его тут не дублирую, смотрите там в конце: https://habr.com/ru/articles/729046/
Боль и печаль, конечно, но с другой стороны, если всех этих людей заменить на ChatGPT, разве станет человечество жить хуже?..
Ну и да, так как статья уже вышла в топ-5 по теме, то если ей накидать там ещё штук двадцать плюсиков, то, вероятно, она выиграет айфон.
@sforsecurity
Хабр
Ваш гений — полный идиот, или Что есть ИИ и грозит ли он кому-либо
Дискуссиями о том, насколько прекрасен (опасен, полезен, подчеркните нужное) ChatGPT в частности и искусственный интеллект вообще, полон интернет — на эту тему высказались все, от «песочницы» Хабра до...
👍45👎4
(между делом) Очень люблю тех двух самых преданных читателей этого канальчика, которые всегда ставят мне негативный смайлик. У одного, кажется, даже уведомления включены и звук погромче сделан, он каждый раз прямо первый.
❤59👍40👎19
Тем временем Никита Ляховецкий, глава нашего московского реготделения, обогнал меня на повороте — пока я маринуюсь в «Миротворце», он сразу под санкции Зеленского попал.
Что, конечно, в первую очередь говорит нам об одном: санкционные списки составляются от балды, просто чтобы продемонстрировать жаждущей хлеба и зрелищ украинской публике «вот смотрите, как мы их, оптом, ух, теперь они нас бояться будут!».
Бояться надо, ребята, когда в тебя ФАБ-1500-2600ТС летит на крылышках, и я так понимаю, до этого момента украинской публике недолго осталось.
А когда тебя в бессмысленный список включают и страшной гаагой грозят, наиболее адекватно ситуации будет весело смеяться.
@sforsecurity
Что, конечно, в первую очередь говорит нам об одном: санкционные списки составляются от балды, просто чтобы продемонстрировать жаждущей хлеба и зрелищ украинской публике «вот смотрите, как мы их, оптом, ух, теперь они нас бояться будут!».
Бояться надо, ребята, когда в тебя ФАБ-1500-2600ТС летит на крылышках, и я так понимаю, до этого момента украинской публике недолго осталось.
А когда тебя в бессмысленный список включают и страшной гаагой грозят, наиболее адекватно ситуации будет весело смеяться.
@sforsecurity
Telegram
Ляховецкий
Владимир Зеленский тут сегодня разродился новым санкционным списком в который вошел и ваш покорный слуга.
Среди тех, в отношении кого Украина ввела экономические и другие санкции, — футболист Игорь Акинфеев, фигуристы Илья Авербух и Елизавета Туктамышева.…
Среди тех, в отношении кого Украина ввела экономические и другие санкции, — футболист Игорь Акинфеев, фигуристы Илья Авербух и Елизавета Туктамышева.…
👍49👎10❤2
Forwarded from Партия прямой демократии
Мы в Партии прямой демократии всегда с радостью откликаемся на предложения ВУЗов организовать и поучаствовать в различных образовательных мероприятиях, которые идут на пользу студентам.
Подробнее про лекцию Олега Артамонова об искусственном интеллекте и нейросетях в РГСУ и участии Никиты Ляховецкого в научной работе МГЮА и КОСИиСР РГСУ в материале:
https://digitaldem.ru/2023/04/17/party-universities-moscow/
Подробнее про лекцию Олега Артамонова об искусственном интеллекте и нейросетях в РГСУ и участии Никиты Ляховецкого в научной работе МГЮА и КОСИиСР РГСУ в материале:
https://digitaldem.ru/2023/04/17/party-universities-moscow/
Партия прямой демократии
Представители ППД выступили экспертами в университетах столицы
Представители партии выступили приглашенными лекторами и экспертами в столичных ВУЗах.
👍25👎4
(вздохнув) Китайцы...
Протокол общения по SPI, который в принципе написан как 16-битный (первые два байта идут с паузой в 1 такт SCK между ними, а SCK там 10 МГц, способность такое обработать поштучно довольно сильно зависит от конкретного контроллера), и в большинстве случаев так и работает, но в определённые моменты от него внезапно последний байт... отваливается.
И CS уже сняли, и времени прошло нормально так, и тут опа — вспомнили! Ещё ж байт был!
Причём переход в 8-битный режим, даже если я успеваю принять два первых байта (в принципе это возможно, надо успеть от конца первого байта до конца второго войти в прерывание и сбросить его флаг), счастья в жизни мне не приносит — в другой части сего мудрого протокола надо отвечать уже на второй байт, и если с 16-битным словом я могу заранее записать 0x00FE в регистр данных SPI, то с 8-битным у меня тупо между первым и вторым байтом нет на это времени.
Так что или переписывать на DMA (что для настолько в остальном примитивного протокола выглядит примерно как антикрыло на жигулях восьмой модели), или вот сейчас поищем, нет ли у нас тут контроллера какого, который при снятии CS посередине слова не сбрасывает весь SPI, а смиренно ждёт остаток данных.
@sforsecurity
Протокол общения по SPI, который в принципе написан как 16-битный (первые два байта идут с паузой в 1 такт SCK между ними, а SCK там 10 МГц, способность такое обработать поштучно довольно сильно зависит от конкретного контроллера), и в большинстве случаев так и работает, но в определённые моменты от него внезапно последний байт... отваливается.
И CS уже сняли, и времени прошло нормально так, и тут опа — вспомнили! Ещё ж байт был!
Причём переход в 8-битный режим, даже если я успеваю принять два первых байта (в принципе это возможно, надо успеть от конца первого байта до конца второго войти в прерывание и сбросить его флаг), счастья в жизни мне не приносит — в другой части сего мудрого протокола надо отвечать уже на второй байт, и если с 16-битным словом я могу заранее записать 0x00FE в регистр данных SPI, то с 8-битным у меня тупо между первым и вторым байтом нет на это времени.
Так что или переписывать на DMA (что для настолько в остальном примитивного протокола выглядит примерно как антикрыло на жигулях восьмой модели), или вот сейчас поищем, нет ли у нас тут контроллера какого, который при снятии CS посередине слова не сбрасывает весь SPI, а смиренно ждёт остаток данных.
@sforsecurity
👍25👎4❤1