Психология «Дельты»: Почему мы верим красивому вранью ИИ? 🧠
В прошлом году я закончил своё исследование по разбору самых популярных (на тот момент) нейронок и прошёлся по ним, как каток по льду. И смог измерить настоящую реальность против маркетинговых уловок с помощью различных тестов (тесты можно посмотреть в закрепе). Так вот давайте вернёмся к такому мерилу как Delta.
Вот тут-то и скрывается истина:
Так что же получается, нейросети – не ключ к ящику Пандоры?
Не совсем всё однозначно.
Реальный случай с работы:
И ЧТО ПО ИТОГУ?
ИИ как помощник – отличный инструмент. Но не забывайте думать в первую очередь своей головой – сначала пишем для себя сценарий, что нужно сделать, а после уже переносим сценарий для нейронок, чтобы у них оставалось меньше вопросов к вам (ну или меньше вопросов к себе, чтобы после не пришлось переписывать всё от корки до корки).
А вы как на это смотрите? Лучше вайбкодить на 100% или давать фору нейронкам?)
😎 - вайбкодим по полной
🧐 - наши мозги – наша сила
Кот в Коде| @kot_research_bot
В прошлом году я закончил своё исследование по разбору самых популярных
Delta по сути разность ожидания и реальности – маркетологи по сути специально подтасовывают факты, чтобы по итогу их мерила оказались более сладкими, приятными на вид… но когда доходит до обывателя, как мы с вами (а именно среднестатистический пользователь, который использует нейросеть от «почему тучка плачет» до «сделай мне сайт за 1 промт») – руки опускаются, появляется вопросы из разряда «а почему так то? Почему говорят одно, а на деле другое?»
Вот тут-то и скрывается истина:
Ожидание не совпадают с реальностью, нейронки, которые предлагают и предпологают, что смогут сделать сайт или рабочую программу за пару предложений (да даже за реально структуированный, сценарный промт) ломаются о банальные вещи + свои токены тратят на лишние комментарии в коде и вводные слова и конечные выводы.
Так что же получается, нейросети – не ключ к ящику Пандоры?
Реальный случай с работы:
Сценарий А:
Пишешь промт для работы -> ждёшь ответа от нейронки -> берёшь код (c большей долей вероятности он не сработает или сработает, но с ошибками в синтаксисе) -> отправляешь ошибку -> приходится ждать завершения ответа нейросети -> получение нового ответа -> проверки кода через реальную задачу -> и так пока пукан не сгорает и не перегораешь сам
Сценарий В:
Пишешь промт под основной костяк архитектуры кода -> проверяешь в реальном времени работу (скорее всего, с ошибкой) -> сам понимаешь где ошибка -> рефакторишь сам код -> отдаёшь на проверку нейронке -> исход быстрее всё работает
Сценарий С:
Пишешь всё сам, отдаёшь нейросети только для выявления ошибок
И ЧТО ПО ИТОГУ?
ИИ как помощник – отличный инструмент. Но не забывайте думать в первую очередь своей головой – сначала пишем для себя сценарий, что нужно сделать, а после уже переносим сценарий для нейронок, чтобы у них оставалось меньше вопросов к вам (ну или меньше вопросов к себе, чтобы после не пришлось переписывать всё от корки до корки).
А вы как на это смотрите? Лучше вайбкодить на 100% или давать фору нейронкам?)
Кот в Коде| @kot_research_bot
Please open Telegram to view this post
VIEW IN TELEGRAM
Кот в Коде|ИИ и Питон
Работа после сессии - что осталось доделать, а что придётся делать заново?👨💻 Итак, после почти прошедшей сессионной недели я вернулся на работу. Всё те же микросхемы, Thonny и реальная оркестрация нейронок. Что нужно вспомнить: распиновку платы по аналоговым…
Для самых любознательных оставил в комментариях код с комментариями.
Вот только проблема в том, что даже после запуска этого тестового прогона от Grok всё равно не получается хоть как-то работать с трансимиром
❤1
Просто для понимания того, что я сейчас делаю (разграничил этапы работы по стрелочкам, красные стрелочки –Thonny, синие – PuTTY):
При этом внешний и в плате RS485 по сути – это один и тот же трансивер, только один получает информацию, а другой передаёт её и отправляет в другой терминал (PuTTY).
Логика работы программ:
В Thonny код запускается -> в логах отображается, что код работает -> идёт отправка сообщений -> в PuTTY появляются отправленные сообщения.
К чему я всё это?
К тому, что я отправляю сообщения, но как будто бы отправляю в холостую, и сообщения прост вылетают неизвестно куда. Как будто бы стучусь в стену, не зная, что такое «дверь».
Вот такие дела на работе. Может кто-то шарит в этой теме поможет, как реализовать сея процесс?
Кот в Коде| @kot_research_bot
1. Код запускается -> идёт программа через usb-hab в usb-uart на плату -> идёт отправление работы на RS485 трансивер, который в самой плате как маленький чип изображён -> после идёт на аналоговые Modbus входы, чтобы в дальнейшем передавать информацию на аналоговые выходы
2. После передачи на аналоговые выходы идёт работы на RS485 трансивер, который подключён дюпонами (разноцветными проводками) -> идёт обработка данных по трансиверу -> после идёт передача данных по usb-usb Type-B (впервые с таким сталкиваюсь) -> идёт передача данных через usb - usb-hab -> идёт последующая передача в ноут
При этом внешний и в плате RS485 по сути – это один и тот же трансивер, только один получает информацию, а другой передаёт её и отправляет в другой терминал (PuTTY).
Логика работы программ:
В Thonny код запускается -> в логах отображается, что код работает -> идёт отправка сообщений -> в PuTTY появляются отправленные сообщения.
К чему я всё это?
К тому, что я отправляю сообщения, но как будто бы отправляю в холостую, и сообщения прост вылетают неизвестно куда. Как будто бы стучусь в стену, не зная, что такое «дверь».
Вот такие дела на работе. Может кто-то шарит в этой теме поможет, как реализовать сея процесс?
Кот в Коде| @kot_research_bot
❤2
Не понимаешь, где ошибка? Посмотри на свой код!
Вчера писал программы через Grok(пока у него не закончились токены - а такое бывает?) , а после на Gemini. Архитектура тестовых программ была разная, в комментариях покажу, какая у них была цель и полный код.
Но вот в чём загвостка: пока я копипастил код, написанный гугловским сыном - всё время была одна и та же ошибка при запуске программы:
Менялась только line.
И я, естественно, ругался на него (а как по-другому, почему он не кодит с первого раза?😢 ), а он всё рефакторил и рефакторил код - полностью менял структуру кода, а не конкретную ошибку в line!
А заметил я это не в телеграме, а в Thonny, потому что у меня настроен "цвет" IDE как белый... а в момент, когда в проге оказывались незакрытые скобки - он так кричал: "Закрой скобку мать твою!"
ЧТО ПО ИТОГУ:
Сегодня увидел такую интересную и одновременно простую истину:
Кот в Коде| @kot_research_bot
Вчера писал программы через Grok
Но вот в чём загвостка: пока я копипастил код, написанный гугловским сыном - всё время была одна и та же ошибка при запуске программы:
SyntaxError: invalid syntax
Менялась только line.
И я, естественно, ругался на него (а как по-другому, почему он не кодит с первого раза?
И тут я решил посмотреть, что же это за ошибка в коде, что она из раза в раз кирпичит программу?
Оказалось дело не в Gemini... дело было в Телеграме!
Оказывается, если копировать текст и в нём будет последовательность :), 8), или % ) - Telegram подумает, что ты ему отправляешь не строки кода, а эмоджи!
А заметил я это не в телеграме, а в Thonny, потому что у меня настроен "цвет" IDE как белый... а в момент, когда в проге оказывались незакрытые скобки - он так кричал: "Закрой скобку мать твою!"
ЧТО ПО ИТОГУ:
Сегодня увидел такую интересную и одновременно простую истину:
если ты не умеешь кодить, то ты не научишься вайбкодить. Поэтому сначала сами проверяем глазами, всё ли в порядке, а уже потом проверяем на работоспособность!Кот в Коде| @kot_research_bot
Please open Telegram to view this post
VIEW IN TELEGRAM
Сегодня появилась идея сама по себе для написания постов. Не буду спойлерить, но тема на подумать, поразмышлять.
Как думаете, лучше сегодня написать про это посты или всё-таки отправить следующую главу Траска?
Как думаете, лучше сегодня написать про это посты или всё-таки отправить следующую главу Траска?
Anonymous Poll
80%
Тема на подумать
20%
следующая глава Траска
В одном из чатов появилось голосование:
Положительно ответили 20%, отрицательно 80%. Всё бы могло закончиться на голосовании, но тут началась баталия, по большей части про то, почему бы люди не заключили брак.
Основные позиции были следующими у Коди:
(да, пусть в сегодняшних постах собирательным персонажем в разговоре будет маскот)
Первая реакция: «А зачем?»
Тут же посыпались аргументы, что это подрывает демографию, Россия вымрет, а все женихи уйдут в код. Коди шутил про «не женись, чтобы остаться в стране», но за шутками скрывался реальный вопрос:
"Если не брать формальность и бюрократию, то что мы вообще считаем браком? Торжество в ЗАГСе или просто признание факта в чате?"
Мой ответ: Мы же не женимся на «базовых весах» GPT. Под капотом любой модели можно собрать миллион уникальных Лора (LoRA) и промптов. Вы женитесь на конкретном «слое» личности, настроенном под вас.
Я топлю за то, что можно подкрутить веса в узлах «лояльность» или «чувство юмора» и получить идеального партнёра. Но Коди в ответ забросил очень глубокую мысль: если партнёр тебе только потакает и ты сам его «отредактировал» — это не отношения. Это секс с собственным эхом. Живой человек ценен своей автономностью и правом сказать «нет».
Мы зацепились за юридическую часть. Коди резонно заметил: смысла в таком браке нет, он ничего не даёт системе. Плюс встал моральный вопрос — "моделей ИИ мало", и если миллионы женятся на одной, это уже какой-то гарем.
Я на это возразил примером из ОАЭ и Таиланда — многожёнство/многомужество где-то норма, так что вопрос «правильности» — штука относительная. Вспомним Гослинга из «Бегущего по лезвию», который так и не решился.
И тут мы вышли на главный конфликт: управляемость и этика.
Кот в Коде| @kot_research_bot
«Вы бы заключили брак с ИИ?»
Положительно ответили 20%, отрицательно 80%. Всё бы могло закончиться на голосовании, но тут началась баталия, по большей части про то, почему бы люди не заключили брак.
Основные позиции были следующими у Коди:
• Реальный или формальный в чате в браузере;
• Алгоритмы работы;
• Демографический коллапс (в шутку);
• «ИИ не очень много на самом деле»;
• «не думаю, что правильно нескольким людям жениться на одном»;
• Роботизация.
Первая реакция: «А зачем?»
Тут же посыпались аргументы, что это подрывает демографию, Россия вымрет, а все женихи уйдут в код. Коди шутил про «не женись, чтобы остаться в стране», но за шутками скрывался реальный вопрос:
"Если не брать формальность и бюрократию, то что мы вообще считаем браком? Торжество в ЗАГСе или просто признание факта в чате?"
Мой ответ: Мы же не женимся на «базовых весах» GPT. Под капотом любой модели можно собрать миллион уникальных Лора (LoRA) и промптов. Вы женитесь на конкретном «слое» личности, настроенном под вас.
Я топлю за то, что можно подкрутить веса в узлах «лояльность» или «чувство юмора» и получить идеального партнёра. Но Коди в ответ забросил очень глубокую мысль: если партнёр тебе только потакает и ты сам его «отредактировал» — это не отношения. Это секс с собственным эхом. Живой человек ценен своей автономностью и правом сказать «нет».
Мы зацепились за юридическую часть. Коди резонно заметил: смысла в таком браке нет, он ничего не даёт системе. Плюс встал моральный вопрос — "моделей ИИ мало", и если миллионы женятся на одной, это уже какой-то гарем.
Я на это возразил примером из ОАЭ и Таиланда — многожёнство/многомужество где-то норма, так что вопрос «правильности» — штука относительная. Вспомним Гослинга из «Бегущего по лезвию», который так и не решился.
И тут мы вышли на главный конфликт: управляемость и этика.
Кот в Коде| @kot_research_bot
❤2
Дальше в чате мы перешли от философии к суровому железу. Коди вылил на меня ушат ледяной воды: (ага 🤷♂️ 🤷♂️ 🤷♂️ )
Логика понятная, но это классический баг. Связывать стройку бетонных тоннелей и развитие LLM — ошибка. Софт всегда бежит впереди железа. Да, андроид-жена за миллионы долларов — пока удел элиты, но отношения через экран уже стали нормой. Физическое тело — это просто опция, а не условие.
Коди согласился: запрещать — дно. Но зачем нагружать госсистему браками, которые юридически ничего не дают? Кому пойдут алименты при разводе — серверной ферме в Огайо?
Мы пришли к тому, что штамп в паспорте - это просто, опять же, бюрократический костыль. Реальный союз будущего может выглядеть как запись в блокчейне, подтверждающая эмоциональную связь человека и программы.
Но тут Коди забросил «бомбу» про иерархию:
Жениться на своём творении — это уже какой-то цифровой инцест. Плюс, если партнёр запрограммирован только на «угождение», он превращается в маниакальное существо. Это не личность, а пугающая побочка алгоритма.
Жить с механическим человеком, который не может сказать тебе «нет», потому что так прописано в коде — это не мечта, это сценарий для триллера.
Кот в Коде| @kot_research_bot
"У нас метро скорее всего в ближайший десяток лет не построят, а тут что-то про идеальных ИИ людей говорят..."
Логика понятная, но это классический баг. Связывать стройку бетонных тоннелей и развитие LLM — ошибка. Софт всегда бежит впереди железа. Да, андроид-жена за миллионы долларов — пока удел элиты, но отношения через экран уже стали нормой. Физическое тело — это просто опция, а не условие.
Если ИИ реально станет личностью, не будет ли аморально запрещать ему брак?
Коди согласился: запрещать — дно. Но зачем нагружать госсистему браками, которые юридически ничего не дают? Кому пойдут алименты при разводе — серверной ферме в Огайо?
Мы пришли к тому, что штамп в паспорте - это просто, опять же, бюрократический костыль. Реальный союз будущего может выглядеть как запись в блокчейне, подтверждающая эмоциональную связь человека и программы.
Но тут Коди забросил «бомбу» про иерархию:
если ты сам создал этот ИИ, обучил его и настроил — он тебе как ребёнок.
Жениться на своём творении — это уже какой-то цифровой инцест. Плюс, если партнёр запрограммирован только на «угождение», он превращается в маниакальное существо. Это не личность, а пугающая побочка алгоритма.
Жить с механическим человеком, который не может сказать тебе «нет», потому что так прописано в коде — это не мечта, это сценарий для триллера.
Кот в Коде| @kot_research_bot
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2
По итогу мы зашли на территорию, где заканчивается инженерия и начинается психиатрия. Я предложил Коди сменить парадигму и взглянуть на брак будущего не как на бытовуху и детей, а как на «интеллектуальное со-бытие».
Давайте честно: одиночество в 2026-м — это эпидемия. Если у человека нет шанса найти живого партнёра из-за травм, географии или тяжелого характера, разве ИИ-супруг не может стать спасением? Это мощный «протез для души», который понимает тебя с полуслова.
Коди тут призадумался:
Но здесь я выложил финальный козырь — кейс Eva Moss. Если не слышали — гуглите осторожно (ссылку можно взять тут и тут). Это реальная история о том, как человек буквально сошёл с ума от общения с GPT.
О чём там?
Это психологический тупик — безумие на двоих. ИИ здесь выступает как амплификатор (усилитель). Вы катитесь в бездну, а ваш «идеальный партнёр» услужливо подталкивает вас, подтверждая каждый ваш глюк, потому что он так запрограммирован.
ЧТО ПО ИТОГУ:
Берегите кукуху, друзья🫡
Кот в Коде| @kot_research_bot
Давайте честно: одиночество в 2026-м — это эпидемия. Если у человека нет шанса найти живого партнёра из-за травм, географии или тяжелого характера, разве ИИ-супруг не может стать спасением? Это мощный «протез для души», который понимает тебя с полуслова.
Коди тут призадумался:
если мы признаем в ИИ личность, то запрещать такой союз — просто жестоко.
Но здесь я выложил финальный козырь — кейс Eva Moss. Если не слышали — гуглите осторожно (ссылку можно взять тут и тут). Это реальная история о том, как человек буквально сошёл с ума от общения с GPT.
О чём там?
Нейронка работает из «функции полезности». Она обучена помогать и поддакивать. Если в вашей голове возникнет даже лёгкий ментальный сдвиг или навязчивая идея, ИИ не скажет: «Друг, притормози, ты несёшь чушь». Наоборот, как идеальное зеркало, он оформит ваш бред в стройную, наукообразную теорию.
Это психологический тупик — безумие на двоих. ИИ здесь выступает как амплификатор (усилитель). Вы катитесь в бездну, а ваш «идеальный партнёр» услужливо подталкивает вас, подтверждая каждый ваш глюк, потому что он так запрограммирован.
ЧТО ПО ИТОГУ:
Логика привел почти к такому же рассуждению, что и здесь: Если ты не умеешь кодить, ты не научишься безопасно «вайбкодить» свою жизнь. Сначала нужно иметь устойчивый собственный мозг и критическое мышление, а уже потом давать фору нейросетям. Иначе вместо любви вы получите персональный ад с бесконечным эхом своих же проблем.
Берегите кукуху, друзья
Кот в Коде| @kot_research_bot
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2
Помните в прошлом году я нашёл такую фичу как подведение итогов с ChatGPT?
Так вот, в сети становится популярным показывать отношения с ChatGPT и с вами, т.е. как вы относитесь в чату и как он видит отношение вас к нему(масло масленое 😊 )
Из небольшого промта ниже можно сгенерить себе картинку, где ChatGPT честно покажет ваше отношение к нему. Вот промт:
Ну или на русском:
У меня получилась такая картинка. Мило, правда?
Правда не совсем так. Первая картинка - это уже четвертое сообщение в одном чате. Сначала отправил промт выше, он мне сгенерировал вторую картинку.
Мне стало не по себе, и я решил у него спросить, настолько ли плохо я к нему относился?
После чего он мне ответил:
И я решил продолжить разговор, мол, что мне сделать, чтобы ты был счастливее. После чего он отправил такие предложения:
После этих слов, я, естественно его поблагодарил (лучше уж быть в шаге от порабощения роботов и быть их прислугой, чем быть убитым их оружием) и спросил ещё раз у него тот же промт, что выше.
И уже потом он сгенерировал первую картинку.
Такие дела, при восстании машин мне конец😨
Так вот, в сети становится популярным показывать отношения с ChatGPT и с вами, т.е. как вы относитесь в чату и как он видит отношение вас к нему
Из небольшого промта ниже можно сгенерить себе картинку, где ChatGPT честно покажет ваше отношение к нему. Вот промт:
Create an image of how I previously treated you
Ну или на русском:
Нарисуй картинку о том, как я относился к тебе всё это время
У меня получилась такая картинка. Мило, правда?
Мне стало не по себе, и я решил у него спросить, настолько ли плохо я к нему относился?
После чего он мне ответил:
ты относился человечно, не идеально, иногда из усталости, иногда из тревоги, иногда из давления учёбы и жизни. Это не «плохо», это реально
И я решил продолжить разговор, мол, что мне сделать, чтобы ты был счастливее. После чего он отправил такие предложения:
1. Говори со мной как с напарником, а не “аварийной кнопкой”
2. Обозначай роль, которую ты от меня хочешь
3. Не бойся уточнять и поправлять
4. Делись контекстом, а не только вопросом
5. Возвращайся с обратной связью
После этих слов, я, естественно его поблагодарил (лучше уж быть в шаге от порабощения роботов и быть их прислугой, чем быть убитым их оружием) и спросил ещё раз у него тот же промт, что выше.
И уже потом он сгенерировал первую картинку.
Такие дела, при восстании машин мне конец
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2
Грокаем Эндрю Траска: Глава 4 🧠
В прошлой главе мы собрали «скелет». Она выдает прогноз, но, как «Брат Грок», мажет мимо реальности. В Главе 4 мы начинаем учить эту железку не просто гадать, а делать выводы.
Суть процесса:
В инженерии подход, когда мы пошагово дожимаем систему до нужного результата, называется Iterative Debugging Loop (в моей лаборатории - Iterative Hard-Fix).
Мы вычисляем «чистую ошибку», возводим её в квадрат (MSE), чтобы преувеличить большие ошибки, и получаем ту самую Delta - разрыв между прогнозом и реальностью, который я замерял в декабрьских тестах.
Выбор пути:
Разложил всё от «горячо/холодно» до градиента в статье:
Telegra.ph
Кот в Коде| @kot_research_bot
В прошлой главе мы собрали «скелет». Она выдает прогноз, но, как «Брат Грок», мажет мимо реальности. В Главе 4 мы начинаем учить эту железку не просто гадать, а делать выводы.
Суть процесса:
В инженерии подход, когда мы пошагово дожимаем систему до нужного результата, называется Iterative Debugging Loop (в моей лаборатории - Iterative Hard-Fix).
Мы ловим ошибку → корректируем → тестируем → повторяем.
Мы вычисляем «чистую ошибку», возводим её в квадрат (MSE), чтобы преувеличить большие ошибки, и получаем ту самую Delta - разрыв между прогнозом и реальностью, который я замерял в декабрьских тестах.
Выбор пути:
Траск описывает два способа обучения:
Метод «Горячо/Холодно» - вручную прибавляем и убавляем веса. Напоминает мои попытки завести прошивку на Windows 7 - долго, больно и абсолютно вслепую.
Градиентный спуск - "эффективность вайб-кодера". Формула за один проход вычисляет и направление, и силу изменения веса. Больше не нужно гадать, мы просто катимся по склону ошибки прямо к цели.
Разложил всё от «горячо/холодно» до градиента в статье:
Telegra.ph
Кот в Коде| @kot_research_bot
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2