Думаю именно безопасность будет главной проблемой нейросетей.
https://env.fail/posts/firewreck-1/
Был такой случай год назад, базы данных сайтов и веб приложений которые хостятся в гугловском сервисе Firebase оказались доступны кому угодно для чтения и записи. Firebase упрощает хостинг, там не нужно париться с кучей сервисов и настроек как у классических облачных провайдеров, но это приводит к проблемам с безопасностью. Неопытный пользователь оставит базу данных открытой всему интернету, и при этом никаких явных проблем не будет, сайт будет нормально работать.
Нейросети пишут код на примере открытого кода, из примеров в документации, из туториалов, и тд. И какие, в таком случае, настройки они будут использовать? Открытые, настройки из примеров, из темплейтов, дефолтные настройки. Не опытный пользователь этого не заметит, или даже не будет про это знать.
При этом все будет работать. Это очень часто можно услышать от вайбкодеров: "зачем читать и понимать код если все и так работает?", ну вот те сайты которые в файрбейсе настроили БД так что она была открыта всему интернету, у них тоже все работало.
А ведь с кредов, доступов, и с замены дефолтных admin admin безопасность только начинается. Если в коде есть if проверка на то является ли пользователь админом и на основании этого решает показывать ему какую-то инфу или нет - это ведь тоже про безопасность. И такие проверки в коде могут быть где угодно. Человек когда он пишет такую проверку находиться в контексте задачи, он понимает исходя из бизнес логики чего юзеру можно показывать, а чего нет.
Когда в коде проблемы с типами он не скомпилируется, когда в коде есть ошибки то приложение/сайт не будут работать или там хотя бы где-то будет ошибка вылазить и что-то не будет работать. Но когда у программы проблемы с безопасностью то она будет замечательно работать. В этом коварство и особенная сложность обеспечения безопасности, многие вещи там нужно просто знать.
Как со всем этим будут работать нейросети - не понятно.
Но и есть и плюсы, для безопасников все эти навайбкоденые стартапы будут прям золотой жилой.
https://env.fail/posts/firewreck-1/
Был такой случай год назад, базы данных сайтов и веб приложений которые хостятся в гугловском сервисе Firebase оказались доступны кому угодно для чтения и записи. Firebase упрощает хостинг, там не нужно париться с кучей сервисов и настроек как у классических облачных провайдеров, но это приводит к проблемам с безопасностью. Неопытный пользователь оставит базу данных открытой всему интернету, и при этом никаких явных проблем не будет, сайт будет нормально работать.
Нейросети пишут код на примере открытого кода, из примеров в документации, из туториалов, и тд. И какие, в таком случае, настройки они будут использовать? Открытые, настройки из примеров, из темплейтов, дефолтные настройки. Не опытный пользователь этого не заметит, или даже не будет про это знать.
При этом все будет работать. Это очень часто можно услышать от вайбкодеров: "зачем читать и понимать код если все и так работает?", ну вот те сайты которые в файрбейсе настроили БД так что она была открыта всему интернету, у них тоже все работало.
А ведь с кредов, доступов, и с замены дефолтных admin admin безопасность только начинается. Если в коде есть if проверка на то является ли пользователь админом и на основании этого решает показывать ему какую-то инфу или нет - это ведь тоже про безопасность. И такие проверки в коде могут быть где угодно. Человек когда он пишет такую проверку находиться в контексте задачи, он понимает исходя из бизнес логики чего юзеру можно показывать, а чего нет.
Когда в коде проблемы с типами он не скомпилируется, когда в коде есть ошибки то приложение/сайт не будут работать или там хотя бы где-то будет ошибка вылазить и что-то не будет работать. Но когда у программы проблемы с безопасностью то она будет замечательно работать. В этом коварство и особенная сложность обеспечения безопасности, многие вещи там нужно просто знать.
Как со всем этим будут работать нейросети - не понятно.
Но и есть и плюсы, для безопасников все эти навайбкоденые стартапы будут прям золотой жилой.
🔥3
Forwarded from Тимур Хахалев про AI Coding
Тёмная сторона вайб-кодинга
Эта история не имеет ничего общего с реальностью. Весь рассказ является плодом воображения автора.
Сегодня хочу рассказать про один серьёзный случай.
Есть у нас один хороший клиент Джон, который заказывал у нас уже несколько проектов. И вот, он попросил помощи в очередном своём проекте. Надо уточнить, что с появлением AI, Джон стал активным пользователем этого всего и очень сильно пытается создавать продукты самостоятельно, хотя, в программировании он не разбирается совсем. Рефат уже как то рассказывал про то, как Джон создавал mvp из палок и продавал это клиентам. Так вот, насколько я знаю по легенде, у Джона был свой проект, но он был недостаточно хорош, и Джону захотелось переписать его с нуля, изменив даже бренд.
Я получил доступ к репозиторию на Github и Google Doc с названием "PRD" с целью изучения этого и оценки насколько сложно будет передать этот проект нам на доработку.
Далее, я расскажу про свои впечатления от знакомства с этим репозиторием.
За 3 недели он успел настрогать 465 коммитов в репу, 35к loc Typenoscript, но большинство коммитов состояли из "Deployed your application" или из двух изменений в tailwindcss в одном файле❤️
Вот список инструментов, которые пробовал Джон, судя по репозиторию: Replit, Claude Code, Google Jules, Semgrep (какой-то AI AppSec Engineer)
Судя по истории коммитов, Джон делал скриншоты экрана (они сохранились в истории) и описывал где что не так прямо в окно чата. Причём, я думаю, что описывал он эти задачи именно голосом😎
Джон красавчик, в своем возрасте (он довольно взрослый мужчина) он сумел разобраться в новомодных приблудах.
Но есть несколько но:
🔺 репозиторий представляет из себя монорепу с мешаниной файлов. Хорошо хоть разграничил client от server. Правда, в папке server скинуты в одну кучу сразу все файлы (на бэкенде express.js), а на фронте файлы разложены по папочкам components, hooks, lib и т. д. — видно, что гайдлайны nextjs повлияли
🔺 есть закоммиченный .env с кредами от облачной модной БД neon.tech. Закоммитил Replit
🔺 есть закоммиченный файлик с интересным названием private.key. Его закоммитил Replit
🔺 есть license key от одного пропиетарного софта, который захардкожен прямо на стороне клиента. Закоммитил Claude Code.
🔺 в этом коде его логин и пароль от ERP (хоть и тестовый контур, но всё же) встречается 12 раз в 12 разных файлах. Я проверил, эти креды закоммитил Claude Code
Вишенка на торте — репозиторий публично открыт🤯 😦
Вторая — сфера работы Джона, отнюдь не инфоцыганство, а серьёзная сфера, по регулирующим законам которой, могут произойти серьёзные последствия, если сикреты из этого репозитория утекут не в те руки.
Vibe coding in a nutshell💪
Мы уже сообщили Джону, что он допустил ошибку. Он закрыл репозиторий и сбросил опубликованные креды.
Какие выводы можно сделать из этого случая?
Даже если вы офигенный эксперт в своей доменной зоне и AI даёт вам буст, то всему есть предел, об этом стоит помнить и понимать свои границы.
Из-за огромного хайпа в мире, AI может причинить большие убытки. Пожалуйста, доверьте работу с кодом профессионалам. Особенно, если в вашей сфере есть злые регуляторы. Да, мы тоже будем использовать AI coding tools, но мы понимаем как должен выглядеть результат.
Ну и монетка в копилку новомодных coding agents. Как бы создатели не старались, но пользователь всё ещё может выстрелить себе в ногу, даже в две:
- агенты почему-то не проверяют коммиты на наличие кредов в них
- агенты не проверяют, что репозиторий публично открыт и в нём находятся сикреты
Эта история не имеет ничего общего с реальностью. Весь рассказ является плодом воображения автора.
Сегодня хочу рассказать про один серьёзный случай.
Есть у нас один хороший клиент Джон, который заказывал у нас уже несколько проектов. И вот, он попросил помощи в очередном своём проекте. Надо уточнить, что с появлением AI, Джон стал активным пользователем этого всего и очень сильно пытается создавать продукты самостоятельно, хотя, в программировании он не разбирается совсем. Рефат уже как то рассказывал про то, как Джон создавал mvp из палок и продавал это клиентам. Так вот, насколько я знаю по легенде, у Джона был свой проект, но он был недостаточно хорош, и Джону захотелось переписать его с нуля, изменив даже бренд.
Я получил доступ к репозиторию на Github и Google Doc с названием "PRD" с целью изучения этого и оценки насколько сложно будет передать этот проект нам на доработку.
Далее, я расскажу про свои впечатления от знакомства с этим репозиторием.
За 3 недели он успел настрогать 465 коммитов в репу, 35к loc Typenoscript, но большинство коммитов состояли из "Deployed your application" или из двух изменений в tailwindcss в одном файле
Вот список инструментов, которые пробовал Джон, судя по репозиторию: Replit, Claude Code, Google Jules, Semgrep (какой-то AI AppSec Engineer)
Судя по истории коммитов, Джон делал скриншоты экрана (они сохранились в истории) и описывал где что не так прямо в окно чата. Причём, я думаю, что описывал он эти задачи именно голосом
Джон красавчик, в своем возрасте (он довольно взрослый мужчина) он сумел разобраться в новомодных приблудах.
Но есть несколько но:
🔺 репозиторий представляет из себя монорепу с мешаниной файлов. Хорошо хоть разграничил client от server. Правда, в папке server скинуты в одну кучу сразу все файлы (на бэкенде express.js), а на фронте файлы разложены по папочкам components, hooks, lib и т. д. — видно, что гайдлайны nextjs повлияли
🔺 есть закоммиченный .env с кредами от облачной модной БД neon.tech. Закоммитил Replit
🔺 есть закоммиченный файлик с интересным названием private.key. Его закоммитил Replit
🔺 есть license key от одного пропиетарного софта, который захардкожен прямо на стороне клиента. Закоммитил Claude Code.
🔺 в этом коде его логин и пароль от ERP (хоть и тестовый контур, но всё же) встречается 12 раз в 12 разных файлах. Я проверил, эти креды закоммитил Claude Code
Вишенка на торте — репозиторий публично открыт
Вторая — сфера работы Джона, отнюдь не инфоцыганство, а серьёзная сфера, по регулирующим законам которой, могут произойти серьёзные последствия, если сикреты из этого репозитория утекут не в те руки.
Vibe coding in a nutshell
Мы уже сообщили Джону, что он допустил ошибку. Он закрыл репозиторий и сбросил опубликованные креды.
Какие выводы можно сделать из этого случая?
Даже если вы офигенный эксперт в своей доменной зоне и AI даёт вам буст, то всему есть предел, об этом стоит помнить и понимать свои границы.
Из-за огромного хайпа в мире, AI может причинить большие убытки. Пожалуйста, доверьте работу с кодом профессионалам. Особенно, если в вашей сфере есть злые регуляторы. Да, мы тоже будем использовать AI coding tools, но мы понимаем как должен выглядеть результат.
Ну и монетка в копилку новомодных coding agents. Как бы создатели не старались, но пользователь всё ещё может выстрелить себе в ногу, даже в две:
- агенты почему-то не проверяют коммиты на наличие кредов в них
- агенты не проверяют, что репозиторий публично открыт и в нём находятся сикреты
Please open Telegram to view this post
VIEW IN TELEGRAM
😁3👍1
Газета Нью йорк таймс судится с опенай из-за того что опенаи возможно использовали статьи газеты для обучения своих моделей, так что теперь суд заставил опенаи сохранять все чаты всех пользователей, при чем персонифицировано.
И не только хранить, теперь государство и газета Нью йорк таймс будут иметь доступ ко всем перепискам пользователей (по запросу).
Вообще сам факт того что опенаи теперь обязаны хранить переписку уже создает огромную дыру в безопасности, ведь если ты сохраняешь переписку пользователя значит ее где-то нужно хранить, значит кто-то может не санкционировано получить к ней доступ. Добавьте к этому то что они теперь обязаны предоставлять доступ к этой информации каким-то журналюгам 😰.
То есть ради того что бы доказать использовались ли статьи какой-то газетенки в обучении ИИ, под угрозу ставиться возможность слива переписки сотен тысяч людей, а ведь в этих переписках может быть крайне чувствительная информация.
https://openai.com/index/response-to-nyt-data-demands/
---
Тем временем все еще есть куча людей которые считают что в использовании локальных моделей нет смысла раз можно просто юзать chatGPT.
Раньше еще можно было обсуждать "хранят ли openai переписку пользователей или нет", теперь мы точно знаем что да, хранят, и это решение суда.
И не только хранить, теперь государство и газета Нью йорк таймс будут иметь доступ ко всем перепискам пользователей (по запросу).
Вообще сам факт того что опенаи теперь обязаны хранить переписку уже создает огромную дыру в безопасности, ведь если ты сохраняешь переписку пользователя значит ее где-то нужно хранить, значит кто-то может не санкционировано получить к ней доступ. Добавьте к этому то что они теперь обязаны предоставлять доступ к этой информации каким-то журналюгам 😰.
То есть ради того что бы доказать использовались ли статьи какой-то газетенки в обучении ИИ, под угрозу ставиться возможность слива переписки сотен тысяч людей, а ведь в этих переписках может быть крайне чувствительная информация.
https://openai.com/index/response-to-nyt-data-demands/
---
Тем временем все еще есть куча людей которые считают что в использовании локальных моделей нет смысла раз можно просто юзать chatGPT.
Раньше еще можно было обсуждать "хранят ли openai переписку пользователей или нет", теперь мы точно знаем что да, хранят, и это решение суда.
Openai
How we’re responding to The New York Times’ data demands in order to protect user privacy
OpenAI is fighting a court order at the demands of The New York Times and plaintiffs, which involves retention of consumer ChatGPT and API user data indefinitely. Learn how we’re working to uphold user privacy, address legal requirements, and stay true to…
Когда говорят про то какие профессии заменит ИИ, обычно думают так - ИИ делает что-то лучше человека, значит ИИ будет делать это вместо человека.
Но так не бывает, когда появляется новая технология она не заменяла человека, она вообще меняла всю индустрию, в самом радикальном случае уничтожала одну и создавала новую.
Автомобили не заменили лошадей, автомобили уничтожили всю конную индустрию, кучеров, конюшни и тд, и создали новую, автомобильную, с водителями, заправками, шоссе и тд.
Вот интересная новость, "Впервые за два десятилетия поисковый трафик Google в Safari упал. Виноват искусственный интеллект?"
https://www.ixbt.com/news/2025/05/08/vpervye-za-dva-desjatiletija-poiskovyj-trafik-google-v-safari-upal-vinovat-iskusstvennyj-intellekt.html
К чему это приведет? Смерть мелких сайтов? Видимо да, чем меньше сайт тем больше он зависит от поисковиков. Но можно смотреть глубже, зачем юзерам теперь вообще веб? Юзер задает вопрос нейросети и получает нужный ответ, ему не нужно никуда дальше идти.
Ну то есть, возможно мы сейчас будем наблюдать медленную смерть веба как такого, не каких-то мелких сайтов, а вообще. И вот именно так и умирают профессии, профессия веб разработчика не умрет из-за того что ИИ научился писать HTML, но профессия веб разработчика умрет если никакого веба и не будет.
Но так не бывает, когда появляется новая технология она не заменяла человека, она вообще меняла всю индустрию, в самом радикальном случае уничтожала одну и создавала новую.
Автомобили не заменили лошадей, автомобили уничтожили всю конную индустрию, кучеров, конюшни и тд, и создали новую, автомобильную, с водителями, заправками, шоссе и тд.
Вот интересная новость, "Впервые за два десятилетия поисковый трафик Google в Safari упал. Виноват искусственный интеллект?"
https://www.ixbt.com/news/2025/05/08/vpervye-za-dva-desjatiletija-poiskovyj-trafik-google-v-safari-upal-vinovat-iskusstvennyj-intellekt.html
К чему это приведет? Смерть мелких сайтов? Видимо да, чем меньше сайт тем больше он зависит от поисковиков. Но можно смотреть глубже, зачем юзерам теперь вообще веб? Юзер задает вопрос нейросети и получает нужный ответ, ему не нужно никуда дальше идти.
Ну то есть, возможно мы сейчас будем наблюдать медленную смерть веба как такого, не каких-то мелких сайтов, а вообще. И вот именно так и умирают профессии, профессия веб разработчика не умрет из-за того что ИИ научился писать HTML, но профессия веб разработчика умрет если никакого веба и не будет.
iXBT.com
Впервые за два десятилетия поисковый трафик Google в Safari упал. Виноват искусственный интеллект?
Поисковые запросы Google в браузере Safari впервые за 22 года показали снижение. Об этом заявил Эдди Кью, старший вице-президент Apple по сервисам, во время антимонопольного процесса против Google.
👍6
Почему я выключил автодополнение кода нейросетям.
При включенном автодополнении программисту приходиться, по суте, нон стоп делать мини ревью кода. Начал что-то писать - ревью, начал писать новую строчку - ревью. Это отвлекает и отнимает когнитивные ресурсы программиста. Прочтение каждого слова, каждой строчки кода требует небольшого, но усилия.
Если взять очень хорошую ситуацию когда 50% кода который предлагает нейросеть это хороший код который есть смысл добавить в кодовую базу, программисту все равно нужно читать 100% автодополненного кода что бы эти 50% отфильтровать.
Но самое главное - когда я пишу код я хочу быть сфокусирован на своей задаче, на том что я делаю, нейросеть может угадать что я хочу сделать, а может и нет, в любом случае ее предложения сбивают ход мысли, то есть даже хорошее автодополнение мешает.
Я обращаюсь к нейросети когда у меня есть вопрос или какая-то проблема. То есть когда я решаю что мне нужна помощь нейросети, а не когда нейросеть сама решит что вот тут нужно подсказать мне. Когда я сижу и пишу код я хочу быть сфокусирован именно на коде, а не на идеях нейросети о том что я должен делать со своей кодовой базой.
При включенном автодополнении программисту приходиться, по суте, нон стоп делать мини ревью кода. Начал что-то писать - ревью, начал писать новую строчку - ревью. Это отвлекает и отнимает когнитивные ресурсы программиста. Прочтение каждого слова, каждой строчки кода требует небольшого, но усилия.
Если взять очень хорошую ситуацию когда 50% кода который предлагает нейросеть это хороший код который есть смысл добавить в кодовую базу, программисту все равно нужно читать 100% автодополненного кода что бы эти 50% отфильтровать.
Но самое главное - когда я пишу код я хочу быть сфокусирован на своей задаче, на том что я делаю, нейросеть может угадать что я хочу сделать, а может и нет, в любом случае ее предложения сбивают ход мысли, то есть даже хорошее автодополнение мешает.
Я обращаюсь к нейросети когда у меня есть вопрос или какая-то проблема. То есть когда я решаю что мне нужна помощь нейросети, а не когда нейросеть сама решит что вот тут нужно подсказать мне. Когда я сижу и пишу код я хочу быть сфокусирован именно на коде, а не на идеях нейросети о том что я должен делать со своей кодовой базой.
👍6
Когда речь касается нейросетей многие люди ищут некие готовые решения, готовые инструменты, готовые подходы для работы и прочее. Я это вижу в том числе и по комментариям к своему видосу (https://youtu.be/Bzn1r7zkHys).
Проблема в том что нейросети в их текущем виде это очень свежая технология, экосистеме нейросетей от силы года три.
К примеру протокол MCP (Model Context Protocol) появился в ноябре 2024, ему пол года. Представьте себе веб в котором протокол http появился пол года назад (если что http был создан в 1990).
А протоколы это прям базовая база, протокол это соглашение которому все следуют, это договоренность о том что считать "право", а что "лево", без протоколов толком нет экосистемы, все делают кто во что горазд. То что MCP появился вот прям только недавно это явный признак того что мы сейчас на очень ранней стадии освоения нейросетей.
Экосистема ИИ очень молодая, все меняется очень быстро, то что считалось нормой год назад сейчас уже устарело. Из-за этого рекомендовать что-то конкретное, давать конкретные рецепты очень сложно.
При этом когда речь идет об опенсорсе и запуске моделей локально все еще хуже, опенсорс сам по себе более хаотичен, а уж нейросетевой опенсорс, ну тут просто бойня.
Проблема в том что нейросети в их текущем виде это очень свежая технология, экосистеме нейросетей от силы года три.
К примеру протокол MCP (Model Context Protocol) появился в ноябре 2024, ему пол года. Представьте себе веб в котором протокол http появился пол года назад (если что http был создан в 1990).
А протоколы это прям базовая база, протокол это соглашение которому все следуют, это договоренность о том что считать "право", а что "лево", без протоколов толком нет экосистемы, все делают кто во что горазд. То что MCP появился вот прям только недавно это явный признак того что мы сейчас на очень ранней стадии освоения нейросетей.
Экосистема ИИ очень молодая, все меняется очень быстро, то что считалось нормой год назад сейчас уже устарело. Из-за этого рекомендовать что-то конкретное, давать конкретные рецепты очень сложно.
При этом когда речь идет об опенсорсе и запуске моделей локально все еще хуже, опенсорс сам по себе более хаотичен, а уж нейросетевой опенсорс, ну тут просто бойня.
YouTube
Зачем ставить нейросеть на комп (и как это сделать)
📡 Мой телеграм канал про нейросети: https://news.1rj.ru/str/TosterScript - подписывайтесь, в телеге еще больше моего неотлфильтрованного мнения про нейросети.
Мы все больше и больше зависим от интернета и все больше завязываем на интернет наши устройства - вплоть до…
Мы все больше и больше зависим от интернета и все больше завязываем на интернет наши устройства - вплоть до…
❤10
Тут гугл выложили свою новую модель, Gemma 3n, пишут что это модель оптимизирована под мобильные устройства, что хорошо не только для мобильных устройств но и вообще для любых устройств.
Мне очень понравился Gemma 3, как по мне это одна из лучших локальных моделей, у нее отличное соотношение качества ответов и требований к железу. Посмотрим как себя покажет Gemma 3n.
А еще обратите внимание на страницы для установки - там есть Ollama и LM Studio,выходит в гугле тоже смотрят мои видосы, это довольно не типично для гугла, гугл обычно живет в своем пузыре где есть только продукты гугла. А тут они не только рекомендуют эти программы к установке, они еще получаеться связались с создателями Ollama и LM Studio что бы сделать синхронный релиз.
https://deepmind.google/models/gemma/gemma-3n/
Мне очень понравился Gemma 3, как по мне это одна из лучших локальных моделей, у нее отличное соотношение качества ответов и требований к железу. Посмотрим как себя покажет Gemma 3n.
А еще обратите внимание на страницы для установки - там есть Ollama и LM Studio,
https://deepmind.google/models/gemma/gemma-3n/
👍11🥰4❤2👀1
Не спрашивайте, что нейросети могут сделать для вас, спрашивайте, что вы можете сделать для нейросетей.
Я практически уверен что скоро главным трендом в айти будет создание "нейро-френдли" проектов, и даже "нейро-френдли" архитектуры. То есть вместо того что бы заставлять нейросети работать в коде который изначально был написан под потребности людей, мы начнем создавать проекты архитектура которых будет изначально заточен под нейросети (ну и под людей уже во вторую очередь).
Нейросети по другому смотрят на код, самая большая проблема у них это контекст, при чем даже не размер контекстного окна, а то что рекламируемое контекстное окно и реальное очень сильно различается.
Нейросетям очень часто приходиться напоминать о существовании какой-то зависимости, или требования, или библиотеки, то есть программист все равно должен знать проект и помогать нейросети ориентироваться в нем (даже если формально весь проект влез в контекст).
Конечно может завтра выйдет модель заявленное контекстное окно которой будет реальным, но такое чувство что контекст еще долго будет оставаться проблемой.
В целом чем кода меньше и чем он более изолирован тем лучше для нейросети, меньше токенов - меньше проблем.
Ну и по суте это же ведь, ну да, микросервисы =/ Если микросервис правильно абстрагирован то модели не нужно держать в своем контексте весь проект, ей достаточно видеть только код этого микросервиса.
А если смотреть еще на более низкий уровень то нейросети отлично себя показывают в работе с чистыми функциями, опять же - чем меньше зависимостей и побочных эффектов тем лучше.
Я практически уверен что скоро главным трендом в айти будет создание "нейро-френдли" проектов, и даже "нейро-френдли" архитектуры. То есть вместо того что бы заставлять нейросети работать в коде который изначально был написан под потребности людей, мы начнем создавать проекты архитектура которых будет изначально заточен под нейросети (ну и под людей уже во вторую очередь).
Нейросети по другому смотрят на код, самая большая проблема у них это контекст, при чем даже не размер контекстного окна, а то что рекламируемое контекстное окно и реальное очень сильно различается.
Нейросетям очень часто приходиться напоминать о существовании какой-то зависимости, или требования, или библиотеки, то есть программист все равно должен знать проект и помогать нейросети ориентироваться в нем (даже если формально весь проект влез в контекст).
Конечно может завтра выйдет модель заявленное контекстное окно которой будет реальным, но такое чувство что контекст еще долго будет оставаться проблемой.
В целом чем кода меньше и чем он более изолирован тем лучше для нейросети, меньше токенов - меньше проблем.
Ну и по суте это же ведь, ну да, микросервисы =/ Если микросервис правильно абстрагирован то модели не нужно держать в своем контексте весь проект, ей достаточно видеть только код этого микросервиса.
А если смотреть еще на более низкий уровень то нейросети отлично себя показывают в работе с чистыми функциями, опять же - чем меньше зависимостей и побочных эффектов тем лучше.
❤12
Майкрасофт заопенсорсили копайлот: https://news.1rj.ru/str/tg_1red2black/2229
И это супер важная новость. И нет, это не конкурент Cline или Continue, это конкурент Cursor. Именно Cursor это не просто главный конкурент vs code, это его экзистенциальная угроза, что особенно забавно учитывая что это его форк.
Майкрасофт будут делать все возможное что бы вернуть разрабов из Cursor обратно в vs code, и опенсорсить инструменты для работы с ИИ это их сильнейшее оружие в этом, ведь теперь сделать ии расширение для работы с кодом станет НАМНОГО проще. У нас должно появиться больше Cline-нов и они должны будут куда более стабильно работать (как минимум как копайлот).
Цель майкрасофт обогатить экосистему vs code ИИ инструментами, и тем самым сделать бессмысленным уход на Cursor. Сейчас с ИИ инструментами в vs code беда (их там много, но нормально работающих единицы), ну вот это должно в скором времени быть исправлено.
Думаю сейчас отличный момент что бы делать ai расширение для vs code, буквально форкать копайлот https://github.com/microsoft/vscode-copilot-chat и вперед.
И это супер важная новость. И нет, это не конкурент Cline или Continue, это конкурент Cursor. Именно Cursor это не просто главный конкурент vs code, это его экзистенциальная угроза, что особенно забавно учитывая что это его форк.
Майкрасофт будут делать все возможное что бы вернуть разрабов из Cursor обратно в vs code, и опенсорсить инструменты для работы с ИИ это их сильнейшее оружие в этом, ведь теперь сделать ии расширение для работы с кодом станет НАМНОГО проще. У нас должно появиться больше Cline-нов и они должны будут куда более стабильно работать (как минимум как копайлот).
Цель майкрасофт обогатить экосистему vs code ИИ инструментами, и тем самым сделать бессмысленным уход на Cursor. Сейчас с ИИ инструментами в vs code беда (их там много, но нормально работающих единицы), ну вот это должно в скором времени быть исправлено.
Думаю сейчас отличный момент что бы делать ai расширение для vs code, буквально форкать копайлот https://github.com/microsoft/vscode-copilot-chat и вперед.
Telegram
Откровения от Олега
Microsoft заопенсорсил свой Copilot Chat.
Возможно, они так борются со стремительным взлётом плагина Continue, который давно заткнул за пояс почти всё, кроме Cursor.
Одна из крутых особенностей в том, что он полностью подходит по стилистике и интеграциям…
Возможно, они так борются со стремительным взлётом плагина Continue, который давно заткнул за пояс почти всё, кроме Cursor.
Одна из крутых особенностей в том, что он полностью подходит по стилистике и интеграциям…
👍5❤1
Обожаю такие новости:
>"Проверили с нашей молодежкой "Шедеврум" от "Яндекса" - отечественный нейросетевой сервис. Итог неожиданный и, мягко говоря, странный. Просишь изобразить русского космонавта - выдает американского, с их флагом. Просишь космонавта без американского флага - отвечает, что без флага США сгенерировать космонавта нельзя.
https://ria.ru/20250629/slutskiy-2026162851.html
Заходим на сайт NASA, у них есть аж целый специальный сайт с поиском посвященный изображениям: https://images.nasa.gov/
Теперь заходим на сайт Роскосмоса, и если хорошо поискать там можно найти такой раздел про фотографии: https://www.roscosmos.ru/158/
И там ничего не обновлялось с 2022 года, там буквально три раздела: Пуски 2022 года, События 2022 и Посадка беспилотного корабля «Союз МС-22» посвящены конкретно 2022 (видимо в этом году они решили заняться медия, но и тогда же прекратили).
Вопрос, а может быть депутатам следует предъявлять претензии не к Яндексу, а к Роскосмосу? Где брать данные для нейросетей про "русских космонавтов"?
К посту прилагаю фотки того как NASA работает с медия, и того как работает с медия Роскосмос.
>"Проверили с нашей молодежкой "Шедеврум" от "Яндекса" - отечественный нейросетевой сервис. Итог неожиданный и, мягко говоря, странный. Просишь изобразить русского космонавта - выдает американского, с их флагом. Просишь космонавта без американского флага - отвечает, что без флага США сгенерировать космонавта нельзя.
https://ria.ru/20250629/slutskiy-2026162851.html
Заходим на сайт NASA, у них есть аж целый специальный сайт с поиском посвященный изображениям: https://images.nasa.gov/
Теперь заходим на сайт Роскосмоса, и если хорошо поискать там можно найти такой раздел про фотографии: https://www.roscosmos.ru/158/
И там ничего не обновлялось с 2022 года, там буквально три раздела: Пуски 2022 года, События 2022 и Посадка беспилотного корабля «Союз МС-22» посвящены конкретно 2022 (видимо в этом году они решили заняться медия, но и тогда же прекратили).
Вопрос, а может быть депутатам следует предъявлять претензии не к Яндексу, а к Роскосмосу? Где брать данные для нейросетей про "русских космонавтов"?
К посту прилагаю фотки того как NASA работает с медия, и того как работает с медия Роскосмос.
🤔9👍1
О да, оно вышло, видос в который я вложил очень много сил и времени. Очень жду отзывов от вас в комментах на ютубе и здесь.
https://www.youtube.com/watch?v=Ip2_wpHLv-k
https://www.youtube.com/watch?v=Ip2_wpHLv-k
YouTube
Почему нейросети постоянно врут? (и почему этого уже не исправить)
📡 Мой телеграм канал про нейросети: https://news.1rj.ru/str/TosterScript - подписывайтесь, в телеге еще больше моего неотлфильтрованного мнения про нейросети.
Как ИИ отвечает на вопросы? Почему нейросети врут? Что такое галлюцинации? Видео с простым объяснением того…
Как ИИ отвечает на вопросы? Почему нейросети врут? Что такое галлюцинации? Видео с простым объяснением того…
❤🔥27👍8🔥8❤3😁1👾1
Тостер Скрипт pinned «О да, оно вышло, видос в который я вложил очень много сил и времени. Очень жду отзывов от вас в комментах на ютубе и здесь. https://www.youtube.com/watch?v=Ip2_wpHLv-k»
Как же я кринжую с нейрости ютуба которая "предлагает" варианты ответов для автора видео на комменты к видео.
И вот, знаете, интерфейс ютуба для авторов для работы с комментами, он ужасен. Он плохо работает, он глюченный. С ним невозможно нормально работать когда комментов становиться больше тысячи.
Но этого ютуб исправлять не будет, а вот пихать нейросеть туда где ее не должно быть, но куда запихнуть ее проще всего, это да, это пожалуйста.
И сейчас вообще есть такой тренд - нейросети просто пихают куда только возможно, при чем максимально топорным образом.
И вот, знаете, интерфейс ютуба для авторов для работы с комментами, он ужасен. Он плохо работает, он глюченный. С ним невозможно нормально работать когда комментов становиться больше тысячи.
Но этого ютуб исправлять не будет, а вот пихать нейросеть туда где ее не должно быть, но куда запихнуть ее проще всего, это да, это пожалуйста.
И сейчас вообще есть такой тренд - нейросети просто пихают куда только возможно, при чем максимально топорным образом.
🤔11❤5😢4💯3👍1
Я создал сообщество в ВК: https://vk.com/tosternoscript
И выложил на вк видео все свои видосы: https://vkvideo.ru/@tosternoscript
Мне очень любопытно как аудитория ВК вообще отреагирует на мои видосы, в конце концов мои видосы это первый в истории ВК случай когда туда залили видео не про танки и не про уральские пельмени.
Подпишитесь на сообщество: https://vk.com/tosternoscript а то мало ли что с телегой может произойти, а так не будем теряться.
И выложил на вк видео все свои видосы: https://vkvideo.ru/@tosternoscript
Мне очень любопытно как аудитория ВК вообще отреагирует на мои видосы, в конце концов мои видосы это первый в истории ВК случай когда туда залили видео не про танки и не про уральские пельмени.
Подпишитесь на сообщество: https://vk.com/tosternoscript а то мало ли что с телегой может произойти, а так не будем теряться.
ВКонтакте
Тостер Скрипт
Сообщество того самого Тостера который рассказывает про нейросети.
👍12👎7😨3❤1🤡1🤨1
Тостер Скрипт pinned «Я создал сообщество в ВК: https://vk.com/tosternoscript И выложил на вк видео все свои видосы: https://vkvideo.ru/@tosternoscript Мне очень любопытно как аудитория ВК вообще отреагирует на мои видосы, в конце концов мои видосы это первый в истории ВК случай…»
Да верные и интересные мысли: https://news.1rj.ru/str/etechlead/219
Мне вот лично интересно, а вообще как там экономика ИИ вендеров происходит? Они сейчас прибыль получают или жестко демпингуют? Потому что как я понимаю, они сейчас все работают в убыток и жгут деньги инвесторов.
Для нас как для юзеров это хорошо, особенно для программистов, нам сейчас за дешево доступны очень крутые модели, но как долго это все будет продолжаться? Я вот лично не очень хочу подсаживаться на тот же Cursor, а то я подсяду, а потом там цены взлетят, и привет, я то уже привык мозг отключать.
Да и еще, все это прозжигание денег оно ведь создает не верное представление о возможностях моделей, ну то есть локальные модели проигрывают иивендорским, но это и не удивительно учитывая кол-во денег которые эти ии вендоры сжигают.
А вот локальные, с ними все честно, все как есть.
Мне вот лично интересно, а вообще как там экономика ИИ вендеров происходит? Они сейчас прибыль получают или жестко демпингуют? Потому что как я понимаю, они сейчас все работают в убыток и жгут деньги инвесторов.
Для нас как для юзеров это хорошо, особенно для программистов, нам сейчас за дешево доступны очень крутые модели, но как долго это все будет продолжаться? Я вот лично не очень хочу подсаживаться на тот же Cursor, а то я подсяду, а потом там цены взлетят, и привет, я то уже привык мозг отключать.
Да и еще, все это прозжигание денег оно ведь создает не верное представление о возможностях моделей, ну то есть локальные модели проигрывают иивендорским, но это и не удивительно учитывая кол-во денег которые эти ии вендоры сжигают.
А вот локальные, с ними все честно, все как есть.
Telegram
Этихлид
$100-200/мес
С полгода назад я писал, что у компаний-"врапперов моделей", навроде Cursor, есть свои способы экономить:
... использование моделей напрямую, через API, а не через Cursor, выходит намного дороже.
Думаю, тут дело в сочетании нескольких факторов:…
С полгода назад я писал, что у компаний-"врапперов моделей", навроде Cursor, есть свои способы экономить:
... использование моделей напрямую, через API, а не через Cursor, выходит намного дороже.
Думаю, тут дело в сочетании нескольких факторов:…
❤1🤔1
Я стараюсь читать все комментарии к видео "Почему нейросети постоянно врут?" (это не так просто, у него уже почти четыре тысячи комментов).
Так вот, там есть комментарии в духе "но люди ведь тоже врут" или "человеческий мозг работает так же".
Хочу написать ответ на эти комментарии.
Это вопрос того чего мы вообще хотим от ИИ, ну то есть опенаи провозгласили своей целью создание AGI, но AGI у нас пока еще нет, а вот нейросети есть. И мы ими пользуемся, я вот каждый день юзаю нейросети. Это мой инструмент.
А раз это инструмент то, во первых, важно хотя бы на поверхностном уровне понимать как он работает, а во вторых, знать про его недостатки.
Ну то есть, если я спрашиваю у нейрости про какое-то лекарство, а она мне что-то отвечает, то мне очень важно знать что ее ответ может быть враньем. Какая мне при этом разница что человек то же может наврать? Ну да, может, но если от людей мы ожидаем вранья, то вот к нейросетям многие люди относятся как какому-то техно богу, но в реальности они ошибаются и галлюцинируют, они это делают по другим причинам, не по таким же как и люди, но они это делают.
Так что аргумент про то что "люди тоже врут" он вообще не работает, если нейросеть это инструмент то мы должны стремиться к тому что бы это был рабочий, полезный инструмент, а так же должны понимать его проблемы и недостатки.
Так вот, там есть комментарии в духе "но люди ведь тоже врут" или "человеческий мозг работает так же".
Хочу написать ответ на эти комментарии.
Это вопрос того чего мы вообще хотим от ИИ, ну то есть опенаи провозгласили своей целью создание AGI, но AGI у нас пока еще нет, а вот нейросети есть. И мы ими пользуемся, я вот каждый день юзаю нейросети. Это мой инструмент.
А раз это инструмент то, во первых, важно хотя бы на поверхностном уровне понимать как он работает, а во вторых, знать про его недостатки.
Ну то есть, если я спрашиваю у нейрости про какое-то лекарство, а она мне что-то отвечает, то мне очень важно знать что ее ответ может быть враньем. Какая мне при этом разница что человек то же может наврать? Ну да, может, но если от людей мы ожидаем вранья, то вот к нейросетям многие люди относятся как какому-то техно богу, но в реальности они ошибаются и галлюцинируют, они это делают по другим причинам, не по таким же как и люди, но они это делают.
Так что аргумент про то что "люди тоже врут" он вообще не работает, если нейросеть это инструмент то мы должны стремиться к тому что бы это был рабочий, полезный инструмент, а так же должны понимать его проблемы и недостатки.
🔥22❤8👍6😁1💋1