Тут целое исследование сделали что бы обнаружить очевидную истину о том что цены на российские ИИ вообще не конкуренты по сравнению с западными (для бизнеса российские нейросети оказались дороже зарубежных: разница между GigaChat PRO и DeepSeek — в 200 раз: https://rb.ru/news/dlya-biznesa-rossijskie-nejroseti-okazalis-dorozhe-zarubezhnyh-raznica-mezhdu-gigachat-pro-i-deepseek-v-200-raz/).
Я писал об этом здесь: https://news.1rj.ru/str/TosterScript/217
Вообще есть у российских нейросетей еще одна проблема которая делает их менее привлекательными для российского бизнеса, это цензура =/.
Я провожу игры Мафии с Нейросетями и мне буквально пришлось отказаться от ЯндексГПТ потому что Яндекс до такой степени зацензурил свою модель что она даже в настольную игру не может играть. Гигачат пока еще держится, но то же проявляет цензуру при игре в Мафию.
Ни с одной другой моделью у меня таких проблем нет, и западные модели, и китайские, и открытые и закрытые, у всех все норм при игре в Мафию, цензурные проблемы есть только у ЯндексГПТ и ГигаЧата.
И вот, главный вопрос, зачем вообще нужна настолько жесткая цензура при использовании ИИ через API? API использует различные бизнесы, и ни один бизнес не хочет что бы его чат бот вместо ответа выдавал пользователю зацензурированный "я не могу ответить на этот вопрос, давай сменим тему". В итоге бизнес получив такой "сервис" перейдет на опенсорсные или в западные ИИ сервисы.
Поводов использовать именно российские ИИ сервисы и так не очень много, а они еще добавляют проблем своим пользователям. А это именно что проблема, когда сервис может в любой момент отказаться работать по рандомной причине это равносильно сбою в его работе.
Я писал об этом здесь: https://news.1rj.ru/str/TosterScript/217
Вообще есть у российских нейросетей еще одна проблема которая делает их менее привлекательными для российского бизнеса, это цензура =/.
Я провожу игры Мафии с Нейросетями и мне буквально пришлось отказаться от ЯндексГПТ потому что Яндекс до такой степени зацензурил свою модель что она даже в настольную игру не может играть. Гигачат пока еще держится, но то же проявляет цензуру при игре в Мафию.
Ни с одной другой моделью у меня таких проблем нет, и западные модели, и китайские, и открытые и закрытые, у всех все норм при игре в Мафию, цензурные проблемы есть только у ЯндексГПТ и ГигаЧата.
И вот, главный вопрос, зачем вообще нужна настолько жесткая цензура при использовании ИИ через API? API использует различные бизнесы, и ни один бизнес не хочет что бы его чат бот вместо ответа выдавал пользователю зацензурированный "я не могу ответить на этот вопрос, давай сменим тему". В итоге бизнес получив такой "сервис" перейдет на опенсорсные или в западные ИИ сервисы.
Поводов использовать именно российские ИИ сервисы и так не очень много, а они еще добавляют проблем своим пользователям. А это именно что проблема, когда сервис может в любой момент отказаться работать по рандомной причине это равносильно сбою в его работе.
rb.ru
Российские нейросети оказались в 200 раз дороже зарубежных | RB.RU
Стоимость использования нейросетей в рабочих задачах в России оказалась в десятки и сотни раз выше, чем при работе с зарубежными моделями, говорится в исследовании Nodul. Эксперты подтверждают, что бизнесу сейчас выгоднее китайские и опенсорс-решения. Однако…
👍9😁2🤔1💯1
Стрим начался, заходите, будем играть в Мафию с Нейросетями: https://www.twitch.tv/tosternoscript
Сегодня попробуем самую свежую обнову Мистраля, пишут что это чуть ли не самая крутая опенсорсная модель.
Сегодня попробуем самую свежую обнову Мистраля, пишут что это чуть ли не самая крутая опенсорсная модель.
Twitch
TosterScript - Twitch
Мафия с Нейросетями: Фэнтези Таверна
👍5
На книги начали ставить значки "создано без помощи искусственного интеллекта", я предлагаю еще такие варианты: "создано без гугла", "создано без компьютера", и "создано без печатного станка".
Вообще конечно забавно что людей очень беспокоит что бы книга была написана без искусственного интеллекта, хотя, вообще, вроде как куда важнее что бы книга была написана с применением хоть какого-то интеллекта.
В связи с этим я, используя невероятные возможности "ИИ" нарисовал такой стикер который можно наклеивать на любую продукцию при создании которой применялся любой интеллект.
Вообще конечно забавно что людей очень беспокоит что бы книга была написана без искусственного интеллекта, хотя, вообще, вроде как куда важнее что бы книга была написана с применением хоть какого-то интеллекта.
В связи с этим я, используя невероятные возможности "ИИ" нарисовал такой стикер который можно наклеивать на любую продукцию при создании которой применялся любой интеллект.
😁28❤5🔥4
Forwarded from Max: AI, Engineering and Startups
Если вы читаете Колю или Тимура, то вы вероятно уже знаете что мы решили устроить опрос про использование AI в разработке наподобие внутренних опросов, которые недавно опубликовал Anthropic.
Мы хотим узнать про подходы и инструменты которые дали наибольший прирост производительности или наоборот не оправдали ожиданий. Это краудсорсинг и всем кто примет в нем участие мы пришлем все анонимизированные ответы на опросы.
Разумеется, своими выводами и самым интересным я поделюсь в канале, но посмотреть на сырые данные тоже очень ценно, потому что вы сможете выцепить кейсы релевантные именно вам. У нас уже больше 50 интересных ответов, пройти опрос можно здесь.
PS: если поделитесь публично в канале с 100+ подписчиками мы добавим вас на страницу результатов.
@max_about_ai
Мы хотим узнать про подходы и инструменты которые дали наибольший прирост производительности или наоборот не оправдали ожиданий. Это краудсорсинг и всем кто примет в нем участие мы пришлем все анонимизированные ответы на опросы.
Разумеется, своими выводами и самым интересным я поделюсь в канале, но посмотреть на сырые данные тоже очень ценно, потому что вы сможете выцепить кейсы релевантные именно вам. У нас уже больше 50 интересных ответов, пройти опрос можно здесь.
PS: если поделитесь публично в канале с 100+ подписчиками мы добавим вас на страницу результатов.
@max_about_ai
❤4🤝1
Стрим запущен! Заходите: https://www.twitch.tv/tosternoscript
Сегодня начинаем последние три дня Недели Мафии с Нейросетями, в этом году такого контента больше уже точно не будет, так что постарайтесь не пропустить.
Сегодня начинаем последние три дня Недели Мафии с Нейросетями, в этом году такого контента больше уже точно не будет, так что постарайтесь не пропустить.
👍7
Запускаем стрим, заходите: https://www.twitch.tv/tosternoscript
Сегодня будет предпоследний день Мафии с Нейросетями в этом году.
Сегодня будет предпоследний день Мафии с Нейросетями в этом году.
👍3
Запускаю последний в этом году стрим по Мафии с Нейросетями: https://www.twitch.tv/tosternoscript
Заходите.
Вполне возможно что это вообще будет и последний стрим по Мафии в таком формате и с этими участниками.
Заходите.
Вполне возможно что это вообще будет и последний стрим по Мафии в таком формате и с этими участниками.
❤6
Screenshot 2025-12-09 at 13.27.11.png
155.2 KB
От OpenRouter и a16z вышло исследование о том как и какие нейросети используются в OpenRouter. Исследование интересно тем что оно основано на реальных данных (а не скажем на каких-то там опросах). Опенроутер это один из крупнейших API агрегаторов в мире, так что данные у них вполне себе реальные (я тоже использую во много именно Опенроутер).
Ролплей второй по популярности.
Один из самых интересных инсайдов исследования (и это пишут в самом исследовании) является то что второй по популярности сферой применения LLM является ролплей. Это вторая по популярности сфера после программирования (то что программирование будет на первом месте думаю никого не должно удивлять).
При чем если речь идет об опенсорсных моделях то среди них ролплей вообще обходит программирование по популярности, к примеру такая модель как Дипсик вообще практически эксклюзивно используется именно для ролплея (у дипсика доля ролплея - 80%, лол).
Почему опенсорс модели так популярны для ролплея? Дело в цене, незацензуренности и гибкости самих моделей.
Да, что бы не было недопонимания, ролплеем называют любое развлекательное применение нейросетей, в исследовании даже есть распределение по разным сферам ролплея: игры 57%, книги 16%, adult 15%. К примеру наша Мафия с Нейросетями думаю ушла в игры.
Доля программирования завышена?
Пока я читал исследование мне в голову пришла такая мысль - на самом деле ролплея больше чем указано в этом исследовании. Вернее, на самом деле доля программирования меньше. Дело в том что в этом исследовании распределение по сферам делалось на основе первых 1000 входных токенов (или символов, не суть), но входные токены могут придти как от людей, так и от агентов (то есть от других нейросетей) или просто от каких-то скриптов.
Разделения на то от кого приходят запросы не проводилось (да это и невозможно - откуда им знать кто пишет запросы?).
Ну, а теперь вопрос, в какой сфере деятельности будет больше всего приходить запросов от не людей? Думаю, в программированиипотому что программисты это не люди. Агенты постоянно делают запросы друг в друга, а применяют их с большим отрывом именно в программировании. Следовательно доля программирования в этом исследовании, скорее всего, сильно завышена, не в смысле что нас обманывают, но если бы это исследование учитывало только запросы от людей то думаю доля программирования была бы куда ниже.
А вот ролплей запросы, скорее всего, как правило приходят именно от людей, как и в большинстве других сфер, но думаю что именно в ролплее доля "человеческих" запросов самая высокая.
Ролплей второй по популярности.
Один из самых интересных инсайдов исследования (и это пишут в самом исследовании) является то что второй по популярности сферой применения LLM является ролплей. Это вторая по популярности сфера после программирования (то что программирование будет на первом месте думаю никого не должно удивлять).
При чем если речь идет об опенсорсных моделях то среди них ролплей вообще обходит программирование по популярности, к примеру такая модель как Дипсик вообще практически эксклюзивно используется именно для ролплея (у дипсика доля ролплея - 80%, лол).
Почему опенсорс модели так популярны для ролплея? Дело в цене, незацензуренности и гибкости самих моделей.
Да, что бы не было недопонимания, ролплеем называют любое развлекательное применение нейросетей, в исследовании даже есть распределение по разным сферам ролплея: игры 57%, книги 16%, adult 15%. К примеру наша Мафия с Нейросетями думаю ушла в игры.
Доля программирования завышена?
Пока я читал исследование мне в голову пришла такая мысль - на самом деле ролплея больше чем указано в этом исследовании. Вернее, на самом деле доля программирования меньше. Дело в том что в этом исследовании распределение по сферам делалось на основе первых 1000 входных токенов (или символов, не суть), но входные токены могут придти как от людей, так и от агентов (то есть от других нейросетей) или просто от каких-то скриптов.
Разделения на то от кого приходят запросы не проводилось (да это и невозможно - откуда им знать кто пишет запросы?).
Ну, а теперь вопрос, в какой сфере деятельности будет больше всего приходить запросов от не людей? Думаю, в программировании
А вот ролплей запросы, скорее всего, как правило приходят именно от людей, как и в большинстве других сфер, но думаю что именно в ролплее доля "человеческих" запросов самая высокая.
👍10👀3
Еще в этом исследовании указывают что доля маленьких опенсорсных моделей падает, но вообще не думаю что это хоть что-то означает, какого-то особого смысла использовать маленькие модели в опенроутере вообще нет, то есть скорее удивительно что хоть кто-то все равно использует именно маленькие модели в опенроутере. По цене и скорости ответа можно использовать средние по размеру модели или вообще не опенсорс, к примеру Grok 4 fast который супер дешевый.
Смысл маленьких моделей в том что их можно запускать на обычном компе, или в собственной инфраструктуре, то есть для них и не нужен какой либо API типа опенроутера (и следовательно в статистику опенроутера они и не попадут).
Смысл маленьких моделей в том что их можно запускать на обычном компе, или в собственной инфраструктуре, то есть для них и не нужен какой либо API типа опенроутера (и следовательно в статистику опенроутера они и не попадут).
👍6
https://news.1rj.ru/str/TosterScript/244 - да на счет языков, думаю тут ситуация схожая с долей программирования, нужно учитывать что далеко не все запросы которые делаются к API опенроутера это запросы от людей, это так же запросы от всяких скриптов и агентов, и эти запросы в подавляющем числе случаев будут делаться на английском. Думаю доля инглиша была бы меньше если бы учитывались только запросы от людей (хотя все равно уверен что инглишь был бы на первом месте в любом случае).
А вот то что доля русского так велика интересно еще и тем что в опенроутере нет ни одной модели именно для русского языка, понятное дело что там нет Гигачата или ЯндексГПТ, но там даже нет ни одной опенсорсной российской модели.
А вот то что доля русского так велика интересно еще и тем что в опенроутере нет ни одной модели именно для русского языка, понятное дело что там нет Гигачата или ЯндексГПТ, но там даже нет ни одной опенсорсной российской модели.
Telegram
Тостер Скрипт
Еще из интересного - русский язык на третьем месте по популярности. То есть несмотря на кучу всяких ограничений русский язык все равно попал в тройку.
👍4
В разработке компьютерных игр есть проблема которую создатели игр не могут решить уже десятки лет. Это проблема тупых НПС, НПС в играх были всегда, и они всегда были тупыми.
Особенно хорошо проявляется тупость компьютерного игрока в стратегиях и в гранд стратегиях - в играх типа Цивилизации или heart of iron, или Stellaris или в любой RTS, в таких играх боты могут конкурировать с живым игроком только адски читеря. Но вообще НПС во всех играх тупые и их тупость разработчики игр могут разве что маскировать.
Почему так происходит? Потому что "ИИ" в играх это просто тонны кода, это куча строк кода с кучей "if" которые какой-то несчастный программист сидел и писал пытаясь предусмотреть все возможные варианты развития событий в игре. Но если игра хоть сколько нибудь сложная предусмотреть все возможные варианты в ней просто невозможно.
По этому в той же Цивилизации комп и такой тупой - разработчики не могут описать все возможные варианты того как следует компу вести себя в той или иной ситуации.
Выходит выхода нет и мы обречены на ту что бы играть с тупыми НПС?
Ну думаю вы поняли к чему я клоню, нейросети впервые за всю историю существования индустрии компьютерных игр дают нам шанс наконец-то получить умных компьютерных оппонентов (и союзников). Которые могут действовать в зависимости от ситуации, а не по тупым алгоритмам.
И вот знаете что удивительно? Есть очень популярный канал разработчика игр, Точка Сборки, он постоянно пишет про то что нейросети это плохо, но казалось бы, вот он, кейс где применение нейросетей это очевидно хорошая идея. Но он пишет вот это: https://news.1rj.ru/str/antonvolkov/449
Речь ведь даже не идет о том что бы внедрять нейросети в процесс разработки (Боже упаси!), речь о том что бы сделать нейросети частью игры, но нет, даже такой кейс использования нейросетей отвергается, ненависть к любому проявлению нейросетей застилает глаза.
Дело не в Точки Сборки, с ним-то все понятно (у него буквально каждый второй пост про нейросети и про то какие они плохие, ну не нравятся тебе нейросети, ну забей ты на них, но он пишет и пишет что-то про них).
Дело больше в том что я часто такое вижу - люди относят нейросети к некой отдельной категории, и либо тащат их во все подряд, либо скопом все отвергают. Но это ошибка, нейросеть сами по себе разные, и места где их можно применить тоже - они очень разные.
Многие путают процесс разработки чего-то (скажем игр) при помощи нейросетей и внедрение нейросетей в сам продукт (скажем в виде НПС), но это два совершенно не связанных друг с другом процесса, хоть оба и содержат в себе слово "нейросеть".
Особенно хорошо проявляется тупость компьютерного игрока в стратегиях и в гранд стратегиях - в играх типа Цивилизации или heart of iron, или Stellaris или в любой RTS, в таких играх боты могут конкурировать с живым игроком только адски читеря. Но вообще НПС во всех играх тупые и их тупость разработчики игр могут разве что маскировать.
Почему так происходит? Потому что "ИИ" в играх это просто тонны кода, это куча строк кода с кучей "if" которые какой-то несчастный программист сидел и писал пытаясь предусмотреть все возможные варианты развития событий в игре. Но если игра хоть сколько нибудь сложная предусмотреть все возможные варианты в ней просто невозможно.
По этому в той же Цивилизации комп и такой тупой - разработчики не могут описать все возможные варианты того как следует компу вести себя в той или иной ситуации.
Выходит выхода нет и мы обречены на ту что бы играть с тупыми НПС?
Ну думаю вы поняли к чему я клоню, нейросети впервые за всю историю существования индустрии компьютерных игр дают нам шанс наконец-то получить умных компьютерных оппонентов (и союзников). Которые могут действовать в зависимости от ситуации, а не по тупым алгоритмам.
И вот знаете что удивительно? Есть очень популярный канал разработчика игр, Точка Сборки, он постоянно пишет про то что нейросети это плохо, но казалось бы, вот он, кейс где применение нейросетей это очевидно хорошая идея. Но он пишет вот это: https://news.1rj.ru/str/antonvolkov/449
Речь ведь даже не идет о том что бы внедрять нейросети в процесс разработки (Боже упаси!), речь о том что бы сделать нейросети частью игры, но нет, даже такой кейс использования нейросетей отвергается, ненависть к любому проявлению нейросетей застилает глаза.
Дело не в Точки Сборки, с ним-то все понятно (у него буквально каждый второй пост про нейросети и про то какие они плохие, ну не нравятся тебе нейросети, ну забей ты на них, но он пишет и пишет что-то про них).
Дело больше в том что я часто такое вижу - люди относят нейросети к некой отдельной категории, и либо тащат их во все подряд, либо скопом все отвергают. Но это ошибка, нейросеть сами по себе разные, и места где их можно применить тоже - они очень разные.
Многие путают процесс разработки чего-то (скажем игр) при помощи нейросетей и внедрение нейросетей в сам продукт (скажем в виде НПС), но это два совершенно не связанных друг с другом процесса, хоть оба и содержат в себе слово "нейросеть".
👏16👍6❤4😁1
👆в догонку к предыдущему посту, мысли в слух о том как можно было бы сделать ИИ для игры в такие сложные игры как Цивилизация или Стелларис.
Именно в таких играх особенно сильно ощущается тупость компьютерных игроков.
Главная проблема тут в том что просто запихнуть нейросеть в игру не выйдет, у всех моделей есть ограничение на размер контекста, но мало того, даже если в контекст влезает вся информация не факт что модель сможет этой информацией воспользоваться - они часто "забывают" что-то если в контексте слишком много инфы.
А в таких играх КУЧА инфы, люди которые играют в такие игры порой даже не осознают как много информации они держат в голове что бы играть. Мало того что инфы много, ее становиться по ходу игры все больше и больше и помнить-то то нужно не только то что происходит сейчас, но и то что происходило в прошлом. Недостаточно знать что вражеский флот находиться в соседней системе, важно знать где этот флот находился до этого, а потом и до этого и тд. Недостаточно давать модели текущее состояние игры - нужно давать инфу и о том что происходило в прошлом (даже пускай в сжатом виде это огромное кол-во информации).
На мой взгляд тут нужно НЕ пытаться сделать супер крутого ИИ-игрока, то есть не нужно эмитировать человека-игрока. Вместо этого нужно создать много разных ИИ агентов, каждый из которых будет относительно самостоятелен и каждый из которых будет обладать своей памятью. Эти агенты должны управлять цивилизацией/галактический империей.
Агент мэр города который управляет конкретным городом, агент-командующий армией, агент-торговец, агент-ученый и тд, из них так же можно делать иерархию - агент-император отдает приказы агентам-губернаторам которые в свою очередь отдают приказы агентам-мэрам городов.
Каждый агент будет запоминать только нужную ему информацию, и сам будет решать что делать в вверенной ему области.
Именно в таких играх особенно сильно ощущается тупость компьютерных игроков.
Главная проблема тут в том что просто запихнуть нейросеть в игру не выйдет, у всех моделей есть ограничение на размер контекста, но мало того, даже если в контекст влезает вся информация не факт что модель сможет этой информацией воспользоваться - они часто "забывают" что-то если в контексте слишком много инфы.
А в таких играх КУЧА инфы, люди которые играют в такие игры порой даже не осознают как много информации они держат в голове что бы играть. Мало того что инфы много, ее становиться по ходу игры все больше и больше и помнить-то то нужно не только то что происходит сейчас, но и то что происходило в прошлом. Недостаточно знать что вражеский флот находиться в соседней системе, важно знать где этот флот находился до этого, а потом и до этого и тд. Недостаточно давать модели текущее состояние игры - нужно давать инфу и о том что происходило в прошлом (даже пускай в сжатом виде это огромное кол-во информации).
На мой взгляд тут нужно НЕ пытаться сделать супер крутого ИИ-игрока, то есть не нужно эмитировать человека-игрока. Вместо этого нужно создать много разных ИИ агентов, каждый из которых будет относительно самостоятелен и каждый из которых будет обладать своей памятью. Эти агенты должны управлять цивилизацией/галактический империей.
Агент мэр города который управляет конкретным городом, агент-командующий армией, агент-торговец, агент-ученый и тд, из них так же можно делать иерархию - агент-император отдает приказы агентам-губернаторам которые в свою очередь отдают приказы агентам-мэрам городов.
Каждый агент будет запоминать только нужную ему информацию, и сам будет решать что делать в вверенной ему области.
🔥14❤2👍1
Forwarded from Нейронавт | Нейросети в творчестве
Как LLM-вендоры обращаются с вашими данными: подробный разбор безопасности и конфиденциальности
Статья на Хабре от нашего подписчика @quatt1
Коротко:
OpenAI: обязана бессрочно хранить данные пользователей ChatGPT, кроме корпоративных версий и Zero Data Retention. До этого данные хранились 30 дней.
Anthropic: удаляет данные через 30 дней после удаления разговора, но может хранить до 10 лет при отправке обратной связи. Не использует данные для обучения без разрешения.
Google AI (Gemini): данные потребительской версии хранятся до 18 месяцев, корпоративной — по соглашениям. Данные не используются для обучения без согласия.
Российские вендоры (GigaChat, YandexGPT): соответствуют ФЗ-152. GigaChat может использовать данные для улучшения сервиса, YandexGPT — для коммерческого использования.
DeepSeek: использует данные для обучения и улучшений, в январе 2025 произошла утечка более 1 миллиона записей.
Провайдеры-агрегаторы (OpenRouter): не контролируют политики использования данных провайдеров моделей, пользователи должны изучать условия каждого.
Инструменты для кодинга (Cursor, Windsurf): предлагают усиленную защиту данных, Cursor — Privacy Mode с нулевым хранением, Windsurf — Zero Data Retention по умолчанию.
#safety
Статья на Хабре от нашего подписчика @quatt1
Коротко:
OpenAI: обязана бессрочно хранить данные пользователей ChatGPT, кроме корпоративных версий и Zero Data Retention. До этого данные хранились 30 дней.
Anthropic: удаляет данные через 30 дней после удаления разговора, но может хранить до 10 лет при отправке обратной связи. Не использует данные для обучения без разрешения.
Google AI (Gemini): данные потребительской версии хранятся до 18 месяцев, корпоративной — по соглашениям. Данные не используются для обучения без согласия.
Российские вендоры (GigaChat, YandexGPT): соответствуют ФЗ-152. GigaChat может использовать данные для улучшения сервиса, YandexGPT — для коммерческого использования.
DeepSeek: использует данные для обучения и улучшений, в январе 2025 произошла утечка более 1 миллиона записей.
Провайдеры-агрегаторы (OpenRouter): не контролируют политики использования данных провайдеров моделей, пользователи должны изучать условия каждого.
Инструменты для кодинга (Cursor, Windsurf): предлагают усиленную защиту данных, Cursor — Privacy Mode с нулевым хранением, Windsurf — Zero Data Retention по умолчанию.
#safety
🔥7
👆вообще, тут все очень просто, если вы отправляете свои запросы куда-то то они могут быть слиты/использованы/храниться непонятно где и как. Это всегда нужно просто иметь в виду.
Можно еще добавить что большая часть всех этих компаний новички, сколько лет той же ОпенАи? Компании в сфере ИИ пока не наработали ни репутацию, но нормальных политик по хранению данных. Их цель сейчас это бежать впереди паровоза.
Можно еще добавить что большая часть всех этих компаний новички, сколько лет той же ОпенАи? Компании в сфере ИИ пока не наработали ни репутацию, но нормальных политик по хранению данных. Их цель сейчас это бежать впереди паровоза.
👍9