Запуск AI-моделей локально

Просто для понимания: ChatGPT 5, Gemini 3, Grok 3 и т. д. – это самые популярные AI-модели от крупных компаний

Но на самом деле этих моделей огромное количество. Только в открытом доступе на Hugging Face находится более 2.2 млн моделей под разные задачи (каждую из которых можно скачать и запустить у себя локально – если, конечно, хватит железа)

Один из самых простых способов запустить модель локально – использовать DMR (Docker Model Runner)
Если вы впервые слышите слово "Docker", ничего страшного. Чтобы скачать и запустить модель, вам не придётся писать код или вводить команды, так как у DMR есть понятный пользовательский интерфейс (см. скрин).

Без лишних слов – всё описал в конспекте:

Читать: DMR: запуск AI-моделей локально

P.S. А вообще, на канале есть урок про основы Docker и docker-compose для кодеров

SemolinaCode | Chat | YouTube | HowToCode | Prop

📟 Прилетело из @semolina_code_python

В продаже появился софт по Outlook'y

- Вход на реальных запросах с браузера.
- Привязка резервной почты с подтверждением.
- Смена пароля.
- Генер рефреш токена
- Генер резервных кодов для входа

Софт фулл на запросах . Outlook удаляет почты в которые не заходили 2+года

За покупкой в лс .

📟 Прилетело из @steamner

Погружение в Core Solidity. Часть 3

Обобщения и классы типов

Core Solidity вводит два новых механизма для повторного использования кода и полиморфизма: обобщения (generics) и классы типов (иногда также называемые трейтами, traits).

Обобщения реализуют параметрический полиморфизм: они позволяют писать функции и структуры данных, работающие одинаково для всех типов. В качестве примера определим полиморфную функцию тождества:

forall T . function identity(x : T) -> T {
    return x;
}

Здесь forall вводит новую переменную-тип T, область видимости которой ограничена определением функции.

Можно также определять обобщённые типы. Например, следующий тип Result, параметризованный типом полезной нагрузки в случае ошибки:

data Result(T) = Ok | Err(T)

Обобщения весьма мощны, но сами по себе довольно ограничены. Большинство интересных операций не определены для всех типов вообще. Классы типов решают эту проблему: они позволяют задавать перегруженные, специфичные для каждого типа реализации одной и той же сигнатуры функции. В сочетании с ограничениями классов типов они предоставляют возможность писать обобщённые функции, полиморфные лишь над ограниченным подмножеством типов.

Класс типов — это просто спецификация интерфейса. Рассмотрим, например, определение класса типов, которые поддерживают операцию умножения:

forall T . class T:Mul {
    function mul(lhs : T, rhs : T) -> T;
}

Вместо конкретной функции wmul, которую мы определили выше для нашего типа wad с фиксированной точкой, более идиоматично создать экземпляр (в терминологии Rust — impl) класса типов Mul для wad. Это даёт единообразный синтаксис умножения для всех типов и позволяет использовать wad в функциях, обобщённых над любыми типами, реализующими Mul:

instance wad:Mul {
    function mul(lhs : wad, rhs : wad) -> wad {
        return wmul(lhs, rhs);
    }
}

Если мы хотим написать функцию, принимающую любой тип, для которого определён экземпляр Mul, необходимо добавить ограничение в сигнатуру:

forall T . T:Mul => function square(val : T) -> T {
    return Mul.mul(val, val);
}

Простые обёрточные типы вроде wad встречаются очень часто. Один из особенно полезных классов типов при работе с ними — Typedef:

forall T U . class T:Typedef(U) {
    function abs(x : U) -> T;
    function rep(x : T) -> U;
}

Функции abs (абстрагирование) и rep (представление) позволяют единообразно преобразовывать обёрточные типы во внутренние и наоборот, избегая синтаксического шума, связанного с необходимостью использовать сопоставление с образцом каждый раз при распаковке значения. Экземпляр для wad выглядел бы так:

instance wad:Typedef(uint256) {
    function abs(u : uint256) -> wad {
        return wad(u);
    }

    function rep(x : wad) -> uint256 {
        match x {
        | wad(u) => return u;
        }
    }
}

Обратите внимание: параметры, следующие после имени класса (например, U в определении Typedef выше), являются «слабыми» — их значение однозначно определяется значением параметра T. Если вы знакомы с Haskell или Rust, то это по сути ассоциированный тип (associated type) (хотя, для тех, кто разбирается в системах типов, реализовано это с помощью ограниченной формы функциональных зависимостей). Проще говоря, для wad можно определить только один экземпляр Typedef: компилятор не разрешит одновременно объявить и wad:Typedef(uint256), и wad:Typedef(uint128). Это ограничение делает вывод типов значительно более предсказуемым и надёжным, избегая многих неоднозначностей, присущих полноценным многопараметрическим классам типов.

📟 Прилетело из @solidityset

В качестве реального примера того, как обобщения и ограничения через классы типов помогают устранить шаблонный и повторяющийся код, сравним комбинаторный взрыв перегрузок, необходимых для реализации console.log в библиотеке forge-std, с одной обобщённой функцией в Core Solidity, которая покрывает функциональность всех перегрузок с одним аргументом из оригинальной библиотеки. Слово word в этой реализации обозначает низкоуровневый тип, представляющий переменную на языке Yul, и является единственным типом, который можно передавать в блоки assembly и получать из них.

forall T . T:ABIEncode => function log(val : T) {
    let CONSOLE_ADDRESS : word = 0x000000000000000000636F6e736F6c652e6c6f67;
    let payload = abi_encode(val);

    // извлекаем внутреннее представление payload как word
    let ptr = Typedef.rep(payload);

    assembly {
        pop(
            staticcall(
                gas(),
                CONSOLE_ADDRESS,
                add(ptr, 32),
                mload(ptr),
                0,
                0
            )
        )
    }
}

Подобно Rust и Lean, все вызовы классов типов и обобщённых функций полностью мономорфизируются (monomorphized) на этапе компиляции. Это означает, что полиморфные функции не несут накладных расходов во время выполнения по сравнению с полностью конкретизированными функциями. Хотя это действительно приводит к тому, что скомпилированный код для EVM может содержать несколько специализированных версий одной и той же обобщённой функции, это не увеличивает размер бинарного файла по сравнению с классическим Solidity, где для получения эквивалентной функциональности в любом случае потребовалось бы определять несколько отдельных функций. Мы считаем такой компромисс полностью оправданным для нашей предметной области.

#core

📟 Прилетело из @solidityset

Запуск AI-моделей локально (способ 2)

Запускать ai модели ещё можно через ollama

Функции почти те же, что и у Docker:
– есть GUI
– устанавливается одной командой
– есть hub моделей
– гибкие настройки
– поддержка openai api
– есть возможность запуска моделей с Hugging Face (в формате GGUF)
– большое комьюнити

Читать: Запуск моделей локально через Ollama

SemolinaCode | Chat | YouTube | HowToCode | Prop

📟 Прилетело из @semolina_code_python

Open Academy, самая крупная биржа Binance и их совместный курс по фьючерсам!

Как принять участие, заработать $15 в BNB, доход от рефералов и получить сертификат.

Что мне понравилось:

1. Можно указать свою рефку на Бинансе прямо в курсе и приглашать рефералов в Open Academy. А те, регистрируясь в Binance, станут вашими рефералами и там.
Это даст доп. доход в случае их торговли.

2. Также вы сможете получить 15 $ в $BNB, завершив изучение курса с квестами до 27 ноября 19:00 по МСК.
Важное условие: нужен торговый объём в размере "$1000" на Binance Futures.

Проходите всего 10 уроков длительностью от 2 до 4 минут, и вы сможете получить бонусы + сертификат!

Изучать

P. S. Если вы в РФ, KYC (проверку личности) можно пройти только на загран-паспорт и выписку из банка с подтверждением адреса.

😎 Незрячий web3 программист (подписаться)
Чат | бот

📟 Прилетело из @blind_dev

Open Academy, самая крупная биржа Binance и их совместный курс по фьючерсам!

Как принять участие, заработать $15 в BNB, доход от рефералов и получить сертификат.

Что мне понравилось:

1. Можно указать свою рефку на Бинансе прямо в курсе и приглашать рефералов в Open Academy. А те, регистрируясь в Binance, станут вашими рефералами и там.
Это даст доп. доход в случае их торговли.

2. Также вы сможете получить 15 $ в $BNB, завершив изучение курса с квестами до 27 ноября 19:00 по МСК.
Важное условие: нужен торговый объём в размере "$1000" на Binance Futures.

Проходите всего 10 уроков длительностью от 2 до 4 минут, и вы сможете получить бонусы + сертификат!

Изучать

P. S. Если вы в РФ, KYC (проверку личности) можно пройти только на загран-паспорт и выписку из банка с подтверждением адреса.

😎 Незрячий web3 программист (подписаться)
Чат | бот

📟 Прилетело из @blind_dev

🏛How stablecoins work

Привет подписчики! Сегодня я поделюсь с вами своими познаниями о стейблкоинах. Как работают известные вам проекты и как крутится ДеФи маховик. Если вам эти слова уже начинают быть непонятными - спросите их значение у чатгпт. Ну а для более осведомленных товарищей - прошу к прочтению

Также не забывайте ставить реакции, я так хотяб буду понимать что вам нравится, а что нет, ну и комментарии пишите, я на них иногда стараюсь отвечать👀

Ps. Все написанно в статье исключительно мое мнение. Если вы с ним не согласны - прошу в комментарии

А теперь читать статью
Статья, Статья, Статья!!!

📟 Прилетело из @ortomich_main

Токен $0G рухнул с $ 7.05 до около $ 1.3. Почему так произошло: попробуем найти причину.

Проект 0G - это L1 модульный блокчейн для ИИ с масштабированием уровнем доступности данных для производительности.

Источник данных: Tokenomist.

всего - 1 МЛРД $0G.
Разблокировано 24% (62.05% в локе, 14.29% TBD).

Распределение:

1. Ecosystem Growth - 28% (разблокировано 14.3% от всех токенов).
49% от выделенных на эту категорию токенов было разблокировано на TGE, но уже прошло некоторое время - стало чуть больше.
Разблокировка на 24 месяца.
Это, как понимаю, финансирование развития экосистемы: разных приложений.
С точки зрения поддержки развития существенная доля. Но стоит учитывать, что непонятно качество распределения.
Я читал у одного человека про проекты 0G экосистемы - не впечатлили.

+ остаётся ещё существенная часть в локе, которая может давить на курс.

2. AI Alignment Node - 15%.
33% выдаются на TGE (10% без штрафа, 23% - с возможностью уменьшить штраф при ожидании до 360 дней).
Оставшиеся 67% идут в линейный вестинг на 36 месяцев.
Это за запуск ноды и за наличие nft-нод.

В частности, я участвовал в этом. Но вывел всё доступное со штрафом, и рад этому.

Возможно также, что выше указанные условия идут от 12.9%, так как выше таблицы указана именно эта доля, а 2.1% как TBD (ещё не определено).

3. Community Rewards - 13%.
20% (2.6% от всех) токенов распределено на TGE, остальное распределяется сезонно в течение 48 месяцев.
Это по всей видимости награды сообществу. Возможно это за стейкинг, а возможно и за что-то ещё.

Что касается разлоков - это примерно 0.2-0.3% в месяц от всех токенов.

4. Team Contributors & Advisors - 22%.
Многовато (> 10%).
Заблокирован на 12 месяцев, разблокировка 36 месяцев
Но странно, что в Cryptorank видел уже наличие разлоченных токенов команды в размере 5.5%.
Хотя там источник странный был указан, поэтому не стал упоминать.

5. Backers - 22%.
Как понимаю это инвесторы. Многовато - максимум 10%.
Заблокирован на 12 месяцев, разблокируется в течение на 36 месяцев


Утилиты $0G:

Источник: статья.

1. Оплата вычислений и хранения
Токен используется как Газ сети 0G: оплата вычислений, хранения данных, операций смарт-контрактов и работы AI-движка Zero Gravity Executor.
2. Стейкинг нод
Валидаторы и AI Alignment Nodes стейкают $0G, чтобы участвовать в консенсусе, выполнять вычисления и обеспечивать безопасность сети.
3. Вознаграждение валидаторов и AI-нод
Награды выплачиваются в $0G за выполнение вычислений, проверку данных, хранение, генерацию результатов AI и обеспечение работы сети.
4. Governance (управление протоколом)
Холдеры участвуют в голосованиях: параметры сети, обновления протокола, распределение Ecosystem Growth Fund, правила AI-alignment.
5. Оплата AI-моделей, сервисов и агентов
$0G используется внутри экосистемы для оплаты выполнения AI-задач, инференса моделей, запросов к AI-агентам и сервисам поверх L1.
6. Стимулирование экосистемы
Все гранты, airdrop-вознаграждения, кампании роста, награды разработчикам и строителям экосистемы выплачиваются в $0G.


Итог:

Основное давление от экосистемы и аэрдропа за ноды.

Думаю проектов не так много, чтоб выделять им 14.3% от всех токенов - это приводит скорее к сливу по рыночной цене, что мы и видим в результате (падение на 81.56% 13 ноября).
Но утилиты хорошие: если проект станет популярным, если появятся известные продукты может появиться спрос на $0G = возможен в это случае рост.
Но вероятность этого к сожалению мала.

Как вам проект и токен? Держите ли его?
Я забил. Откупать не планирую.

Буду рад реакциям, комментариям и репостам.

😎 Незрячий web3 программист (подписаться)
Чат | бот

📟 Прилетело из @blind_dev

Погружение в Core Solidity. Часть 4

Функции высшего порядка и анонимные функции

Функции обладают статусом «первоклассных» объектов в системе типов, что позволяет использовать их в качестве параметров, возвращаемых значений и присваиваемых сущностей.

В качестве примера рассмотрим следующий фрагмент, реализующий пользовательскую декодировку ABI для тройки логических значений из одного слова:

forall T . function unpack_bools(fn : (bool, bool, bool) -> T) -> ((word) -> T) {
    return lam (bools : word) -> {
        let wordToBool = lam (w : word) { return w > 0; };

        // extract the right-most bit from `bools`
        let b0 = wordToBool(and(bools, 0x1));

        // shift `bools` by one and extract the right-most bit
        let b1 = wordToBool(and(shr(1, bools), 0x1));

        // shift `bools` by two and extract the right-most bit
        let b2 = wordToBool(and(shr(2, bools), 0x1));

        return fn(b0, b1, b2);
    };
}

Функция unpack_bools реализует пользовательскую декодировку ABI. Она является функцией высшего порядка, которая «оборачивает» входную функцию, принимающую три отдельных логических значения и возвращающую значение произвольного типа T, извлекая аргументы из трёх младших битов входного слова. Такой пример невозможно реализовать в классическом Solidity, даже с использованием модификаторов, поскольку они не могут изменять аргументы, передаваемые внутрь оборачиваемой функции.

Кроме того, поддерживается определение (некурсивных) анонимных функций с помощью ключевого слова lam. Функции, определённые таким образом, могут захватывать значения из области видимости, в которой они объявлены. В качестве примера рассмотрим вспомогательную функцию для тестирования, подсчитывающую количество вызовов произвольной функции:

forall T U . function count_calls(fn : (T) -> U) -> (memory(word), (T) -> U) {
    let counter : memory(word) = allocate(32);
    return (counter, lam (a : T) -> {
        counter += 1;
        return fn(a);
    });
}

Реализация здесь аналогична тому, как это сделано в системных языках, таких как Rust и C++: компилятор генерирует уникальный тип для каждой анонимной функции, содержащей захваченные значения, а эти уникальные типы становятся вызываемыми за счёт принадлежности к специальному типовому классу «вызываемых» (invokable), подобно трейту Fn в Rust. Такой подход обеспечивает высокую эффективность с точки зрения затрат газа во время выполнения.

Вывод типов

Core Solidity поддерживает вывод типов почти в любом контексте. Аннотации типов обычно требуются только тогда, когда это желательно для улучшения читаемости или понимания кода. Алгоритм вывода типов разрешим, а ситуации, в которых возникает неоднозначность и требуется явная аннотация, крайне ограничены. Благодаря этому удаётся избавиться от большого количества синтаксического шума, присущего классическому Solidity.

Например, присваивание выражения переменной в классическом Solidity нередко приводит к избыточным аннотациям, даже если типы уже присутствуют в самом выражении:

(bytes memory a, bytes memory b) = abi.decode(input, (bytes, bytes));

То же самое определение в Core Solidity выглядит значительно чище:

let (a, b) = abi.decode(input, (uint256, uint256));

Ещё одна частая причина раздражения при работе с классическим Solidity — синтаксический шум при определении литералов массивов. Рассмотрим следующий фрагмент:

uint256[3] memory a = [1, 2, 3];

Это объявление отвергается компилятором классического Solidity со следующей ошибкой:

Error: Type uint8[3] memory is not implicitly convertible to expected type uint256[3] memory.

Причина ошибки заключается в том, что классический Solidity реализует ограниченную и специализированную форму вывода типов для литералов массивов: тип элементов массива определяется как тип первого выражения в списке, к которому можно неявно привести все остальные элементы (в данном случае — uint8). Затем компилятор выдаёт ошибку несоответствия типов при попытке присвоить это значение переменной несовместимого типа.

📟 Прилетело из @solidityset

Чтобы приведённое выше определение было принято, приходится добавлять неочевидное приведение типа к первому элементу массива:

uint256[3] memory a = [uint256(1), 2, 3];

Алгоритм вывода типов на основе ограничений в Core Solidity гораздо более общий и позволяет опустить такое приведение:

uint256[3] memory a = [1, 2, 3];

#core

📟 Прилетело из @solidityset

📟 Прилетело из @dev_in_ruby_colors

🔥 Prosto Exchange - последние обновления
За последние недели ProstoEx сделали сразу несколько крупных обновлений, которые реально выводят сервис на новый уровень. Коротко - теперь это полноценная экосистема для покупки/продажи USDT легально, быстро и без серых схем.

🏛 Поддержка всех основных банков РФ
По просьбам клиентов добавили новые способы оплаты:
• СБП - до 100k за транзакцию / до 500k в месяц
• Т-Банк - до 1 млн в сутки / до 5 млн в месяц
• ВТБ - до 300k за транзакцию / до 1 млн в сутки
• Сбербанк - до 48k за транзакцию / до 300k в сутки / 1,5 млн в месяц

Теперь можно работать не только через СБП, но и через крупные банки напрямую.

👥 Уникальная 3-уровневая реферальная система (до 33%)
Уровень 1 - Новичок
• 1-5 рефералов
• 25% бонус с каждой сделки

Уровень 2 — Опытный трейдер
• 6-25 рефералов
• 5,000$+ объём сделок
• +5% бонус

Уровень 3 — Платиновый партнёр
• 26-50 рефералов
• 6,000$+ объём
• +3% бонус

Итого до 33% со всех сделок, включая:
наличные, безнал, оплату услуг, квартиры, авто - всё.

🤝 Партнёрство с xRocket
Теперь кошелёк xRocket можно пополнять через офисы ProstoEx в любых валютах.
Быстро, без ограничений, с проверенной ликвидностью.

⏰ Сервис работает 24/7
Реально круглосуточно:
- ночью нужны деньги?
- ночью хотите купить USDT?
- нужна консультация?
- оплата крупной покупки?

Саппорт работает в режиме always online, сделки проходят в любое время.

🛡 Безопасность и соответствие законам
ProstoEx подчёркивают:
• вся крипта проходит AML-чек
• никаких дропов, третьих лиц или подозрительных контрагентов
• поддержка отвечает всем и быстро

👤 Мой личный опыт
Недавно менял 10,000 USDT через @prostoexbot.
Всё прошло без задержек, курс отличный, - чистая сделка напрямую в офисе.
Сервис реально стал удобнее и надёжнее.

🧾 Контакты:
@Prosto_Exchange — поддержка
@Prosto_Reviews — отзывы
@ProstoEx_News — обновления
@ProstoExBot — обменник

🎁 @prostoexbot — лучшие условия.

Я не беру деньги за этот пост. Это не реклама.
Просто делюсь тем, чем сам пользуюсь.
Я не несу ответственности за действия сервиса, но на данный момент ProstoEx — единственный вариант, который я использую для покупки/продажи USDT без «серых» схем и заморозок карт.

📟 Прилетело из @n4z4v0d

норм драфтед фан -3к зашел в гем

📟 Прилетело из @n4z4v0d

Что за циферки?

Мы уже разобрались с тем как запускать модели локально (способ 1 и способ 2). Теперь надо понять как выбрать модель под свои нужды и как прочитать "паспорт модели", который выглядит примерно так:

Model
architecture gemma3
parameters 4.3B
context length 131072
embedding length 2560
quantization Q4_K_M

Capabilities
completion
vision

Parameters
temperature 1
top_k 64
top_p 0.95
stop "<end_of_turn>"

License
Gemma Terms of Use
Last modified: Feb 21, 2024

Всё это очень подробно разобрал в конспекте:

Читать: Как выбрать AI модель

SemolinaCode | Chat | YouTube | HowToCode | Prop

📟 Прилетело из @semolina_code_python