ACwing算法教程全系列网课（百度网盘）
Acwing全套
链接:百度网盘 请输入提取码
提取码:wwbm
复制这段内容打开「百度网盘APP 即可获取」
C 资源荟萃 百度网盘
15 个帖子 - 14 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: 晚wen)
这份资源有佬友发过一次百度盘，可惜过期了。于是去某鱼买了一份，分享给有同样需要的佬友们。源自网络，仅供学习
Acwing全套
链接:百度网盘 请输入提取码
提取码:wwbm
复制这段内容打开「百度网盘APP 即可获取」
C 资源荟萃 百度网盘
15 个帖子 - 14 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: 晚wen)
想搭建个本地AI，有没有那种精简版的？
加了一堆QQ群，每天几万条消息，想筛选一些可能是客户需求的消息出来，这样子能最大限度提高效率，找到有需求的客户，目前用的是关键词，但还有很多无用的消息，人工每天看起来，相当费劲~
想找个AI本地搭建后，用来筛选这些没用的消息(官方API，如果干这活，有点贵，毕竟每天消息太多，每条消息请求一次，一天也不少钱呢)
20 个帖子 - 8 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: 深入交流)
加了一堆QQ群，每天几万条消息，想筛选一些可能是客户需求的消息出来，这样子能最大限度提高效率，找到有需求的客户，目前用的是关键词，但还有很多无用的消息，人工每天看起来，相当费劲~
想找个AI本地搭建后，用来筛选这些没用的消息(官方API，如果干这活，有点贵，毕竟每天消息太多，每条消息请求一次，一天也不少钱呢)
20 个帖子 - 8 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: 深入交流)
发现一个Markdown转知识卡片工具
可以将 Markdown 文档转换为精美的知识卡片，支持多种风格 无须登录，免费无限使用
MD2Card
MD2Card - Markdown 转知识卡片工具
将 Markdown 转换为精美的知识卡片，让创作更轻松
18 个帖子 - 18 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: cole1)
可以将 Markdown 文档转换为精美的知识卡片，支持多种风格 无须登录，免费无限使用
MD2Card
MD2Card - Markdown 转知识卡片工具
将 Markdown 转换为精美的知识卡片，让创作更轻松
18 个帖子 - 18 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: cole1)
[开源]用 AI 和摄像头开发一款懒人健身工具，程序员福利
看到L论坛上大家分享的氛围很热烈，一直是半潜水状态，今天也发一个我开发的小游戏，造福大家。
开发缘由
我做过项目经理，但是很喜欢编程，人比较宅。每天大部分时间都对着电脑屏幕，上网、敲代码，解决 Bug。由于工作性质和懒，动得比较少。
随着年龄大了，身体就有了问题。最明显的问题就是痛风。这东西主要和体质有关系。痛的时候就吃乐松，但治标不治本。后来我发现，比较管用的还是得靠运动加上多喝水。
以前我还挺喜欢骑自行车的，上下班或者强制自己骑车。但自从在家工作后，骑车的机会就少了。结果，不运动，老毛病又来了。
运动上我也尝试了很多办法。Wii U 跳舞、运动、FIt U，玩了几次就觉得麻烦，开机慢，还要挥舞着手柄，进去也麻烦，对懒人多一步都是致命的。Switch健身环也用了，一样，新鲜劲过了就懒得弄了，那个绑腿对懒人也是致命的，懂得都懂。Xbox Kinect 的跳舞和运动游戏也搞了，是方便点，不用拿东西，但总觉得要在客厅专门弄一块地方，懒，如果家人在客厅就更没那么方便。
很怀念以前骑车运动完那种全身轻松舒畅的感觉，心情也好，晚上睡觉也香。我就开始琢磨，有没有什么办法能让我这种懒人也能坚持运动呢？
如果只是让我从电脑前站起来扭扭腰、抬抬腿，说实话，没什么意思，坚持不下去。我就想，要是有个什么东西能提醒我、督促我动起来就好了。我得琢磨“最懒的不偷懒方法”。
所以我就想着开发一个工具，用电脑或者手机的摄像头来检测我的身体动作，然后在屏幕上弄个小人影射我的“跑步”动作，在一个三维场景里跑动。这样我就可以随时打开这个工具动一动。
游戏里会显示一些步数和卡路里消耗。通过摄像头检测，这些肯定不会很准，但至少能给一个参考，知道自己大概动了多少。对于像我这种懒得动又想稍微监督一下自己的人来说，已经基本可以到我的要求了。
如果一个人还坚持不下去，还可以找朋友或者在群里互相监督，每天截个图，互相提醒运动，也是不错的方法。
我的个人感受
我自己试了之后，发现每天原地慢跑个 2000 步左右，身体会开始发热，算是进入状态了。如果想减肥，可能还得再多动一些。如果只是想活动一下，每天这样几次，每次十几分钟，也差不多够了。
而且这种原地慢跑对膝盖也比较友好。我自己的膝盖关节不太好。题外话：我深蹲困难，蹲下去就站不起来。有时候去一些没有马桶的厕所就比较尴尬。但是用这个软件“慢跑”，动作很轻柔，力度可以自己掌握，不伤膝盖，还能锻炼身体，提高心肺功能。每天运动多少，完全可以自己看着办。
另外打开这个游戏的时候，还可以一边“跑”，一边听听播客或者刷剧看视频，这样就不会觉得太无聊。我是喜欢听播客。
软件编写过程
现在用 AI 编程真是方便。我基本上就是把自己当成产品经理，用大白话跟 AI 描述我的需求，从最开始什么框架都没有，到最后把整个软件做出来，我其实没写多少代码。当然，还是需要一定的软件架构和技术基础，不然遇到问题也很难解决。
我已经把这个游戏开源了，代码都放在网上GitHub - Jamesun921/cam-run: A running game based on webcam, controlling the game character in an infinite scene by detecting user movements.With AI Companion providing real-time movement guidance and personalized feedback. Main technologies: Three.js, MediaPipe Pose一个基于网络摄像头的跑步游戏，通过检测用户的动作来控制游戏角色在无限场景中奔跑。AI陪跑功能，提供实时动作指导和个性化反馈。主要技术：Three.js，MediaPipe Pose，欢迎star。如果担心开摄像头有隐私问题的小伙伴，可以自己看看代码。
一直对着屏幕“跑步”可能会有点枯燥，特别是对于不那么有意志力的人来说。所以我还加了一个 AI 陪跑的功能。会随机说一些鼓励的话，或者讲一些幽默的段子，增加点乐趣。让 AI 写段子的好处就是，你永远不知道它接下来会说什么。智能体的同在感目前可能还不强，段子也还比较老外，后面看看怎么改进。AI提示语我保留了中英文对照，还能顺便学学英文（人懒，没办法）。AI的API是直接调用的，借用了某大拿的开源库里的内容，致敬下。
这个游戏电脑手机平板都支持，可以给家人朋友收藏运动。对性能还是有点要求的，稍微新点的设备应该都行，可能还没有优化好，手机和平板的效果会差点，有能人也可以给予指点。
这个 Webcam Runner，就是想用一个最简单、方便的方法，帮助像我一样比较宅、比较懒、又想能动起来、储蓄点健康的人。希望这个小工具能对大家有用。
Webcam Runner
原地慢跑也是有些讲究的，具体大家可以去搜索。也可以参考我的文章 ：
原地慢跑：居家高效燃脂的“隐形运动”
11 个帖子 - 9 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: james)
看到L论坛上大家分享的氛围很热烈，一直是半潜水状态，今天也发一个我开发的小游戏，造福大家。
开发缘由
我做过项目经理，但是很喜欢编程，人比较宅。每天大部分时间都对着电脑屏幕，上网、敲代码，解决 Bug。由于工作性质和懒，动得比较少。
随着年龄大了，身体就有了问题。最明显的问题就是痛风。这东西主要和体质有关系。痛的时候就吃乐松，但治标不治本。后来我发现，比较管用的还是得靠运动加上多喝水。
以前我还挺喜欢骑自行车的，上下班或者强制自己骑车。但自从在家工作后，骑车的机会就少了。结果，不运动，老毛病又来了。
运动上我也尝试了很多办法。Wii U 跳舞、运动、FIt U，玩了几次就觉得麻烦，开机慢，还要挥舞着手柄，进去也麻烦，对懒人多一步都是致命的。Switch健身环也用了，一样，新鲜劲过了就懒得弄了，那个绑腿对懒人也是致命的，懂得都懂。Xbox Kinect 的跳舞和运动游戏也搞了，是方便点，不用拿东西，但总觉得要在客厅专门弄一块地方，懒，如果家人在客厅就更没那么方便。
很怀念以前骑车运动完那种全身轻松舒畅的感觉，心情也好，晚上睡觉也香。我就开始琢磨，有没有什么办法能让我这种懒人也能坚持运动呢？
如果只是让我从电脑前站起来扭扭腰、抬抬腿，说实话，没什么意思，坚持不下去。我就想，要是有个什么东西能提醒我、督促我动起来就好了。我得琢磨“最懒的不偷懒方法”。
所以我就想着开发一个工具，用电脑或者手机的摄像头来检测我的身体动作，然后在屏幕上弄个小人影射我的“跑步”动作，在一个三维场景里跑动。这样我就可以随时打开这个工具动一动。
游戏里会显示一些步数和卡路里消耗。通过摄像头检测，这些肯定不会很准，但至少能给一个参考，知道自己大概动了多少。对于像我这种懒得动又想稍微监督一下自己的人来说，已经基本可以到我的要求了。
如果一个人还坚持不下去，还可以找朋友或者在群里互相监督，每天截个图，互相提醒运动，也是不错的方法。
我的个人感受
我自己试了之后，发现每天原地慢跑个 2000 步左右，身体会开始发热，算是进入状态了。如果想减肥，可能还得再多动一些。如果只是想活动一下，每天这样几次，每次十几分钟，也差不多够了。
而且这种原地慢跑对膝盖也比较友好。我自己的膝盖关节不太好。题外话：我深蹲困难，蹲下去就站不起来。有时候去一些没有马桶的厕所就比较尴尬。但是用这个软件“慢跑”，动作很轻柔，力度可以自己掌握，不伤膝盖，还能锻炼身体，提高心肺功能。每天运动多少，完全可以自己看着办。
另外打开这个游戏的时候，还可以一边“跑”，一边听听播客或者刷剧看视频，这样就不会觉得太无聊。我是喜欢听播客。
软件编写过程
现在用 AI 编程真是方便。我基本上就是把自己当成产品经理，用大白话跟 AI 描述我的需求，从最开始什么框架都没有，到最后把整个软件做出来，我其实没写多少代码。当然，还是需要一定的软件架构和技术基础，不然遇到问题也很难解决。
我已经把这个游戏开源了，代码都放在网上GitHub - Jamesun921/cam-run: A running game based on webcam, controlling the game character in an infinite scene by detecting user movements.With AI Companion providing real-time movement guidance and personalized feedback. Main technologies: Three.js, MediaPipe Pose一个基于网络摄像头的跑步游戏，通过检测用户的动作来控制游戏角色在无限场景中奔跑。AI陪跑功能，提供实时动作指导和个性化反馈。主要技术：Three.js，MediaPipe Pose，欢迎star。如果担心开摄像头有隐私问题的小伙伴，可以自己看看代码。
一直对着屏幕“跑步”可能会有点枯燥，特别是对于不那么有意志力的人来说。所以我还加了一个 AI 陪跑的功能。会随机说一些鼓励的话，或者讲一些幽默的段子，增加点乐趣。让 AI 写段子的好处就是，你永远不知道它接下来会说什么。智能体的同在感目前可能还不强，段子也还比较老外，后面看看怎么改进。AI提示语我保留了中英文对照，还能顺便学学英文（人懒，没办法）。AI的API是直接调用的，借用了某大拿的开源库里的内容，致敬下。
这个游戏电脑手机平板都支持，可以给家人朋友收藏运动。对性能还是有点要求的，稍微新点的设备应该都行，可能还没有优化好，手机和平板的效果会差点，有能人也可以给予指点。
这个 Webcam Runner，就是想用一个最简单、方便的方法，帮助像我一样比较宅、比较懒、又想能动起来、储蓄点健康的人。希望这个小工具能对大家有用。
Webcam Runner
原地慢跑也是有些讲究的，具体大家可以去搜索。也可以参考我的文章 ：
原地慢跑：居家高效燃脂的“隐形运动”
11 个帖子 - 9 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: james)
Chrome 扩展应用到Safari 扩展～（续集）
好久不见🍟～
Mac Safari使用Chromium类扩展开发调优
上次写文章还是在上次，时至今日，佬友也许可能对此不感兴趣了👾，不过我还是想对上次的文章进行补充，本篇主要内容：一个快速轻松地为多个浏览器打包扩展程序的工具”Bepp”✨️～
----------------------
1. 准备工作
必备条件：
● 一台 macOS 电脑（Safari 扩展打包只能在 Mac 上搞定哦～）
● 如果你没有 Mac，也可以用 GitHub Action 远程构建，懒人福音！
● 如果用 Node.js 安装 Bepp，就需要安装 Node 环境啦～
● Git 和终端工具（用来敲命令，没它们不行）
----------------------
2. 安装 Bepp
Bepp 就是我们的神奇小工具，能帮你把扩展转换得妥妥的。有三种安装方式，随你喜欢选一个！
方法1：用 npm 安装
直接在终端里敲：
方法2：直接下载
去 这里 下载适合你电脑的版本，下载后直接用就好！
方法3：GitHub Action（懒人专用）
直接在 GitHub 上配置 Action，让它自动帮你构建，不用自己敲命令哦～
----------------------
3. 写配置文件
接下来，告诉 Bepp 你的 Chrome 扩展在哪里，然后它就能帮你转换成 Safari 扩展啦！
这里我们用 YAML 格式的配置文件（文件名：
把这个文件放到项目的根目录下就可以啦～
----------------------
4. 转换扩展
配置好之后，打开终端，进入你的项目文件夹，运行下面的命令：
这条命令会自动把你的 Chrome 扩展转换成 Safari 扩展，转换结果会在你配置文件中指定的
----------------------
5. 安装 & 测试扩展
转换成功后，你会得到一个 .app 或 .dmg 文件。安装步骤超级简单：
1. 打开 .dmg 文件
双击打开，然后把扩展拖进
2. 启动扩展
打开 Launchpad，找到你的扩展，点击启动。
3. 在 Safari 中启用扩展
打开 Safari → 偏好设置 → 扩展，找到你的扩展，然后点一下启用按钮！
4. 试试看效果
检查一下弹出窗口、选项页面和其他功能是不是都正常运行～
----------------------
6. GitHub Action 自动构建（进阶懒人必备）
如果你不想每次都手动运行命令，可以用 GitHub Action 自动帮你构建！
在项目中新建一个文件
这样，每次你有需要转换的chrome扩展，只需上传解压后的文件到GitHub ，就会自动帮你构建好 Safari 扩展，简单省事🍟～
----------------------
～
有疑问可以查看更详细的官方文档 ，如果对你有帮助 求赞❤️求关注✨️
6 个帖子 - 4 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: o_oi)
好久不见🍟～
Mac Safari使用Chromium类扩展开发调优
将Chrome扩展添加到Mac Safari扩展 前言：对于Mac Safari浏览器，扩展都需要appstore上架才能使用。但是！有动手能力的话，你可以把chrome上的扩展拿来用。挺麻烦的要不就算了吧 lark_167步骤一 从扩展商店或crxsoso下载相应的扩展，格式如果是.crx，需要改后缀名为.zip,然后解压到文件夹 启用Safari浏览器开发者选项（选择菜单栏 …
上次写文章还是在上次，时至今日，佬友也许可能对此不感兴趣了👾，不过我还是想对上次的文章进行补充，本篇主要内容：一个快速轻松地为多个浏览器打包扩展程序的工具”Bepp”✨️～
----------------------
1. 准备工作
必备条件：
● 一台 macOS 电脑（Safari 扩展打包只能在 Mac 上搞定哦～）
● 如果你没有 Mac，也可以用 GitHub Action 远程构建，懒人福音！
● 如果用 Node.js 安装 Bepp，就需要安装 Node 环境啦～
● Git 和终端工具（用来敲命令，没它们不行）
----------------------
2. 安装 Bepp
Bepp 就是我们的神奇小工具，能帮你把扩展转换得妥妥的。有三种安装方式，随你喜欢选一个！
方法1：用 npm 安装
直接在终端里敲：
npm install @bepp/bepp
方法2：直接下载
去 这里 下载适合你电脑的版本，下载后直接用就好！
方法3：GitHub Action（懒人专用）
直接在 GitHub 上配置 Action，让它自动帮你构建，不用自己敲命令哦～
----------------------
3. 写配置文件
接下来，告诉 Bepp 你的 Chrome 扩展在哪里，然后它就能帮你转换成 Safari 扩展啦！
这里我们用 YAML 格式的配置文件（文件名：
bepp.config.yml）：shared:
id: 'MyCoolExtension' # 你的扩展名字
input:
chromium: 'build/chromium-mv3/' # 你 Chrome 扩展的代码所在文件夹
output: 'dist' # 转换好的 Safari 扩展输出目录
build:
- type: safari # 告诉 Bepp 转换成 Safari 扩展
把这个文件放到项目的根目录下就可以啦～
----------------------
4. 转换扩展
配置好之后，打开终端，进入你的项目文件夹，运行下面的命令：
bepp build
这条命令会自动把你的 Chrome 扩展转换成 Safari 扩展，转换结果会在你配置文件中指定的
dist 目录里哦！----------------------
5. 安装 & 测试扩展
转换成功后，你会得到一个 .app 或 .dmg 文件。安装步骤超级简单：
1. 打开 .dmg 文件
双击打开，然后把扩展拖进
应用程序 文件夹里。2. 启动扩展
打开 Launchpad，找到你的扩展，点击启动。
3. 在 Safari 中启用扩展
打开 Safari → 偏好设置 → 扩展，找到你的扩展，然后点一下启用按钮！
4. 试试看效果
检查一下弹出窗口、选项页面和其他功能是不是都正常运行～
----------------------
6. GitHub Action 自动构建（进阶懒人必备）
如果你不想每次都手动运行命令，可以用 GitHub Action 自动帮你构建！
在项目中新建一个文件
.github/workflows/build.yml，然后把下面这段代码贴进去：name: Build Safari Extension
on:
push:
branches:
- main # 只有推送到 main 分支时才会触发构建
jobs:
build:
runs-on: macos-latest # Safari 扩展必须在 macOS 上构建
steps:
- name: 拉取代码
uses: actions/checkout@v4
- name: 安装 Bepp
run: npm install -g @bepp/bepp
- name: 开始构建
run: bepp build
这样，每次你有需要转换的chrome扩展，只需上传解压后的文件到GitHub ，就会自动帮你构建好 Safari 扩展，简单省事🍟～
----------------------
～
有疑问可以查看更详细的官方文档 ，如果对你有帮助 求赞❤️求关注✨️
6 个帖子 - 4 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: o_oi)
大龄社畜第一次参加省考寄了
准备了三个多月，最后申论没时间学，大作文都没时间写。。唉。。有谁推荐一下申论看谁的课程好点？或者知道申论该怎么学的吗
13 个帖子 - 7 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: 阿虚)
准备了三个多月，最后申论没时间学，大作文都没时间写。。唉。。有谁推荐一下申论看谁的课程好点？或者知道申论该怎么学的吗
13 个帖子 - 7 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: 阿虚)
Adobe2025大师版全家桶！一键安装永久激活！
通过网盘分享的文件：Adboe2025大师版
链接: 百度网盘 请输入提取码 提取码: t8vf
–来自百度网盘超级会员v1的分享
15 个帖子 - 15 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: fulin zhang)
通过网盘分享的文件：Adboe2025大师版
链接: 百度网盘 请输入提取码 提取码: t8vf
–来自百度网盘超级会员v1的分享
15 个帖子 - 15 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: fulin zhang)
大模型阉割的几种手段
很遗憾，砂糖一年前的预言又一次印证了——力大砖飞的满血超大杯模型正在逐渐失宠。用户们逐渐认识到小型模型结合合理的优化策略（例如CoT、深度思考），能够在某种程度上以更低的算力消耗，达到全参数满血大尺寸模型同级别的输出质量。
那么，如何在不牺牲性能的前提下，精简模型以实现成本与质量的平衡呢？另外，“671B“的Deepseek-v3/r1，就一定是所谓的”满血版“吗？
认识模型
我们所谓的“模型”，其实储存的是模型各个节点的参数，包括权重和偏置。通常来说，参数量越大的模型能够存储的信息越多，理论上可以处理更加复杂的任务。每个参数也的确就是一个数，与计算机中的其他数一样，它也具有位数和精度——32位浮点（fp32），16位浮点（fp16），8位整型（int8）等等。更高的精度，以及更大的参数量，都会提升模型的性能需求，也能提升模型的输出质量，但同时也会消耗更多的计算资源。
模型的阉割技术，目的就是在可容忍的范围内，牺牲部分输出质量，换取更大的性能提升。
当然，如果一味地进行阉割，降本增效，以次充好，那么上面这句话也可以说成——模型的阉割，本质上是为了节约成本，牺牲掉输出质量。
模型阉割大法
蒸馏
将一个大型的、性能卓越的模型作为教师模型，另一个参数量较小的基底模型作为学生，让老师教学生，使基底模型学习到教师模型输出的分布特征，以及获取教师模型的部分知识。
当然，需要强调的是，蒸馏后的模型仍然是基底模型，它依赖于教师模型的知识，但仍与之有别。基底模型较小的参数量决定了其固有的上限所在。
我之前开玩笑地举了个例子，虽然不太雅观，但很形象：
把一个馒头往厕所里放两天，馒头会有一股屎味，但你不能说它就是屎——屎味的馒头说到底还是馒头。
量化
量化，就是将模型的参数由高精度缩减为低精度。就像做物理题时那样，c=299792458m/s 能让你猪脑过载，但令 c=3*10^9m/s 你就豁然开朗——当然这么做的后果就是你的计算结果并不那么准确。
当我们将FP32，或者FP16的参数修约到FP8，INT4，甚至二元量化或三元量化（三进制重出人间），能够带来数倍的模型体量缩减与性能提升——当然代价同时是损失输出质量，精度压缩得越激进，损失越明显。
好在与其他神经网络相比，多数的大型语言模型对量化具有一定的鲁棒性，即使进行一定程度量化，输出质量的损失也并不那么显著。这是因为LLM模型通常局部不变性更好，即使某一层出现偏差，也会在后续层中得到修复。
剪枝
果农为了收获品质更好的水果，会将一些发育不良的枝条减去，使有限的营养专注供给健康的果子。神经网络也是同理。偌大的神经网络中，存在着大量看起来不那么重要的神经元或者连接。由于这些连接对于模型的输出贡献极小，但实实在在地消耗了计算性能，通过重要性排序和相关性分析，删去一些”不重要“的参数，就能减小模型体积，提升运行时的性能。
剪枝是缩减模型体积，提升运行时性能的有效手段，结合微调手段重建冗余，合理利用剪枝，可以获得非常好的效果。但是过于激进的剪枝策略会删去大量非0权重，会实实在在地影响模型的泛化能力。
总结
模型的阉割大法不仅只有蒸馏一种，量化和剪枝都是重要的手段，并且都具有便捷性，可以在部署时进行。因此，“671b”参数的deepseek，未必就是满血版，它只声称了671b的参数量，但是参数的精度如何，加载模型时是否离线剪枝，又删去了多少参数，这些问题都会影响模型最终的表现。
阉割大法是双刃剑。各种事实已经证明了阉割模型是时代发展趋势，我们是时候摒弃猛堆参数量和精度的思维了。但同时也必须拒绝一种行为，那就是使用阉割的模型以次充好。下一次，当有商家再宣传自己提供671b”满血“大模型时，你就应当多留个心眼，这真的是满血的模型吗？
11 个帖子 - 11 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: 粉毛红瞳精神病美少女松坂砂糖)
很遗憾，砂糖一年前的预言又一次印证了——力大砖飞的满血超大杯模型正在逐渐失宠。用户们逐渐认识到小型模型结合合理的优化策略（例如CoT、深度思考），能够在某种程度上以更低的算力消耗，达到全参数满血大尺寸模型同级别的输出质量。
那么，如何在不牺牲性能的前提下，精简模型以实现成本与质量的平衡呢？另外，“671B“的Deepseek-v3/r1，就一定是所谓的”满血版“吗？
认识模型
我们所谓的“模型”，其实储存的是模型各个节点的参数，包括权重和偏置。通常来说，参数量越大的模型能够存储的信息越多，理论上可以处理更加复杂的任务。每个参数也的确就是一个数，与计算机中的其他数一样，它也具有位数和精度——32位浮点（fp32），16位浮点（fp16），8位整型（int8）等等。更高的精度，以及更大的参数量，都会提升模型的性能需求，也能提升模型的输出质量，但同时也会消耗更多的计算资源。
模型的阉割技术，目的就是在可容忍的范围内，牺牲部分输出质量，换取更大的性能提升。
当然，如果一味地进行阉割，降本增效，以次充好，那么上面这句话也可以说成——模型的阉割，本质上是为了节约成本，牺牲掉输出质量。
模型阉割大法
蒸馏
将一个大型的、性能卓越的模型作为教师模型，另一个参数量较小的基底模型作为学生，让老师教学生，使基底模型学习到教师模型输出的分布特征，以及获取教师模型的部分知识。
当然，需要强调的是，蒸馏后的模型仍然是基底模型，它依赖于教师模型的知识，但仍与之有别。基底模型较小的参数量决定了其固有的上限所在。
我之前开玩笑地举了个例子，虽然不太雅观，但很形象：
把一个馒头往厕所里放两天，馒头会有一股屎味，但你不能说它就是屎——屎味的馒头说到底还是馒头。
量化
量化，就是将模型的参数由高精度缩减为低精度。就像做物理题时那样，c=299792458m/s 能让你猪脑过载，但令 c=3*10^9m/s 你就豁然开朗——当然这么做的后果就是你的计算结果并不那么准确。
当我们将FP32，或者FP16的参数修约到FP8，INT4，甚至二元量化或三元量化（三进制重出人间），能够带来数倍的模型体量缩减与性能提升——当然代价同时是损失输出质量，精度压缩得越激进，损失越明显。
好在与其他神经网络相比，多数的大型语言模型对量化具有一定的鲁棒性，即使进行一定程度量化，输出质量的损失也并不那么显著。这是因为LLM模型通常局部不变性更好，即使某一层出现偏差，也会在后续层中得到修复。
剪枝
果农为了收获品质更好的水果，会将一些发育不良的枝条减去，使有限的营养专注供给健康的果子。神经网络也是同理。偌大的神经网络中，存在着大量看起来不那么重要的神经元或者连接。由于这些连接对于模型的输出贡献极小，但实实在在地消耗了计算性能，通过重要性排序和相关性分析，删去一些”不重要“的参数，就能减小模型体积，提升运行时的性能。
剪枝是缩减模型体积，提升运行时性能的有效手段，结合微调手段重建冗余，合理利用剪枝，可以获得非常好的效果。但是过于激进的剪枝策略会删去大量非0权重，会实实在在地影响模型的泛化能力。
总结
模型的阉割大法不仅只有蒸馏一种，量化和剪枝都是重要的手段，并且都具有便捷性，可以在部署时进行。因此，“671b”参数的deepseek，未必就是满血版，它只声称了671b的参数量，但是参数的精度如何，加载模型时是否离线剪枝，又删去了多少参数，这些问题都会影响模型最终的表现。
阉割大法是双刃剑。各种事实已经证明了阉割模型是时代发展趋势，我们是时候摒弃猛堆参数量和精度的思维了。但同时也必须拒绝一种行为，那就是使用阉割的模型以次充好。下一次，当有商家再宣传自己提供671b”满血“大模型时，你就应当多留个心眼，这真的是满血的模型吗？
看完觉得有收获，记得点点认可。虽然不知道有啥用但是搞一个玩玩（
当然，我更希望将来能够有更加规范的行业要求——对于自部署的开源模型，商家不能仅仅公布模型的代号和原始参数规模，而应当披露具体的模型哈希、量化位数、剪枝比率和激活参数规模，以保障消费者的知情权。或者，应当允许消费者设定Temperature=0，以自行检查模型的一致性。
就当是我的下一个预言吧，不过我估计这个行业规范至少需要一年的等待时间。
11 个帖子 - 11 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: 粉毛红瞳精神病美少女松坂砂糖)
gemini-2.0-flash-thinking-exp-01-21 强的离谱
在数学题方面，有一些问题R1答对，O1不对，O1对R1不对，有些Groq对，有些Groq不对，把这些问题全部给gemini-2.0-flash-thinking-exp-01-21测试，对到完，没有开code execution，还没有测试代码(代码还是用claude 3.7 sonnet吧)，没有时间，有时间的佬可以去测试。网页版卡又慢，aistudio比较好
网页版的很烂
如果thinking就不要开code execution了，开code execution回答反而会错
Oceanuo:
用claude测试groq 和 gemini，清一色全部都是gemini获胜
Oceanuo:
Oceanuo:
58 个帖子 - 26 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: Oceanuo)
在数学题方面，有一些问题R1答对，O1不对，O1对R1不对，有些Groq对，有些Groq不对，把这些问题全部给gemini-2.0-flash-thinking-exp-01-21测试，对到完，没有开code execution，还没有测试代码(代码还是用claude 3.7 sonnet吧)，没有时间，有时间的佬可以去测试。网页版卡又慢，aistudio比较好
网页版的很烂
如果thinking就不要开code execution了，开code execution回答反而会错
Oceanuo:
中文作文/理解题那种需要creative（创意）的，使用Deepseek R1（R1 的幻觉实在是高）
中文搜索或者其他，要根据作文的，不要用deepseek，他会瞎编，用Grok-3
其他的除了代码全部使用 Gemini 2.0 Flash Thinking Experimental 01-21
代码用claude 3.7 sonnet
Overall：
math: Gemini
Instruction following: Gemini
Multi Turn: Gemini
Creative Writing: Gemini
Coding: Gemini
hard prompts: Gemini
hard prompts(English): Gemini
Longer Query: Gemini
English: Gemini
Chinese: Gemini
Exclude Ties: Gemini
Exclude Short Query (<5 tokens):Gemini
Exclude Refusal: Gemini
用claude测试groq 和 gemini，清一色全部都是gemini获胜
Oceanuo:
真的很强，我感觉grok 3都没有那么强了
这是Gemini写的中文作文
Oceanuo:
图文检测，google做的应该是最好吧，图内物体等，有关图片的，google做的应该就是最好的吧
58 个帖子 - 26 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: Oceanuo)
你们失眠会去上班吗
一晚上没怎么睡着，早上起来还没什么困意，一想到还要去上班就有点难受，请假也不太好请，你们一般是怎么应对失眠的
43 个帖子 - 42 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: godherry)
一晚上没怎么睡着，早上起来还没什么困意，一想到还要去上班就有点难受，请假也不太好请，你们一般是怎么应对失眠的
43 个帖子 - 42 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: godherry)
提振消费专项行动方案发布，涉及多项措施
提振消费专项行动方案发布中共中央办公厅 国务院办公厅印发《提振消费专项行动方案》_中央有关文件_中国政府网
看到了这条最亮眼
30 个帖子 - 26 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: makeGreat)
提振消费专项行动方案发布中共中央办公厅 国务院办公厅印发《提振消费专项行动方案》_中央有关文件_中国政府网
看到了这条最亮眼
30 个帖子 - 26 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: makeGreat)