Forwarded from 知乎大巴扎
Telegraph
学术界为什么会变成今天这个样子？
强化学习里的Reward Hacking 在强化学习（Reinforcement Learning, RL）领域，奖励投机 (Reward Hacking) 是一个核心且棘手的问题。RL智能体（agent）的目标是通过与环境（environment）交互来学习一个策略（policy），以最大化其累积奖励（cumulative reward）。这个过程的核心在于奖励函数（reward function）的设计，它向智能体明确了何为好的行为。然而，精确地定义一个能完全捕捉设计者真实意图的奖励函数是极其困难的…
💊1
如果我当 ai 公司首席，我更亲睐人类公司（Anthropic）的模式。
不在乎在普通用户中间出风头，扩大消费基本盘，而在于强化攻坚复杂工程问题的能力，让 AI 能做好概念设计，做好 prototype design，并有极强的工程能力来实现原型设计和模块设计。而且这家公司会注重政治站位，会参与国防军工项目。
不在乎在普通用户中间出风头，扩大消费基本盘，而在于强化攻坚复杂工程问题的能力，让 AI 能做好概念设计，做好 prototype design，并有极强的工程能力来实现原型设计和模块设计。而且这家公司会注重政治站位，会参与国防军工项目。
👎3
inside class
如果我当 ai 公司首席，我更亲睐人类公司（Anthropic）的模式。 不在乎在普通用户中间出风头，扩大消费基本盘，而在于强化攻坚复杂工程问题的能力，让 AI 能做好概念设计，做好 prototype design，并有极强的工程能力来实现原型设计和模块设计。而且这家公司会注重政治站位，会参与国防军工项目。
论政治站位，已经有个比 Anthropic 更高的公司了，叫 Palantir……
Forwarded from 今天abc看了啥🤔 (asfr | abc1763613206🤔)
本期报告您将看到：
1. 逆 城 市 化（指北京地区不推广）
2. 开 发 友 好（检测到有开发/调试/逆向软件就不推广）
3. 缸 中 之 脑（检测到虚拟机痕迹/任务栏图标个数过少/历史记录里缺乏指定游戏等虚假用户环境就不推广）
4. 善 待 同 行（检测同类杀毒软件的安装情况并差异化行为，并对控制面板等操作进行规避）（检测到有淘客类插件也不推广，防止推到同行脸上）
5. 给 钱 办 事（大量检测用户是否充值软件会员乃至充值金额的逻辑，甚至主动读注册表检测360弹窗过滤器的强力模式是否开启）
6. 不 求 功 名（检测到用户访问吾爱看雪等技术类、12315等投诉类网站会停止推广；检测到用户搜索流氓软件关键词会停止推广，检测到用户访问过周鸿祎的微博会停止推广）
——
刚读完，建议读者打开文章仔细过一过细节，这简直是教科书级别的流氓软件，该想到的想不到的都给你想了，以后写流氓软件不考虑这些的可以直接原地删库了。
看完了打个红衣疫苗再走：https://weibo.com/1708942053
1. 逆 城 市 化（指北京地区不推广）
2. 开 发 友 好（检测到有开发/调试/逆向软件就不推广）
3. 缸 中 之 脑（检测到虚拟机痕迹/任务栏图标个数过少/历史记录里缺乏指定游戏等虚假用户环境就不推广）
4. 善 待 同 行（检测同类杀毒软件的安装情况并差异化行为，并对控制面板等操作进行规避）（检测到有淘客类插件也不推广，防止推到同行脸上）
5. 给 钱 办 事（大量检测用户是否充值软件会员乃至充值金额的逻辑，甚至主动读注册表检测360弹窗过滤器的强力模式是否开启）
6. 不 求 功 名（检测到用户访问吾爱看雪等技术类、12315等投诉类网站会停止推广；检测到用户搜索流氓软件关键词会停止推广，检测到用户访问过周鸿祎的微博会停止推广）
——
刚读完，建议读者打开文章仔细过一过细节，这简直是教科书级别的流氓软件，该想到的想不到的都给你想了，以后写流氓软件不考虑这些的可以直接原地删库了。
看完了打个红衣疫苗再走：https://weibo.com/1708942053
知乎大巴扎
字节Seed研究员任赜宇离职，疑似与泄密有关，具体如何？作为从业者，如何判断技术交流与公司泄密的边界？ | 原文
董不懂十年前就在知乎劝退机械了，现在依然还在知乎回答话题，恍如隔世。
Forwarded from Alien外星人
《大空头》电影原型Michael Burry（08年次贷危机前夜做空次级房贷的那位，演员是Christian Bale，带着耳机在办公室听金属乐那个），他的基金Scion Asset Management 在2025年11月10日清盘。
Burry 一直持有英伟达的看跌期权，然后现在扛不住，爆了。
看空英伟达 = 看空AI = 漠视AI对人类社会的意义 = 傻逼
Burry 一直持有英伟达的看跌期权，然后现在扛不住，爆了。
看空英伟达 = 看空AI = 漠视AI对人类社会的意义 = 傻逼