某厂 500w-2000w招chatGPT算法领头人。

朋友们，只能帮你们到这里了😂

AI 新知： 像大脑一样学习的多模态（极简版起源故事）
Jeff Dean: AI isn't as smart as you think -- but it could be | TED

以下内容来自Jeff Dean 去年在TED 做的分享，面向所有人。无需担心技术理解力，更依赖你对大脑本身的好奇心。
原始链接🔗： https://youtu.be/J-FzHIQ7SOs

Jeff Dean 二十多年前加入谷歌，领导着谷歌的人工智能研究与健康部门。

核心内容摘要如下：
（这是我的几点解读，供非专业人士参考）
🧠 神经网络的机器学习突破是来自科学界对大脑的运作规律的理解（它是自下而上的）
🧮 算力是重要且有效的，深度学习突破了识别猫咪、机器翻译到 AlphaGO 等单一任务
🙉 AI的单一任务导向的训练是极为低效的，可以请想象成我们从小失去听觉、嗅觉、味觉（去观看电影的感受）
👂 多模态的思想，是进一步模拟大脑运作，就像生物拥有多种感觉来整合认知世界
🎸像大脑一样多个区域进行超高效率的协作，是学习真正的「奥义」；AI的多模态即对大脑深度的模仿。

#ChatGPT 的域名（chat.openai.com）在中国多地被DNS污染了，域名被解析到Twitter、Dropbox、Facebook等网站。

研究了一下午ChatGPT API, 发现坑点有两个:

一个是token计算是双向收费的, 也就是你发给他的和他发给你的加起来一起收费;

另一个就是它不能自动维护对话, 每次要把所有的对话内容+新增内容一起发给他......也就是说几个来回对话很快就能消耗大量的费用.

复旦大学 MOSS 团队：MOSS 参数规模约是 ChatGPT 的 1/10

ithome.com/0/676/827.htm

“邱锡鹏教授团队表示，MOSS 目前的最大短板是中文水平不够高，主要原因是互联网上中文网页干扰信息如广告很多，清洗难度很大。”

#chatGPT观点

人的出身很重要，机器之心也不例外

神奇，diffusion 模型能通过训练理解大脑核磁共振成像并生成和真实看到的物体接近的图片。

论文中图片:
第一排➡️ 测试用的真实图片
第二排➡️ 模型训练脑核磁共振数据生成图片

真是科幻电影里的技术！

#chatGPT观点

在AI 发达的时代，我们要好好想想怎么养育一个人，而不是训练一个人。

传统教育是居高岭下的，被动式的灌输教育，就和训练 AI 一样。事先划定学习范围，把标记过对错的学习材料喂给受训练对象，完了考核训练结果，这在 AI 领域叫“监督式学习”。现在 GPT 训练都是“无监督学习”，不用标记数据，能自己找规律，它天生设定就是能知道老师不知道的东西。所以填鸭式教育已经完全落后当前的 AI 训练方法。

这张图很形象地描述了 ChatGPT 背后涉及到的 3 个主要的步骤：

1. 自监督学习 (基于文本自动生成的输入-输出对)
2. 监督学习 (基于特定 task 的 fine-tuning)
3. RLHF (人类反馈强化学习)

具体解释可以参考这个 thread：
https://twitter.com/hlntnr/status/1632030583462285312

#ChatGPT 快捷指令表来了，可通过标签筛选、关键词搜索和一键复制来使用提示词，旨在简化你的工作流程并提高生产力。即使是初学者，你只需复制提示词，稍加修改后发送给 ChatGPT，就能获得指定输出，让你的生产力加倍！

https://github.com/rockbenben/ChatGPT-Shortcut