LeCun 与吴恩达聊"为什么反对暂停AI"

近期呼吁暂停比GPT-4更强AI训练的激辩愈发激烈。而公开信的签名人数，也从最初的1000出头，猛增到了近1.6万。

⭐️ 面对接踵而至的指责和质疑， OpenAI匆忙在凌晨 发文 回应：我们会坚决保障AI安全，绝不“偷工减料”！

⭐️ 图灵三巨头之一的Bengio，昨天专门在自己的博客上写了一篇长文，解释自己为什么签名赞成暂停超强AI研发。

⭐️ 而另一巨头LeCun表示，今天关于AI安全的讨论，跟1890年关于客机安全的讨论一样，全是推测性的。与极端AI末日论者辩论AI伦理和安全，就像与神创论者辩论进化论一样，毫无意义。“由于担心动荡，奥斯曼帝国限制了印刷书籍的传播。因此错过启蒙运动，失去了在科学技术上的主导地位，并最终失去了经济和军事上的影响力。”

⭐️马斯克：这是电车难题另一面，你们这些反对暂停的人就属于下面这种人：“另一条路太绕，会减慢AI的发展，不如还是直接碾过去吧。”而有网友指出“如果你没有将强大的AI装到特斯拉中，我会更相信你的担忧。”

⭐️ 根据一项调查，69%的美国成年人支持暂停开发六个月，这与 本频道的调查 相差较大

🔝 www.youtube.com/live/BY9KV8uCtj4

#AI资料分享
Claude 团队的这篇 RLHF 的论文，非常有趣，而且在 ChatGPT 发布之前几个月就发了，这俩公司的思路出奇的一致，不知道是不是也互通了信息。

📺 推荐观看李沐的讲解版本:
www.bilibili.com/video/BV1XY411B7nM
☄️ 论文:
arxiv.org/pdf/2204.05862.pdf
⚜️ 来源

#AI工程
用自然语言来使用shell

🖥 https://github.com/emcf/engshell

engshell 是一个由 LLM 提供支持的应用程序，它允许您使用自然语言与 shell 进行交互。

支持录屏、压缩文件、查看天气、获取推荐、生成图片、阅读新闻、做数学、管理文件等任务。

#AI工程
Claude API 版本的bob-plugin-translator

🖥 https://github.com/jtsang4/bob-plugin-claude-translator

基于 Anthropic Complete API 实现的 Bob 插件。拥有翻译、润色的功能。Claude API 申请通过的朋友可以试试，也可在 anthropic.com/product 免费申请。

#AI应用
NASA 发布DAGGER AI 模型

⭐️ 该模型使用 AI 分析太阳风测量数据，快速准确预测世界各地的地磁扰动，并提前30分钟发出警告。这可以提供足够时间为风暴做准备，防止对电网和电力等关键基础设施的严重影响。该模型可以在一秒钟内产生预测结果，每分钟更新一次。

⭐️ 太阳风暴可能会对人员和经济造成破坏性影响。预测很有必要
• 1859 年 — 卡灵顿事件
• 1989 年 — 魁北克停电

— 来源

如果有一天，不仅仅是用微信聊天记录，而是能够用"我"的行为动作表情数据，语言发声和交谈内容数据，日常行为习惯数据，心情变化联动数据等，实时采样数据训练成模型，并有技术成熟机器人可作为模型的躯壳。我就可以克隆硅基版本的"我"了。

于是，我有了分身术。请以此为开篇，写一篇小说，要有爱情故事，情节悬疑引人入胜。

⚜️ 来源

为什么AI经常画错手

强烈推荐 Vox 的这段制作精良的视频：
🔝 https://youtu.be/24yjRbBah3w

🔠 数据大小。在图片中，手往往占据更小的像素空间，比如面部照片就比手部照片更常见。

🔠 缺乏具体化的理解。AI不能在物理世界中使用手，它们必须通过表面模式匹配来推断手在各种姿势下的样子。手指经常被遮挡且姿态万千，这就是为什么 AI 甚至无法准确计算出手指的数量，从技术上讲，diffusion不能很好的工作。

🔠 容忍度低。有些物体纹理错乱不会注意到。但失手很容易引发恐怖谷反应。

LeCun 的相关论文:
⚜️ https://openreview.net/pdf?id=BZ5a1r-kVsf

#AI论文
斯坦福训练 AI版 "动物森友会"

⭐️ reverie.herokuapp.com/arXiv_Demo/#

斯坦福的人机交互小组用大语言模型做了一个有二十五个 AI 角色的数字小镇，这些角色自由自在的在里面生活，并且涌现出了很多高可信度的社会行为，例如时间协调甚至是情人派对。

⚜️论文: arxiv.org/abs/2304.03442

-- 来源

#AI应用
AI Tools for Designers | 设计师 AI 工具箱

⚜️ designtools.ai

专门收集设计师需要使用的 AI 工具的网站，工具是否收费也标注清楚了

4月10日，OpenAI 的CEO 在日本自民党的AI发展第九次会议上以“ChatGPT的活用和其他技术以及对日本的建议”为题做了宣讲，众议院议员上传了可公开的资料，其中就包括SAM的PPT。

点击下面链接可查看内容和中文翻译:
⚜️ PPT地址 ⭐️ 中文翻译和解读

-- 来源

AI来袭，摄影和摄影师的价值在哪里？

关于AI与摄影，真实与虚假，来听听摄影师Faizal 的看法，“生为创作，摄影是用光作画，而AI 不是摄影！”。

人的眼睛像一架没有快门的相机，一生只有一次从出生到死亡的长曝光。一定要坚持看完哦～

🔝 https://youtu.be/VK0gL_Cxxyk
#YouTuber

#AI论文
大型语言模型比人类数据标注者更好

《GPT-3 有帮助但并不比人类好》
⚜️ https://arxiv.org/abs/2108.13487

《GPT-3.5 与人类相当》
⚜️ https://arxiv.org/abs/2303.16854

《GPT-4 优于25美元/小时的人类》
⚜️ https://arxiv.org/abs/2304.03279

OpenAI宣布最高2万美元bug赏金猎人计划

⚜️ https://bugcrowd.com/openai

⭐️ OpenAI宣布公开悬赏200至20000美元帮助公司发现AI系统漏洞。并表示“透明和协作”是发现其技术漏洞的关键。 ( 来源 ）

⭐️ 有人已搭建 chatGPT 越狱 奇技淫巧的网站，Altman在与MIT科学家Lex Fridman的播客中也谈到越狱的问题，OpenAI的应对思路是把功能做的足够强，甚至愿意在某些方面给用户更多权限，以便了解他们到底想要什么。

斯坦福大学生开发的LifeOS，一种用于AR眼镜的AI操作系统

🔠 通过 AR 智能眼镜提供个人 AI 助手服务

🔠 使用计算机视觉来识别你朋友的脸

🔠 根据你们的对话文字调出相关的背景细节来辅助聊天（记忆）

该系统利用GPT-4、苹果的语音框架进行转录，以及Brilliant Labs的面部识别技术，在对话中识别面孔并提供相关信息。

看到了科幻电影的影子，相信这只是AI和AR/VR技术结合的开始。

-- 来源