拜登将与技术顾问讨论AI的“风险和机遇”

⭐️ 虽然AI很大程度未受到监管，但这并不是拜登政府第一次采取行动对抗新兴技术。去年白宫发布了“人工智能权利法案蓝图”，今年3月，美国FTC发布声明，命令AI从业者要保证人工智能的安全性

⭐️人工智能是一项需要整顿治理的复杂技术，不太指望 POTUS 在今天的会议上拿出一个非常清晰的前进路线图。但这次对话是一个积极的动作。且该领域的大多数专家（包括 OpenAI 首席执行官 Sam Altman 本人）都支持监管。

⚜️https://artifact.news/s/L7ubIxtQW2Q=

#AI论文
大型语言模型可以评估新闻媒体的可信度

⚜️ arxiv.org/abs/2304.00228

- 用ChatGPT 评估各种新闻媒体的可信度
- 评级与人类专家的评级相对一致
- LLM可以成为事实可信度评级的参考
- 未来 LLM 训练应加强保持与权威机构对信息来源可信度判断的一致性，以提高信息准确性

Meta 发布 Segment Anything Model 新AI模型

⚜️ segment-anything.com

新模型支持对图像/视频中的任何对象进行"抠图"，具有强大的通用性，是图像内物件分割的超级利器！在商品识别（制作）、机器人视觉、医学图像诊断、自动驾驶、视频剪辑、增强现实等领域将发挥重要作用。

纯语音对话构建部署一个网站

McKay Wrigley以其快速构建AI应用而著名，他的项目作品包括:
⭐️ Chatbot UI
⭐️ Siri with ChatGPT
⭐️ AI code translator 将代码转换成另一种语言

这次他构建了一个基于GPT-4的无代码助手，可通过语音启动项目、构建整个应用程序、创建GitHub仓库，将其部署为可运行的网站。

-- 来源

OpenAI 最新官方发布应对AI 安全的策略
(中文翻译见评论区)

OpenAI主要探讨了安全地构建、部署和使用人工智能系统的方法。

⭐️ 强大的人工智能系统应该接受严格的安全评估。GPT-4在发布之前，内部员工耗时6个月确保模型更加安全和一致。
⭐️ 并且，还让外部专家参与反馈，利用人类反馈强化学习（RLHF）等技术改善模型的行为。
⭐️另外，文中还列出了其他确保AI安全的方法：- 从真实世界的使用中学习，以改进保障措施- 保护儿童- 尊重隐私- 提高事实的准确性

⚜️ https://openai.com/blog/our-approach-to-ai-safety

最近一批YC创业项目超40%与AI/ML相关

YC每年“孵化”数百家公司，分夏季和冬季批次。在 2023 年冬季 (W23) 批次的 266 家公司中，超过 40% 与人工智能或机器学习 (ML) 有关。

⭐️其中很多是开发者工具，改进软件开发工作流程。

⭐️竞争激烈。有许多公司看起来非常相似。

⭐️公司很新。有相当数量的公司在上个月才上线。有些公司似乎是 ChatGPT/GPT-4 的简单包装。

⭐️大型企业、医疗保健和政府不会向 OpenAI 发送敏感数据。这为初创公司在为这些垂直行业构建内部部署的、合规的 GPT 留下了机会。

⭐️一些最有趣的公司正将 AI 引入专业领域。 AI 用于对冲基金、建筑项目、药物发现等等。

⚜️ 来源 (含有112项目列表介绍)

一位YouTuber在2012年上传了这段视频，这是他在2004年写的博客里对人工智能的设想:

"展示未来的 Google 如何使用人工智能直接与用户对话并回答问题"

当时许多人看到的时候觉得这不可能。于是时间来到 了2023 年...

🔝 https://youtu.be/RupYlWs4EiM

Anthropic计划未来4年筹集50亿美元挑战OpenAI

⭐️ Anthropic 计划未来18个月投入十亿美元训练比当今最强AI 强 10 倍的新模型“Claude-Next”。Anthropic称新模型是“自我学习的下一代AI算法”，开发了一种称为“constitutional AI”的训练技术。在较高层次上使 AI 与人类意图保持一致，比chatGPT更安全可控。

⭐️ 3 月初，Anthropic 正寻求以 41 亿美元的估值筹集 3 亿美元，使其筹资总额达到 13 亿美元。倒闭的FTX 的姊妹公司 Alameda牵头 5.8 亿美元 B 轮融资。谷歌承诺向 Anthropic 投资 3 亿美元获得 10% 的股份。Anthropic将谷歌云作为其“首选云提供商”。

⭐️ OpenAI 前研究副总裁Dario Amodei于 2021 年创立了 Anthropic 作为一家公益公司，并带走了一些 OpenAI 员工，其中包括 OpenAI 的前政策负责人Jack Clark。 Amodei 在对公司发展方向（即这家初创公司日益关注的商业重点）存在分歧后从 OpenAI 中分离出来。 OpenAI Mafia

-- 来源

《Sparks of Artificial General Intelligence: Early experiments with GPT-4》作者Sebanstien Bibeck的分享

🔝 https://youtu.be/qbIk7-JPB2c

⭐️ 原论文地址:
https://arxiv.org/pdf/2303.12712v1.pdf
⭐️ 论文中文翻译版:
https://news.1rj.ru/str/LptTech/580
⭐️ Orangeai 对论文的解读:
https://news.1rj.ru/str/LptTech/555

Truepic 和Revel.ai联手制作了一个逼真的视频，用以告诉人们，现在任何视频都有可能是假的，并po出了他们的制作过程。

⚜️ truepic.com/revel/

一个把 Midjourney 提示词可视化并提供编辑功能的工具

• 显示英文提示词的中文翻译
• 翻译输入的中文提示词到英文
• 为提示词进行分类
• 轻松的排序、隐藏提示词
• 把提示词可视化结果导出为图片
• 常用提示词词典
• 通过 Notion 管理提示词词典

🖥 github.com/Moonvy/OpenPromptStudio

LeCun 与吴恩达聊"为什么反对暂停AI"

近期呼吁暂停比GPT-4更强AI训练的激辩愈发激烈。而公开信的签名人数，也从最初的1000出头，猛增到了近1.6万。

⭐️ 面对接踵而至的指责和质疑， OpenAI匆忙在凌晨 发文 回应：我们会坚决保障AI安全，绝不“偷工减料”！

⭐️ 图灵三巨头之一的Bengio，昨天专门在自己的博客上写了一篇长文，解释自己为什么签名赞成暂停超强AI研发。

⭐️ 而另一巨头LeCun表示，今天关于AI安全的讨论，跟1890年关于客机安全的讨论一样，全是推测性的。与极端AI末日论者辩论AI伦理和安全，就像与神创论者辩论进化论一样，毫无意义。“由于担心动荡，奥斯曼帝国限制了印刷书籍的传播。因此错过启蒙运动，失去了在科学技术上的主导地位，并最终失去了经济和军事上的影响力。”

⭐️马斯克：这是电车难题另一面，你们这些反对暂停的人就属于下面这种人：“另一条路太绕，会减慢AI的发展，不如还是直接碾过去吧。”而有网友指出“如果你没有将强大的AI装到特斯拉中，我会更相信你的担忧。”

⭐️ 根据一项调查，69%的美国成年人支持暂停开发六个月，这与 本频道的调查 相差较大

🔝 www.youtube.com/live/BY9KV8uCtj4

#AI资料分享
Claude 团队的这篇 RLHF 的论文，非常有趣，而且在 ChatGPT 发布之前几个月就发了，这俩公司的思路出奇的一致，不知道是不是也互通了信息。

📺 推荐观看李沐的讲解版本:
www.bilibili.com/video/BV1XY411B7nM
☄️ 论文:
arxiv.org/pdf/2204.05862.pdf
⚜️ 来源

#AI工程
用自然语言来使用shell

🖥 https://github.com/emcf/engshell

engshell 是一个由 LLM 提供支持的应用程序，它允许您使用自然语言与 shell 进行交互。

支持录屏、压缩文件、查看天气、获取推荐、生成图片、阅读新闻、做数学、管理文件等任务。