今天是Transformer论文《Attention is All You Need》发布六周年纪念日！

有趣的事实：

⭐️ Transformer并非创造了注意力机制，但它将其推向了极致。首篇关于注意力机制的论文早在3年前（2014年）发表，题目并不引人注目：“通过联合学习对齐和翻译实现神经机器翻译”，出自Yoshua Bengio实验室。该论文结合了RNN和“上下文向量”（即注意力）。很多人可能没有听说过这篇论文，但它是自然语言处理领域最重要的里程碑之一，已经被引用了2.9万次（相比之下，Transformer被引用了7.7万次）。

⭐️ Transformer和最初的注意力论文都没有谈论通用序列计算机。相反，它们都被构想为解决一个狭窄而特定的问题：机器翻译。令人惊讶的是，AGI（即将来的人工智能通用智能）可以追溯到谦逊的谷歌翻译。

⭐️ Transformer于2017年发表在全球顶级人工智能会议NeurIPS上。然而，它甚至没有得到口头报告，更别说奖项了。那一年的NeurIPS有三篇最佳论文，至今总共引用了529次。

-- 更多详情

Google向所有人开放其生成式AI平台

⚜️ 谷歌官方文档

想象一下为每个人解锁机器学习的力量。现在，企业可以将Google的Vertex AI集成到他们的应用中。

⭐️ 开发者现在有了新工具和模型可以使用，如PaLM 2词汇完成模型，以及Model Garden中的更多模型。另外，平台内置了企业级数据治理、安全和保护功能。

⭐️ 在Model Garden中有超过60种模型可供选择。并且更多模型正在途中。另外，用于代码完成、代码生成和聊天的Codey模型现在已经可公开预览了。

⭐️ Vertex AI不仅是一个平台，它是一个工具包。开发者可以在生产环境中调整、启动和管理模型。感谢新的生成式AI工作室，构建自定义生成式AI应用程序从未如此快捷。

⭐️ 最新的相关应用：GA Telesis正在使用PaLM模型从邮件中提取数据。GitLab正在使用Codey模型帮助开发者理解和修复代码漏洞。Canva则将其用于语言翻译。

-- 更多详情

AI 英语口语工具: InstaSpeak

⚜️ https://app.insta-speak.com/

对着麦克风说一分钟，AI会分析你的发音、词汇量、间隔等，帮助你更快的提升自己的口语水平。

-- 更多来源

什么是Deep Fake？

无论你准备与否，深度伪造技术已经来临。Deep Fake将改变我们对周围信息甚至彼此的信任方式。问题是，我们是否准备好应对它们带来的威胁，同时又能充分利用它们的潜力来实现善用？

🔝 https://youtu.be/S951cdansBI

HeyGen AI视频翻译效果惊艳全场

口型完美，卡点和嘴型都对的上。声音克隆稍有缺陷但也很好了，毕竟HeyGen只通过40秒的视频来克隆音频。如果刻意对比原视频，情感还原度稍有欠缺。

⚜️ 付费方案：HeyGen视频翻译功能全套解决
地址： labs.heygen.com/video-translate

⚜️ 开源方案：
- 语音转文字：whisper
- 文字翻译：GPT
- 声音克隆+生成音频：so-vits-svc
- 生成符合音频的嘴型视频：GeneFace++

🖥 github.com/svc-develop-team/so-vits-svc
🖥 github.com/yerfor/GeneFace

期待各种应用场景的出现，YouTube视频分分钟转成全球各种语言，受众立马翻几倍。有朝一日，语言成为人们沟通障碍的情况终会消失。

-- 更多详情

#推荐阅读
构建外脑 / 智变时代的个人知识管理

本文探讨在新一轮的 AI 变革之下，如何用新工具来帮助扩展大脑思维与记忆的边界，以及知识工作流的新方法，激发潜能，构建外脑(ExoBrain)

⚜️ https://www.indigox.me/build-exobrain/

Andrew Ng: Opportunities in AI - 2023

Andrew Ng 最近就AI机遇发表演讲，"人工智能的价值将在未来三年内翻倍，但大多数人都在构建错误的东西。"

⭐️ 不建议做套壳APP，护城河弱。如果你有分销优势，就充分利用它并创造防御能力。
⭐️AI的主要机会在长尾。更推荐用prompt、专有数据和低代码工具定制应用程序。
⭐️ 从领域问题的具体想法开始。快速地验证想法，为团队提供明确的执行方向。传统的市场研究需要很长时间。

🔝 https://youtu.be/5p248yoa3oE?t=694

波士顿动力利用ChatGPT将机器狗变成了会说话的导游狗

波士顿动力使用 ChatGPT API 和开源大型语言模型来训练，并为其配备扬声器，增加了文本到语音功能让它"说话"。

团队问机器狗它的"父母"是谁，结果它走到了办公室里陈列的老款机器狗模型的地方。🙂

"我们很高兴能继续探索AI与机器人技术的交叉点，LLMs可以帮助提供文化背景、常识性知识和灵活性，与机器人对话就能为其分配任务，这将有助于降低使用这些系统的学习曲线。"

-- 更多详情

AI帮助“披头士”发行最后一首“新”歌

甲壳虫乐队的音乐走红60年之后，四人乐队中已有两名成员去世，但AI技术使下周发行最后一首甲壳虫乐队“新”歌成为可能。据消息名为《今与昔》的歌曲将于11月2日与甲壳虫乐队1962年在英国发行的第一首单曲《爱我吧》配对发行。

-- 🔝 更多详情