刚刚发布了一封信，要求暂停大型 AI 实验。

科技行业的一些知名人士，如 Elon Musk、Steve Wozniak 和 Jaan Tallinn 签署了一封上周二发表的“暂停巨型 AI 实验”的公开信。

这封信由未来生命研究所发布，呼吁所有人工智能实验室立即暂停至少 6 个月的训练，以训练比 GPT-4 更强大的人工智能系统。

1.“先进的人工智能可能代表地球生命史上的深刻变化”

2022 年 11 月发布的 ChatGPT 引发了一场人工智能竞赛。最近谷歌推出了 Bard，发布了很多 AI 工具，甚至升级了 GPT 模型（比预期的要早）。

现在似乎存在部署更好的人工智能技术的压力。

微软副总裁泄露的一段录音可能表明：来自 [CTO] Kevin [Scott] 和 [CEO] Satya [Nadella] 的压力非常非常大，要求采用这些最新的 OpenAI 模型以及紧随其后的模型和以非常高的速度将它们送到客户手中。

这场 AI 竞赛违背了Asilomar AI 原则，该原则指出“应该以相称的关怀和资源来规划和管理 AI”。

不幸的是，随着微软解雇了教导员工如何负责任地制作人工智能工具的团队，情况看起来并不好。尽管微软仍然保持着一个活跃的负责任人工智能办公室，但员工表示，道德和社会团队确保公司负责任的人工智能原则实际反映在所交付产品的设计中。

但 AI 竞赛并非微软和谷歌等大型科技公司独有，最近，越来越多的公司正试图将 AI 集成到他们的产品中。

不管你的产品是什么，它都需要人工智能。

正如许多技术领导者签署的信中所说，人工智能实验室似乎已经锁定了一场部署强大数字思维的竞赛，即使是他们的创造者也无法理解、预测或可靠控制。

2.“我们应该把所有的工作都自动化掉，包括有成就感的工作吗？”

人工智能系统可能会威胁到未来的许多工作。事实上，OpenAI 最近的一项研究可能会让我们很好地了解哪些工作可能很快会被人工智能取代。

但这并不是工作所独有的。未来生命研究所的恐惧在于人工智能系统现在如何在一般任务上变得具有人类竞争力。

在信中，他们鼓励我们问自己以下问题：

我们应该让机器用宣传和谎言充斥我们的信息渠道吗？

我们应该自动化所有的工作，包括令人满意的工作吗？

我们是否应该发展最终可能超过我们、超越我们、过时并取代我们的非人类思维？

我们应该冒险失去对我们文明的控制吗？

显然，我们不应该。

我们必须控制我们开发的技术。问题是目前，这不取决于我们。人工智能如何发展的决定权委托给一小群技术领导者。

在 OpenAI最近的一份声明中，他们表示他们的使命是确保通用人工智能造福全人类。为了兑现这一承诺，OpenAI 应该在训练未来系统之前进行独立审查。不幸的是，目前还不清楚那一天何时到来。

越早为 AI 实验室制定公共标准和外部审计，我们就越能感受到新的 AI 进步。

3.“让我们享受一个漫长的人工智能夏天，而不是毫无准备地陷入秋天”

我们生活的 AI 夏天是由于像 ChatGPT 这样的 AI 工具给我们的生活带来的好处。也就是说，如果我们不为更先进的人工智能系统在未来可以做的事情做好准备，那么我们所喜爱的人工智能技术可能会成为我们的最终垮台。

在最近的一篇论文中，微软声称GPT-4 展示了通用人工智能(AGI) 的“火花”。对于那些不熟悉 AGI 的人来说，这是理解或学习人类可以完成的任何智力任务的能力。

那不应该那么快发生。

尽管有人声称AGI 一词在论文中被用作点击诱饵，但这仍然引发了一些不可避免的问题。

如果 GPT-5 实际上展示的不仅仅是 AGI 的“火花”呢？

如果可以可靠地控制 GPT-5 会怎样？

我们准备好了吗？

但愿如此。

我们只能确定一件事。如果以负责任的方式推动 AI 进步，我们都将享受一个漫长的 AI 夏天。否则，我们所有人（不仅是决策者）都将不得不面对后果。

我不确定这封信中要求的 6 个月暂停背后是否还有其他原因，但至少现在负责任的 AI 实践话题已经摆在桌面上了。

目前，由于需求量大，签署方名单暂停。