商业竞争将使人工智能不可控，从而危及人类自身

数百位知名的人工智能专家、科技企业家和科学家联名发布了一封公开信，呼吁对比OpenAI的语言模型GPT-4更强大的人工智能技术进行暂停开发和测试，以便能够对其可能带来的风险进行充分的研究。

公开信警告称，像GPT-4这样的语言模型已经能够在越来越多的任务上与人类竞争。公开信还提出了人工智能系统可以取代人类并重塑文明的遥远前景。

公开信要求所有人工智能实验室暂停训练比GPT-4更强大的人工智能系统，至少暂停6个月（包括目前正在训练的GPT-5）。公开信的签署者包括蒙特利尔大学教授、现代人工智能先驱之一的Yoshua Bengio，历史学家Yuval Noah Harari，Skype联合创始人Jaan Tallinn和Twitter首席执行官Elon Musk等。

该公开信由关注人类技术风险的组织“生命未来研究所”发布，要求这种暂停应该是“公开和可验证的”，并应该涉及所有正在开发像GPT-4这样的先进人工智能模型的人员。公开信并未提出如何验证开发暂停的方法，但补充说“如果这样的暂停无法迅速实施，政府应该采取措施实施停止”，尽管这在六个月内似乎不太可能发生。

微软和谷歌对这封公开信没有做出评论回应。公开信的签署者似乎包括许多正在构建先进语言模型的技术公司的人员，包括微软和谷歌。OpenAI公司的发言人Hannah Wong表示，该公司在训练模型后花费了六个多月的时间来确保GPT-4的安全性。她补充说，目前OpenAI并没有在训练GPT-5。

这封信发表之际，人工智能系统正取得越来越令人印象深刻的飞跃。GPT-4两周前才公布，但它的能力已经引起了相当大的关注。该语言模型可通过OpenAI的聊天机器人ChatGPT获得，在许多学术测试中得分很高，并且可以正确解决棘手的问题。然而GPT-4也犯了很多低级的逻辑错误。就像它之前的版本一样，这种技术有时会产生不正确的信息，揭示出根深蒂固的社会偏见，并且可能会因为被引导而说出讨厌或者有潜在危害的话。

公开信签署人表达的部分担忧是，OpenAI、微软和谷歌已经开始了一场以利润为驱动的竞赛，以尽快开发和发布新的AI模型。信中认为，以这样的速度，事态发展的速度超过了社会和监管机构所能接受的速度。

微软已经向OpenAI投入了100亿美元，并在其搜索引擎必应和其他应用程序中使用了人工智能。虽然谷歌开发了一些构建GPT-4所需的人工智能，并且之前创建了自己强大的语言模型，但直到今年，由于道德问题，它选择不发布这些模型。

谷歌最近推出了ChatGPT的竞争对手Bard，并通过API提供了一个名为PaLM的语言模型，与OpenAI的产品类似。德克萨斯大学奥斯汀分校教授、《人工智能百年研究》主席彼得·斯通(Peter Stone)表示：“感觉我们进展得太快了。”

斯通是这封信的签署人之一，他说，他不同意信中的所有内容，他个人也不担心存在的危险。但他说，进步发生得如此之快，以至于人工智能社区和普通公众几乎没有时间探索ChatGPT的好处和可能的误用。他说，在竞相建造下一个机器人之前，有必要获得一些关于它们如何使用和滥用的经验。

到目前为止，这场竞争非常迅速。OpenAI于2019年2月宣布了其首个大型语言模型GPT-2。其继任者GPT-3于2020年6月公布。ChatGPT在GPT-3的基础上引入了增强功能，于2022年11月发布。