智东西（公众号：zhidxcom）
编译 | 吴菲凝
编辑 | 李水青
(资料图片仅供参考)
智东西3月29日消息，在未来生命研究所（Future of Life Institute）官网上，包括图灵奖得主约书亚·本吉奥（Yoshua Bengio）、特斯拉CEO埃隆·马斯克（Elon Musk）、苹果公司联合创始人史蒂夫•沃兹尼亚克（Steve Wozniak）、DeepMind高级研究科学家扎卡里·肯顿（Zachary Kenton）等在内的数千名AI领域企业家、学者、高管发出了一封题为《暂停大型人工智能研究》公开信。
这些AI专家们在信中强烈呼吁：所有AI研究室立刻暂停训练比GPT-4更加强大的AI系统，为期至少6个月，并建议各大企业、机构共同开发一份适用于AI研发的安全协议，同时信中还提到各国政府应当在必要的时候介入其中。截至目前，已有1125人签名支持这封公开信。
▲目前的签名名单
专家们在信中指出，AI智能系统在和人类竞争的过程中可能会对社会和人类造成巨大风险。
这封信尖锐发出四大问：
1、我们是否应该让机器用宣传和不实之词充斥我们的信息渠道？
2、我们是否应该使所有的工作都自动化？
3、我们是否应该发展可能超过并取代我们的非人类思维？
4、我们是否应该去冒失去对自身文明控制的风险？
专家们在信中补充道，全球的AI实验室和该领域专家应该利用这次暂停研究的机会，共同制定和实施一套全人类共享的安全协议，用于未来更加先进的AI设计和开发。这些协议需要由外部专家进行严格的审计监督，来确保整个系统经受得住质疑。
但此次暂停并不意味着未来完全停止继续研发人工智能，只是让产业暂时从激进的、危险的AI竞赛中退一步，退到更具潜力的新兴科技的蓄力准备当中。
OpenAI此前发布的GPT-4是人工智能领域发展历程中的一大重要里程碑，专家认为，将在今年晚些时候发布的GPT-5将会在可靠性、创造性和对复杂任务的适应性上更上一层楼，可能带来更多新功能的升级，比如根据用户的特定需求和输入变量量身定制，提供更加个性化的体验；增强AI以更像人类的方式理解和响应自然语言的能力；通过提供相关信息和见解，帮助用户做出明智的决策等。
GPT-5将会在各方面能力上远超GPT-4，而这也是数千位AI专家们发起这封公开信的主要原因：进步伴随着隐患。
以下为公开信全文内容：
正如广泛的研究和顶级人工智能实验室所表明的那样，具有人类竞争智能思维的人工智能系统可能会对社会和人类构成深刻的风险。正如被广泛认可的《阿西洛马人工智能原则》中所说，高级人工智能可能代表着地球上生命历史的深刻变化，应该以相应的谨慎态度和资源进行规划和管理。不幸的是，这种级别的规划和管理并没有发生，尽管最近几个月看到人工智能实验室陷入了一场失控的竞赛中，大家都在开发和部署越来越强大的数字思维，包括创造者在内的所有人都无法理解、预测甚至控制这些人工智能的繁衍。
当代人工智能系统在一些日常任务中已经可以与人类相匹敌。我们需要扪心自问：
我们是否应该让机器用宣传和谎言充斥在我们各种信息渠道？我们是否应该把所有的工作都自动化，包括那些给人带来满足感的工作？我们是否应该开发非人类的大脑，使其最终超过我们的数量，胜过我们的智慧，淘汰我们并取代我们？我们是否要冒着失去对我们文明控制的风险？
此类决策不得委托给未经选举的技术领导者。这种信心必须有充分的理由，并随着系统潜在影响的大小而增加。OpenAI最近关于通用人工智能的声明指出，“在某些时候，在开始训练未来系统之前，获得独立审查至关重要，而且必须限制用于创建新模型的计算增长率。我们无比同意这一观点，而且现在是时候这样做了。”
因此，我们呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，为期至少6个月。这种暂停应该是公开的、可验证的，并包括所有关键参与者都应该在列。如果这种暂停不能迅速实施，政府应该介入并制定暂停令。
人工智能实验室和独立专家应利用这次暂停期，共同制定和实施一套先进的人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格的审计和监督。这些协议应该确保遵守它们的系统是安全的、无可置疑的。当然，这一行动并不意味着暂停人工智能的总体发展，只是从越来越大且不可预测的黑盒模型的危险竞赛中退后一步。
人工智能的研究和开发应该重新聚焦于使当今强大的、最先进的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。
同时，人工智能开发者必须与政策制定者合作，加快开发强大的人工智能治理系统的速度。至少应该包括以下措施：
1、设立专门针对人工智能的新的且有能力的监管机构；
2、监督和跟踪高能力的人工智能系统和大型计算能力池；
3、确定AI内容出处和加上水印系统，以帮助用户区分真实和合成的内容，并跟踪模型泄漏；
4、强大的审计和认证生态系统；
5、对人工智能造成的伤害承担责任；
6、为人工智能安全技术研究提供强大的公共资金；
7、各机构保证有充足的资源来应对人工智能可能导致的巨大经济和政治破坏。
人类可以享受人工智能带来的繁荣未来。在成功创造出强大的AI系统之后，我们现在可以享受一个“人工智能之夏”，设计这些系统以造福所有人，并为社会提供大量机会。让我们享受一个漫长的人工智能夏季，而不是在毫无准备的情况下匆忙进入秋天。
结语：千人呼吁停训GPT-5，AI负面影响引关注
GPT-4刚出世不久，GPT-5已在狂飙而来的路上，但随之而来的是不断加剧的AI焦虑和潜在隐患：本就抢手的劳动岗位被AI取代、工作机会更加稀缺，加剧了社会焦虑情绪的蔓延，以及AI换脸知名演员、AI生成低俗图片等负面新闻不断涌现，这些便利和智能伴随而来的困扰和隐患已经对人们的日常生活产生了副作用。此次千名业内大佬叫停GPT-5的训练意在及时刹车，让愈演愈烈的AI竞赛回到匀速发展的轨道。
但在外媒The Verge看来，这封信不太可能对当前的人工智能研究环境产生任何影响，谷歌和微软等科技公司都急于部署新产品，经常忽视以前公开宣称的对安全和道德的担忧。
来源：未来生命研究所官网
责任编辑：Rex_29
营业执照公示信息