参考消息网2月19日报道据美联社1月29日报道，专家在最近发布的一份史无前例的国际报告中指出，先进的人工智能系统有可能带来新的极端风险，比如加剧大规模失业、助长恐怖主义或使其失控。该报告对人工智能技术带来的一系列风险进行了梳理。
领导此项研究的著名人工智能科学家约舒亚·本乔在接受本社记者采访时表示，这份由一组独立专家撰写的报告是对现有研究的“综合”，旨在帮助指导官员们就这项快速发展的技术制定防范措施。
报告称：“风险极高。”报告指出，几年前，最先进的人工智能系统还几乎无法输出一段连贯的文字，而如今它们能编写计算机程序、生成逼真的图像并展开长时间对话。
虽然一些人工智能的危害已广为人知，比如深度伪造、诈骗和生成带有偏见的结果，但报告称，“随着通用型人工智能能力的增强，更多风险的迹象正逐渐显现”，而风险管理技术仍处于起步阶段。
在这份报告发布之际，梵蒂冈和“末日钟”背后的组织本周也发出了关于人工智能的警告。
报告重点关注通用型人工智能，其典型代表是用于执行多种不同任务的聊天机器人，比如开放人工智能研究中心()的聊天生成预训练转换器()。与人工智能相关的风险分为三类：恶意使用、故障以及广泛的“系统性”风险。
本乔与另外两位人工智能领域的先驱在2019年共同获得计算机科学领域的最高奖项。他表示，参与撰写这份报告的100位专家对于人工智能未来的发展预期并不完全一致。人工智能研究界的一大分歧在于，这项快速发展的技术何时会在各项任务中超越人类能力，以及这将意味着什么。
本乔说：“他们对未来情况也有不同的看法。当然，没人能未卜先知。有些前景大有裨益，有些则令人恐惧。我认为，政策制定者和公众认识到这种不确定性非常重要。”
研究人员深入探讨了可能的危险细节。例如，人工智能使学习如何制造生化武器变得更容易，因为人工智能模型可以提供详细步骤。但报告称，“目前尚不清楚这些模型能在多大程度上应对武器化和投放制剂的实际挑战”。
报告称，通用型人工智能还可能改变一系列工作，并“取代人们的工作”。报告指出，一些研究人员认为，人工智能创造的工作机会可能多于它夺走的工作机会，而另一些研究人员则认为它会导致工资或就业率下降。不过，其最终影响仍存在很大的不确定性。
报告还称，人工智能系统可能会失控，原因可能是它们会主动破坏人类的监督，或者是因为人类对其关注不足。
但报告作者表示，一系列因素使得风险管理变得困难重重，包括人工智能开发者对其模型的工作原理了解甚少。
这份报告还得到了联合国和欧盟的支持，旨在不受政府更迭的影响(比如美国最近的总统换届)，并由各国自行选择如何应对人工智能风险。美国总统特朗普上任首日就废除了前总统拜登的人工智能安全政策，并指示新政府制定自己的方案。但特朗普并未采取任何行动解散拜登去年组建的人工智能安全研究所。
本乔表示，报告的目的并非“提出评估人工智能系统或其他内容的具体方法”。报告作者没有对具体风险进行优先级排序，也没有提出具体的政策建议。相反，他们以一种易于政策制定者理解的方式阐述了科学文献中关于人工智能的观点。
他说：“我们需要更好地了解我们正在构建的人工智能系统以及随之而来的风险，这样我们才能在未来做出更明智的决策。”（编译/邬眉）
2月10日，约舒亚·本乔在法国巴黎大皇宫举行的人工智能行动峰会期间发表讲话。（美联社）
323AI导航网发布
相关文章
