个人很喜欢科幻文学，让我印象最深的作品之一是美国的《终结者》电影，这一系列一共6部，拍摄时间跨度从1984年到2019年，从最早的《终结者1》，到最新的《终结者：黑暗命运》，情节概括就是人工智能（天网Sk.NET）发展出自我意识试图毁灭人类，派遣机器杀手回到过去以消灭未来的人类反抗军领袖的故事，整个系列脑洞大开，剧情激烈火爆，深受科幻迷的欢迎，也把人类对于AI发展的未来想象和担忧搬到银幕，引发科学界数十年的大辩论。

其实，早在20世纪50年代，科学家就对人工智能AI的发展提出担忧，担心未来某一天AI可能会发展出自我意识威胁人类生存。

直到今年3月份，美国马斯克联合超过1000名科学家发表《暂停大型人工智能研究》的公开信，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停时间至少为6个月，信中提到：“^……我们不应该冒着失去对文明控制的风险……只有当确保强大的人工智能系统的效果是积极的，其风险是可控的才能继续开发……”，更是将AI的威胁推到幕前。

公开信署名者包括全球各个领域AI资深专家、科学家、企业家，明确呼吁暂停更高级AI的研究并制定相关规则，否则后果可能会很严重。

01 AI发展进入快车道

最近一年OpenAI的人工智能聊天工具ChatGPT让AI成为全球科技和投资热点，包括百度、腾讯、谷歌等各个公司纷纷开发和推出各自的AI产品，AI发展进入快车道。

人工智能的发展已经超过80年，从最早的1943年英国科学家图灵推出“图灵测试”来判断计算机的智能水平，可以称之为AI的先驱，到上世纪中期美国政府和军方开发用于推理和语言处理的计算机系统，正式提出“AI人工智能”概念，再到1980年开始AI进入机器学习和大数据驱动模式，再到近15年来AI开始在各个领域商业化取得成功，比如自动驾驶、金融分析、医疗诊断、智能助手应用等，甚至AI被用于协助新冠疫苗的开发，大大节省时间提升效率。

目前出现的自主AI、量子计算、脑机接口、自适应系统等新技术必将在未来获得更快的发展，进入更多人类社会的应用领域，推动从科技、经济到工业等各方面发展。

如果按照现有发展速度，有科学家预测在未来的ChatGPT发展到10.0版本可能出现出现自主意识。AI的发展速度和进化速度超出人类想象和控制，面临失控风险。

02 AI的威胁在哪里

AI人工智能技术大大促进人类社会生产力的提高，未来应用不可限量。但是威胁同样存在。

值得一提的是，AI领域最著名的OpenAI公司CEO在访谈中指出：AI已经表现出无法解释的推理能力，同时他承认“AI杀死人类”有一定可能性。

相信大家看到科幻电影中无所不能的AI角色毁灭人类的情节都会有一个问题，AI威胁是存在于虚构文学的情节，还是真实存在的？

从机器取代人类从事包括金融、财务、制造领域的工作开始，AI对于人类的威胁已经出现，再上升到类似于控制核武器毁灭人类的深层次担忧。我们说“非我族类，其心必异”，更何况是一个不管是能力和潜力都远远高于人类的新事物。

从1997年人工智能“深蓝”打败国际象棋世界冠军开始，AI已经在多个领域超过人类。如果未来出现类人类的AI自主意识，必将引发从哲学、伦理到科学多个方面的挑战。

就像霍金所担忧，“人工智能的发展有可能终结人类”。虽然目前全世界还没有形成共识，或者出现一个类似于联合国的全球AI管理机构来规范和限制人工智能的研发，但是公开信的出现，把这个问题推到了整个世界的面前，让这个问题不能再被回避。

03 科技发展是双刃剑

一方面人工智能技术的发展呈现加速，另一方面是全球没有相关的框架和准则去规范人工智能的发展，就好像一个人高速驾驶没有系安全带一样，产生巨大风险。

比如科幻小说中著名的"机器人三定律"（Three Laws of Robotics），这是由美国科幻作家艾萨克·阿西莫夫（Isaac Asimov）在他的科幻小说中创造的虚构法则，如下：

1. 机器人不得伤害人类或因不作为而使人类受到伤害。

2. 机器人必须服从人类的命令，除非这些命令与第一定律相抵触。

3. 机器人必须保护自己，但前提是不得违反第一定律或第二定律。

这三条定律是作家虚构的情节，现实社会中并不存在，但是如果未来某一天AI有了自我意识，和人类发生冲突，那该怎么办？

马斯克的公开信也只是提出了这个难题，如何去保证人工智能的发展在可控范围内，问题的答案是什么，目前还没有解决办法。

一方面是AI对于人类社会的巨大推动作用，一方面是对于未来失控的担忧，而利益攸关方的立场并不一致，对于OpenAI、百度这样的科技公司，AI越强大，未来的商业前景和收益会越好，但是对于整个人类社会，如何将AI纳入可控范围，限制AI的无序发展，不能不说两者存在利益的冲突，还有就是现在面临的是AI管控从0到1的过程：谁来做这个裁判，制定规则执行规则，如何保证执行的效率和结果。

04 未来如何发展

一方面AI发展是大势所趋，已经开始深刻地改变人类社会；另一方面如何扬长避短，将AI发展纳入可控范围。公开信所建议的暂停AI研究六个月，是对于目前AI快速无序发展的担忧，并没有提出具体解决办法，还需要从科技行业、AI业界到全球各个政府和组织的协同努力，找到应对办法。

毕竟整个人类是共同体，这不是一个国家，一个种族单独的事情，需要集全人类之力。

AI的发展带给人类巨大的冲击，是人类首次面对远远超过自己能力的一个物种和文明，而且这个文明还是人类创造出来的，如何去用发展的眼光看待AI科技的未来，去兴利除弊，还需要等待未来的揭晓。

坚持原创不容易！如果您阅读后感觉满意，请给予点赞、评论并转发，以示鼓励！「本文作者：孙杨正」