未来人工智能在社会中扮演什么人物，取决于人类怎么去完成和完成什么样的通用智能和超级智能。
从百年前的《大都会》到已被列为经典的《2001太空周游》《黑客帝国》，只要是涉及到科幻电影，人工智能（AI）简直都会成为必不行少的存在。
在大部分电影中，人工智能被设定为人类的“公敌”，足见人类关于未来人工智能办理的忧虑。
回到实践，不久前，由清华大学人工智能世界办理研讨院主办的首届“清华大学人工智能协作与办理世界论坛”在该校落下帷幕。在这场继续两天的论坛上，关于人工智能未来的展开，以及由此或许带来的办理问题，与会学者展开了一场火热的评论。
2016年，一项来自BBC的数据剖析曾猜测，2020年全球人工智能市场规模将到达183亿美元，约合人民币超千亿元。转眼间，2020年已然曩昔，近来依据普华永道会计师事务所的一项数据猜测，2020年全球人工智能市场规模到达2万亿美元。
论坛上，我国科学院自动化研讨所中英人工智能品德与办理中心主任曾毅坦言，虽然人工智能技能展开迅速，但现在其主要奉献于有显着商业利益的范畴，如健康、工业立异等，而对商业利益相对不显着的议题，其重视度显着缺乏。
比方，2015年9月25日，联合国可继续展开峰会正式经过17个可继续展开方针。这些方针旨在从2015年到2030年间。以归纳办法彻底处理社会、经济和环境三个维度的展开问题，使世界走上可继续展开路途。
“虽然这些方针都极其重要，且依据初步统计，现在全球已有800多万篇科学研评论文与人工智能相关，其间只要0.1%与可继续展开方针相关。”曾毅说，“因而，咱们应当考虑并实践经过人工智能推进可继续展开方针的完成，这是科研工作者、工业立异者与政府部门的一起职责。”
对此，清华大学全球可继续展开研讨院履行院长朱旭峰表明，可继续展开方针之间是彼此相关的，“不能只考虑人工智能与单个可继续展开方针的联系，而是要从归纳视点看待并运用人工智能，然后应对全体完成可继续展开方针的应战”。
2020年9月，北京智源人工智能研讨院联合其他组织在京发布了我国首个针对儿童的人工智能展开准则《面向儿童的人工智能北京一致》。
“此外，咱们还成立了人工智能与生物多样性工作组，推进人工智能维护动物。”作为该研讨院人工智能品德与可继续展开研讨中心主任，曾毅表明，未来人工智能在社会中扮演什么人物，取决于人类怎么去完成和完成什么样的通用智能和超级智能。“我期望未来可以树立可继续的共生社会，完成人工智能与人、动物、环境之间的调和共生。人类与人工智能深度协作，才干完成实在意义上的可继续展开。”
“数字年代，数据正在以指数级的速度激增，但推进社会进步的一起，也存在着乱用数据和侵略个人隐私等危险。”在论坛上，联合国开发计划署驻华代表达雅婷表明，“咱们有必要慎重，保证人工智能可以推进人类展开，防止加重不平等或产生新的应战，然后阻止全球可继续展开方针的完成。”
在数据的运用问题上，我国科学院院士、清华大学人工智能研讨院声誉院长张钹表明，人工智能的展开有必要依靠很多数据，但这些数据一起也存在着很多需求处理的问题，如隐私问题、常识产权问题、成见问题、污染问题、缝隙过错等。
“比方，在某个视频监控的场景中，假如要用核算机监测电网周遭环境的危险状况，咱们只需求在某处安置一点很简单的噪声搅扰，就可以让核算机误以为该地区有火情。反之，一点点小的搅扰也可以让核算机无视实在产生的火情。”张钹说，而这点噪声往往是人类难以发觉的。
数据问题也是我国科学院院士、清华大学穿插信息研讨院院长姚期智最关怀的问题。正如他在发言中所说，“在AI和大数据的年代，有必要有高质量和可信的数据。在这方面，加密技能在数据办理上有必要发挥重要的效果”。
姚期智表明，在数据加密技能范畴，运用密码学规划可信的算法可以起到很好的效果。“不仅如此，假如将可信算法与相关的组织做系统性结合，也可以构成一个根底来完成可信的数据办理。”
在这方面，一个典型的实例便是多方安全核算（MPC）。早在1982年，姚期智就曾提出该技能可以使人类在加密数据上进行核算。“也便是说，数据可以做到能用但不能看。”
“经过运用多方安全核算，研讨人员可以把许多数据库聚集在一起，既维护隐私，又可以完成高质量的人工智能学习。”姚期智说，MPC渠道的展开是当今大数据中的抢手课题，可以进一步支撑可信的数据办理。
虽然人工智能面对安全性问题，但张钹表明，不能因而约束其展开。相反，处理安全性问题的最主要办法正是相关技能的不断进步。“但这就涉及到另一个问题下一步该怎么展开？”张钹说。
2020年7月，张钹在一篇署名文章中，初次论述了第三代人工智能的理念。他表明，第三代人工智能的展开途径，便是交融第一代的常识驱动和第二代的数据驱动的人工智能，树立新的可解释和鲁棒的人工智能理论与办法，展开安全、可信、牢靠和可扩展的人工智能技能。
“咱们现在提出第三代人工智能的想象，便是力求在理论上处理人工智能的相关问题。这也是人工智能未来的一个展开方向。”张钹说。
面对人工智能未来的展开，技能立异还存在着太多的不确定性。当下怎么经过在人工智能办理范畴的全球协作达到世界一致，然后构成必定的标准，成为许多人考虑和评论的关键。
在发言中，清华大学人工智能世界办理研讨院声誉院长、清华大学战略与安全研讨中心主任傅莹表明，技能革命往往伴随着不行预知的安全应战。在这方面，世界重视的焦点之一是人工智能兵器的品德和技能危险。
此前，清华大学战略与安全研讨中心与多家世界组织现已环绕该问题展开了研讨，企图寻觅管控人工智能兵器危险和世界安全办理的途径。
“无论怎么，专家们以为人工智能的兵器化是不行防止的，因而需求寻觅适宜的办理途径。”傅莹表明，在这方面，人类有必要罗致历史教训。“例如，咱们核兵器的办理一致就达到得太晚，这导致了人类从前面对巨大要挟。互联网的办理也没能在前期完成。期望这次对人工智能，尤其是人工智能兵器的办理，人类能走在技能革新的前面，早些达到办理一致。”
人工智能兵器仅仅全球办理一致的一部分。正如在发言中，联合国副秘书长、联合国秘书长特别参谋法布里齐奥霍奇尔德所说，“没有任何一个单一国家或公司可以规划出全面、契合所有人预期的指导方针，用以办理人工智能的展开，以及它在全球引起的连锁反应。咱们有必要团结起来，为人工智能创立一个可行的世界协作和办理结构”。
就人工智能世界办理的现状，清华大学人工智能世界办理研讨院院长薛澜指出：“当时在人工智能这类重大问题的全球办理上存在 机制复合体的现象，即在办理过程中，有不同的办理机制。这些办理机制之间有堆叠，也没有上下级联系。此刻，怎么和谐不同办理机制是一个很大的应战。”他进一步指出，正因为如此，更要加强人工智能办理上的世界协作：“人工智能的展开与世界协作密不行分，咱们对人工智能范畴我国与美国学者协作的状况进行过剖析，中美协作的研讨成果占到比较大的比重。很多的世界协作是人工智能展开到今日非常重要的支撑要素，往后还需求继续协作。”
对此，新加坡信息通讯媒体展开办理局首席履行官助理杨子健提示，世界人工智能办理结构应具有较高的包容性，比方能适用于不同的社会经济、世界司法系统等。一起，因为人工智能是一个需求“使用”的技能，人工智能办理结构也应当是贴合实践的。
“在人工智能办理层面，杰出的伙伴联系应契合两个关键。”杨子健说，首要，要契合现行的方针办理结构；其次，需求了解人工智能开发者以及工业展开的应战是什么，然后发明一个能为他们赋能的杰出环境。
“从现在来看，中美两国是人工智能技能研讨和使用展开最快的国家，两国既需求也有条件加强和谐与协作。”傅莹表明，近年来，除中美两国外，许多其他国家的学者也表现出对人工智能使用安全的忧虑。这说明该问题是人类一起的难题。“中美展开对话与协作至关重要，将为全球协作奉献才智。期望并信任这不是一场零和游戏，人工智能终究应使得全人类获益。”傅莹说。