技术发展带来难以预知的风险和挑衅

　　全球人工智能发展步入治理轨道

　　当前，全球人工智能技术快速发展，对经济社会发展和人类文明提高发生深远影响，给世界带来宏大机会。与此同时，人工智能技术也带来难以预知的各种风险和庞杂挑衅。

　　今年以来，多个国度和地域聚焦人工智能的治理工作已陆续展开。在全球开启科技竞争的同时，各国人工智能治理系统也在敏捷形成。

　　技术滥用问题引发担心

　　1956年被公觉得人工智能元年。从那时起至今60余年，人工智能技术在阅历两次发展浪潮后，以去年11月30日ChatGPT深度学习技术的推出为标记，开端催生出各种各样的创新使用。快速迭代的技术不断推翻人们的想象，但随之而来的技术滥用问题也引发担心。

　　11月7日，日本《日经亚洲评论》刊发的《人工智能正在放大东南亚新数字国民面临的风险》一文，就证明了这种担心不无道理。

　　平台经济的兴起以及数字化的推动，正在辅助东南亚新兴市场跨越式地迈向现代化。截至2023年，东盟的互联网人口到达4.6亿，在过去3年新增了1亿用户。其中3.7亿人会在网上购物。

　　这种跨越式发展令人亢奋，但在技术发展的庞杂时代，人工智能尤其是生成式人工智能的兴起，加剧了东南亚新上网人群受到的欺诈要挟。

　　文章介绍了一种常见的诈手腕——“鱼叉式网络钓鱼”，即向受害者发送看似真实的电子邮件，其中包括链接，如果点击这些链接，就会触发恶意软件。这类局对东南亚社会弱势群体的影响尤为严峻。网络安全公司Darktrace的数据显示，由于生成式人工智能助长了欺诈行为，今年前两个月，电子邮件攻击数量同比增长135%。

　　文章觉得，网络犯法在东南亚已经是一个紧急的问题。依据IBM(国际商业机器公司)的数据，截至2023年，该地域网络欺诈案件在全球全部同类案件中占31%。弗雷斯特研讨公司去年进行的一项调查显示，东南亚市场四分之三的企业决策者表现，过去一年受到了网络欺诈的影响。

　　文章最后总结称，随着东南亚数字经济参与者数量的激增，犯法分子可以运用的切入点也越来越多。可能针对一个消费者，可能针对一个小创业公司的实习生，还可能针对街角商店的销售体系。虽然对这些小实体发动的攻击不太可能立即对整个网络体系发生深远影响，但对于生计会受到严峻影响的东南亚购物者或小企业来说，这种攻击将使他们及其周围的人不愿再应用数字服务。

　　不仅如此，“人工智能嘴替”已在多个国度蔓延。美国总统拜登就透露他曾看到自己讲话的深伪产品，对图像的真切水平感觉吃惊。

　　多国和地域着手增强治理

　　毋庸置疑，人工智能的飞速发展正在推翻人类认知，它会不会打开“潘多拉魔盒”？尽管这种担心之声未免有些杞人忧天，但也正是这种担心的存在，促使全球多国和地域纷纭着手增强管理，以保证科技创新与标准并进。

　　当地时光6月14日，欧洲议会以499票赞同、28票反对、93票弃权的压倒性优势通过了《人工智能法案》草案。依据草案，欧盟将人工智能体系(如ChatGPT等)划分为不同的风险组。使用程序越危险，实用的规矩就越严厉。同时，欧盟还正着手制订全面的人工智能禁令，比如制止激励危险行为的交互式对话工具，以及用于预测谁将犯法的预测性警务工具等。

　　10月30日，拜登签订了一项关于人工智能的行政命令，被美国媒体称为“有史以来政府为推动人工智能安全领域所采用的最重大举动”。此外，美国商务部还将给人工智能生成内容，比如通常被称为“深伪技术”的AI生成音频或图像，制订更加严厉的规范。加拿大、韩国、日本等国度同样开端在人工智能领域采用标准和限制举措。

　　作为人工智能大国，中国在全球人工智能治理上从未缺位，一直在致力于晋升人工智能技术的安全性、可靠性、可控性、公正性。

　　4月11日，中国国度互联网信息办公室宣布《生成式人工智能服务管理办法(征求意见稿)》(以下简称《征求意见稿》)，增进生成式人工智能技术健康发展和标准使用。《征求意见稿》在明确了对人工智能算法、框架等基本技术的自主创新、推广使用、国际合作的激励态度，在支撑优先采取安全可信的软件、工具、盘算和数据资源的同时，划定了相干范畴，即办法管辖范畴、办法管理权限、“提供者”的义务主体认定。此外，《征求意见稿》还将为未来生成式人工智能服务提供者在从业进程中的底线和标准提供法律根据。

　　而早在2021年12月，中国就向结合国《特定常规兵器公约》第六次审议大会提交《中国关于标准人工智能军事使用的立场文件》。2023年11月，中国又向结合国《特定常规兵器公约》缔约国大会提交了《中国关于增强人工智能伦理治理的立场文件》。这些主意保持保护人类福祉，坚守公正正义，体现了大国义务担负。

　　向国际社会提供中国方案

　　毫无疑问，人工智能正在席卷而来，这场深入的革命，将彻底转变我们这个时期和生活。面对人工智能技术带来的难以预知的风险挑衅，国际社会急切须要增强人工智能治理，推进人工智能朝着科技向善的方向发展。正如结合国秘书长古特雷斯所指出的，要带着“一种紧急感、一种全球视野和一种学习者的心态”来应对这项技术，各国应展开和谐并设定红线，争分夺秒推进人工智能造福人类。

　　在这场风险挑衅中，中国向世界提供了人工智能治理方案。

　　在11月1日英国布莱奇利园举办的首届人工智能安全峰会上，中国代表指出，人工智能治理攸关全人类命运，是世界各国面临的共同课题。发展人工智能，应该积极提倡以人为本，智能向善，增强技术风险管控，并在相互尊敬、平等互利的原则基本上，激励各方协同共治，加强发展中国度在人工智能全球治理中的代表性和发言权，不断弥合智能鸿沟和治理才能差距。中方愿与各方一道就人工智能安全治理增强沟通交换，为推进形成广泛参与的国际机制和具有普遍共鸣的治理框架积极贡献智慧。

　　而在不久前，中方在第三届“一带一路”国际合作高峰论坛期间提出《全球人工智能治理倡议》，就各方广泛关切的人工智能发展与治理问题给出建设性解决思路，更为人工智能相干国际讨论和规矩制订提供了蓝本。比如支撑在充足尊敬各国政策和实践基本上，形成具有普遍共鸣的全球人工智能治理框架和规范标准；支撑在结合国框架下讨论成立国际人工智能治理机构；增强面向发展中国度的国际合作与支援 等。展示出中国推进完美全球治理的大国担负，是中国积极践行人类命运共同体理念，落实全球发展倡议、全球安全倡议、全球文明倡议的具体举动。

　　人工智能治理攸关全人类命运，是世界各国面临的共同课题。中国提出的方案将有力推进各方促进对话合作、凝集共鸣，共同构建开放、公平、有效的治理机制，增进人工智能造福全人类。