迪时策略全文|《AI智能体的崛起》作者佩塔尔·拉达尼列夫：AI或缩小数字鸿沟，全球共识是治理关键

专题：2025可持续全球领导者大会&首届绿色产业与可持续消费博览会迪时策略

　　炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！

　　2025可持续全球领导者大会于10月16日-18日在上海市黄浦区世博园区召开。

　　《AI智能体的崛起》作者，牛津大学计算机科学系专业硕士课程导师，艾伦·图灵研究所研究员佩塔尔·拉达尼列夫（PetarRadanliev）出席2025可持续全球领导者大会并主旨演讲。

　　“AI既能成为缩小全球数字鸿沟的桥梁——让非洲地区获取顶尖知识，也可能因技术垄断加剧不平等，而决定其走向的，在于能否建立全球统一的AI治理标准。”在演讲中，佩塔尔・拉丹利耶夫将AI治理与全球发展公平性结合，提出了极具现实意义的观点。

　　拉丹利耶夫认为，AI的技术特性赋予了它平衡全球发展的潜力。一方面，AI可整合全世界教授的知识，通过技术手段输送到非洲等发展中地区，让资源匮乏地区获得平等的学习与发展机会；另一方面，若富裕国家垄断AI技术，限制贫穷国家的访问权限，将进一步拉大数字鸿沟。这种矛盾的背后，是当前全球AI治理缺乏共识的现状——地缘政治竞争加剧，“谁控制AI，谁就控制世界”的认知导致技术路线分化，阻碍了统一标准的建立。

　　他提出，要打破这一僵局，需先聚焦“易达成共识的领域”，而“透明度”与“安全性”正是关键切入点。例如，建立“AI物料清单”，像列明厨房食材一样明确AI的数据元素与来源，既能保障技术透明，也能让各国在数据安全上找到合作基础；同时，借鉴2012年“上海共识”的成功经验，推动各国在AI安全防护、漏洞检测等领域协同发力迪时策略，逐步构建全球治理框架。

　　拉丹利耶夫特别强调，人类需在AI发展中保持主导权。他以“女士杀死机器人”的象征图像为例，指出AI需要“安全阀”，通过人类参与监督、建立偏见消除机制，避免技术失控。他在其著作《AI智能体的崛起》中详细阐述了这些理念，同时呼吁全球企业、国家摒弃“技术垄断”思维，以合作代替对抗——只有让AI成为全人类的共同工具，才能真正发挥其缩小数字鸿沟、推动全球可持续发展的价值。

　　2025可持续全球领导者大会由世界绿色设计组织（WGDO）与新浪集团联合主办，国际财务报告准则基金会（IFRSFoundation）北京办公室协办，新浪财经与世界绿色设计组织北京代表处承办，上海市黄浦区人民政府支持。大会以“携手应对挑战：全球行动、创新与可持续增长”为核心主题，汇聚全球智慧力量，共探可持续发展新路径，为全球可持续治理注入澎湃的“中国动能”。

　　本届可持续大会在以往四届“ESG全球领导者大会”的基础上进一步升级！嘉宾阵容强大，可持续大会组委会邀请约500位中外重磅嘉宾，其中约100位为海外嘉宾，不仅有政要、前政要、国际组织的代表，还包括了诺贝尔奖得主、图灵奖得主、全球500强企业负责人等国际顶尖学者与业界领军代表。本届大会将围绕近50个议题展开深入研讨，议题涵盖能源与“双碳”、绿色金融、可持续消费、科技与公益等细分领域。

　　以下是发言全文

　　佩塔尔·拉丹利耶夫：我们听到了非常有意思的一些话题，还有一些很重要的演讲。我今天演讲的话题是技术的本质。我会讲到AI最大的问题是什么？我也会给大家提出相应的解决方案。

　　我将用不那么技术的词来解释人工智能，到底问题是什么？在2017年，我们有整体的架构迪时策略，2018年第一次GPT模型横空出世。在一个线上的数据库当中就有1600多个模型，每个人都可以把这些模型使用起来，达到不同的目的。我们无法让这些模型四处乱走，更重要的是AI的治理和安全。我们需要有更好的治理和管理，如果你不用AI的话，你的公司也会受损，你的国家也会有负面经济的发展。如果它没有这么大的说服力的话，讲一个例子。

　　提到科学，新药研发也是基于AI的方法，我们觉得我们可以解决这些问题，解决癌症的问题，如果用AI能解决一个疾病，绝大部分人会同意持续地使用AI，还有经济发展、社会的推进的例子。比如在伦敦出租车驾驶员两三年前会说不可能有AI替代我，但是可以发现现在很多自动驾驶已经开得像人一样好了，虽然对于出租车司机来说不是很好，我过去10~15年在牛津任教，在那里做讲师。从剑桥、帝国理工这些都是世界上最顶尖的学府。我学的所有东西都不比AI做的东西，AI可以比一个更好的、最好的老师得到的知识更好。老师也要适应到底如何在AI时代适应，不适应就会消亡。适应的过程中，很多青年人有各种各样的黑客技术，16岁的年轻人可能会到暗网，比如有假的GPT或者诈骗GPT，可能会有更高的成功率。实际上有很多暗黑的事件因此而猖獗，想象一下生成式的AI系统可能有一千多个不同的机构，比如365机构可能会给你带来各种各样的错误，可能会带来系统性的崩溃，这就是AI幻觉带来的问题，我们要去治理和管理AI。

　　很多公司部想治理，因为关于发展和开发，更容易开发AI，而不要执行现在的安全。我们要在一开始就去执行，我们到底如何说服公司采用安全唯一的方法，这里讲到信任。现在的客户不信任我们的模型，因此我们会丧失这个业务。

　　关于AI下一个阶段是什么？现在很多公司都在用这个模型，这个芯片也是在微软开发的，是完全基于AI的模型。现在的AI和以后的AI有什么差距？现在的AI仅仅是一个操作系统当中的功能，还要自己操作，以后的AI就完全变成了一个操作系统。现在的特色和以后的特色有什么区别？看一下这三个重点：提升实时地处理、提升范围、提升安全性和隐私性。这就是我们的云系统，我们无法无线地扩张或者无线地时间处理。主要的趋势是希望有一个新的AI，以及整体的机器模型等等。很多都是基于我们直接的逻辑，像《星战》这样的电影，我们现在把这两个进行结合，带来更好的AI。

　　另外，我们期待量子AI，量子计算机在中国有，在全球都有，在伦敦也有，它非常强大。我们无法带来一些量化的改进和问题的解决，如果扩展到5~15年的时间，我们会有量子计算机，它会在哪里？它不会再你的笔记本和手机当中，它会基于整体的大数据处理中心，所有数据处理的中心都在云上了。我们现在把所谓的中心化架构越来越多地变成中心化的系统。

　　关于安全性还有一个问题，如果有一个故障就会全部故障。从红队和蓝队来看，在红队会用模型进行博弈。我们也在开发一些不同的黑客技术，看一下他们到底怎么操作。我们找到了漏洞，打补丁，这就是我们现在做的方式，以后不会有这样的选项了，我们要变成一个预测和管理、修复，一旦你知道AI的逻辑，如果逻辑错了，你要重新训练模型。蓝队就是这些建房子的人，红队这些小偷不会从主门进来，因为他们知道整体的安全系统在哪里，他们会在幕后找漏洞，这不是红队的考虑点，到底它会变成什么？实际上入侵者不从大门进来，它已经躲着了，如果他们入侵了，我们要重建我们的城堡。

　　现在十个最关键的人工智能和人工智能系统的威胁，很多人已经看到这些威胁了，比如数据重度、系统性问题等等，最大的问题就是最后一个问题，现在的睡眠智能体，比如它会影响到实时的处理、RDI等等，有些人会把睡眠智能体植入进去，这并不是第一次，现在有非常高的系统。这个睡眠智能体前五年可能你非常满意，一切都如常运转，但是后面十年会植入到你的GPS中，医院当中，在接下来15年中一切都基于你的智能体，你的安全也依赖于整个系统。这个智能体多年都不会检测到，我们已经开始对红队进行测试了，如果检测到这些恶意的睡眠智能体，我们就会对它进行清除。

　　这里还讲到Transformer的情况。AI能够生成这种睡眠智能体，会导致一些出错，但它并不由任何人实施的，它的出生AI不能检测到，甚至AI都不知道自己做了错的事情，AI自己也不会做任何改变，所以很难检测到，这并不是由外部的恶意行动者所植入的，我们该怎么做监管？一般情况下，我们会有一些AI的防护栅栏，就像公路旁边会有路障和栅栏一样。这个栅栏就是防止司机开过去翻车，人工智能领域也是如此。

　　比如在医疗健康或其他领域都有这样的防护栅栏，我们必须要建立透明度，要有一个偏见的消除功能，同时让人类参与整个过程中。人类无法检测，得需要AI检测这些漏洞，但是我们依旧让人参与其中。一旦你找到了问题的解决方案，比如系统性胁迫的解决方案，大部分的国家就会同意，这是我们要去解决的问题。

　　另外一个能达成共识的地方是，AI材料。比如2012年的上海共识就非常成功，AI的物料清单也是非常容易的，我们需要了解到AI的原始物料是哪里，我们要知道AI当中包含了哪些东西，比如厨房中放了什么食材，AI也需要这样的物料清单。软件领域的物料清单已经在事实了，AI领域的物料清单也是相同的，我们需要知道它的数据元素是什么，这是一个良好的起始点，这是一个非常透明的方法论，它可以告诉你该怎么做，它并不会告诉你如何做，不会一步步教你怎么做。

　　最关键的问题是，我们要问自己一个问题，AI究竟会缩短还是会增加数字鸿沟？也许你能够获得全世界教授的知识，也许你可以把这些知识销售到非洲，这可能会减少数字鸿沟，但如果你把AI局限在富有的国家，也不让贫穷国家访问AI，这就会加大数据鸿沟。我们该如何建立起全球的技术标准，我们能否建立这样的标准？地缘政治竞争冲突已经在加剧了，而且常识告诉我们，谁能够控制AI，就能控制世界，现在模型也在朝两个方向分化，我们现在必须聚焦于我们能达成共识的领域，有些领域是很容易达成共识的，这就是治理。

　　我们要去保障网络的安全性，我们需要从设计之初就考虑安全，我们要了解接下来大规模的软件是什么，比如微信、支付宝，他们已经成功实施了，下一个大的APP是什么？我们要从第一天开始思考安全性，而不是建立起APP之后再重新考虑。

　　总结部分，我想强调，希腊人当时发现了造币技术，他们怎么做的？他们把人工智能放在其中，他们认为人们在很早的时候就发现了人工智能，我们究竟该用AI做什么呢？计算机之前我们都知道该如何建造AI，这张照片是非常重要的，如PPT所示有一位女士正在杀死机器人，如果我们有这样的安全阀，就不会滥用人工智能。最后一个图片是《古兰经》当中的AI最早期的图像。

　　达芬奇也想把人工智能和人类的生理极限联系在一起；中间的图片是皮格马利翁和他的战争对手，当时他们建立起了雕像。最后一个是AI的电影演员，经纪公司都想和他签约。他可以打电话他在哪里堵车，这究竟是AI还是真人呢？我刚才提到很多技术细节，我最近有一些书《AI智能体的崛起》，它是由中信集团出版，很多细节都在这本书当中，以上就是我的演讲内容，谢谢！

新浪声明：此消息系转载自新浪合作媒体，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。文章内容仅供参考，不构成投资建议。投资者据此操作，风险自担。