作为引领第四次科技革命的战略性技术，人工智能(AI)给社会建设和经济发展带来了重大而深远的影响。但数据隐私、算法偏见、技术滥用等安全问题正给社会公共治理与产业智能化转型带来严峻挑战。

　　AI带来的问题，首先是科技发展的共性问题。科技是发展的利器，也可能成为风险的源头，AI也不例外。

　　AI的发展将引发新一轮产业革命。一方面是传统产业的智能化，比如网络搜索中采取推荐算法、用户画像等，可以提高服务效率和质量。另一方面是智能技术的产业化，催生了新的产业，如智能交通、智慧医疗、智慧城市、自动驾驶等。与此同时，AI的发展也带来了新的风险和安全隐患。因此，我们既要抓AI的创新发展，又要抓AI的治理，两手都要抓。

　　其次是AI发展与治理中的特殊性问题，具体表现在算法层面、数据层面与应用层面。

　　从算法层面看，现有的AI算法较脆弱，泛化能力较差，这意味着如果将算法运用到与训练场景区别很大的实际场景中，就会存在安全问题。以无人驾驶为例，AI训练的时候不可能穷尽所有情景，所以当遇到新的突发事件便无法处理，就会造成AI技术的误用，这有可能是无意识的误用。同时，这种脆弱性还使得AI系统容易被攻击、被欺骗，给AI技术的滥用以可乘之机。

　　从数据层面看，现在AI应用效果很大程度上依赖数据质量，但由此会带来隐私泄露、数据确权等问题。如果解决不好数据安全的问题，AI产业也不可能健康发展。

　　从应用层面看，AI技术已经逐渐对人们的生活造成冲击，比如为保隐私戴头盔去售楼处的看房人、困在算法里的外卖骑手等，还有深度伪造之类可能对社会造成重大影响的技术，因此AI技术必须保证安全可控。

　　AI的创新发展是大道理。纵观信息科技的发展历史，尽管信息科技发展异常迅猛，但基本上安全可控。而AI发展却缓慢曲折，安全问题层出不穷。

　　二者的差别在于，从信息革命开始，信息的三大理论就已经建立，即图灵机理论(1936)、香农的通信理论(1948)、维纳的控制论(1948)。正因为有了坚实的理论基础，才引导信息技术健康发展。然而，AI的发展则相反，其基础理论至今没有建立。尽管经历了第一代AI的符号主义模型(知识驱动)和第二代AI的亚符号(连接)主义模型(数据驱动)，但它们均有很大的局限性，不能构成AI的理论基础。由于缺乏理论指导，AI的发展处于难以控制的局面。

　　当前，必须解决“卡脖子”的基础理论问题。因此，建立AI的理论基础是我们提出“第三代人工智能”的初衷。所谓的“第三代人工智能”，其发展路径是融合第一代的知识驱动和第二代的数据驱动的AI，在前两代理论的基础上发展“第三代人工智能”基础理论，建立一个完备的AI基础理论。

　　具体的思路上，“第三代人工智能”利用知识、数据、算法和算力4个要素，建立新的可解释和鲁棒的AI理论及方法，从而发展安全、可信、可靠和可扩展的AI技术。这样，发展“第三代人工智能”和AI治理一起进行，以达到相辅相成、共同发展的目的。

　　AI刚刚拉开序幕，更精彩的大戏正要上演。全世界应共同来发展安全可控的“第三代人工智能”，让AI真正造福于人类。

　　(来源：中国科学报;作者系中国科学院院士，记者沈春蕾根据其在2021北京智源大会上的讲话整理)