人工智能是当今全球数字技术创新最活跃的前沿，是数字经济的新轨道，也是国际竞争的新热点。但如何应对它带来的挑战，从而构建安全可靠的人工智能，是大家非常关心的问题。

百度、阿里巴巴、360安全集团等领先互联网公司的代表、学者和政府官员聚集在中国东部曲阜孔子的诞生地尼山，试图找到答案。

与其他数字技术一样，人工智能是一把双刃剑。360安全集团创始人周鸿祎在世界互联网大会尼山对话会上告诉《环球时报》，虽然它给我们带来了更先进、自动化和智能的工作和生活方式，但它也给安全带来了挑战。

周说，人工智能模型是否存在漏洞或容易受到攻击或误导，以及模型数据在训练过程中是否会泄露或污染，都是可能的安全挑战，更不用说它在金融、法律和自动驾驶汽车等关键领域使用时的危险了。

面对大规模机器人发展的安全问题，周认为，实现人工智能安全可靠应用的关键是将机器人定位为企业和员工的助手或副驾驶，使人类在决策循环中发挥关键作用。

周说，人工智能可以提供建议和报告，但最终的决定应该由人类做出，它不应该直接绕过人类或超越各种业务系统来做决定。

阿里巴巴首席执行官兼董事长张勇在大会上发表讲话时表示，人工智能技术应该提高人民的福祉。无论机器变得多么强大，创造它们的人类应该永远更强大、更好、更聪明。

每个时代都有自己的文明特征，但今天的数字文明精神是什么?张说，儒家思想提倡在获得成功之前培养一个人的道德的重要性。相应地，在人工智能的发展中，技术进步必须符合社会规范，必须对人类有更多的好处。

人工智能技术的威胁不仅是技术上的或法律上的，也可能是社会上的，因为它可能缺乏公平或平等。CEN-CENELEC JTC 13网络安全和数据保护主席Walter Fumy在会议上告诉《环球时报》，因此，管理人工智能风险将更加复杂，需要比正常的网络安全风险管理方法更多的手段。

Fumy表示，欧盟在定义和规范人工智能方面处于领先地位，但除了欧洲的方法之外，还有许多其他框架可用。他呼吁业界在某个地方达成共识，而不是最终在人工智能领域提出数百种不同的立法，这将是冗余和重叠的。
据大会上介绍，阿里巴巴开发的同义千问人工智能聊天机器人受到了各行各业，特别是行业的极大热情和反馈，有超过10万企业用户申请接入，几乎涵盖了所有新兴和传统行业。

百度首席执行官李彦宏表示，人工智能模型发展的下一个前沿不仅仅是模仿人类并完成他们的“规定动作”，而是帮助人类探索和发现未知领域，突破人类过去无法克服的限制。