21世纪经济报道记者章驰 上海报道

7月26日，2025世界人工智能大会暨人工智能全球治理高级别会议在上海举办。诺贝尔奖、图灵奖得主杰弗里·辛顿（Geoffrey Hinton）和图灵奖得主、中国科学院院士姚期智在人工智能发展与安全全体会议上进行了一场巅峰对话。

辛顿表示，AI最为严重的尚未解决的问题是怎么训练AI使它成为善意的AI。

“训练AI比自己养孩子还难，自己养孩子的时候可以告诉子女应该怎么做，可以奖励或惩罚，或者向子女展示好的范例。我们应该做的就是去养育AI，用非常精细调整过的数据去养育AI，让AI学习好的行为。”辛顿指出。

姚期智表示，训练AI让它变得完全善意，现在确实不知道该怎么去达成，甚至可能根本做不到。善意是受到环境影响的，在不好的环境下，也就很难成为一个好人，应该考虑所有的可能性，不管是正面还是负面。

他比喻训练AI就像养孩子，“如果出生在富有的家庭，很好的社区，就会成为一个绅士。但是在极大压力下，AI也会变得很冷血，做出不好的事情。最理想的方法是，我们生活的世界里善意能够战胜邪恶，没有人需要在极大的压力下做事，那时候再去训练AI，就会得到想要的结果。如果我们本身没有能力去创造出这样的环境，我们无法确保不会创造出恶意的机器人。”

最后，姚期智提醒大家，当科技进一步发展，机器人会接管整个世界，这让我们知道人类本身也具有局限性。宇宙整体并不是善意的，人类要珍惜现在的发展，珍惜过去几百年沉淀下来的智慧。