01：警惕AI“夺舍”

Q：您对AI的发展抱持怎样的态度？

A：我认为天下没有免费的午餐，尤其当一种新的东西出现的时候，所有的便利都会在暗中标好了价码。

Q：您最担心什么？

A：问题的核心，就是我们原来的技术还是工具。人作为主体，技术的到来并没有削减我们的主体性，只是把我们的主体性延展了，我能力更强了。但现在人工智能的出现，一个特别大的风险在于它会消解我们的主体性。到底谁是工具？谁是主体？谁是客体？

主体性是指你的自我认知很重要，自我判断很重要。如果我们过度依赖人工智能，大量的判断交给人工智能去做，其实是在让渡我们的主体性，主动缴械，这个风险非常大。

Q：您最担忧AI的应用，对于慈善领域造成的负面影响是哪方面？

A：不光慈善领域，我倒不担心人工智能成为人，我担心人成为“假人”，人丧失主体性的问题。我们的自主意识、对社会的认知都是通过自身的学习、自身体验创造获得。但如果我们把学习、创造和体验的过程都移交给人工智能了。那其实我们就在丧失我们的主体性。

Q：公益实践当中，有没有丧失主体性的案例？

A：丧失主体性目前还不至于，因为人工智能还没强大到这个程度。但它发展非常快速，可能到了某个阶段它就会有自主意志和意识。

当决定用这个技术的时候，我们真的认为这个技术有利于人类，有利于解决社会问题，有利于帮助各种弱势群体，但是我们有没有考虑过这个技术应用之后带来的一些负面影响？

应用过程一定要确保它的有益性，有益性指的是这个东西带来正面的利益一定要大于负面影响才对，但这方面我们没有彻底评估过。

02：AI+慈善应该相对保守

Q：公益慈善组织应当如何对待AI和技术的发展？

A：AI技术在公益慈善组织的应用，我认为应该是相对保守的。

公益组织发展的目的跟很多以营利为目的或资源集中为目的的企业不一样，非营利组织本身就是要去守护人类的安全、守护公平正义的，这是我们的基本价值观，所以它应该有一个清醒的大脑。在这个社会里，它应该跟其它群体不一样，它要率先看到人工智能可能会带来的哪些不利影响，要未雨绸缪。

但是技术在发展，公益慈善组织到底能不能拥抱技术的变革和发展，能不能更有效地去帮助这些弱势群体，能不能更有效地解决社会问题，这方面其实公益慈善组织已经开始做了。

Q：可以举个例子吗？

A：比如说在一些项目的评审阶段，部分环节就让人工智能去处理一些数据，看哪些机构是或者项目是更值得被资助的。当然，最后的判断权不能完全交给人工智能，可能有个专家团做判断。但是专家团如果懒的话，他可能会慢慢把决策权移交出去。

人工智能的应用还有一些别的好处，比如敏锐地发现一些社会问题的苗头，AI更早介入，能更早去解决一些社会问题。所以人工智能的应用，它绝对能极大地提高效率。

但我觉得公益组织要做的，并不是在效率和效益上跟政府组织或者那些营利组织PK，这从来不是公益慈善组织的最重要的核心所在。

Q：核心所在是什么呢？

A：就是守护社会安全、人类的安全、公平和正义，做价值的守护者，这个可能是更重要的。但是这些年来，因为慈善资本主义的抬头，导致大量的比如绩效评估、绩效考核也进入到公益慈善领域。

Q：对慈善组织来说，AI的在公益慈善领域的应用应该制定怎样的底层规则？

A：人工智能的到来，是工具理性极端化的一种产出。但是我们慈善组织本身是以价值理性驱动的，所以一个慈善组织要深刻意识到，我不能像一个公商业组织那样，只求结果不问过程。

慈善组织不应该说我只解决这个社会问题就可以，它更应该在乎我们怎么去解决这个社会问题，过程很重要。中间可能会有冲突，会有争论，甚至不同的主体去讨论到底谁更应该被优先救助，这个过程本身就是对我们人类共同体，或者社会价值共同体的锻造过程。

但是如果我们仅看重结果，只是为了把这些这些人解决掉，你会发现，把这个任务交给营利组织也一样，交给政府组织也一样，为什么需要公益组织存在？

志愿服务精神是慈善里面最重要的因素，这些助人者以为在拯救别人，其实也在自我拯救。但如果我们把这些过程都交给机器去做，我们实际上是把公益慈善里面特别可贵的，特别重要的一部分内容给抹杀掉了。