向善人工智能
“向善”二字,自当高标准
“向善人工智能”说来容易,做到很难。在我们这里,它指的是切实改善人的成效、并由人来掌控的人工智能。
我们指的是什么
对我们来说,向善人工智能不是某一类项目,而是一项项目必须通过的检验。它是否为真实的人改善了可及、学习、照护或社区能力?这种改善能否被观察到,最好还能被衡量?受影响的人是否有发言权、能否选择退出?如果答案是否定的,那么无论技术多么惊艳,它都不是向善人工智能。
我们关注的方向
可及性
让聋人、残障与多语言社区都能获得沟通可及、可及的信息与服务。
教育
培养理解力与独立性、而非依赖的人工智能素养与学习支持。
医疗与照护可及
改善信息获取与照护路径的导航——绝不取代临床判断,也不在此收集健康数据。
社区能力
帮助社区组织与社会影响力建设者用好负责任的人工智能。
负责任落地
审慎推进、持续监测风险,并随时准备叫停或调整方向。
人的监督
在影响人们生活的决定中,让负责任的人始终参与其中。
诚实地衡量成效
比起一个宏大却无法验证的说法,我们更看重一处虽小却经得起检验的改善。凡是描述成效之处,我们都会说明依据。若某个项目只是示意而非进行中,我们会清楚标注。
示意性用例
- 示意性示例
可及的信息
帮助公共信息——通知、指南、基础服务——跨越语言、阅读水平与形式的差异触达每个人,且每一项输出都经人工审核。检验标准是:它本应服务的人,是否真的能理解并用得上?
- 示意性示例
社区人工智能素养
与社区组织共同开发的通俗课程,帮助人们理解人工智能能做什么、不能做什么、何时正被用在自己身上,以及自己享有哪些权利。检验标准是:参与者离开时,是更有信心、更独立了,还是更依赖了?
- 示意性示例
服务导航
帮助人们找到并理解自己有权获得的服务——不收集敏感数据,并在事关重大的问题上始终保留清晰的人工渠道。检验标准是:它是扩大了可及,还是造出了新的门槛?