文丨郭喨(浙江大学科技与法律研究中心研究员)

【评论】警惕个性化算法弊端——“迎合偏食”而非“纠正偏食”

个性化与算法歧视

彰显个性已经成为这个时代心照不宣的主题,如果年轻人没有一点“个性化”展示,在流行文化看来简直就不像“年轻人”了;而如火如荼的人工智能算法则在帮助使用者朝着“个性化”的道路上走得更远,比如所谓的千人千屏、个性化信息流和定制广告。

然而,智能算法的“个性化”与“歧视”是一种深层次的哲学矛盾。因为在某种程度上,任何分类本身都可以被合理解读为一种歧视;同理,“个性化”本身就可以是一种歧视性行为,这是难以抗拒的客观规律。比如,当根据距离远近与物流发达程度,将商品交易划分为“包邮区”与“非包邮区”时,江浙沪与新疆显然被区别对待了;尽管这一区别对待有着充足的物流成本之依据。当根据第23对染色体是XY还是XX将人类区分为“男性”与“女性”时,在男权主导的社会有时会导致对女性某些合法利益的侵害,而在某某140字“舆论”空间则经常聚集起对男性的仇视言论。罪在XX/XY的划分吗?责任更应该归于特定的社会环境、舆论环境。当根据成熟期果肉细胞的不溶性果胶及纤维素的含量多少,将苹果分为我喜欢的“面苹果”和不太喜欢的“脆苹果”时,“黄元帅”与“红富士”在市场上就有了不同的身价。“红富士”与“黄元帅”,遭遇了“价格歧视”吗?

任何形式的分类都提供了更低限度的歧视之可能性。人工智能算法的“个性化”安排——本质就是不断的分类——更是如此。

特别是,由于算法对“身份”的敏感性,人工智能算法可能形成歧视特定对象的“身份法则”而不自知。一个著名的案例是:美国法院广泛使用的犯罪预测系统COMPAS存在对黑人的系统性歧视。对服刑人员进行“出狱后再犯风险评估”时,COMPAS错误地认定,黑人比白人有着更高的再犯罪风险,因此会做出更多的不利于黑人的评估预测。尽管COMPAS对黑人、白人再次犯罪并被捕的预测准确率为61%,但39%的部分“错误”的方式不同:黑人被告被评为高风险、但后来却不再犯的概率是白人被告的2倍,而白人被告被评为低分险、后来又被指控重新犯罪的概率是黑人被告的2倍。因而,这一“犯罪人风险行为评估”工具COMPAS甚至是 *** 裸种族歧视(racially biased)的。实际上,COMPAS甚至也是严重性别歧视的:“风险评分为5的女性再犯概率与风险评分为3分的男性差不多”。

然而令人惊奇的是,由于“人工智能”光环的加持,2001年纽约州开始使用这一系统,直到2016年才被科技记者茱莉娅·安格温指出。这种“身份敏感”实际上是难以根除的,原因在于,它是内在于“分类”本身的。克莱因博格指出,“在对几率不同的两个组进行风险评估时,结果就会是这样。”智能系统的再犯罪预测中,假阳性(“高风险”的被评估者没有如预期那样再犯罪)与假阴性(“低风险”的被评估者没有如预期那样不再犯罪)的平衡是困难的——几乎是不可能的,除非不同群体的再犯率相同。执行者会为了效率而放弃公平——尤其是被歧视对待的群体自身也惑而不知或知而不言时,这在全世界都不是什么秘密。然而,此类对特定群体的系统性偏见——歧视,却是任何一个人类文明社会都不能容忍的。

“人工智能喂屎”

事实上,算法对公共利益的伤害是轻易且普遍的。“算法对平等权、自由权等基本权利的侵害其实针对的都不是特定的某个人,而是不特定的多数人。”在公共交通和出行领域,与“个性化推荐”相关的杀熟曾一度引起人们的广泛担忧;其实更值得忧虑的是娱乐领域,例如,基于个性化推荐算法的短视频平台,经常容易让用户高度沉迷,对其正常生活的平衡、时间的掌控以及认知世界的能力都会造成不同程度的损害,比如“视频成瘾”,导致其困于“信息茧房”(Information Cocoons)难以逃离。

一个值得警惕的社会现象是,“人工智能喂屎”,或者用更文雅的说法,“人工智能投毒”。人的身体健康需要丰富、均衡的物质营养,比如人每天需要摄取谷薯类食物200~300g、蔬菜300g、水果200~350g、畜禽鱼蛋类食物120~200g、1个鸡蛋(约50g),以及奶类、大豆和坚果,油、盐、脂肪、足量的水,还应适当运动(《中国居民膳食指南(2022)》)。如果过于挑食,只吃肉不吃菜,就可能缺乏维生素与纤维素不利于健康,只吃菜不吃肉也会缺乏不少人体必需的维生素,油盐过量容易“三高”,等等。如果孩子挑食,负责任的父母应当进行必要的干预,让孩子吃一些他可能不那么喜欢、但却长身体需要的食物。身体健康的核心要义在于均衡,精神健康同样如此,需要丰富、均衡的精神食粮。

但现实是,通过分析用户行为和偏好,人工智能系统为用户提供个性化的内容推荐,这种服务极易导致个体用户的过度沉迷。推荐系统基于用户的兴趣偏好,提供沉浸式的体验,使用户感到迅速(而浅薄)的即时满足,导致沉迷、信息茧房与社会分化极化——这有助于智能算法提供者相应产品的盈利。本应投喂的精神营养被劣质和重口味的精神垃圾替代了。人们沉迷其间,乐此不疲。尤其是缺乏辨识力的青少年,对这种投喂完全缺乏抵抗力。

智能技术这种“迎合偏食”而不是“纠正偏食”的做法,实际上已经带来了严重的后果,尤其是对本来就缺乏有效的外部监督与指导的、处于社会弱势阶层的家庭子女。人工智能“投其所好”的个性化,其风险就隐藏在我们的每一次的选择、每一下点击之中。每一个试图保持自由的人,都应当警惕这一问题,而不是尝试“以个人克服时代”。

法律也意识到了这一问题,《中华人民共和国电子商务法》第十八条作出了反算法歧视的规定,“电子商务经营者根据消费者的兴趣爱好、消费习惯等特征向其提供商品或者服务的搜索结果的,应当同时向该消费者提供不针对其个人特征的选项,尊重和平等保护消费者合法权益。”所谓自然排名保障了消费者一个重要权利:知情权,因为“自然排名”是未经特别修饰或调整的搜索结果的自然呈现,是未经“利益污染”的,是消费者作出最有利于自身的消费决策的基础。然而事实却是,一方面“自然排名”并不自然,会受到载体设备、操作系统、地理位置等多方面因素的直接影响。“在实践中,对算法的划分并不是二元化的‘全有全无’的问题,即使是‘不针对其个人特征的选项’的自然结果也将或多或少地读取地理位置、终端设备或Cookies等标识信息,否则将无法提供有效的服务内容。”另一方面,电子商务公司并没有很好地遵守这一规定,因为较之“自然排名”,“个性化排名”会带来更多的商业机会和成交额、总利润。因此,此类“个性化算法”也需要进一步有效规制。如果商业共同体之间不能达成有效的自律协定以约束自身行为——这是不太现实的,在高强度的商业竞争中“谁自律谁吃亏”——那么,具有普遍约束力的法律的介入可能就是一种必需了。

一种可能的方案是,将智能算法对人类的影响限制在一个可接受的范围之内:确保“人工”影响和决定“智能”,而不是相反。

在学理上,“自由”具有不同的含义。我认为,位居“自由意义体系”最核心地位的,乃是一种“拒绝的自由”。这在法律对人类权利的保护上,就体现为“拒绝的权利”。“你们玩你们的,我们不干了。”这是面对人工智能歧视甚至强权,公民更底线的一点点尊严:我拒绝。只有确保和捍卫这样一种“更底线的自由”,才能真正实施其他一些治理算法的措施。通过法律架构与技术手段,保证人类智能对人工智能系统的整体领导与关键把控,是一个基本的方面。最重要的是,即便不能直接解决问题,人类起码也要保留“拒绝的权利”,这是人类在算法时代的底线尊严。

(文章仅代表作者观点。责编邮箱:yanguihua@jiemian.com。)