当前位置在: 首页 > 传播中心
传播中心    
AI真的“没有立场”吗?算法里藏着谁的价值观
新闻来源:中国科普作家协会 科普中国     作者:     发表时间:2026-10-15     阅读次数:    



下单一份外卖后,应用程序会出现“预计 30 分钟送达”的提示。这一数字源于实时计算,系统在数秒内即可完成路径规划、运力匹配与时间预估。但问题是,何种结果可被视为“算得好”?这一标准并非自然生成,而是由人为预先设定。

标准由人为设定,算法便不可避免地带有偏好。信息茧房、大数据杀熟等议题的讨论已持续多年。但偏好究竟形成于哪个环节?答案在于算法投入使用前的两项选择,即采用何种数据进行训练,以及设定何种优化目标。

一、数据从哪里学来的

机器学习的基本原理是从数据中归纳规律:数据中高频出现的情形识别更为准确,低频出现的情形误差则较大。外卖配送时间预估即为典型例证,老旧小区、特殊路况若在历史订单中样本较少,预估便容易失准。AI 生成人像亦遵循同一逻辑,样本失衡将导致结果产生偏差。数据的采集范围由人为划定,其取舍既取决于场景的重要性,也受数据获取难易程度的限制。

数据导致的偏差通常可被量化。2018 年一项研究对三款商用人脸性别识别系统进行了测试,发现深肤色女性的错误率最高达 34.7%,而浅肤色男性的错误率不超过 0.8%。其原因在于,两个常用的人脸基准数据集中绝大多数为浅肤色面孔,研究者另行构建了肤色与性别均衡的数据集,方检测出这一差距[1]。在此之前,此类偏差鲜有系统性的测量与公开。但即便数据完备,预估时间的松紧设定,仍取决于系统的优化目标。

二、什么样的结果算成功

算法的运行必须具备可计算的成功标准。该标准在技术上被称为目标函数,即算法被设定用以最大化或最小化的指标[2]。以派单场景为例,系统对每种方案进行评分,评分由时长、顺路程度、超时风险等指标按权重加总,得分最高的方案将被执行。纳入指标的因素将被系统优先优化,未纳入指标的因素则不会被系统视为优化目标,但仍可能因与其他指标存在关联而受到间接影响。

美团于 2026 年发布的算法说明中指出,派单算法的目标为保障骑手在合理时间内将餐品送达用户,派单过程中参考顺路程度与超时概率[3]。目标虽已明确,但多长时间可被视为 “合理”?这取决于权重的分配方式。工程团队通常通过实验反复调整权重,以观察何种设置可使评价结果更为理想。但“更好”由哪些指标衡量,必须由人事先确定。若将 “骑手安全” 与 “用户时效” 置于天平两端,二者各占多少权重,这本身即一种价值选择。

美国技术哲学家兰登·温纳指出,技术设计本身即包含了对何者优先、何者被边缘化的安排,这并非仅仅是效率高低的问题[4]。与此相近的概念为 “价值负载”,意指技术从设计阶段起便嵌入了特定的价值取向,所挑战的正是“技术中立”这一预设[5]。目标函数的设定,即这样一种价值选择。工程问题与价值排序往往相互交织,作出选择的主体未必将其视为价值问题。具体到外卖算法,“合理时间” 的定义本身即包含了对骑手与用户何者优先的判断。

但何者优先,是否存在标准答案?能否通过数据验证何种排序更优?超时率、事故率、工作时长等指标均可测量,但超时率下降三个百分点是否足够理想,仅凭数据无法回答。这与数据偏差不同,数据偏差可对照实际情况进行校正,而评价标准的取向则缺乏技术参照系。法规可划定底线,底线之上的取舍则有赖于讨论与协商。

三、当规则被重新设定

规则始终处于变动之中,但规则由谁制定,这一问题尚未得到解决。近年来,外卖平台的算法规则持续调整,参与其中的主体亦日益多元。美团于2024年底宣布推进算法公开常态化[6],通过骑手恳谈会、算法开放日等渠道收集意见,并于2026年5月起在应用程序内开设“美团算法”公示栏。[3]

饿了么则采取了另一种路径。2025年4月,饿了么在上海与骑手代表签订首份地方性算法与劳动规则协议[7];同年9月,又在全国总工会指导下,与一线配送员代表经协商恳谈,签订面向全国的算法与劳动规则协议[8]。与美团的自主举措不同,其约束力的来源存在差异。协议明确,在派单模型中提高交通管制、天气预警、道路施工等动态因素的权重,以降低配送员因异常情况超时的概率。[9]所谓算法调整,本质上即重新分配各项因素在计算中的权重。该协议所记录的,正是骑手诉求进入权重分配的过程。

此类协商机制并非仅适用于外卖领域。配送系统若偏重时效,便会压缩配送时间;推荐系统若偏重停留时长,则会增加容易让用户持续浏览的内容推送。其发展方向取决于目标的设定。

四、算法在优化什么

如开篇所述的 “30 分钟”,这一数字看似源于客观计算,实则取决于系统的优化目标,其中蕴含着特定的价值取向。即便是同一推荐系统,若将优化目标由 “停留时长”调整为 “信息增量”,其向用户推送的内容便会截然不同。

目标应当如何设定,目前尚无统一答案,这意味着相关问题仍需深入讨论。骑手提出的极端天气补贴、商家出餐慢、路线规划等诉求已被纳入饿了么协议[9];2025 年 4 月上海恳谈会亦邀请消费者代表就用户体验提出意见[10]。值得关注的是,上述两例中的诉求均产生于受邀参与的恳谈会,仅能代表与会的少数人。对于处于上述渠道之外的普通用户,其追问能否产生实际影响,有待进一步探讨。但至少表明,主动表达较之沉默更有可能被纳入考量。然而,若系统目标始终由少数人设定,其所定义的“合理”究竟代表谁的立场?每多一个人追问“系统在优化什么”,这一问题获得公共讨论的机会便增加一分。


作者:朱钰婷 浙江大学哲学学院助理研究员

审核专家:孙茜 中国科学院大学公共政策与管理学院副教授


参考文献

[1] BUOLAMWINI J, GEBRU T. Gender shades: intersectional accuracy disparities in commercial gender classification[C]//Proceedings of the 1st Conference on Fairness, Accountability and Transparency. New York: PMLR, 2018, 81: 77-91.

[2] RUSSELL S, NORVIG P. Artificial Intelligence: A Modern Approach[M]. 4th ed. Harlow: Pearson Education, 2021.

[3] 美团推出13项算法优化举措,5月起App可便捷查阅算法规则[EB/OL]. 新浪财经, (2026-05-08)[2026-09-21].

[4] WINNER L. Do artifacts have politics?[J]. Daedalus, 1980, 109(1): 121-136.

[5] FEENBERG A. Questioning technology[M]. London: Routledge, 1999.

[6] 美团算法治理八项新规:推进算法公开常态化 保障骑手收入权益[EB/OL]. 21世纪经济报道, (2024-12-27)[2026-09-28].

[7] 全国首份网约配送算法和劳动规则协议在上海普陀诞生[EB/OL]. 上海市普陀区人民政府, (2025-04-27)[2026-09-28].

[8] 全总指导“饿了么”平台签订算法和劳动规则协议,超时扣款处罚将逐步取消[EB/OL]. 新浪财经, (2025-09-10)[2026-09-28].

[9] 饿了么签订平台算法和劳动规则协议[EB/OL]. 人民网, (2025-09-11)[2026-09-21].

[10] 上海市总工会推动“饿了么”(上海)形成全国首份平台算法与劳动规则协议[EB/OL]. 中工网, (2025-07-14)[2026-09-21].

内容来自:中国科普作家协会

内容资源由项目单位提供




 
上一篇:一降温就关节疼?骨性关节炎秋冬养护要点快收好
下一篇:核泄漏后的地区会寸草不生?

宁ICP备2021001770号-1   宁公网安备64010402001042号

宁夏科普作家协会  (www.nxkpzx.cn)@2020-2022 All Rights Reserved

地址:宁夏银川市兴庆区凤凰北街172号  邮编: 750001 电话: 0951-6851830  Email: nxkpzx0951@126.com