人工智能行业：人工智能治理与可持续发展实践白皮书

标题：人工智能行业：人工智能治理与可持续发展实践白皮书
作者：中国信通院，石霖,刘硕,彭骏涛,傅宏宇,刘翔宇,陈岳峰,杨易侗,段雨泽,安政,呼娜英,孙小童
时间：2022-10-09
页数：107
链接：
https://pdf.dfcfw.com/pdf/H3_AP202210091578992579_1.pdf?1665309927000.pdf
简介：
随着人工智能技术发展步入快车道，业务数量和覆盖面不断提升，新业务模式和新 产品持续涌现。与此同时也产生了各种科技伦理问题和挑战，特别是那些已经深入 到日常生活方方面面的各类算法，引起了社会的广泛担忧。下面主要从阿里巴巴视 角，梳理了社会热议甚至是争议的一些情景。

1.调度决策：外卖调度系统“困住”骑手

外卖平台引入人工智能技术和系统，会帮助骑手规划订单的取餐顺序和配送 路线。在大大提升配送效率的同时，也引发了“困住”骑手的质疑，例如系 统规划的路径或预计的时长存在不合理情况，而骑手囿于系统限制，为了节 省时间往往选择违反交通规则，给自身和他人带来安全隐患。

2.个性化推荐：电商场景下的信息茧房和马太效应

电商平台根据消费者的兴趣爱好、消费习惯等提供智能推荐服务，节省时间 成本、大大提升了匹配效率，但也产生了信息茧房和马太效应。一方面可能 出现推荐商品重复率过高的情形；另一方面系统天然倾向于推荐实力强服务 好的头部商家，导致市场资源更加集中，加剧了两极分化。

3.内容治理：如何守护清朗健康的网络环境

部分不法分子在网络平台上，为了骗取流量，发布各式各样的儿童软色情内 容，污染了网络空间，败坏社会风气，严重侵害了未成年人权益。这些低俗 信息频繁出现，人工智能可以帮助清理顽固的信息污垢，守护清朗健康的网 络环境吗？

4.信息检索：商品的销量和评价真实可信吗

在电商平台上，商品销量和评价会在一定程度上决定检索中的排序，从而影 响用户的购买意愿。这种机制催生了一些作弊行为，部分不法分子蓄意“灌 水”，伪造销量数据，虚构大量相似“好评”。如何防止人工智能被黑灰产 恶意投放的作弊数据欺骗，保障信息的真实可信？

5。自动识别：人工智能可以放心使用吗

2021年，美国底特律市的一位男子开启自动驾驶模式后，撞上马路中行驶 的半挂卡车，不幸身亡。据分析，事故原因是自动驾驶系统将货车的白色车 厢错误识别为蓝天白云，因而没有及时采取刹车制动等措施。之前也发生过 数次类似事件，这难免让人们产生疑问，人工智能自动识别的结果可以放心 使用吗？

6.深度合成：眼见不一定为实

近年来，利用“深度合成”技术恶搞公众人物的事件不时发生，造成了恶劣 的影响。随着“深度合成”技术和工具快速成熟与扩散，其风险不断增大， 恶意使用极易造成虚假信息泛滥，可能严重妨碍司法公正、引发信任危机， 甚至危害国家安全。