当前位置:首页 > > 六大人工智能的热点问题 |
随着人工智能技术发展步入快车道,业务数量和覆盖面不断提升,新业务模式和新 产品持续涌现。与此同时也产生了各种科技伦理问题和挑战,特别是那些已经深入 到日常生活方方面面的各类算法,引起了社会的广泛担忧。 1.调度决策:外卖调度系统"困住"骑手 外卖平台引入人工智能技术和系统,会帮助骑手规划订单的取餐顺序和配送 路线。在大大提升配送效率的同时,也引发了 "困住”骑手的质疑,例如系 统规划的路径或预计的时长存在不合理情况,而骑手囿于系统限制,为了节 省时间往往选择违反交通规则’给自身和他人带来安全隐患。 2.个性化推荐:电商场景下的信息茧房和马太效应 电商平台根据消费者的兴趣爱好、消费习惯等提供智能推荐服务,节省时间 成本、大大提升了匹配效率,但也产生了信息茧房和马太效应。一方面可能 出现推荐商品重复率过高的情形;另一方面系统天然倾向于推荐实力强服务 好的头部商家,导致市场资源更加集中,加剧了两极分化。 3.内容治理:如何守护清朗健康的网络环境? 部分不法分子在网络平台上,为了骗取流量,发布各式各样的儿童软色情内 容’污染了网络空间’败坏社会风气’严重侵害了未成年人权益。这些低俗 信息频繁出现’人工智能可以帮助清理顽固的信息污垢,守护清朗健康的网 络环境吗? 4. 信息检索:商品的销量和评价真实可信吗? " 在电商平台上’商品销量和评价会在一定程度上决定检索中的排序’从而影 响用户的购买意愿。这种机制催生了一些作弊行为,部分不法分子蓄意"灌 水",伪造销量数据,虚构大量相似"好评”O如何防止人工智能被黑灰产 恶意投放的作弊数据欺骗,保障信息的真实可信? 5.自动识别:人工智能可以放心使用吗? 2021年,美国底特律市的一位男子开启自动驾驶模式后’撞上马路中行驶 的半挂卡车’不幸身亡。据分析,事故原因是自动驾驶系统将货车的白色车 厢错误识别为蓝天白云’因而没有及时采取刹车制动等措施。之前也发生过 数次类似事件’这难免让人们产生疑问,人工智能自动识别的结果可以放心 \使用吗? 6 .深度合成:眼见不一定为实 近年来,利用”深度合成"技术恶搞公众人物的事件不时发生,造成了恶劣 的影响。随着”深度合成"技术和工具快速成熟与扩散,其风险不断增大, 恶意使用极易造成虚假信息泛滥,可能严重妨碍司法公正、引发信任危机, 甚至危害国家安全。 |
机器人推荐 |