论文
演化博弈视角下的算法偏见与伦理规制
摘要
推荐算法已成为社交媒体时代信息分发的驱动要素,受政治、资本、流量等因素影响,算法在信息分发过程中往往会出现结构性偏见、选择性偏见和趋利性偏见。本文基于人机演化博弈视角,对冷启动、协同过滤、收敛稳定和交互博弈四大阶段算法偏见的生成与纠偏机制进行分析,并基于反向工程实验,面向今日头条新闻客户端进行动态数据追踪和多阶段对比分析。发现算法推荐主题内容存在从发散到收敛的动态演变,使用早期旨在拓展用户兴趣边界,后期推荐主题趋于集中;在各个阶段正面内容均占据推荐主导地位;随着用户使用频次增加,中央媒体内容和广告内容被推荐占比趋于上升;面向不同群体推荐主题内容和情感倾向存在一定结构性差异。适度约束算法权力,有效保障用户权利,才能在合乎伦理的前提下最大化发挥人工智能的信息红利。
作者
向安玲 ,清华大学新闻与传播学院博士研究生。
沈阳 ,清华大学新闻与传播学院教授、博士生导师。
Xiang Anling
Shen Yang
检索正文关键字
论文目录
- 一 引言
-
二 偏见溯源:人机博弈与权力失衡
- (一)冷启动阶段:社会结构性归因与连带性偏见
- (二)协同过滤阶段:自生循环与偏见强化
- (三)收敛稳定阶段:过滤气泡与选择性偏见
- (四)交互博弈阶段:驯化与反向驯化
-
三 偏见演化:主题、情感与价值导向
- (一)主题收敛:“选择”强化与“突变”产生
- (二)情感偏向:正面主导与群体差异
- (三)信息偏食:茧房的结构性差异
- (四)权力操纵:政治内嵌与资本干预
-
四 伦理规制:权力与权利的平衡
- (一)推荐算法权力约束
- 1.强化算法透明
- 2.规避资本操纵
- 3.警惕数据霸权
- 4.推进技术问责
- (二)用户信息权利保障
- 1.知情权:突破过滤气泡
- 2.选择权:主体决策优先
- 3.纠偏权:算法设计重构
- 4.被遗忘权:数据边界控制
- (一)推荐算法权力约束
相关文献
查看更多>>>