彭兰

• 1:中国人民大学新闻与社会发展研究中心
• 2:中国人民大学新闻学院

摘要(Abstract)：

今天算法的应用正在全面普及,一个算法社会正在到来。人们在享受算法带来的便利的同时,在某些方面也面临着成为算法"囚徒"的风险。人的认知、判断与决策可能会受制于算法,人的社会位置也会因算法偏见、歧视以及其他原因受到禁锢。在一些数字劳动平台,算法在隐性控制着劳动者的劳动,算法、大数据及其他新技术也可能增强对人的监控。但反思算法社会的"囚徒"风险,并不意味对算法的拒绝,加强算法开发者的技术理性和算法伦理培养,提高算法应用者的算法素养,我们才能更好地应对算法社会的挑战。

关键词(KeyWords)： 算法;算法社会;算法伦理;算法素养

Abstract:

Keywords:

基金项目(Foundation):

作者(Author): 彭兰

DOI: 10.16602/j.gmj.20210001

参考文献(References)：

• 阿里尔·扎拉奇、莫里斯·E.斯图克(2018):《算法的陷阱：超级平台、算法垄断与场景欺骗》(余潇译),北京：中信出版社。
• 卜素(2019):人工智能中的“算法歧视”问题及其审查标准，《山西大学学报(哲学社会科学版)》,第42卷第4期，124-129页。
• 陈龙(2020):“数字控制”下的劳动秩序——外卖骑手的劳动控制研究，《社会学研究》,第6期，113-135页。
• 陈敏光(2020):司法人工智能的理论极限研究，《社会科学战线》,第11期，194-203页。
• 丁晓东(2017):算法与歧视：从美国教育平权案看算法伦理与法律解释，《中外法学》,第29卷第6期，1609-1623页。
• 段伟文(2017):控制的危机与人工智能的未来情境，《探索与争鸣》,第10期，7-10页。
• 段伟文(2020):面向智能解析社会的伦理校准，《上海交通大学学报(哲学社会科学版)》,第4期，27-33页。
• 何明升(2020):智慧社会：概念、样貌及理论难点，《学术研究》,第11期，41-48页。
• 胡凌(2019):数字社会权力的来源：评分、算法与规范的再生产，《交大法学》,第1期，21-34页。
• 蒋舸(2019):作为算法的法律，《清华法学》,第13卷第1期，64-75页。
• 蒋淑媛、黄彬(2020):当“文艺青年”成为“数字劳工”:对网络作家异化劳动的反思，《中国青年研究》,第12期，23-30页。
• 孔欣欣、苏本昌、王宏志、高宏、李建中(2017):基于标签权重评分的推荐模型及算法研究，《计算机学报》,第40卷第6期，1440-1452页。
• 赖祐萱(2020年9月8日):外卖骑手，困在系统里，获取自https://mp.weixin.qq.com/s/Mes1RqIOdp48CMw4pXTwXw。
• 蓝江(2018):人工智能与伦理挑战，《社会科学战线》,第1期，41-46页。
• 蓝江(2019):交往资本主义、数字资本主义、加速主义——数字时代对资本主义的新思考，《贵州师范大学学报(社会科学版)》,第4期，10-19页。
• 蓝江(2020):生命档案化、算法治理和流众——数字时代的生命政治，《探索与争鸣》,第9期，105-114页。
• 李弦(2020):数字劳动的研究前沿——基于国内外学界的研究述评，《经济学家》,第9期，117-128页。
• 栗峥(2020):人工智能与事实认定，《法学研究》,第1期，117-133页。
• 林曦、郭苏建(2020):算法不正义与大数据伦理，《社会科学》,第8期，3-22页。
• 刘君良、李晓光(2020):个性化推荐系统技术进展，《计算机科学》,第47卷第7期，47-55页。
• 刘培、池忠军(2019):算法歧视的伦理反思，《自然辩证法通讯》,第41卷第10期，16-23页。
• 刘祥乐(2017):技术理性批判的逻辑嬗变及其困境：从卢卡奇、马尔库塞到哈贝马斯，《内蒙古大学学报(哲学社会科学版)》,第49卷第5期，43-49页。
• 马长山(2019):智慧社会背景下的“第四代人权”及其保障，《中国法学》,第5期，5-24页。
• 孟天广、赵娟(2018):大数据驱动的智能化社会治理：理论建构与治理体系，《电子政务》,第8期，1-11页。
• 孟祥武、刘树栋、张玉洁、胡勋(2015):社会化推荐系统研究，《软件学报》,第26卷第6期，1356-1372页。
• 尼尔·波兹曼(2004):《娱乐至死》(章艳译),南宁：广西师范大学出版社。
• 齐延平(2019):算法社会的治理逻辑，《华东政法大学学报》,第6期，5页。
• 任剑涛(2020):人工智能与社会控制，《人文杂志》,第1期，33-44页。
• Sedgewick,R.& Wayne,K.(2012):《算法》(谢路云译),北京：人民邮电出版社。
• 孙萍(2019):“算法逻辑”下的数字劳动：一项对平台经济下外卖送餐员的研究，《思想战线》,第45卷第6期，50-57页。
• 王小芳、王磊(2019):“技术利维坦”:人工智能嵌入社会治理的潜在风险与政府应对，《电子政务》,第5期，86-93页。
• 吴鼎铭(2019):量化社会与数字劳动：网络水军的政治经济学分析，《现代传播》,第5期，47-51页。
• 邢春晓、高凤荣、战思南、周立柱(2007):适应用户兴趣变化的协同过滤推荐算法，《计算机研究与发展》,第44卷第2期，296-301页。
• 许海玲、吴潇、李晓东、阎保平(2009):互联网推荐系统比较研究，《软件学报》,第20卷第2期，350-362页。
• 杨庆峰(2019):数据偏见是否可以消除，《自然辩证法研究》,第35卷第8期，109-113页。
• 姚前(2018):算法经济：资源配置的新机制，《清华金融评论》,第10期，91-98页。
• 叶韦明、欧阳荣鑫(2020):重塑时空：算法中介的网约劳动研究，《浙江学刊》,第2期，167-176页。
• 伊莱·帕里泽(2020):《过滤泡：互联网对我们的隐秘操纵》(方师师、杨媛译),北京：中国人民大学出版社。
• 虞青松(2020):算法行政：社会信用体系治理范式及其法治化，《法学论坛》,第35卷第2期，36-49页。
• 於兴中(2018):算法社会与人的秉性，《中国法律评论》,第2期，57-65页。
• 张凌寒(2019):算法权力的兴起、异化及法律规制，《法商研究》,第36卷第4期，63-75页。
• 张欣(2019):从算法危机到算法信任：算法治理的多元方案和本土化路径，《华东政法大学学报》,第22卷第6期，17-30页。
• 张玉宏、秦志光、肖乐(2017):大数据算法的歧视本质，《自然辩证法研究》,第33卷第5期，81-86页。
• 赵建军(2006):超越“技术理性批判”,《哲学研究》,第5期，107-113页。
• 郑晨予、范红(2020):从社会传染到社会扩散：社交机器人的社会扩散传播机制研究，《新闻界》,第3期，51-62页。
• 周汉华、刘灿华(2020):社会治理智能化的法治路径，《法学杂志》,第9期，1-12页。
• 朱郁筱、吕琳媛(2012):推荐系统评价指标综述，《电子科技大学学报》,第41卷第2期，163-175页。