刘永谋,王春丽

• 1:中国人民大学哲学院

摘要(Abstract)：

机器演进至今主要经历了手工工具、机器工具、自动机器、智能机器四个阶段，未来可能会出现“AI新无知之幕”。科学技术的发展将智能革命向纵深化推进，人机关系问题日益凸显。目前的人机关系友好论、敌对论、协同论已不能阐明人机关系的复杂性，亦无法站在实践的立场上为人机关系的和谐构建提供可行性新方案。面对科技创新带来的“AI新无知之幕”,技术控制的选择论强调人在人机关系中的主导性作用，主张干预、引导与控制机器的发展，在遵循道德性、AI设计的有限主义、实用性三大原则的基础上，从制度、伦理、教育、技术等层面进行战略推进。

关键词(KeyWords)： 智能时代;人机关系;人工智能;技术控制;选择论

Abstract:

Keywords:

基金项目(Foundation): 国家社会科学基金重大项目“技术治理理论研究”(项目批准号:21&ZD064)的阶段性研究成果

作者(Author): 刘永谋,王春丽

参考文献(References)：

• 阿卡普拉沃·包米克(2021):《机器意识：人工智能如何为机器装上大脑》(王兆天，李晔卓译),北京：机械工业出版社。(原书Bhaumik,A.[2018].From AI to robotics:Mobile,social,and sentient robots.Florida:CRC Press.)
• 艾什比(1991):《大脑设计》(乐秀成，朱熹豪等译),北京：商务印书馆。(原书Ross Ashby,R.[1960].Design for a brain.London:Chapman and Hall,Limited.)
• 德拉勃金娜(1959):《机器人排挤人的地方》(周朴之译),上海：上海人民出版社。(原书Е.Драбкина.[1958].Где роботы вытесняют людей.Москва:Гоополитиздат.)
• 杜严勇(2020):《人工智能伦理引论》,上海：上海交通大学出版社。
• 冯天瑾(1983):《智能机器与人》,北京：科学出版社。
• 福柯(1999):《规训与惩罚》(刘北成，杨远缨译),北京：生活·读书·新知三联书店。(原书Foucault,M.[1991].Discipline and punish.London:Penguin.)
• 国务院(2017):《新一代人工智能发展规划》,北京：人民出版社。
• 赫伯特·马尔库塞(1989):《单向度的人：发达工业社会意识形态研究》(刘继译),上海：上海译文出版社。(原书Marcuse,H.[1964].One dimensional man:Studies in the ideology of advanced industrial society.London:Routledge.)
• 胡云冰、何桂兰、陈潇潇等(2021):《人工智能导论》,北京：电子工业出版社。
• 杰夫·科尔文(2017):《不会被机器替代的人》(俞婷译),北京：中信出版社。(原书Colvin,G.[2015].Humans are underrated:What high achievers know that brilliant machines never will.New York:Penguin Publishing Group.)
• 林德宏(1999):《人与机器》,南京：江苏教育出版社。
• 刘永谋，李尉博(2022年6月21日):“走向行动”的技术哲学，《中国社会科学报》。
• 马克思、恩格斯(2001):《马克思恩格斯全集：第44卷》(2版),北京：人民出版社。
• 芒福德(2009):《技术与文明》(陈允明、王克仁、李华山译),北京：中国建筑工业出版社。(原书Mumford,L.[1963].Technics and civilization.Boston:Mariner Books.)
• 默里·沙纳汉(2016):《技术奇点》(霍斯亮译),北京：中信出版集团股份有限公司。(原书Shanahan,M.[2015].The technological singulerity.Cambridge,MA:MIT Press.)
• 唐·伊德(2012):《技术与生活世界：从伊甸园到尘世》(韩连庆译),北京：北京大学出版。(原书Ihde,D.[1990].Technology and the lifeworld:From garden to earth.Bloomington:Indiana University Press.)
• 温德尔·瓦拉赫、科林·艾伦(2017):《道德机器——如何让机器人明辨是非》(王小红译),北京：北京大学出版社。(原书Wallach,W.,Allen,C.[2009].Moeal machines:Teching robots right from wrong.Oxford:Oxford University Press.)
• Arnold,T.& Scheutz,M.(2016).Against the moral Turing test:Accountable design and the moral reasoning of autonomous systems.Ethics and Information Technology,18(2),103-115.doi:10.1007/s10676-016-9389-x.
• Hawking,S.(2018).Brief answers to the big questions.New York:John Murray Publishers.
• Jonas,H.(1985).The imperative of responsibility:In search of an ethics for the technological age.Chicago:University of Chicago Press.
• Kapp,E.(1877).Grundlinien einer philosophie der Technik.Braunschweig:G.Westermann.
• Kelly,K.(2009).Out of control:The new biology of machines,social systems,and the economic world.London:Basic Books.
• Licklider,J.C.R.(1960).Man-computer symbiosis.IRE Transactions on Human Factors in Electronics,HFE-1(1),4-11.doi:10.1109/THFE2.1960.4503259.
• Mitcham,C.(1994).Thinking through technology:The path between engineering and philosophy.Chicago:University of Chicago Press.
• Vinge,V.(1993).The coming technological singularity:How to survive in the post-human era.NASA Publication CP-10129,11-22.
• ① 该概念源自“无知之幕”(Veil of Ignorance)。原为政治学家罗尔斯在其著作《正义论》中提出的概念，用来形容在制定社会契约时，每个订约者都有自己的计划，但对于自己目前所处的状态以及未来将何去何从又全然不知，处于一种不得不去向未来但又对未来无法把握的状态。
• ② 智能的层级分为：弱人工智能(Artificial Narrow Intelligence)、强人工智能(Artificial General Intelligence)、超人工智能(Artificial Super Intelligence)
• ③ 技术奇点，其背后的关键思想是人类创造技术的增速正在加快，技术的力量正在以指数级的速度扩张。在几十年内，以信息为基础的技术将涵盖所有人类的知识和技能领域，最终包括人类大脑自身的模式识别能力、解决问题的技能，以及情感和道德。
• ④ 卢德主义：出现于工业革命初期。工人认为机器化大生产造成了他们的失业局面，于是开始憎恨机器，用聚集在一起捣毁机器设备的方式加以反抗，以换取就业。现今，卢德主义者用于指代对抗技术进步与新技术应用的人。