人工智能设计伦理
人工智能设计伦理
5000+ 人选课
更新日期:2025/06/26
开课平台智慧树
开课高校浙江大学
开课教师潘恩荣
学科专业
开课时间2025/01/21 - 2025/06/28
课程周期23 周
开课状态开课中
每周学时-
课程简介
世界新一轮科技革命与产业变革(第四次工业革命)对人工智能伦理提出了新要求,一方面要推动负责任的人工智能研究与实践,另一方面要探索与创造未来社会的新伦理准则和哲学思想。本课程强调“面向技术本身的”人工智能伦理,目标是训练学员基本的伦理技能、突破传统的应用伦理思维,探寻新型“人与机”关系及其伦理准则。课程主要内容包括:人工智能伦理谱系、伦理研究方法、“人与机”关系反思、案例研究等。
课程大纲

在线教程

章节简介教学计划
人工智能与伦理
登录后可预览视频
为什么需要人工智能,它能做什么
潘恩荣
人工智能是什么?
潘恩荣
人工智能伦理是应用伦理吗?
潘恩荣
人工智能伦理谱系
为什么需要人工智能伦理谱系
潘恩荣
伦理谱系根目录
潘恩荣
机器“质变”决定人工智能伦理层级
潘恩荣
人群“变迁”塑造人工智能伦理谱系
潘恩荣
人工智能伦理研究与设计方法
方法简介
潘恩荣
伦理是一种功能指标
潘恩荣
人工智能伦理的设计过程
潘恩荣
人工智能如何以人为本
“以人为本”伦理准则的地位
潘恩荣
“人”的概念比较——“人”之四象模型
潘恩荣
人工智能“以人为本”伦理准则可行吗?
潘恩荣
应用场景与伦理
人工智能应用场景
潘恩荣
为什么是自动驾驶?
潘恩荣
自动驾驶诉讼角色扮演
潘恩荣
矛盾分析与解决思路
潘恩荣
数据伦理与隐私保护
为什么数据如此重要?
潘恩荣
数据的自然属性
潘恩荣
数据的伦理冲突与化解
潘恩荣
算法与伦理
算法引发的伦理挑战
潘恩荣
道德算法设计
潘恩荣
伦理矛盾与案例分析
潘恩荣
算力与伦理
算力与人工智能“体力”
潘恩荣
机器换人及其担忧
潘恩荣
智能机器如何换人才是合理的?
潘恩荣
  • 第一章人工智能与伦理

    人工智能伦理问题需在工业革命背景下进行考量。在第四次工业革命背景下:人工智能伦理不是应用伦理,不是解伦理难题。人工智能伦理是探索与创造新哲学思想,指向新伦理革命。与人工智能的“自主性”一道,人工智能伦理为工程师争取更多“自主”。

  • 1.1为什么需要人工智能,它能做什么

    人工智能背后是第四次工业革命历史机遇的争夺,我们需要人工智能推动新的工业革命,抓住新的历史发展机遇。另外也需要预防人工智能给人类社会带来不良影响。

  • 1.2人工智能是什么?

    人工智能在工业革命的背景下会带来经济、社会、伦理道德上的重构,人工智能专业是一个综合性的专业。

  • 1.3人工智能伦理是应用伦理吗?

    人工智能伦理涉及使用伦理和设计伦理,传统的应用伦理学无法满足人工智能伦理的发展要求。作为专业技术人员,人工智能伦理是专业技能而不仅仅是素养。

  • 第二章人工智能伦理谱系

    人工智能伦理:弱人工智能机器对应的伦理3.0版本,强人工智能机器对应的伦理4.0版本。

  • 2.1为什么需要人工智能伦理谱系

    繁杂混乱的状况,已经对人工智能伦理的研究和教育造成困扰。

  • 2.2伦理谱系根目录

    人工智能伦理的核心在于“人与机”关系,以此为根目录可建立一个人工智能伦理谱系。

  • 2.3机器“质变”决定人工智能伦理层级

    机器“质变”是划分人工智能伦理谱系层级的根本因素。

  • 2.4人群“变迁”塑造人工智能伦理谱系

    由于不同人群加入人工智能发展,带来了不同的利益诉求和价值诉求,因而产生了不同类型的人工智能伦理问题。

  • 第三章人工智能伦理研究与设计方法

    伦理问题主要是“价值”之间出现矛盾。伦理问题作为系统的有害功能——负向伦理。伦理收益作为系统的有用功能——正向伦理。人工智能伦理研究与设计方法:确定AI系统功能与伦理目标;找出伦理问题;找出伦理矛盾;根据分离原理,找出可能方案;确定最终方案。

  • 3.1方法简介

    工程设计伦理方法是现代技术哲学方法、TRIZ方法、伦理谱系方法的综合。涉及经验转向和价值论转向和矛盾解决理论。

  • 3.2伦理是一种功能指标

    技术人工物具有结构和功能两种属性。人类活动场景会影响技术人工物,因此需要考虑人工智能伦理问题的双面性,即存在正向伦理和负向伦理。引入理想解的概念可以寻找出最佳的功能设计。

  • 3.3人工智能伦理的设计过程

    伦理矛盾是人工智能伦理研究的核心,解决伦理矛盾是人工智能伦理的根本任务。

  • 第四章人工智能如何以人为本

    古今中外均有以人为本的思想,引入“人”之四象模型,从孔子、近代西方、马克思的角度进行探讨,中国更有希望实现人工智能的以人为本,最终以“人机平权”促进“以人为本”。

  • 4.1“以人为本”伦理准则的地位

    古今中外均有以人为本的思想。

  • 4.2“人”的概念比较——“人”之四象模型

    智能系统算法的设计必须意识到它们是一个更大系统的一部分。以人为本的人工智能分成两个关键能力:理解人类、帮助人类理解人工智能系统。可分为自然人、抽象人、具体人、社会人,孔子、近代西方、马克思有不同的想法。

  • 4.3人工智能“以人为本”伦理准则可行吗?

    以人为本的实质是指在特定应用场景中,在人与“超人”的人工智能机器之间,凡事均“以(凡)人为中心”是否可能?以及如何可能?西方式现代化中的“以人为本”思想本质上是“人类(种族)中心主义”思想,人工智能以人为本不可行。但是孔子的以人为本思想可行,且影响中国深远,因此人工智能以人为本在中国可行。

  • 第五章应用场景与伦理

    自动驾驶是最大的人工智能应用场景。自动驾驶的革命性特征是“人手离开驾驶过程”,生命交给机器。自动驾驶伦理的核心是“人的生死是否可以由机器决策”。

  • 5.1人工智能应用场景

    人工智能的发展需要考虑应用场景,这符合科学路径和现实情况。

  • 5.2为什么是自动驾驶?

    自动驾驶是最大的人工智能应用场景。涉及人的生死,伦理矛盾激化。

  • 5.3自动驾驶诉讼角色扮演

    从不同的角色角度对自动驾驶事故进行判决,思考其中的伦理问题。

  • 5.4矛盾分析与解决思路

    自动驾驶存在问责难题,可以考虑TRIZ冲突解决理论,注意区分AI与IA。

  • 第六章数据伦理与隐私保护

    数据伦理与隐私保护

  • 6.1为什么数据如此重要?

    数据伦理问题众多且频发,更能引发国家数据安全问题。

  • 6.2数据的自然属性

    数据是数字经济的石油、货币,数字化的基础,智能化的原料和燃料,……个人隐私是数字世界的货币,甚至是“硬通货”“一般等价物”。元宇宙的货币以“个人隐私”为锚定物,与(国家)主体信用、(区块链)稀缺性、黄金或“石油”做货币锚定物同性质。

  • 6.3数据的伦理冲突与化解

    根据“人”之四象模型对四种人的数据进行分级保护,符合解决伦理悖论的分离思路。“大数据”最后就是个数学问题。

  • 第七章算法与伦理

    算法会引发伦理挑战,要有道德算法设计思路并试图解决。

  • 7.1算法引发的伦理挑战

    技术集成会引发变性效应和死神效应,最终引发社会风险。

  • 7.2道德算法设计

    道德算法是指在特定的人工智能应用场景中,包含了某种特定价值,或可以达到特定目的的算法,且该价值或目的在场景中是道德可接受的。可以学习设计思路和治理方式应对算法的伦理挑战。

  • 7.3伦理矛盾与案例分析

    罗尔斯算法存在最大最小化原则和无知之幕原则。对于不同的矛盾类型要有不同的解决思路和实现方式。

  • 第八章算力与伦理

    算力是人工智能的“体力”。长期发展存在机器换人担忧,需要思考其合理性。

  • 8.1算力与人工智能“体力”

    算力是工业革命的推动力。

  • 8.2机器换人及其担忧

    机器换人存在背景、需求,不同的人有不同的态度,也可能引发众多伦理问题。

  • 8.3智能机器如何换人才是合理的?

    机器换人有近忧和远虑,注意区分人与机器的能力区别,可以把“人机对立”转向“人机互补”,解决伦理问题。

  • 开始学习
  • 第一章  作业测试
    第一章 人工智能与伦理

    1.1 为什么需要人工智能,它能做什么

    1.2 人工智能是什么?

    1.3 人工智能伦理是应用伦理吗?

    视频数3
  • 第二章  作业测试
    第二章 人工智能伦理谱系

    2.1 为什么需要人工智能伦理谱系

    2.2 伦理谱系根目录

    2.3 机器“质变”决定人工智能伦理层级

    2.4 人群“变迁”塑造人工智能伦理谱系

    视频数4
  • 第三章  作业测试
    第三章 人工智能伦理研究与设计方法

    3.1 方法简介

    3.2 伦理是一种功能指标

    3.3 人工智能伦理的设计过程

    视频数3
  • 第四章  作业测试
    第四章 人工智能如何以人为本

    4.1 “以人为本”伦理准则的地位

    4.2 “人”的概念比较——“人”之四象模型

    4.3 人工智能“以人为本”伦理准则可行吗?

    视频数3
  • 第五章  作业测试
    第五章 应用场景与伦理

    5.1 人工智能应用场景

    5.2 为什么是自动驾驶?

    5.3 自动驾驶诉讼角色扮演

    5.4 矛盾分析与解决思路

    视频数4
  • 第六章  作业测试
    第六章 数据伦理与隐私保护

    6.1 为什么数据如此重要?

    6.2 数据的自然属性

    6.3 数据的伦理冲突与化解

    视频数3
  • 第七章  作业测试
    第七章 算法与伦理

    7.1 算法引发的伦理挑战

    7.2 道德算法设计

    7.3 伦理矛盾与案例分析

    视频数3
  • 第八章  作业测试
    第八章 算力与伦理

    8.1 算力与人工智能“体力”

    8.2 机器换人及其担忧

    8.3 智能机器如何换人才是合理的?

    视频数3
  • 期末考试