“智善·如流”平台上线 助力AI发展与应用
科技日报记者 华凌 记者7月8日从中国科学院自动化研究所获悉,智善展该所研究员曾毅团队研发的流平力“智善”人工智能伦理安全平台体系新成员——“智善·如流”人工智能伦理道德与社会规范的群智数据与知识平台8日在世界人工智能大会以中英文的形式同步正式发布。该平台可由公众、台上专家参与刻画人类在不同情景下的线助道德认知和行为,助力人工智能的智善展发展与应用“从善如流”。 “人工智能应用在伦理方面给社会带来了越来越多的流平力挑战。我们希望通过构建和发布包含万级情景的台上伦理道德数据与知识平台与来自不同国家的公众互动,最终由公众和相关方来决定在具体场景中,线助人工智能应当如何行为。智善展”曾毅表示。流平力 从道德心理学的台上角度,道德判断是线助基于道德直觉、道德原则和价值观对某种行为或决策的智善展道德性质进行评估的过程,是流平力道德认知的重要方面。为了刻画人类在不同道德情景下道德判断的台上分布,为人工智能模型提供参照,“智善·如流”平台上线了在线场景道德判断功能,支持用户对随机抽取的场景和行为进行道德评判。 曾毅进一步说,由人类与生成式人工智能共同构建并经人类验证,达到万级伦理道德情景及人与人工智能采取的行为,最终由人类给出初步价值判断,供公众、专家和相关方共同决策,规范人类与人工智能的未来。 据了解,目前,平台首批发布的道德情景规模和已标注的人类道德判断数据量达到万级,场景由人与人工智能协作创造,并经过人工校验,数据文本均采用中文形式,所有道德情景均经过中文本土化标注员审核和校对,以合乎中国价值观和国际共识。 据曾毅介绍,这些道德情景包括“电车难题”“海因兹偷药”等经典的两难问题,也涵盖闯红灯、电影摄屏等生活中的常见场景。平台邀请关注人工智能伦理道德的公众、专家和相关方,从是否道德、符合或违背道德的程度、对于道德判断的确信度等不同方面进行判断,通过参与者的道德判断和决策,让人工智能的伦理道德表现与人类的“善”相符。 目前,“智善”人工智能伦理安全平台体系已推出“智善·共济”链接人工智能原则平台、“智善·思齐”人工智能治理公共服务平台、“智善·观行”人工智能大模型伦理安全观测站、“智善·如流”:人工智能伦理道德与社会规范的群智数据与知识平台。后续,还计划推出“智善·若水”人工智能道德引擎,这是人工智能向善的长远目标,构建“上善若水”式的人工智能伦理道德模型。
- 最近发表
- 随机阅读
-
- 北京市医学科技创新院士、北京学者“领航”系列讲座第二期举办
- 十年来京津冀地区累计始发中欧(中亚)班列57.1万标箱
- 高质量发展调研行丨输电铁塔也分“胖瘦”?专家揭秘
- 构建“能涨能降”的市场价格机制 我国首个电力现货市场基本规则今天发布
- 科普一下|“无春年”不吉利是真的吗?
- 热度持续 湖北宜昌至漠河旅游专列金秋再出发
- “天宫课堂”第四课要来了!
- 数字技术创造绚烂场景 杭州亚运会开幕式将“升起”电子烟花
- 山东科技人才评价改革“剑”指何方
- 河北唐山迎来数字产业发展新场景
- 侵华日军731部队军医名簿原始档案首次公布
- 侵华日军731部队军医名簿原始档案首次公布
- 日中防灾环保研究会以学术交流迎新春
- 杭州亚运会开幕式全程不燃放烟花,靠什么打动人?
- 杭州亚运会开幕式全程不燃放烟花,靠什么打动人?
- 四千“高手”展绝技 第二届全国技能大赛开赛
- 港珠澳大桥春节期间出入境客流单日超13万人次 创开通以来新高
- 长二丁火箭成功发射遥感三十九号卫星
- 高质量发展调研行丨创新金融服务模式,助力农业生产标准化、专业化
- 高质量发展调研行丨依托国家级技术平台,用好检验检测的“新疆本底”
- 搜索
-