中工网首页时政评论国际军事社会财经企业工会维权就业论坛博客理论人物网视图画体育汽车文化书画教育读书娱乐旅游绿色城建社区打工

中工工会

深度报道

全总领导

王东明 全国总工会主席

陈 刚 全国总工会党组书记、副主席、书记处第一书记

张少琴 全国总工会副主席(兼)

蔡振华 全国总工会副主席、 书记处书记、党组成员

翁杰明 全国总工会副主席(兼)

张晓兰 全国总工会副主席(兼)

阎京华 全国总工会副主席、书记处书记,机关党委书记,中国金融工会全国委员会主席

邱小平 全国总工会副主席(兼)

江广平 全国总工会副主席、书记处书记、党组成员

李晓钟 全国总工会党组成员、 经费审查委员会主任

马吉孝 全国总工会副主席(兼)

房建孟 中央纪委国家监委驻全国总工会机关纪检监察组组长、全国总工会党组成员

魏地春 全国总工会副主席、 书记处书记、党组成员

马   璐 全国总工会副主席候选人、书记处书记人选、党组成员

郭明义 全国总工会副主席(兼)

巨晓林 全国总工会副主席(兼)

高凤林 全国总工会副主席(兼)

张茂华 全国总工会书记处书记、党组成员,组织部部长

许山松 全国总工会书记处书记、党组成员

王俊治 全国总工会书记处书记、党组成员

给智能机器嵌入“道德”算法

喻思南
2018-09-03 07:53:07

  人工智能的应用,可能是影响深远的社会伦理试验。应通过算法给智能机器嵌入人类的价值观和规范,让它们具有和人类一样的伦理道德

  前不久,包括特斯拉首席执行官马斯克在内的多位全球人工智能顶尖专家签署承诺书,呼吁不要开发“人工智能自主武器”。这已经不是业界第一次警告人工智能的潜在风险了。尽管当前处理单项任务、完成人类指令的“弱人工智能”自主性还很低,人们却不能因此忽视新技术应用的潜在隐患。

  高效、聪明的人工智能并不完美。比如,人工智能存在算法缺陷。这种缺陷往往源于机器学习过程的不可解释和不可理解,它的判断有时就像在一个黑箱中完成,缺少透明性。无人驾驶汽车决定向左或右转时,人们并不完全清楚它做出转向的过程。除了传感器故障,人们甚至无法准确找到问题原因,这就给有针对性地调整系统、判定责任带来了障碍。正因为如此,不久前生效的欧盟《通用数据保护条例》专门规定,人工智能公司必须让人来审查某些算法决策。

  不仅有近忧,更有远虑。放眼未来,人工智能的应用正在模糊虚拟世界和物理世界的界限,可能重塑人类的生存环境和认知形态,并由此衍生出一系列棘手的伦理、法律和安全难题。与历史上其他技术创新相比,人工智能的伦理法律等问题受到如此大的关注,一个重要原因在于它在理念上有望实现可计算的感知、认知和行为,从而在功能上模拟人的智能和行动,进而使得机器具有了一种准人格或拟主体的特性。人类现有的法律规范、概念框架及知识储备,能否应对人工智能发展引发的新问题,是人们不得不正视的挑战。

  针对人工智能应用的潜在风险,国际社会在标准设计、伦理道德等方面提出了一系列试图控制智能机器系统的方案,逐渐形成一个共识原则:通过算法给智能机器嵌入人类的价值观和规范,以此让它们具有和人类一样的同情心、责任心、羞耻感等伦理道德。人们希望,人工智能的算法遵循“善法”,在完成人类难以完成的任务同时,吸取人类道德规范“善”的一面,从而达到控制机器风险的目的。毕竟,任何算法都只是实现目的的工具或手段,“善”的结果才是人类的追求目标。

  实际上,通过编写代码和算法来控制机器的设想并不新鲜。70多年前,美国科幻作家阿西莫夫提出“机器人三定律”,构想了通过内置的“机器伦理调节器”,设定机器人不得危害人类的原则。而今,计算机专家、伦理学家、社会学家、心理学家等正在共同努力,走在实践这一设想的路上。

  人类对人工智能发展的远虑或许来得早了点,但未雨绸缪体现的正是人类的智慧和洞见,我们不能等到人工智能深度介入人类生活后才思考如何与之相处的问题。与机器相处的和谐度,应是人类开发利用人工智能的重要标尺。毕竟,人工智能的应用,不仅仅是一场科技创新,也可能是影响深远的社会伦理试验。

  “人工智能的短期影响由控制它的人决定,而长期影响则取决于人工智能是否完全为人所控制。”这是知名物理学家霍金给人类留下的警示。我们不必被人工智能的风险所吓倒,但在享受人工智能福利的同时,也需要划好伦理道德、法律规则等红线。

来源:人民日报
编辑:葛文琦

图片新闻

全总要闻

热点专题

深度报道

职工之声

新闻日历

|

新闻排行

友情链接

中华全国总工会 | 中国工会劳动和经济工作网 | 中国工会权益保障网 | 全国工会社会组织工作信息平台 | 全国厂务公开民主管理网 | 中国工会普法网 | 中国工会女职工工作网 | 中国职工教育网 | 中国职工发展基金会

地方工会

北京市总 | 天津市总 | 上海市总 | 山西省总 | 河北省总 | 陕西省总 | 辽宁省总 | 吉林省总 | 黑龙江省总 | 江苏省总 | 浙江省总 | 山东省总 | 河南省总 | 湖北省总 | 贵州省总 | 广东省总 | 福建省总 | 海南省总 | 湖南省总 | 四川省总 | 青海省总 | 新疆区总 | 合肥市总 | 深圳市总 | 哈尔滨市总 | 沈阳市总 | 石家庄市总 | 宁波市总 | 南京市总 | 杭州市总 | 西安市总 | 十堰市总
京ICP证100580号 | 互联网新闻信息服务许可证 (1012009003) | 京公网安备110401200155 | 中国互联网视听节目服务自律公约
广播电视节目制作经营许可证(广媒)字第185号 | 信息网络传播视听节目许可证(0111630)
关于我们 | 广告服务 | 联系我们 | 本站地图 | 投稿邮箱 |版权声明 |违法和不良信息举报电话:010-84151598 |网络敲诈和有偿删帖举报电话:010-84151598
Copyright 2008-2018 by www.workercn.cn. all rights reserved
扫码关注

中工网微信


中工网微博


中工网抖音


工人日报
客户端
×