九游客户端官网服装鞋帽网首页 > 正文

双面AI:风险与可信博弈,科技如何向善?

2021/7/10 10:10:00 来源: 评论(0)0

AI风险博弈科技

从自动驾驶、AI医疗再到工业生产,以及我们生活的各个领域,AI正在展现巨大变革赋能的潜力。但是,随着AI应用的广度和深度不断拓展,诸如算法安全、数据歧视、数据滥用等诸多问题也显露出一些风险与隐患。从而,引发人们对人工智能信任的思考。

7月9日,在2021九游客户端官网人工智能大会可信AI论坛上,《促进可信人工智能发展倡议》(以下简称“倡议”)正式发布。该倡议由可信AI论坛发起,联合发布单位包括中国信通院、中国科学院自动化研究所中英人工智能伦理与治理研究中心、京东探索研究院、蚂蚁集团等。

上述倡议旨在倡导政产学研各界加快形成国际协同治理共识,促进社会对可信AI的理解和重视,充分挖掘人工智能的产业和社会价值。上海市经济和信息化委员会主任吴金城对21世纪经济报道记者表示,发展可信AI,推动人工智能的透明可视,安全可控,多元包容已成为全球共识,也是未来人工智能健康发展的必由之路。

他认为有三种方式,一是推动加密技术,安全多方计算、联邦学习等安全技术的应用。提升AI技术安全特性和数据保护能力。二是建立测试测评体系。加快构建完善可信AI相关标准,研发创新测试测评技术。三是加快完善制度规范。在国家相关法律和上海市地方性法规框架下研究制定生物信息安全、数据安全、个人隐私等领域的法律法规,以制度保障推动可信AI发展。

从自动驾驶、AI医疗再到工业生产,以及我们生活的各个领域,AI正在展现巨大变革赋能的潜力。甘俊 制

风控不再是人与人的斗争

事实上,当我们把决策交给人工智能的时候,人工智能首先必须证明自己是值得信赖的。因此,基于此的可信任研究,就形成了全球共识。

工业和信息化部科技司高技术处处长徐鹏表示,尤其是在与人类的生产生活密切相关安全领域的风险防范和挑战,比如伦理道德、算法、个人信息的滥用和隐私的泄露以及相应保护问题,是现在大家关注热点之一。由此可见,构建人工智能基础安全保障体系,促进可信的人工智能健康发展任务非常迫切。

“未来的风控将不再是人和人的斗争,而是AI与AI的博弈。”蚂蚁集团副总裁、首席人工智能科学家漆远博士向21世纪经济报道记者透露,在支付宝上,每天上亿笔交易背后,发起攻击的早已不是散户,而是专业的黑产团伙。

为了应对复杂多变的黑产攻击,如何持续加强风控模型的抗打击能力,做到“魔高一尺,道高一丈”,成为摆在所有AI从业者面前的难题。

据了解,从2018年开始,漆远与一批AI技术骨干,在人工智能模型算法中融入经济学“博弈理论”,开发了一项业界全新的技术——“智能对抗”,即通过结合AI和博弈对抗,让机器自动且实时、动态地对自身系统进行安全性攻击,从而提升模型能力,使模型处理结果更加准确。

这一技术类似于金庸小说里的“双手互搏”。因其具有对风险知识形成感知、分析和预测的能力,未来将成为可信AI领域的核心安全技术。

在中国科学院自动化研究所中英人工智能伦理与治理研究中心主任曾毅看来,可信人工智能系统,必须有在线连续学习和随时纠正能力。“从技术的角度看,最新人工智能技术进展模型现在看来都是不可信的。现在人工智能的技术,还不足够谈到真正的可信,所以,它是一个起始点。另外,可信人工智能绝对不仅仅是技术问题,还有社会的视角。如何利用技术赋能跨文化的互信,在我看来是真正实现可信人工智能不得不做的事情,甚至是最后成功的关键。”

亟须建立行业标准

作为数字经济中“抵御风险”的关键,可信AI技术目前已在蚂蚁集团包括反欺诈、反洗钱、反赌博、企业联合风控、数据隐私保护在内的多个风控场景下落地。

除金融风控场景外,可信AI技术还被广泛应用于数据隐私保护、金融科技服务等多个领域。今年6月,十三届全国人大常委会第二十九次会议表决通过包括数据安全法在内的多项法案及两项决定。数据安全法第四条提出,维护数据安全,应当坚持总体国家安全观,建立健全数据安全治理体系,提高数据安全保障能力。

这标志着,数据安全已经上升到总体国家安全观层面,与国家安全挂钩。而各界对此密切关注。

“无论是AI还是科学技术,可信的方式有很多,像稳定性、可解释性、隐私保护、公平性,我们如何把这些综合起来形成统一的共识体?”欧洲科学院外籍院士、澳大利亚科学院院士、悉尼大学教授陶大程提出了自己的问题,由于缺乏可解释性,也限制了人工智能更广泛的应用和赋能,比如说无人驾驶车在道路上出现状况了之后,该如何定责,因为无法解释,驾驶员无法在短短几秒钟之内,对道路产生判断。

一定程度上来说正是因为标准的缺失,导致人工智能的应用落地受到了限制。陶大程进一步认为,不管欧盟的GDPR也好,还是中国的隐私保护条例也好,都说明用户对数据使用要更谨慎,说明了用户对个人信息的保护,是有相当的权利的。只有将上述四个能力综合后,做到明确的责任,才能找到合适的方式度量可信人工智能。

毫无疑问,人工智能在更多领域起到的作用举足轻重,例如医疗诊断、无人驾驶等场景下,很可能一个微小算法错误,都可能导致致命灾难。因此,制定一定的量化指标和行业标准,在产品研发、评测的过程中,才能更加严格评估和遵循规则。

智能时代已加速到来,科技向善是科学技术发展最根本的要义。“向善主要是指两个方面,一是指你的意图好还是坏?另外一个方面是,你做这一个事情的后果是什么。技术的发展也带来了公平的问题,真正的科技向善,应该是赋予每个人更多发展的权利,每个人跟得上这个时代,享受这个红利和普惠性。”

在他看来,无论一家企业还是一个行业,提到信任,就要从责任入手。只有好的意图,才能达成好的后果。从而建立相互影响、相互支持、相互依赖的健康有序发展生态。

 

责任编辑:第一时间
九游客户端官网服装鞋帽网版权与免责声明:
1、凡本网注明"来源:九游客户端官网服装鞋帽网ywinf6.com"的所有作品,版权均属九游客户端官网服装鞋帽网所有,转载请注明"来源:九游客户端官网服装鞋帽网ywinf6.com",违者,本网将追究相关法律责任。
2、本网其他来源作品,均转载自其他媒体,目的在于传递更多信息,不表明证实其描述或赞同其观点。文章内容仅供参考。
3、若因版权等问题需要与本网联络,请在30日内联系我们,电话:400-779-0282,或者联系电子邮件: sjfzxm@vip.188.com ,我们会在第一时间删除。
4、在本网发表评论者责任自负。
跟帖0
参与0

网友评论仅供其表达个人看法,并不表明本网同意其观点或证实其描述,发言请遵守相关规定

相关阅读

双面AI:风险与可信博弈,科技如何向善?

科技文化
|
2021/7/10 10:10:00
0

解锁音频黑科技:腾讯会议与赛道“痛点”

技术推广
|
2021/7/9 10:05:00
2

AI改变外卖和物流?无人配送落地需等三五年

物流技巧
|
2021/7/9 10:04:00
2

依图科技科创板IPO“弃考” “AI明星团”上市阻滞 人工智能热度降温

创业板
|
2021/7/8 8:49:00
6

子公司收购英国晶圆厂 闻泰科技芯片产能加速扩大

财经专题
|
2021/7/7 13:01:00
6

车企、科技巨头谁将掌控智能汽车的“灵魂”?

创业之路
|
2021/7/6 9:48:00
4

创业板年内首家被取消审核 欣巴科技上会前夜发生了什么?

创业板
|
2021/7/6 9:44:00
7

纺织行业“十四五”《科技、时尚、绿色发展指导意见》全文发布

即时新闻
|
2021/7/5 13:15:00
10

专题推荐

阅读下一篇

证监会新规督促券商投行归位尽责:强调“申报即担责” 杜绝IPO项目“带病闯关”

证监会还在《意见》中透露,将适时修改完善首次公开发行现场检查规定、现场督导指引等,进一步明确检查督导

返回九游客户端官网服装鞋帽网首页
关注公众号 关注公众号
手机看新闻 手机看新闻
展开
  • 微信公众号

  • 电话咨询

  • 400-779-0282