如何发展安全可信的人工智能?这份宣言发出倡议

来源:北京日报客户端 作者: 时间:2021-08-04 14:30

人工智能 宣言 倡议

人工智能给社会建设和经济发展带来了重大而深远的影响,与此同时,数据隐私、算法偏见、技术滥用等安全问题也给社会公共治理与产业智能化转型带来严峻挑战。8月3日,首届全球数字经济大会人工智能产业治理论坛上,来自我国人工智能领域的顶尖科学家、学者以及知名企业家汇聚这场盛会,围绕主题“探索创新、共举担当”展开前沿对话,共同发布了行业首个《人工智能产业担当宣言》。

“人工智能与信息系统在安全性上有着显著区别。信息系统安全性问题主要是软件设计中的漏洞,容易被解决。而第二代人工智能的安全性问题主要来自深度学习算法本身的不安全,更加本质、更难克服。”中国科学院院士、清华大学人工智能研究院名誉院长、瑞莱智慧首席科学家张钹在主旨演讲中率先破题。他认为,对人工智能进行治理,防止它被误用、制止它被滥用,一方面需要从法律法规、伦理规范、行业共识等不同层面去“治标”,还应从技术创新层面发力去“治本”。

张钹提出,要发展第三代人工智能技术,即融合了第一代的知识驱动和第二代的数据驱动的人工智能,利用知识、数据、算法和算力四个要素,建立新的可解释和鲁棒的AI理论与方法,发展安全、可信、可靠和可扩展的AI技术。

中国科学院自动化研究所研究员、国家新一代人工智能治理专委会委员、联合国教科文组织人工智能伦理特设专家组专家曾毅提议,要在人工智能产品设计、研究、开发、部署、使用全生命周期嵌入伦理与治理,并形成政府、学术界、企业、公民社会、媒体、用户、服务提供商等多方主动共治的良性生态。

中国社科院科技哲学研究室主任、科学技术和社会研究中心主任段伟文重点提到了数字时代的社会信任危机与重建,他建议人工智能企业不应回避社会监督,而是不断思考、重塑科技的社会印象,技术改进和伦理设计要齐头并进,携手走向共建性的人工智能伦理治理。

中伦律师事务所合伙人陈际红则认为,人工智能治理的实现需要多方参与、多元路径。为人工智能的发展设定规则是路径之一,而法律就是制定硬规则。人工智能企业要遵守《数据安全法》开展数据处理,达到的合规标准。

为推动人工智能技术创新和产业稳健发展,《人工智能产业担当宣言》在本次论坛上正式对外发布。宣言由北京智源人工智能研究院、瑞莱智慧联合发起,百度、华为、蚂蚁集团、寒武纪、爱笔科技、第四范式、出门问问等人工智能行业的核心骨干企业、学术研究机构共同参与。

宣言首先倡议,人工智能系统的设计、研发、实施和推广应符合可持续发展理念,以促进社会安全和福祉为目标,以尊重人类尊严和权益为前提。其次在技术能力方面,宣言提出要最大限度确保人工智能系统安全可信,增强算法透明性和可解释性,同时保障各方权利和隐私,对用户数据提供充分的安全保障。此外,企业还应采取成立人工智能治理委员会或工作组、设立伦理研究岗位或通过外部技术支持等多种方式积极履行责任。

北京瑞莱智慧科技有限公司CEO田天作为论坛承办方与宣言核心参与方表态称,让人工智能更好地服务于人类是行业共同的目标,当整个社会重新审视技术的价值,科技从业者更应感受到科技治理的紧迫性和使命感,应当积极主动开展自治工作,同时开放共享,共举科技担当,将科技力量打造成为人工智能创新治理体系中的核心支撑。


资讯排行榜

  • 每日排行
  • 每周排行
  • 每月排行

华强资讯微信号

关注方法:
· 使用微信扫一扫二维码
· 搜索微信号:华强微电子