网信专家李洋:AI原生安全,生死攸关的风险与挑战
发布时间:2019-07-09 19:11

  7月3日,在2019百度AI开发者大会上,百度创始人、董事长兼CEO李彦宏表示 “在AI前进的道路上会有各种各样的事情发生,但是前进的决心不会改变,AI会改变每一个人的生活。“的确,AI的发展道路存在着诸多不确定性,随着人工智能等新兴技术的广泛应用,而AI安全亦刻不容缓。

  人工智能与大数据、云计算、物联网深度融合而进入高速发展___,AI新时代加速了网络化、信息化、智能化,大数据作为推动AI发展的燃料,成为群雄逐鹿的垂涎猎物,而数据安全、个人隐私问题则陷入敏感境地,国与国之间、企业与企业之间、企业与个人之间的数据交流界限模糊不清,而世界各国正加紧数据管理的步伐。当前,科技产业的竞争聚焦于智能计算机产业上,人工智能领域成为国际竞争高地。为探讨智能计算前沿技术和相关产业的应用,近日,国际测试委员会、国家超级计算深圳中心等单位联合举办“2019 年(第六届)国际智能计算机大会(BenchCouncil 2019)”,来自政、产、学、研等众多国内外专家学者汇聚一堂,共谋发展。

  近半年,人工智能领域出现数据隐私安全保护的新热门解决方案——联邦学习。联邦学习(Federated Learning)是近年来一种新兴的人工智能基础技术,能够在保障大数据交换时的信息安全、保护终端数据和个人数据隐私、保证合法合规的前提下,解决数据无法直接整合进行机器学习模型训练的问题,在强监管的金融、医疗等领域应用前景广泛,并且能够优化城市管理,促进智慧城市建设与发展。

  “联邦学习:机遇、挑战与未来”论坛主席、平安科技副总工程师、平安科技联邦学习团队负责人 王健宗博士

  为深入探究联邦学习在数据隐私安全保护的创新应用及发展,BenchCouncil 2019 举办了“联邦学习:机遇、挑战与未来”主题论坛,平安科技副总工程师、平安科技联邦学习团队负责人王健宗博士担任此论坛主席,并邀请了平安金融安全研究院执行院长、大数据协同安全技术国家工程实验室-金融行业安全研究中心执行主任、网络安全与信息化专家李洋博士出席会议并发表主题演讲。会议同时邀请了各大企业专家,共同分享联邦学习的新思路、新方向、新应用。

  平安金融安全研究院执行院长、大数据协同安全技术国家工程实验室-金融行业安全研究中心执行主任、网络安全与信息化专家 李洋博士

  平安金融安全研究院执行院长李洋博士分享了《人工智能原生安全与用户隐私保护——____的风险与挑战》主题演讲,以网络空间安全为切入点,首先指出,在数字经济时代,人工智能已上升为国家战略,也逐渐与云计算、大数据、区块链等成为新一代的关键信息基础设施,并成为网络空间先进技术领域研究的热点和焦点。国家提出新一代人工智能发展要处理好人工智能在法律、安全、就业、道德伦理和政府治理等方面的新课题。

  关键信息基础设施支撑着重要行业的正常运行,一旦发生网络安全事故,将对国家、企业、社会人民造成严重损失。而今,“AI+”已落地到日常生活场景中,广泛涉及交通、商业、安防等领域,但发展并不完善,且风险横生。尤其在强监管的行业应用中,“AI+”金融反欺诈、“AI+”智能医疗影像诊断等应用具有高敏性的特定,对安全风险和威胁更不能忽视。

  会上,李洋博士在业界首次提出‘原生人工智能生态系统安全’的创新概念,并从内生安全和外生安全等维度阐述了原生安全的理念,列举出AI原生安全事件,如,机器人电话骚扰情况越来越严重,广泛收集的人脸识别数据存在隐私泄漏风险,基于智能计算的航空系统、“AI+”创造的无人驾驶系统的安全漏洞引发的死亡事故已然发生。李洋博士指明要打响防范人工智能原生安全的第一枪,呼吁社会各界在关注人工智能技术广泛应用的同时,更要重视其技术的原生安全,直指要勇于正视淋漓的鲜血,敢于直面新事物的曲折演进。并道明了来源于AI基础框架的安全威胁正是AI原生安全的核心问题,要从源头上防范编码安全漏洞、逃逸攻击、处理数据的算法缺陷等威胁。

  为解决人工智能原生安全和用户隐私保护问题,李洋博士指出,作为能够保障数据安全的机器学习建模方法——联邦学习将会探索出新的解决方案,未来在工业、金融科技、医疗等各行各业中实现跨界交融,迸发新活力。人工智能安全离不开联邦学习的技术支持,李洋博士预示未来粤港澳大湾区发展所需的数据信息互联互通也必将会是联邦学习发展的机遇。

  新一代人工智能安全发展需以新的防御思维指导。李洋博士提出“科技+安全+生态”的AI安全防御新思维,强调构建行业间的安全生态系统。平安金融安全研究院和大数据协同安全技术国家工程实验室-金融行业安全研究中心将竭尽全力投入到人工智能原生安全和联邦学习的研究中,促进数据安全和隐私保护的完善发展,并联动“政、产、学、研、金、介、用”各界,为智能计算产业的发展创造健康环境,共建安全生态,加速推动网信事业向前迈进和网络强国战略的实现。

服务热线
2050206374
在线咨询
资深顾问 资深顾问