龚克：人工智能应用于韧性治理，要依法和适度******
中新网北京12月11日电 “人工智能(AI)应用于韧性治理要依法和适度，要贯彻AI伦理原则，坚持以人为目的，以目的为中心，而不是以工具为中心，避免技术异化。”
2022人工智能合作与治理国际论坛12月9日开幕。在其中的主题论坛“人工智能引领韧性治理与未来科技”中，世界工程组织联合会前主席、中国新一代人工智能发展战略研究院执行院长龚克这样指出。
2022人工智能合作与治理国际论坛由清华大学主办、清华大学人工智能国际治理研究院(I-AIIG)承办，中国新闻网作为战略合作伙伴，联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。
世界工程组织联合会前主席、中国新一代人工智能发展战略研究院执行院长龚克，在2022人工智能合作与治理国际论坛主题论坛“人工智能引领韧性治理与未来科技”中发言。主办方供图龚克认为，当前，韧性已成为可持续发展中的重要要求和愿景。“进入21世纪以来，韧性理论从生态学、工程学、心理学领域逐步延展到城市治理领域。”
在他看来，韧性发展现在已经成为重要的发展思路。“它正视困难、风险、冲击、变化，以适应力、恢复力应对之，使系统损失减少到可承受、使运行不失稳、发展不逆转。”
龚克举例指出，韧性的基础设施是韧性城市的基础，AI在提高基础设施韧性方面可以发挥积极的作用。“比如AI可以快速、精准地帮助发现地下送水管网的泄露，以实施快速修复。又比如，AI可以及时、准确预测城市用水需求，帮助实现适时适量的供水。再如，AI可以及早、准确地预报特定灾害，帮助实现预防和减损。”
“这些例子告诉我们，AI助力韧性发展的作用是无可置疑的，数据是AI发挥作用的重要基础，数据的及时、准确、全面对于AI助力韧性发展至关重要。”龚克坦言，因此，物联网的发展、多源数据的融合、数据的无偏化处理等等，特别是相关知识与数据的结合，以及降低算法对于数据规模、质量的依赖性，成为AI助力韧性发展的技术趋势。
龚克表示，“就技术赋能而言，人工智能与韧性治理的关系，包括人工智能作为治理工具和人工智能作为治理对象两方面。我认为，两者统一于人工智能在韧性治理中负责任地、符合伦理地、依法和适度地应用。”
他指出，如果AI要赋能韧性治理，就需要自身增能，增强透明度、可解释性、可靠性、鲁棒性，自身要能抗干扰、抗攻击等，让其自身成为有韧性的AI。“如果AI自身很脆弱，容易被攻击、受干扰，它非但不能助力韧性治理，还会起到相反的作用。”
同时，龚克强调，AI在用于韧性治理上，要做到依法和适度。
“就技术赋权来讲，特别强调赋权必须是依法的，要防止技术异化为权力。”他认为，AI系统作为治理工具时应能针对具体应用主体和场景，识别法律赋予的权力边界，并在任何情况下，保证包容、公平、无歧视，保证不伤害，保证人类的监督和决定权。(完)
【网络强国这十年】微步在线薛锋：以“新安全”应对“新威胁”****** 【网络强国这十年——行业观点篇】 当今时代，信息技术发展日新月异，实体产业数字化、云化转型的加速，提升了社会基础设施的运转效率。与此同时，网络攻击技术持续演进，供应链攻击、勒索攻击等新式网络攻击手段屡见不鲜，也带来了更多的网络安全“新威胁”。 近日，微步在线创始人、CEO薛锋做客光明网“网络强国这十年”专栏，畅谈关于网络安全态势及行业发展趋势的观察与思考。
用户需求逐渐侧重“疗效” 薛锋表示，“新威胁”主要体现在几个方面，首先是基础设施的变化。通俗来说，网络安全其实是保护基础设施的，所以一旦基础设施发生变化，网络安全也就随之变化。 我们可以看到，在基础设施端，随着5G、云计算技术的发展，物联网、车联网等技术应用日趋成熟和广泛，网络安全态势也在同步发生变化。 其次是网络攻击的发起方发生变化。比如，人们经常在新闻上能看到的“挖矿勒索病毒”，就成为了近几年网络攻击占比最大的攻击方式之一。背后攻击者的利益和驱动发生了很大变化，包括一些类似于数字货币的存在，都为黑客顺利完成勒索攻击和变现提供了极大便捷性，所以，网络攻击也越来越多。 在此背景下，国家相关单位在监管提出了更高的要求，对推动网络安全技术和产业发展出台了一系列举措。 最后，网络安全行业的需求端也发生了一定变化。用户需求更加数字化，企业随之更重视网络安全、更重视效果。“大家不像很多年前，更在乎买了什么，现在大家更在乎安全有没有问题，怎么解决问题，怎么发现问题，更在乎‘疗效’。”薛锋说。 安全服务不再是“一锤子买卖” 当今世界正处于百年未有之大变局中，我国面临的网络安全态势也同步发生了前所未有的变化，网络安全产业不断焕发活力，正呈现从传统安全向“新安全”的转变。 薛锋介绍，当下网络安全行业中，威胁端和需求端都在发生变化，“新安全”是网络安全产业供给端逐渐演化出的新业态。主要有以下几个特征： 首先在交付方式上走向“云化”。过去的网络安全通常是以软件或硬件的本地化交付为主，就像过去买电视机是在线下，而现在的互联网电视或者视频APP，其交付方式、内容和能力更多的集中在云端。针对近两年飞速发展的远程办公、混合办公场景，安全行业这种“云化”的订阅服务显得正当其时。 其次服务模式上采取“安全即服务SECaaS”的订阅模式。订阅的本质是持续服务，以客户的满意和成功为目标，更关注客户的使用体验与效果，促使政企客户认可为效果付费，而非仅仅是“一锤子买卖”。 “我们对此提出了安全行业的‘客户成功’概念。你是否真的关心你的客户，你的客户是否取得了成功，这在整个SaaS行业都很重要。”薛锋说。 最后，“新安全”更加注重面向安全运营的实战效果。面向新监管要求和新威胁带来的需求，需求端的用户更在乎实战效果，作为供给方理应捕捉市场需求，帮助其真正解决问题，而非简单的满足用户填补安全空白。 产业创新更注重实战效果 薛锋表示，以“新安全”应对“新威胁”，应当以提升网络攻防技术为基础，以政策导向提升网络安全产业链转速，推动网络安全产业发展壮大，紧密结合数字经济、智慧社会的规划建设，提高我国网络安全整体水平，为建设网络强国提供强有力的保障。 薛锋介绍，传统网络安全除了以软件和硬件为交付方式外，背后技术原理也多依赖一些特征码、规则和策略来开展防范，存在一定滞后性，误报和漏报的空间也相对较大。 对此，微步在线通过威胁情报技术开展创新，用数据来保护数据。“通俗来说，因为每个企业要保护的资产对象通常是一些有价值的数据，通过大数据实时关联和分析，对黑客、木马等进行持续、实时分析追踪，这样的话，攻击方要对抗的就不是某一个特征，而是一个类似‘天网’的信息量巨大的黑客知识图谱。攻击方逃避这张图谱要花费的代价是非常高的，所以这种新技术突破实战效果是非常好的。” 对于网络安全行业技术创新现状，薛锋也表达了自己的见解。他认为，当前，整个行业都在尝试新的安全创新，其中一大标志就是多数行业同仁都看到了需求方对于实战效果的需求，所以面向实战效果的创新越来越多。目前来说，这种“心往一处想，劲往一处使”的创新，在需求端也得到了一定积极反馈。 对于网络安全行业发展趋势，薛锋表示，面对不断出现的新威胁，希望网络安全领域各参与方携手共进、互信共治，综合运用在技术、产品、服务和实战方面的新安全手段有效应对，不断推动网安产业步入新阶段，让网络空间命运共同体更具生机活力。 监制：张宁 李政葳 采访：雷渺鑫 李飞 拍摄/后期：雷渺鑫 至尊彩票地图 |
