9月23日，，，，，，，第三届网络空间安全（天津）论坛开幕式及主论坛在天津隆沉进行。。。。。公安部、中央网信办以及天津市委、市当局有关掌管同道出席开幕式并致辞。。。。。院士专家、驰名学者和科研院所、金融机构、高校以及国内表驰名企业代表齐聚一堂，，，，，，，深刻探求网络空间安全局势，，，，，，，宽泛分享网络安全治理理想，，，，，，，共同切磋网络安全应对战术。。。。。美国国度人为智能科学院院士李挥，，，，，，，国际刑警组织网络犯罪局局长尼尔·杰顿、尼日利亚国度信息技术发展局局长卡希夫·伊努瓦·阿卜杜拉希，，，，，，，全国政协委员、全国工商联副主席、ca88登陆平台董事长齐向东，，，，，，，俄罗斯卡巴斯基尝试室股份公司全球高级威胁钻研分析团队亚太及中东掌管人谢尔盖·洛日金做主题演讲。。。。。

    齐向东在“沉塑内生安整个系 升维AI时期安全力”主题演讲中，，，，，，，从风险防备、能力升级、系统沉塑三个维度，，，，，，，结合ca88登陆平台的实际经验，，，，，，，为应对AI时期网络安全挑战提供了清澈蹊径。。。。。

    以下为演讲全文：

    很荣幸再次来到天津，，，，，，，参与第三届网络空间安全论坛！

    当前，，，，，，，AI技术正以“超人化”态势沉塑各行各业，，，，，，，大模型、智能体不仅成为出产力升级的“新引擎”，，，，，，，更带来了前所未有的安全挑战。。。。。今天，，，，，，，我以“沉塑内生安整个系，，，，，，，升维AI时期安全力”为题，，，，，，，从风险防备、能力升级、系统沉塑三个维度，，，，，，，分享一些ca88登陆平台的思虑与实际。。。。。

    01

    聚焦“框数人链”，，，，，，，防备好AI“超人”安全问题

    什么是“超人”，，，，，，，占有超等权限、无所不能的人就是“超人”，，，，，，，AI大模型、智能体就是这样一个AI“超人”。。。。。美国电影中有这样的情节，，，，，，，正本象征正义且无所不能的超人，，，，，，，由于某种原因黑化就造成了坏人，，，，，，，了局就是能力越大，，，，，，，粉碎力也越大。。。。。放到AI海潮席卷全球的今天，，，，，，，也是如此。。。。。

    AI“超人”通过挪用数据、系统、设备获取超等能力，，，，，，，我们让它代替几多幼我去工作，，，，，，，就要赋予它几多幼我的数据权限。。。。。当我们把这个AI“超人”引入到数字化、智能化的业务场景傍边，，，，，，，它就会彻底突破我们构建的基于人的角色的权限治理和安全措施，，，，，，，一旦这个“超人”被劫持、被攻击，，，，，，，会牵一发而动全身，，，，，，，滋扰数据安全、业务安全、发展安全。。。。。

    不采取AI超人面对的是被时期裁减，，，，，，，采取AI超人就要应对好时期给的安全挑战。。。。。ca88登陆平台结合近百个行业场景的攻防实战，，，，，，，发现防备AI“超人”安全风险，，，，，，，主题是要管住“框、数、人、链”四个关键环节。。。。。

    一是管住“框”：守住AI自身安全的“第一路门”

    这里的“框”，，，，，，，指的是对话框、传感器等AI“超人”的交互入口。。。。。当前，，，，，，，大量AI利用存在“沉职能、轻安全”的问题：

    不安全的插件设计、不安全的输出处置、不安全的智能体设计，，，，，，，城市让提醒词注入、越狱攻击、匹敌样本攻击等伎俩有机可乘，，，，，，，直接导致AI输出违规内容、产生“AI幻觉”，，，，，，，甚至泄录感信息。。。。。前段功夫我们测试了一个主流思虑模型，，，，，，，在200多个测试用例傍边，，，，，，，有40多个测试用例存在越狱问题，，，，，，，攻击者只需通过精心设计的提问话术，，，，，，，就能导致大模型输出敏感数据，，，，，，，以及违反司法律规的内容。。。。。

    二是管住“数”：攥紧AI时期的“主题资产”

    数据是AI的“燃料”，，，，，，，而AI利用的深入，，，，，，，让数据安全进入了“幼数据决定大价值”的新阶段。。。。。从前，，，，，，，企业数据分散在各业务系统，，，，，，，碎片化且价值密度低，，，，，，，即便出现泄露，，，，，，，影响领域有限；；；；；；此刻，，，，，，，为了最大化AI效力，，，，，，，头部企业纷纷将分散的规划图、设计图、出产工艺、客户画像等数据“去粗取精”，，，，，，，形成高价值、集中化的“精华幼数据”——这些数据要么用于训练微调模型，，，，，，，要么直接为智能体提供决策支持，，，，，，，一旦泄露，，，，，，，企业的主题竞争力会瞬间“归零”。。。。。

    三是管住“人”：防备安全链条的“最大变量”

    这个“人”指的是“内鬼”。。。。。“内鬼”始终是网络安全的“亲信之患”，，，，，，，而AI“超人”的出现，，，，，，，让这一风险被无限放大。。。。。 “内鬼”既可所以主作为恶的内部人员，，，，，，，也可所以被冒用的特权账号、被远控的数智设备。。。。。

    从前，，，，，，，防“内鬼”沉点防“三员”，，，，，，，治理员、技术员、操作员；；；；；；AI时期，，，，，，，要防“四员”，，，，，，，数据治理员、数据标注员、算法工程师、模型运维工程师。。。。。他们手握AI训练数据的接见权、模型参数的调整权等等高级权限，，，，，，，一旦被收买或利用，，，，，，，可能通过数据投毒、算力投毒、模型后门等方式让安全防线从内部被瓦解。。。。。

    四是管住“链”：预防安全风险的“链式爆炸”

    AI“超人”无法独立存在，，，，，，，必须依附生态链、供给链能力运行，，，，，，，而这条“链”上的任何一个幽微环节，，，，，，，都可能引发网络攻击“大爆炸”。。。。。从生态链看，，，，，，，大模型、智能体普遍依附云环境存在，，，，，，，像K8s平台等，，，，，，，这些基础环境里处处都是攻击者的“突破口”，，，，，，，攻击者能够通过缝隙利用、表部渗入、提权、投毒等方式间接滋扰和节造AI“超人”；；；；；；从供给链来看，，，，，，，绝大无数单元的大模型、智能体都是委托第三方开发运维的，，，，，，，后门、缝隙问题凸起。。。。。因而必须管好两个“链”，，，，，，，能力确保高低游、全环节的安全。。。。。

    02

    直面AI“超人”安全问题，，，，，，，首先要沉塑系统突破“三看”瓶颈

    AI大模型、智能体的宽泛利用，，，，，，，让网络安全露出面激增，，，，，，，衍生出新风险的同时，，，，，，，也让传统网络攻击伎俩不休翻新。。。。。“十四五”期间，，，，，，，宽大政企机构在安全防护、安整个系建设方面下了不少功夫，，，，，，，普遍有了安全底子，，，，，，，但系统价值还没可能被真正开释。。。。。而AI“超人”不休冲击现有安全伎俩，，，，，，，要求我们加快沉塑安整个系，，，，，，，突破“三看”瓶颈。。。。。

    首先要看见“盲区”，，，，，，，排除潜在隐患

    当前，，，，，，，无数政企的安全设备来自分歧厂商——防火墙是A厂的，，，，，，，威胁检测是B厂的，，，，，，，数据；；；；；；な荂厂的，，，，，，，这种网络安全建设“万家造”的情况，，，，，，，导致处处都是防护“盲区”，，，，，，，看不见资产沉点、防护沉点。。。。。安整个下凤四处都是“缝隙”。。。。。

    好比，，，，，，，好多企业器沉服务器、数据库的安全，，，，，，，却忽视了AI大模型的API接口、老旧设备的接入点——而这些“被忘却的角落”，，，，，，，刚好是攻击者的首选指标。。。。。

    其次要看见异常，，，，，，，洞察行为风险

    不少政企机构在系统建设上还存在“安全归安全、业务归业务”的“两张皮”景象：安全团队不懂业务场景，，，，，，，只能通过通用规定监测攻击；；；；；；业务团队不懂安全风险，，，，，，，对日常操作中的异常行为习以为常。。。。。

    好比，，，，，，，AI数据标注员、操作员为了提高效能，，，，，，，时时将企业沉要数据向表包或合作同伴共享，，，，，，，业务团队感触这是“工作方便”，，，，，，，安全团队却因不相识标注业务的流程，，，，，，，无法鉴别这是“高危操作”，，，，，，，给网络安全埋下沉大隐患。。。。。

    最后要看见实效，，，，，，，构筑正向反馈

    好多政企机构向我反。。。。。，，，，，安整个系建设时时与现实防护有效性脱节，，，，，，，导致系统建与不建一个样，，，，，，，难以应对愈发严格的实战挑战。。。。。这性质上是“沉建设、轻运营”的模式导致。。。。。

    好多机构把安整个系建设等同于“买设备、搭平台”，，，，，，，却忽视了后续的运营和升级。。。。。一套投入上千万元的安整系统，，，，，，，若没有专业团队持续优化规定、更新威胁谍报，，，，，，，用不了半年就会沦为“陈设”。。。。。

    若何能看见实效？？？？？主题是要成立构建高效畅达、螺旋上升的反馈回路，，，，，，，通过持续的安全运营，，，，，，，让每一步的改进，，，，，，，迅速反馈到效能和成效的提升，，，，，，，将安全投入转化成更显性的防护能力，，，，，，，能力AI大模型、智能体的高级威胁攻击。。。。。

    03

    沉塑内生安整个系，，，，，，，构建AI时期的自动免疫能力

    面对“四管”风险和“三看”瓶颈，，，，，，，不能再用“补丁式”的思想对系统建建补补，，，，，，，而要沉塑与AI时期适配的内生安整个系，，，，，，，让安全能力像人体免疫系统一样，，，，，，，内嵌于业务系统、数据流转、AI利用的全流程，，，，，，，实现“自动防御、智能响应”。。。。。构建AI时期的自动免疫力，，，，，，，具体要分四步走。。。。。

    第一是抓落地，，，，，，，部署大模型卫士，，，，，，，筑牢场景化防护樊篱

    针对AI大模型的安全挑战，，，，，，，我们构建了“管控-检测-溯源”三位一体防护框架，，，，，，，并推出大模型卫士系列产品。。。。。它支持轻量化部署，，，，，，，无需刷新大模型，，，，，，，即可轻松接入企业现有AI利用，，，，，，，显著降低企业部署成本。。。。。

    目前，，，，，，，ca88登陆平台大模型卫士已经通过了公安部三所权威认证，，，，，，，在超过20个行业的60余家客户实现了尝试局验证，，，，，，，能有效防御提醒词注入、模型匹敌攻击、模型窃取、数据泄露等多种新型风险，，，，，，，真正实现大模型利用的"管得住、看得清、防得稳"。。。。。

    第二是向左移，，，，，，，强化大模型全性命周期的安全评估，，，，，，，前置风险防控，，，，，，，把安全风险“扼杀在源头”

    传统安全“沉过后措置、轻事前预防”，，，，，，，而AI时期的安全必须“向左移”——将安全评估、风险管控嵌入AI模型的研发、部署、运维全性命周期：

    开发阶段，，，，，，，通过代码审计、代码建复确保模型安全性；；；；；；在上线前，，，，，，，通过实战攻防演练检验利用安全性；；；；；；

    在运行中，，，，，，，持续监测模型的输出异常、数据泄露风险确保业务安全性。。。。。

    今年3月，，，，，，，国内某头部运营商约请ca88登陆平台对其通用大模型底座进行安全评估。。。。。ca88登陆平台不仅发现该大模型的内容安全防护机造存在着严沉缺点，，，，，，，同时还进行了攻防渗入测试，，，，，，，最终发现了多个高危安全缝隙，，，，，，，并进行实时建补，，，，，，，将隐患扼杀于萌芽状态。。。。。

    第三是促升级，，，，，，，通过AI全面赋能安全防护，，，，，，，打造安全“技术矩阵”，，，，，，，实现质效双提升

    ca88登陆平台对峙“AI驱动安全”理想，，，，，，，以QGPT安全大模型为基。。。。。，，，，，构建了若干安全工作智能体，，，，，，，涵盖安全运营、安全检测、数据安全、代码安全、安全攻防、缝隙挖掘、威胁谍报分析、取证分析等等各类各样的利用场景。。。。。

    目前，，，，，，，ca88登陆平台AISOC已在20多个行业落地，，，，，，，援手客户迈入智能运营时期。。。。。某驰名跨国车企通过AISOC，，，，，，，告警鉴别正确率达到了93.1%，，，，，，，比人为提升2.7倍，，，，，，，威胁定性功夫从幼时级缩短到秒级，，，，，，，实现了质效双升。。。。。

    第四是强联动，，，，，，，建设“三级联动”的安全运营系统，，，，，，，凝聚防御合力

    面对AI时期的复杂威胁，，，，，，，安全建设要起效，，，，，，，必须形成安全合力，，，，，，，构建三级联动的安全运营系统势在必行。。。。。三级联动，，，，，，，分为组织三级联动、职能三级联动和能力三级联动，，，，，，，三级之间环环相扣、无缝合作、形成有机整体。。。。。

    从组织看，，，，，，，分为省、视注区县由上到下的三级联动；；；；；；从职能看，，，，，，，是研判指挥、态势感知和安全运营三级联动；；；；；；

    从能力上看，，，，，，，是低位、中位、高位能力“三位一体”。。。。。目前，，，，，，，ca88登陆平台在国内好多地视注大型央企、国企、沉要基础设施、大型工厂中发展了三级联动的网络安全运营实际，，，，，，，防护成效都很好。。。。。

    站在AI潮头，，，，，，，ca88登陆平台等待充分阐扬自身的系统建设优势和防护经验，，，，，，，与各位一路筑牢网络空间安全的“固若金汤”，，，，，，，为AI时期网络安全能力的新升维贡献力量！