AI大模型的安全到底情况若何？？？？？？将来AI安全应该若何保障？？？？？？AIGC内容安全该若何保障？？？？？？7月7日，，，，，以“AI新时期，，，，，安全须先行”为主题的AI大模型的安全挑战与应对论坛在2023北京网络安全大会上召开。。。。。。五位AI领域的专家、学者分享了在人为智能，，，，，尤其是大模型安全方面的钻研成就。。。。。。

    浙江大学推算机学院教授、博士生导师、可信人为智能钻研中心主任纪守领首先指出，，，，，AI的急剧发展赐与了攻击者更多的机遇，，，，，攻击的能力也显著加强。。。。。。他提到了一些已知的攻击方式，，，，，例如匹敌样本和后门攻击。。。。。。他以为，，，，，面对这些挑战，，，，，AI安全已成为一个热点话题，，，，，并且越来越多的钻研人员和企业起头思虑若何应对这些问题。。。。。。

    纪守领教授提到了数字空间和物理空间中的现实案例，，，，，如活体检测、指标鉴别和恶意软件天生。。。。。。他指出，，，，，这些领域的复杂性和挑战性使其成为引人入胜的钻研方向。。。。。。在演讲中，，，，，纪守领教授向观多展示了他们团队开发的一个平台，，，，，用于集成现有的检测和天生步骤，，，，，并利用于匹敌攻防钻研。。。。。。这一平台的尝试了局令人惊叹，，，，，展示了匹敌攻防领域的新鲜性和挑战性。。。。。。

    中国科学院信息工程钻研所钻研员、中国科学家大学教授/博士生导师陈恺博士在他的演讲中涵盖了人为智能领域的两个关键方面：攻防和可诠释性步骤。。。。。。他介绍了使用人为智能技术来赋能安全领域的钻研，，，，，并提出了一种利用大型模型来分析安全缝隙、恶意代码和缝隙利用的步骤。。。。。。此表，，，，，他还强调了人为智能模型自身的安全性问题，，，，，出格是在应对后门、匹敌样本和说话模型等方面的挑战。。。。。。

    陈恺博士的钻研强调了人为智能在安全领域的沉要性，，，，，并提供了几种创新的步骤来应对攻击和提高模型的可诠释性。。。。。。这些钻研为人为智能的安全性和靠得住性提供了新的思路和解决规划，，，，，对于推动人为智能的发展拥有沉要意思。。。。。。

    作为产业界的代表，，，，，百度安全副总裁、主任架构师包沉浮指出，，，，，大模型利用面对的安全挑战重要蕴含模型技术滥用、业务服务和接口滥用、内容滥用和品牌滥用。。。。。。为了应对这些挑战，，，，，必要成立多档次、多环节的安整个系。。。。。。

    大模型利用的安全问题仍在不休发展，，，，，提供方和使用方应加强技术风险预判，，，，，关注和节造利用层面的风险，，，，，并成立多方协同的安全治理机造以应对利用的衍生风险。。。。。。

    中国科学技术大学信息与通讯工程专业博士、科大讯飞钻研院钻研员高天介绍了科大讯飞在合成语音检测领域的技术进展与挑战。。。。。。浚？？？？拼笱斗稍谟镆艉铣杉际醴矫婊竦昧顺志玫淖暄谐删，，，，，并且随着技术的突破，，，，，语音合成的天然度和利用领域不休提升，，，，，但这也带来了合成语音的安全挑战，，，，，因而合成语音检测的钻研变得至关沉要。。。。。。

    高天博士介绍了合成语音检测的工作布景和科大讯飞在语音合成技术方面的成就。。。。。。他提到科大讯飞多年来在智能语音合成技术钻研上有深厚堆集与成就，，，，，在解决合成语音检测难题方面，，，，，高天博士介绍了一些最新的技术进展。。。。。。他提到利用预训练模型和措辞人自适应的步骤来提取更鲁棒（Robust）的高层特点，，，，，改善合成语音检测系统的机能。。。。。。此表，，，，，他还介绍了量子机械进建在合成语音检测中的索求，，，，，通过量子网络与深度进建相结合，，，，，提升检测系统的成效。。。。。。

    斗象科技安全专家杜南提到了在当前企业数字化转型加快、网络安全从建设到常态化运营转换、攻防不合称也在加剧的布景下，，，，，我们在AI大模型、行业模型发展的基础上，，，，，在网络安全技术上深度索求，，，，，尤其是以基于AI技术的智能攻击面治理技术为沉要代表之一的集成化、可视化、自动化、数智化的新一代安全解决规划备受企业的青睐。。。。。。

    斗象科技智能攻击面治理平台APTP通过资产的性命周期监控和对攻击全链路的刻画，，，，，构建了一款面向企业攻击面检测与治理逻辑链路齐全的治理安全平台，，，，，同时也是一款技术与AI的自动化机械渗入测试平台。。。。。。旨在援试祗业解决多元数字资产的可治理、数字资产的可运营等。。。。。。智能攻击面治理以更智能、更多维、具备白帽知识的方式窥伺和鉴别企业资产露出面，，，，，以更悠久的方式治理攻击面和资产地图，，，，，以更自动化、更定向、更靠近人为渗入的伎俩步骤，，，，，通过机械人节点进行攻击面预测、视图展示、安全预警和常态化安全运营。。。。。。

    在最后的圆桌会商中，，，，，专家们就新技术发展与社会安全挑战的平衡问题提出了概想。。。。。。若何平衡新技术发展和安全挑战？？？？？？专家们以为技术发展是不成反对的，，，，，并强调了在技术钻延注利用和监管方面获得平衡的沉要性。。。。。。总体而言，，，，，他们以为技术发展必须持续，，，，，但必要与安全问题的应对相结合以实现健全发展。。。。。。

    据悉，，，，，论坛由中国网络空间安全协会领导、ca88登陆平台、北京赛博英杰科技有限公司结合主办。。。。。。赛博英杰首创人&董事长谭晓生主持了这次论坛。。。。。。