近年来，我们国家的人工智能产业在《“十四五”数字经济发展规划》《“十四五”国家信息化规划》等政策引导下蓬勃发展。大规模预训练模型作为人工智能新基建的关键技术，在自然语言处理、计算机视觉等领域取得显著突破。然而，随着技术应用深入发展而来的数据投毒、不当应用等风险也逐渐凸显。
自2021年起，中国信通院开始研究大规模预训练模型标准，与多方共同建立技术和应用标准体系，推动人工智能发展。
在本次大模型标准符合性验证中，华为云大模型安全解决方案覆盖了基础设施、训练数据、生成内容的端到端安全合规全场景，有效应对大模型数据治理、模型可信、内容合规等三大维度风险，并以文本审核、Prompt攻击检测、AIGC鉴伪、个人隐私脱敏等新型可信能力，确保应用中的可信可靠。此外，在软硬件和数据方面，盘古安全护栏保证了基础软硬件的安全性、可靠性和兼容性，以采集、预处理和使用控制实现数据可信性，并从多角度构筑数据可信能力，打造稳健、可控、合规且符合价值观的应用服务。
为引导产业发展和规范行业自律，华为云还与中国信息通信研究院联合其他相关单位共同开展编制《大规模预训练模型技术和应用评估方法 第5部分：可信要求》，为国家AI产业的健康发展贡献力量。
大模型逐渐深入行业核心系统，成为推动数字化转型的关键力量，伴随而来的还有端到端的可信挑战。盘古安全护栏，进一步强化了大模型的全链路保障，基于华为云在盘古大模型实践中积累的丰富经验和技术优势，开放兼容，能够服务于多样化的模型形态，助力公司实现大模型全链路合规。
华为云盘古安全护栏凭借四道防线，全方面覆盖大模型使用的全生命周期，兼容开源、三方大模型，为企业用户更好的提供最佳的大模型安全解决方案。
通过数据脱敏、数据血缘、数据防毒等技术方法，从预训练模型的数据集，直至数据治理阶段，全方位保障企业构建高质量、安全合规的数据集，确保数据多样性和公平性。
针对模型训练阶段可能遭遇的数据投毒风险，以及推理阶段训练数据、用户隐私信息泄露等风险，采用模型混淆、模型加密等先进的技术，软硬件结合，加密模型，有效保障企业大模型资产安全。
通过Prompt攻击检测等新型防御能力，实现对多种直接与间接攻击手段的有效检测，并通过对模型输入输出内容严格审核，严防生成有害或不当信息，有效应对新型安全风险。
保护大模型在应用插件场景下的安全可靠性，确保大模型在各类应用场景中都能稳定、高效地发挥作用。
据悉，盘古安全护栏四道防线%，能够为企业大模型提供坚实的保障。未来，华为云将持续致力于AI技术与行业实践深层次地融合，护航大模型技术的创新与发展，为企业用户更好的提供更加可信的人工智能解决方案，让企业创新安心无忧。
