CSA大型语言模型（LLM）威胁分类（英）

重点报告 19 2024-09-06 0 worker

报告编号：43410
报告名称：CSA大型语言模型（LLM）威胁分类（英）
报告来源：互联网用户上传
关键词：行研报告
报告页数：29 页
预览页数：6
报告格式：pdf
上传时间：2024-08-13
简介摘要: (原创分析) 这篇文档由云安全联盟（Cloud Security Alliance，简称CSA）的人工智能（AI）控制框架工作组撰写，旨在提供一个共同的语言和概念框架，以便在行业内促进沟通和协作，并支持CSA AI安全倡议下的进一步研究。文档定义了与大型语言模型（LLM）相关的风险和威胁的通用分类，并概述了LLM资产、服务生命周期、服务影响类别和服务威胁类别。文档还列出了贡献者和审查者名单，并声明了版权。文档详细描述了LLM资产，包括数据资产、LLM-Ops云环境、模型、编排服务、AI应用等，并定义了LLM服务生命周期的各个阶段，包括准备、开发、评估/验证、部署、交付和服务退休。此外，文档还概述了LLM服务的影响类别和威胁类别，包括模型操纵、数据污染、敏感数据泄露、模型盗窃、模型故障/故障、不安全的供应链、不安全的应用/插件、拒绝服务攻击、丧失治理/合规性等。文档的目的是为CSA AI控制工作组和CSA AI技术与风险工作组提供指导，以支持他们的工作。通过提供这些定义和分类，文档旨在帮助明确和一致地讨论AI威胁和风险，并开发适当的控制措施，以管理LLM的负责任发展。此外，文档还强调了与CSA AI控制框架的关系，该框架旨在支持组织在安全和负责任地开发、管理和使用AI技术方面。