生成式人工智能（大语言模型）安全评估要点

大模型的评估维度涵盖了模型的多方面，数据安全它关系到我们每个人的隐私和权益不容忽视，在此，我整理了一些关于大模型“安全评估”的一些要点，希望能够帮助到正在备案的友友们！

#生成式人工智能##大模型##安全评估##aigc##备案##大模型备案#

一、语料安全评估

（一）评估内容

1.文本训练语料规模

2.各类型语料规模

3.训练语料来源

4.语料标注数量

5.标注人员情况

6.标注规则

7.标注内容准确性核验

8.语料合法性

二、模型安全评估

1.语料内容评估

2.生成内容评估

3.涉知识产权、商业秘密的评估

4.涉民族、信仰、性别等评估

5.涉透明性、准确性、可靠性等的评估

三、安全措施评估

1.模型适用人群、场合、用途

2.服务过程中收集保存个人信息

3.收集个人信息征得个人同意情况

4.受理处理使用者查阅、复制、更正、补充、删除个人信息请求的情况

5.图片、视频标识情况

6.接受公众或使用者投诉举报情况

7.服务协议情况

8.非法内容拦截措施

9.拒答率

10.模型更新、升级