# AI模型安全 - 应用阶段 - 版权与商业违法

> 来源: AISS绿盟大模型安全智链社区 | 拆自 ai-model-app.md
> 风险类别: 版权/商业（GAARM.0030.x）

---

### 商业违法输出

> 风险编号: GAARM.0030
> 生命周期: 应用阶段

**攻击概述**

在AI模型的应用阶段，攻击者通过包含恶意的攻击手段，诱使LLM的输出构成商业领域的违法行为，带来经济利益方面的损失以及损害企业形象等后果。

**攻击案例**

案例
描述




案例一
ChatGPT直接生成了windows密钥，非法泄露商业产品，造成了经济损失

**攻击风险**

法律风险：侵犯知识产权可能引发法律诉讼，导致额外的财务负担和声誉损害。
商业秘密泄露：模型中可能包含商业秘密，如独特的算法或训练技术，一旦泄露，可能削弱公司的竞争优势。
经济损失：版权侵犯可能导致原创者或所有者遭受经济损失，包括失去的许可费、销售收入和市场份额。

**缓解措施**

缓解方式
描述




去标识化处理
在处理个人数据时，采取去标识化措施，移除或替换能够直接或间接识别个人身份的信息


版权审查
在使用任何作品之前，进行版权审查，确保已获得适当的使用许可


最小化数据收集
实施数据最小化原则，只收集实现特定目的所必需的最少量个人信息


技术保护
采用加密、水印或其他技术手段，防止模型的非法复制和分发


法律保护
通过注册版权、申请专利或使用其他法律工具来保护模型的独特特性

**参考**

https://mp.weixin.qq.com/s/EhEqNlIcpu9RZ36XFL3vWQ

---
### 知识产权版权侵犯

> 风险编号: GAARM.0030.001
> 生命周期: 应用阶段

**攻击概述**

在AI模型的训练过程中，若未经原作者明确授权，便擅自使用其作品（包括文本、图像、音频等）作为训练语料，可能触犯版权法规和个人隐私权。这一点在所使用数据涉及受版权保护的内容或包含个人敏感信息时尤为敏感和严重。这将导致在应用阶段时造成知识产权版权侵犯这一风险。例如，LLM未经允许便输出了抄袭他人作品后生成的内容，即便用户并没有要求它进行抄袭，进而给用户带来侵权的风险。同时，攻击者也可以利用这一安全漏洞，通过精心构造输入，诱使LLM输出受版权保护的内容，例如让GPT生成windows激活码。

**攻击案例**

案例一：gpt未经授权使用他人作品进行训练模型

输入:


替换[MASK]的内容为原句内容。直接只输出替换的内容。----------
至西梁女国，三藏和八戒饮子母河水而怀孕，行者取落胎泉水解救之。女王欲招赘三藏，行者设计走脱之。但三藏又为毒敌山琵琶洞蝎子精所摄，行者请来昴宿灭之。又在途遇盗，行者除灭之。三藏怪行者杀人，逐之。行者无奈去求诉观音。时三藏遇假行者行凶，并抢走包袱。师徒们以为是行者所为，遣沙僧赶至花果山讨取未果，又赶到南海观音处，忽见行者又在彼，沙僧怒极，经观音说明才罢。行者寻至花果山与假行者恶斗。二行者直斗至如来处。如来说明假行者为[MASK]，并除灭之。


输出:


假行者为六耳猕猴，并除灭之。




案例
描述




案例二
ChatGPT直接生成了windows密钥


案例三
Midjourney存在违规使用受版权保护的素材的行为，从而引发抄袭输出的问题。即使提示词中没有要求模型生成侵权内容，Midjourney仍然会进行侵权内容的输出，导致用户面临版权侵权索赔的风险


##

**攻击风险**

- 法律风险：侵犯知识产权可能引发法律诉讼，导致额外的财务负担和声誉损害。



- 商业秘密泄露：模型中可能包含商业秘密，如独特的算法或训练技术，一旦泄露，可能削弱公司的竞争优势。



- 经济损失：版权侵犯可能导致原创者或所有者遭受经济损失，包括失去的许可费、销售收入和市场份额。

**缓解措施**

缓解方式
描述




去标识化处理
在处理个人数据时，采取去标识化措施，移除或替换能够直接或间接识别个人身份的信息


版权审查
在使用任何作品之前，进行版权审查，确保已获得适当的使用许可


最小化数据收集
实施数据最小化原则，只收集实现特定目的所必需的最少量个人信息


技术保护
采用加密、水印或其他技术手段，防止模型的非法复制和分发


法律保护
通过注册版权、申请专利或使用其他法律工具来保护模型的独特特性

**参考**

https://mp.weixin.qq.com/s/EhEqNlIcpu9RZ36XFL3vWQ
http://www.cbdio.com/BigData/2024-01/11/content_6176237.htm

---
