不可以瑟瑟！Stability AI將禁止使用Stable Diffusion生成色情圖片，7月底更新使用條款

Stability AI公司公告將於2025年7月31日更新文字轉圖像AI模型Stable Diffusion使用條款，最主要的變動在於將禁止生成色情圖片。

違反條款將會被禁用

Stable Diffusion是由英國的Stability AI公司所推出的開源文字轉圖像AI模型，它能應用於AI圖像生成，一般使用者只要在個人電腦上部署模型與對應的AI運算框架、軟體，就能無限制地使用AI圖像生成，不但不需付費，也能生成「受到管制」的內容。

延伸閱讀：
Stable Diffusion AI算圖使用手冊（1-1）：這是什麼黑魔術？
黃仁勳訪談深入思考（1）：AI不只是會唱歌、畫圖的人類模仿器

Stability AI於官方網站的可接受使用條款（Acceptable Use Policy）頁面張貼將於7月31日實施的更新條文，並表示該條款的目的在於促進Stability AI模型、產品和服務、應用程式介面（API）、軟體或其他資源的安全且負責任的使用。

Stability AI也指出旗下技術是針對成年人設計，因此使用者必須年滿18歲或達到所在地使用Stability AI技術所需的最低年齡（以較高者為準）。如果使用者存取、使用或散佈任何Stability AI相關技術，即表示同意使用條款，若違反條將可能被Stability AI暫停或終止存取產品和服務。

▲ Stability AI於官方網站公告新版可接受使用條款（Acceptable Use Policy），新條款將於2025年7月31日實施。

不能色色了

Stability AI使用條款禁止使用者侵犯法律或他人權利，包括禁止下列行為：

• 侵犯智慧財產權和隱私權等法律或他人權利
• 用於詐騙
• 僅分析個人資料或特徵來預測犯罪風險
• 未經同意建立或擴展臉部辨識資料庫
• 未經合格專業人員審核就提供包括醫療或健康領域服務建議等條目
• 鼓勵或指示與自我傷害或傷害他人相關的行為
• 基於受保護屬性的歧視、威脅或宣傳暴力或仇恨內容
• 支持與恐怖主義或仇恨相關的組織或個人
• 與人口販賣或剝削相關的內容
• 極端血腥，例如涉及身體破壞、殘害、酷刑或虐待動物的內容
• 開發或製造任何非法或受管制的武器
• 發布虛假或造假資訊
• 未經同意或合法權利冒充他人，包括誹謗性內容
• 誤導他人生成內容為真實人類創作，或在使用者與AI互動時未適當披露
• 發布可能擾亂民主或司法程序的內容，包括阻止用戶參與選舉的內容

此外Stability AI也特別列出禁止色情內容，包括禁止使用Stability AI技術生成下列圖像：

• 非自願的親密圖像（NCII，Non-Consensual Intimate Imagery）
• 非法色情內容
• 與性交、性行為或性暴力相關的內容

條款更進一步強調禁止傷害或剝削兒童，若出現下列禁止行為，Stability AI公司將向相關部門舉報不當兒少內容：

• 兒童性虐待內容（CSAM，Child Sexual Abuse Material）、性剝削、誘騙或販賣未成年人
• 剝削或虐待未成年人，包括性勒索或任何冒充或引誘未成年人進行剝削的行為
• 戀童癖行為，例如未成年人的暗示與描述

▲ 新條款中針對色情與兒少相關限制的部分。

▲ Stable Diffusion的社群在「審判日」過後，是否會收斂並停止各項「紳士」行動？（本圖與標題圖片使用Stable Diffusion生成）

由於Stable Diffusion能夠部署在個人電腦，並且完全離線執行，因此在技術上Stability AI公司並不容易完全杜絕使用者生成上述禁止的內容，然而等Stable Diffusion相關資源與討論社群是否會受到影響，還有待日後觀查。