ADVERTISEMENT
Stability AI公司公告將於2025年7月31日更新文字轉圖像AI模型Stable Diffusion使用條款，最主要的變動在於將禁止生成色情圖片。
違反條款將會被禁用
Stable Diffusion是由英國的Stability AI公司所推出的開源文字轉圖像AI模型，它能應用於AI圖像生成，一般使用者只要在個人電腦上部署模型與對應的AI運算框架、軟體，就能無限制地使用AI圖像生成，不但不需付費，也能生成「受到管制」的內容。
延伸閱讀：
Stable Diffusion AI算圖使用手冊（1-1）：這是什麼黑魔術？
黃仁勳訪談深入思考（1）：AI不只是會唱歌、畫圖的人類模仿器
Stability AI於官方網站的可接受使用條款（Acceptable Use Policy）頁面張貼將於7月31日實施的更新條文，並表示該條款的目的在於促進Stability AI模型、產品和服務、應用程式介面（API）、軟體或其他資源的安全且負責任的使用。
Stability AI也指出旗下技術是針對成年人設計，因此使用者必須年滿18歲或達到所在地使用Stability AI技術所需的最低年齡（以較高者為準）。如果使用者存取、使用或散佈任何Stability AI相關技術，即表示同意使用條款，若違反條將可能被Stability AI暫停或終止存取產品和服務。
不能色色了
Stability AI使用條款禁止使用者侵犯法律或他人權利，包括禁止下列行為：
- 侵犯智慧財產權和隱私權等法律或他人權利
- 用於詐騙
- 僅分析個人資料或特徵來預測犯罪風險
- 未經同意建立或擴展臉部辨識資料庫
- 未經合格專業人員審核就提供包括醫療或健康領域服務建議等條目
- 鼓勵或指示與自我傷害或傷害他人相關的行為
- 基於受保護屬性的歧視、威脅或宣傳暴力或仇恨內容
- 支持與恐怖主義或仇恨相關的組織或個人
- 與人口販賣或剝削相關的內容
- 極端血腥，例如涉及身體破壞、殘害、酷刑或虐待動物的內容
- 開發或製造任何非法或受管制的武器
- 發布虛假或造假資訊
- 未經同意或合法權利冒充他人，包括誹謗性內容
- 誤導他人生成內容為真實人類創作，或在使用者與AI互動時未適當披露
- 發布可能擾亂民主或司法程序的內容，包括阻止用戶參與選舉的內容
此外Stability AI也特別列出禁止色情內容，包括禁止使用Stability AI技術生成下列圖像：
- 非自願的親密圖像（NCII，Non-Consensual Intimate Imagery）
- 非法色情內容
- 與性交、性行為或性暴力相關的內容
條款更進一步強調禁止傷害或剝削兒童，若出現下列禁止行為，Stability AI公司將向相關部門舉報不當兒少內容：
- 兒童性虐待內容（CSAM，Child Sexual Abuse Material）、性剝削、誘騙或販賣未成年人
- 剝削或虐待未成年人，包括性勒索或任何冒充或引誘未成年人進行剝削的行為
- 戀童癖行為，例如未成年人的暗示與描述
由於Stable Diffusion能夠部署在個人電腦，並且完全離線執行，因此在技術上Stability AI公司並不容易完全杜絕使用者生成上述禁止的內容，然而等Stable Diffusion相關資源與討論社群是否會受到影響，還有待日後觀查。
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！