除了ChatGPT這樣的AI聊天機器人，AI繪圖也是很紅的另一個應用範圍。前幾個月大家是玩Stable-Diffusion、Lora這樣的生成工具，最近最火爆的則是Midjourney V5，使用起來比前面的AI畫圖還要簡單。
在此之前，Midjourney允許任何人在Discord註冊使用，在收費訂閱開始之前提供25次免費圖像生成。雖然專家多年來一直在警告AI生成假新聞的潛力，但由於假新聞很容易被發現破綻，這還不是一個嚴重的問題。
然而Midjourney V5也引發了很大的爭議，因為門檻實在太低，最近因生成的圖片（包括虛假的川普被逮捕的圖片和教宗穿著時尚夾克的圖片）在網上爆紅，許多人將這些假圖片誤認為真實的照片。
而Midjourney的CEO和創始人David Holz就在這個時間點，於上週二宣布暫停免費試用Midjourney的服務。因此讓外界認為是擔心假新聞的問題。
不過近日 David Holz在回覆外媒的詢問時，解釋了跟假照片無關，因為要生成真實圖像需要使用V5版本，本來就需要付費。他進一步說明，暫停免費試用是因為近日出現大量用戶洗帳戶，為了免費試用不斷開設新帳號，然後用完就丟棄，他還特別點名一條中國的教學影片，懷疑是大量來自中國的流量，導致伺服器不勝負荷。
「我們嘗試用新的安全措施來解決這種濫用情況，但是成效不佳，只好再關閉免費服務。」他表示在暫時沒有解法前，就暫停免費試用。至於何時重啟？則沒有答案。
深偽照片問題越來越嚴重
Midjourney對來自假圖片的政治敏感威脅的反應到目前為止是分散的，沒有重大的審查政策大修。Midjourney的內容限制比一些競爭對手（如OpenAI的DALL-E）更寬鬆，但比其他競爭對手（例如Stable Diffusion）更嚴格。
根據Holz去年10月的說明，Midjourney有一份禁止使用的詞匯清單，「根據來自那些國家的用戶的投訴，與不同國家的主題有關的詞匯被列入禁止使用清單中」。但他們不會公布完整版本的此列表，以減少“戲劇性”
Holz去年解釋過，「除非有人特別想製造戲劇性，否則幾乎沒有人會注意到"禁止列表"。」
但是，該公司隨著其假圖片的爆紅已經擴大了這個列表，最近禁止了「被逮捕」個詞。因為最近有一系列川普被逮捕的圖片生成。
然而，這些限制很容易被規避。例如，在The Verge的測試中表示，「我們無法使用川普被逮捕的提示生成圖像，但可以使用川普被警察上手銬的提示生成相同的輸出」。
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！