深偽傷人之後，有人做了一款「不讓你亂來」的AI影片工具，社羣先問的是價格

2026年10月初，V2EX「分享創造」版出現一篇帖子：開發者fusheng0304表示，因為看到印度電影《Devara》歌曲《Chuttamalle》被製成涉及演員Janhvi Kapoor的色情深偽影片、男演員Jr NTR公開譴責並揚言提告的新聞，決定做一個「強調安全與尊重」的AI影片工具Chuttamalle AI，並坦承也希望借這波關注驗證產品需求。

產品做了什麼，關掉了什麼

依照原帖說明，這個工具目前功能非常集中：使用者只能在固定的Chuttamalle源影片上，拖動時間軸選出10秒片段，進行換臉或換人物。男、女角色可以分別上傳參考照片，只傳一張時另一位保留原人物。上傳照片會先經過NSFW檢測才進入生成流程。收費採按次購買，單條影片5美元，三條12美元，支援Google登入。

比較值得注意的是它「沒有」提供的東西：沒有自由輸入提示詞的入口，不能上傳任意源影片，使用者還需確認照片屬於自己或已取得授權。網站明文禁止色情與未經同意的性化二創。開發者也表示開放了NSFW Filter API，讓其他做AI創作工具的人能把審核納入流程。

用日常一點的比喻：這比較像是把一臺印表機放在櫃檯後面，你只能拿店裏提供的紙和版型來印，不能自己塞任何東西進去。多數生成工具走的是「給你一個空白的提示欄」，這個產品反其道而行，把可能性收窄到幾乎只剩一條路。

社羣的回應，戳到的是商業結構

帖子底下的回應不多，但方向很一致。一位使用者直接質疑定價：5美元做10秒，同樣的錢拿去用頂級模型，能做的事多得多，為什麼要選一個限制更少的替代品。另一則回應更尖銳，質疑「使用者花錢買限制」的邏輯成立與否。

這個質疑其實比聽起來更根本。深偽濫用的根源在於通用模型太便宜、太好用，任何人都能在別處產出被禁止的內容。一個把功能收窄、審核前置的工具，它的價值就取決於「正當創作者」這個客羣是否存在、有多大、願意付多少錢。婚禮影片想把新人臉放進喜歡的歌舞片段、粉絲想把朋友放進MV二創，這類需求或許存在，但目前沒有資料能說明規模。原帖開發者也誠實地把這點列為待驗證項目。

授權確認靠勾選，審核防線能撐到哪裏

從機制看，這個產品的安全設計有三層：固定源影片、照片NSFW檢測、使用者自行宣告肖像授權。前兩層是技術能管的，第三層實際上是聲明制。也就是說，如果有人上傳了取得「同意」表面文件、實際未經同意的照片，系統層面沒有第二道攔截。這也是所有內容審核工具的共同難題：機器能擋明顯的違規內容，擋不了經過包裝的授權謊言。

從另一個角度看，這個案例的可看之處在於它示範了「倫理作為產品約束條件」的完整做法長什麼樣子：限制輸入範圍、審核前置、授權宣告、禁止條款，四件事都做了。至於這套約束能不能換到商業回報，V2EX那兩則回應已經給出了市場的第一反應。

對一般使用者的提醒則更簡單：任何要求你上傳他人臉部照片的服務，無論條款寫得多體面，上傳前都值得先問一句，照片裏的人知道嗎。這個問題，正是Janhvi Kapoor事件裏最先被跳過的那一步。