最近看到一条新闻:印度电影《 Devara 》中的歌曲《 Chuttamalle 》,被人用 AI 制作成涉及演员 Janhvi Kapoor 的色情深伪视频。Jr NTR 随后公开谴责,表示将对制作和传播者采取法律行动。
事件报道这让我想了一件事:同样是 AI 换脸、人物替换,用在音乐和舞蹈二创上,可以很有意思;用来色情化他人,就变成了伤害。
所以我做了 Chuttamalle AI ,想把这首歌相关的创作需求,引导到正常、有授权的二创上。也坦白说,希望借这次关注验证一下产品需求。
网站: https://chuttamalleai.com/
目前第一版围绕 Chuttamalle 视频制作,功能比较集中:
我想让这个品牌长期表达的是:安全、尊重的 AI 视频创作。
用户需要确认照片属于自己,或者已获得使用授权。网站明确禁止色情、NSFW 和未经同意的性化二创,也不提供自由提示词或任意源视频上传入口,先把创作范围控制在固定视频和预设编辑方式里。
接入的是上传图片和视频的审核,同时开放 NSFW Filter Api 接口,希望做 AI 创作工具的开发者,也把内容审核认真考虑进流程。
想听听大家的意见:这种音乐二创场景,你更需要换脸、换人物,还是更丰富的模板?对于肖像授权和内容审核,大家觉得还有哪些产品设计值得补上?
欢迎体验,也欢迎直接指出问题。
这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。
V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。
V2EX is a community of developers, designers and creative people.