
诈骗
该团队开源之举值得鼓励,不过我觉得这技术不会改善女性受侵害状况。DeepFakeDefenders或许对DeepFake所致的诈骗方面有些作用,可在以色情侮辱为主的女性换脸问题上意义就不大了。在AI色情方面,多数人明知照片为AI所生成,却仍继续传播,究其根本是在寻求猎奇、进行人格侮辱。许多违法者甚至直接加上AI生成某某某传播,将AI生成当作噱头。违法者也不追求制作特别逼真的视频,这种一眼就能看出是假的视频就已经能达到他们的目的了。在韩国流传甚广的违法图片,大多生成简单,很容易识别。违法者里10多岁的青少年占七成,这些青少年根本没有技术能力制作出非常逼真的AI换脸图片。
女性被AI换脸色情侵害时,受害者若去验证真假,就会陷入自证陷阱。DeepfakeDefender和Deepfake就像道高一尺魔高一丈般相互较量,双方技术会不断迭代以求胜过对方。由于Defender无法保证结果100%准确,一旦识别错误就会给女性带来二次伤害。中科院开源模型若错将受害人照片标为真实,受害人要二次自证的话该怎么做?女性受害者本已遭受AI换脸侮辱,如今还要被模型二次侮辱。模型能否对这种技术错误承担责任?该模型鉴定AI换脸色情图片的底层逻辑为图片主角是否做了相关事情。而当对此事产生怀疑时,就已对受害者造成二次伤害。我们普通人看到AI换脸时,正确做法是举报传播者和制造者,再用技术手段追溯源头。我们要做的是借助技术手段识别图片传播链路,以及是否有制作者个人信息标识等。在Deepfake方面,应推动立法,要求使用该模型时留下个人标记,使每张生成的图片都能追溯到原作者,保证Deepfake仅用于正规途径。在打击犯罪方面,制作AI换脸色情图片的,可视作制作淫秽作品以及侵犯肖像权来处理。传播AI换脸色情图片者,按传播淫秽作品予以起诉。
Copyright © 2025 IZhiDa.com All Rights Reserved.
知答 版权所有 粤ICP备2023042255号