隔壁小蛙2024年10月13日发布:“雷军”骂翻全网只是恶搞？AI生成当有边界50岁北京富婆，执意为小19岁男友生下3胞胎，后来怎样了

　　新闻背景： 

　　国庆上网被“雷军”骂了整整7天？有媒体报道，刚刚过去的国庆假期里，短视频平台出现了大量“雷军”的发言视频，涉及堵车、调休、游戏等热门话题，时而言辞犀利，时而爆出粗口。据悉，这些发言与知名企业家雷军并无关系，而是由AI合成。目前，相关短视频已被各大平台下架。

　　AI技术怎能不断“试探”底线？

　　从“AI孙燕姿”“AI周杰伦”翻唱歌曲，到“郭德纲”讲英文段子、“霉霉”讲流利中文，再到如今“雷军”七天骂翻全网，AI配音在网络世界的应用并不鲜见。原本，制作者只是在小范围玩梗逗乐，却逐渐变为在违法、悖德的边缘疯狂“试探”：有人利用AI语音招摇撞骗、有人未经允许利用AI技术“重现”已故明星声音……凡此种种，皆提示我们在享受技术便利的同时，也要格外关注潜藏的风险。【详细】

　　AI流水线式造假，不仅侵犯公民的合法权益、混淆大众认知，更带来巨大的风险隐患。《2024人工智能安全报告》显示，仅今年上半年，AI诈骗案案值已超过1.85亿元。【详细】

　　深度伪造已成滋生乱象温床

　　从彼雷军到此“雷军”，使用“AI配音”就可以“一键直达”。近年来，通过AI实现声音和画面深度伪造的技术门槛不断降低，为这种“一键变声”“一键变脸”泛滥提供了可能。目前，市面上已有大量的AI配音小程序，用户只需在程序内选择相应的人物声音并输入文字，便可借用他人的声音发表言论。有的软件免费向用户开放部分使用权限，收费版本价格也并不高。

　　在深度伪造技术之下，我们越来越无法区别真假，过去崇尚的“眼见为实”受到冲击，只能信以为真。而真伪难辨的混沌地带，也很可能成为滋生各种乱象的温床。更甚之，不法人员凭借一段原始语音、照片等就能编造谣言甚至设置陷阱，并借此实施诈骗。【详细】

　　该给AI生成套上缰绳了

　　当深度伪造嵌入我们的数字生活，该怎么办？这并非无病呻吟强说愁。一方面，要推动反深伪检测技术持续更新迭代，以应对层出不穷的深度伪造骗局；另一方面，要加强技术监管，明确生成式人工智能服务合法与非法的边界，对相关违法行为进行严肃惩处，以“前车之鉴”构筑其参照坐标。【详细】

　　就防止AI合成内容侵权的问题而言，我们能做的还有很多。比如，作为传播链条中的重要一环，社交平台需负起相应的治理责任，并注意识别AI生成音视频的真伪，对侵权素材作出及时处理，必要时标注“疑似AI合成”之类的提醒。再比如，网络恶搞不能没有边界，广大网友也要注重尊重他人的合法权益，绝不能突破法律和道德的底线。【详细】

　　（以上综合光明网、北京日报、南方日报） 

　　V视角： 

　　@小小鹿同学：玩梗要适度，这样恶搞知名企业家不太好吧？

　　@笑逐颜开：这种AI换声已经涉嫌侵权了。

　　@心随风动：雷军都被侵权，那我们普通人要遭到侵权就更难办了。

　　@是不是笑一笑就好了：为了流量啥都干，真是没有底线了。

　　@我是布布：支持雷总维权。

　　中国经济网编后语： 

　　如今，AI换脸或配音、文生文、文生图、文生视频等应用的发展如火如荼，但越来越多的质疑声也随着侵权、泄露个人信息、诈骗等问题到来。雷军遭遇AI侵权，或许这次只是恶搞，倘若互联网应用的场景中谣言和诈骗横行，我们又该如何应对？规范生成式人工智能技术的发展，不该止于“平台下架相关内容”，而应当最大力度强化监管和处罚，同时，还应厘清AI生成的边界，更好引导“科技向善”。

    回顾：往期“经”点热评