【e公司观察】“雷军骂人”争议火热 AI克隆的边界在哪里？

图片来源于网络，如有侵权，请联系删除

（原标题：【e公司观察】“雷军骂人”争议火热 AI克隆的边界在哪里？）

国庆假期期间，抖音等短视频平台上出现大量“雷军骂人”的恶搞视频。

图片来源于网络，如有侵权，请联系删除

在视频中，作为企业家流量担当的“雷军”，锐评了假期长短、堵车、调休等热门话题，言辞犀利，且时有不雅脏话穿插其间。部分平台上相关话题浏览量过亿。有网友调侃“雷总，最近你怎么在骂人”“国庆上网被雷军骂了整整7天”。

对此事件，雷军回复了三个愤怒表情，以表达态度。这一方面说明，其本人已经知晓此事；另一方面也揭示了作为企业圈顶级流量背后，所掩藏的气愤和无奈。

此类视频中的声音并非出自雷军本人，而是AI配音。去年网络平台上也曾有一批AI克隆语音爆火出圈，以“AI孙燕姿”为代表的AI克隆歌手语音包风靡一时，同时也有利用AI克隆“郭德纲秀英语”等嫁接式品类出现，不过，当时市场普遍认为，它们给市场带来的更多是娱乐效应。

与前一轮不同，本轮克隆雷军声音的AI语音，迅速引发广泛争议。这一方面与AI克隆和雷军本人平日风格之间的巨大反差有关；还有一个更重要的原因是，“雷军骂人”已经具有恶搞意味，部分内容已超出一般开玩笑玩梗的程度。

例如，除了骂人、吐槽之外，还有具有造谣嫌疑的，比如“雷军”说要投资建设某某大学等；还有的内容骇人听闻，比如“雷军”说要用小米SU7撞人等。当前，这些视频正在被平台下架中。

与此前AI同类应用的娱乐性相比，这一轮更多的是引发了市场某种程度上的反感和担忧。对此我们可以从多个角度观察。

比如在法律视角下，擅自使用他人肖像和声音进行编辑合成，甚至发布具有辱骂和诽谤性质的内容，侵犯相关民事权利。再比如，在技术伦理视角下，如何最大程度避免技术应用中的“人格误导”，完善训练过程的数据保护等。

从产业视角来看，这种现象映射出，很多AI应用在现阶段仍然处于草莽时代，边界感尚不明晰。例如，目前市面上有大量AI配音的小程序，用户可以随意选择多元人物声音，或者输入文字生成对应声音，便可借用他人的声音发表言论。

肇始于2022年底的AIGC浪潮以来，包括字节跳动、百度、阿里、腾讯等在内的互联网大厂都已经推出基础大模型，并且拥有很强的泛化应用能力。这些创新技术应用本无边界。以AI配音为例，一方面，它能为创作提供了新的可能性，让内容创作更加多元化；另一方面，AI配音也存在被滥用的风险，不当使用可能会涉及侵权等问题。此前，就有直播带货顶流陷入“录音门”，事后警方发布通报，证实了AI工具伪造，并传播不实内容。

实际上，AI生图同样如此：一方面为创作者提供方便，另一方面也有可能被滥用违法。倘若沿着市场担忧的路径往更多元方向演进，AI换脸、AI裸照等更加恐怖的事件，不排除发生的可能。从这个角度看，“雷军骂人”很可能会成为AIGC泛化应用过程中的一个重要案例。

任何机遇都会同时伴随挑战。对于大模型企业来说，一方面需要关注技术本身的迭代，另一方面也要紧守数字伦理的底线。而对于监管来说，在某些特定阶段，AI监管曾面临“不知何处下手”的问题，而“雷军骂人”案例说明，防止技术滥用就是其中的重要一维。诚如比尔盖茨所言，“须确保数字技术为我们带来的是好处，而不是伤害。”