图片来源新蓝网

最近，在社交平台上，我们经常可以刷到AI制作的视频。一开始人们只是用AI软件，让旧照片里的人物和风景动起来，来回忆过去。但随后，事情似乎朝着愈发不可控的方向发展，越来越多的影视剧片段被AI爆改。“容嬷嬷喂紫薇吃香肠”“悟空掏手枪”“康熙吹泡泡糖”“雍正啃鸡腿、吃汉堡、喝红酒”“李云龙打电话”“尔康失态”等“名场面”也如雨后春笋般出现。

按理说，这些都属于爆改视频，目的也是为了满足大家的猎奇心理，为大家创造快乐。但从网友们的反馈来看，很多人都不觉得这类视频搞笑，甚至会感到一些不适。因为这些视频的片段或者是某个瞬间，是非常生动写实的，与影视剧原本的内容和画面，毫无违和感。大家的记忆也随之恍惚起来，甚至开始怀疑是不是自己记错了，让人直呼离谱。

如果只是正常的“第二创作”和“玩梗”，在不侵犯版权的前提下，倒也没什么，对此，社会和公众也都能理解和宽容。可当越来越强大的AI介入后，爆改内容与“真实”的距离越来越小，越来越容易欺骗人的眼睛和头脑，影响人们的判断和思想，打开的便是潘多拉的魔盒，这确实细思恐极。

若之后这类AI创作大行其道，我们更忧虑的是，AI真能将影视作品改成任何样子，相关创作内容情节越来越离谱，会不会消解作品本身的社会意义和价值，曲解作品，误导公众，进而在“颠倒黑白、低俗丑陋”的道上一路狂奔？比如，现在就出现了武松和潘金莲亲吻、李云龙在战场上和美女亲吻的片段，孩子们如果看到，会作何感想？如果大家当真了，又会产生怎样的认知，形成怎样的畸形价值观？这不仅会给相关作品的真实创作者带来困扰和伤害，也会污染网络环境，危害社会公德，刺痛伦理道德，造成更多不良影响。

当AI越来越真，人们还担忧的事情在于，照片和视频，是不是都不能作为证据了？造假和造谣也会变得更加简单，甚至“零门槛”？AI诈骗更加防不胜防？我们每一个人在网上发布的照片和视频，理论上都可能被AI爆改，进而衍生出更多我们不可控不想看到的事情，甚至还会伴随着经济纠纷、权利矛盾、道德失衡甚至是违法犯罪等。此前，有女子照片被AI“一键脱衣”，“AI换脸”的视频也并不少见。

人们对AI滥用和失控的担忧，不是杞人忧天，背后确实藏着一大堆现实必须要直面的真问题。对AI技术加以限制和规范，为其套上制度的“紧箍咒”，让使用AI技术，回到合理合法的现实正轨上，这是公众和社会的现实呼声，且已经刻不容缓。

我们都知道，再厉害的AI技术，背后也离不开人的主导与支撑。法律法规的重点，不是要放在对技术本身的限制上，而是对如何使用技术以及使用技术的人，从社会公共利益出发，做出更明确的合理规范。

去年8月，国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》，在整治和规范AI生成内容的问题上，往前迈了坚实一步。其中，使用AI生成内容不得侵害他人肖像权、应对AI生成的图片视频进行标识等规定都掷地有声，也都是“现实刚需”。仍需看到，AI技术更新换代速度之快，超出想象，其给社会也在不断带来新情况、新问题和新挑战。在包容审慎原则之下，管理规范的制度配套也得及时更新完善，尤其是精准给力的惩戒配套，还得进一步细化明确。

从人们切实利益的角度看，“AI”，不是“狼来了”的故事，其已经站在了那里。既然“AI”已无法回避，那一个人人敬畏“AI”、慎重使用 “AI”、推进“AI”向善的世界，则是我们要努力达到的彼岸。

来源：潮新闻