admin 
“你是月峥嵘，可我是谁？”演员文峥嵘近日在直播间自问，再次向公众揭露了AI深度合成的困惑。央视特别警告：现在的AI人脸、声音变化已经变得如此逼真，真假难辨。不少明星都曾成为“脸被盗”的受害者，普通消费者更应该提高警惕。 故事开始于文正英访问的直播间。出现在银幕上的“新娘”有着她特有的发型，声音也与她几乎一模一样。她热情地向观众推荐护肤品，还谈到了一些经过“亲自测试且有效”的名言。参与事件的温振荣又愤怒又困惑。他立即进入房间直播提问，但还没等对方回应，很快就被堵住了。 “我没有接受这次促销根本不。这些人工智能合成不仅误导了消费者，还毁了我的品牌！”温振荣在随后视频中的愤怒呼应了许多权利受到侵犯的名人的情绪。“人工智能克隆”对于娱乐和直播界来说并不新鲜，不仅仅是文正英。有网友发现，在某些产品分销平台上可以同时看到几个“刘涛”和“杨幂”，每个平台都销售不同品牌的生活用品。已故艺人甚至被利用在直播中推销商品，家属维权，该平台表示“技术上难以识别”。更令人担忧的是，普通网民将无法逃脱AI的魔爪，将一些人的照片合成为淫秽视频，而他们的音频被截取并转换为难以辨别的欺诈音频。真实与虚假之间的差距越来越大。 “使用人工智能改变你的脸或模仿你的声音的门槛现在低得惊人。”从事人工智能技术开发的工程师小张表示，开源换脸工具在网上很容易找到，教程几十美元就能买到。通过研究名人的公共视频几个小时，您可以创建看起来真实的合成内容。这些“AI替身”进入直播间，带货效果很差，观众会认为是明星自己推荐的，可信度会迅速提升。商家依靠这种“流量”方式，单场直播销量轻松破万。 最大的问题是权益保障困难。文正英团队随后向平台提出投诉，但对方要求提供一套复杂的身份证明文件和侵权信息证据。当流程完成时，“假温峥嵘”直播间已经化身明星头像，继续运营。北京一家律师事务所的律师解释道：“通过AI深度合成判断侵权极其复杂，包括相似音频要有多相似才能被认定侵权，以及平台有多大的审核责任。目前的法律定义不够详细，导致了很多不法经营者的出现。”央视在通知中强调，消费者购买时不能只看“明星脸”，还要通过官方渠道核实。对于商家和平台来说，人工智能技术不能作为“砍价”的工具。目前，相关部门已经在推动人工智能治理的专项措施。未来，我们不仅要加强技术鉴定能力，还要致力于法规的制定。毕竟，技术本身并无好坏之分。只有遵守法律和道德底线，人工智能才能真正为我们服务，而不是成为一个欺骗性的“面具”#接入点观察者#。
特别声明：以上内容（包括照片和视频，如有）由平台用户上传发布到您自己的意思是“网易帐号”。本平台仅提供信息存储服务。
注：以上内容（包括图片和视频，如有）由网易号用户上传发布，网易号是一个仅提供信息存储服务的社交媒体平台。