据 IT 之家消息, 10 月 12 日近期来,网络里头的情形是不少商家直接借助 AI 生成的产品视频画面于直播间开展带货及营销之类行动www.yxvip006.com, 导致消费人群、粉丝没办法辨别真与假, 凭借慕名心理进行下单, 然而却并不晓得自己事实上被如同山寨般的 “AI 李鬼” 给欺骗了。

依央视新闻所报, 于一些手机平台之网络直播间里, 一些打着樟树港辣椒名号之种子, 成了主播用以推销带货之重点, 画面之中所展示的辣椒成串垂挂着,产量极为高。当央视记者于直播间问询辣椒种子是否“保真”亚星最新网址, 种出来“有无这般大”之时, 主播们皆称“所见即为所得”。

然而, 就在主播回答提问之际。这时, 背景视频出现了农户站在快要没过膝盖的水里去采摘辣椒的情景。这样一番情景, 明显不符合常理。并且, 类似的画面在其他直播间也有出现。当记者追问这些场景是不是AI生成的时候, 主播并没有进行正面回应。

对此, 奇安信集团副总裁刘浩向央视新闻作出回应,称相应画面显著违背真实世界规律图片ai生成视频,在行业内其专业名词叫做“穿模”亚星手机版官方网址登录入口, 数字世界内容的建模当前核心是基于语言, 然而对于真实世界的物理规律, 它没办法感知以及预测。

湖南岳阳湘阴县樟树镇的高级农艺师黄源介绍, 樟树港辣椒植株十分矮小, 视频里的辣椒植株却有一人多高, 并且花完全不是辣椒的花。其次, 叶片也并非辣椒树苗叶片的形状。从产量方面看,这个视频中的辣椒每亩产量可能超过6000斤甚至更多www.yx6788.comAI生成视频带货骗局：小心直播间山寨李鬼种子, 然而樟树港辣椒每亩产量大概在两千斤到三千斤。

法律方面的专家明确指出, 借助AI去制作那些不符合实际情况或者根本不存在的商品相关内容, 甚至于冒用品牌以此来谋取利益, 这种行为涉嫌民事侵权, 甚至可能构成刑事犯罪。

调查期间, 记者察觉到, 当下各大网络平台都普遍对AI内容识别系统进行了升级, 要求针对AI生成作品添加标注, 然而, 依旧有一些人运用各种手段来绕过审核。以往, 深度伪造需要一定的技术门槛还要有成本投入, 如今, 在AI大模型的助力之下, 不再需要长时间的深度学习以及数据训练了, 只要短短几分钟的工夫, 就能够把一张照片生成为一段直播带货视频, 其逼真程度十分惊人。

目前为止, 我国生成式人工智能产品有了达2.3亿人的用户规模。AI技术迅猛发展, 生成式人工智能快速迭代, 各种纷繁复杂的人工智能生成信息令人头晕目眩, 时而难以辨别真假, 这种情况也给监管部门以及平台治理带来了新挑战。