从短视频、搜索引擎、社交平台到电商店铺,从假新闻、假图片到假主播,不过短短一两年,人类就似乎进入了楚门的世界,没有人能过上 "AI 含量为 0" 的生活了。

创造力革命在很大程度上如期而至。但有人却把它当作趁手的武器,薅羊毛、骗退款、做假图、躲审查,然后互相伤害。

作者 | 象树
编辑 | 安菲尔德
题图 | 《楚门的世界》

" 缺德的不是 AI,是人。"

被 AI 生成的商品瑕疵图薅过羊毛的商家,几乎都会这样说。

好好的一箱苹果发过去,怎么会长满了霉斑?想要认真挑选几件衣服过冬,模特和买家秀里的衣服都厚实垂顺,自己收到的衣服怎么货不对版?打开社交媒体,连新闻都是假人主播在用机器音播报?

用 AI 投机取巧,已经迅速变成一种社会痼疾。(图 / 小红书截图)

短短数年前,人类还在嘲笑 AI 不过是 " 人工智障 ",如今却亲手打开了潘多拉魔盒——有人自然而然把它当作生产力工具,有人却像是得到了一把趁手且可以为所欲为的武器。

过一种被 AI 伤害的生活,似乎变成了一种必然。

商家和顾客,互相用 AI 捅刀

开了一家电商小店的林薇,决定不再参加平台接下来的购物节。

她的袜子店每年 30% 的客流,都来源于购物节的商家推流,是最重要的客源之一。但今年,截至目前,林薇收到的仅退款请求,已经比去年多出两到三成。

部分顾客利用 AI 制图钻退货漏洞。 ( 图 / 社交媒体截图 )

林薇网店里上架的 " 福利款 ",是这个 " 仅退款陷阱 " 的重灾区。有相当部分顾客在拍下这款售价 2.8 元 / 双的毛绒针织家居袜后,会声称商品有质量问题。因为这款商品单价很低,林薇通常会视问题严重程度,给顾客部分或全部退款。

起初,林薇的母亲帮忙处理售后时,发现了好几单类似原因的退款订单,提醒林薇注意这批货的质量。林薇觉得蹊跷,仔细看后台才发现:脱线、破洞、污渍,竟然都是用 AI 伪造的图片。

商家饱受 AI 生成图片退款订单的困扰。 ( 图 / 社交媒体截图 )

今年的整个 " 双十一 " 购物节里,林薇都要分出很大一部分精力,来与这些 AI 图仅退款订单苦苦缠斗。林薇告诉《新周刊》,袜子这个品类,属于服装类目中的 " 小虾米 ",大多数商家都靠薄利多销," 一个订单只挣两三块,一天仅退款几单,我这一天就白干了 "。

在 "AI 仅退款 " 这件事上,受伤最深的是生鲜和餐饮类目的商家。

一名外卖平台的商家在社交媒体上分享,有一个交易完成已经 5 天 的奶茶订单突然收到退款申请,顾客称餐品洒漏,要求尽快退款,并配上了一张奶茶杯洒漏的图片。商家发现,顾客提交的这张图片,和自家菜单详情页的照片十分雷同,甚至连光源都一致,只是的确有部分液体从瓶口溢出。

顾客要求退款的图片 AI 味满满。 ( 图 / 小红书截图 )

在要求顾客提交更清晰的证据图片后,顾客发来的图片里不仅光源、背景都有一股浓浓的 AI 生成感,抓握奶茶杯的手甚至有六个手指。商家质疑后,顾客辩解说是因为像素不好,导致图片畸变。

生鲜水果这类商品则对物流运输要求较高,怕磕碰、容易坏,即使细心经营,也是售后赔付率最高的一个品类。这给了一些心思不正的人可乘之机——他们往往会在收到货后拍一张实物图,要求 AI 把新鲜完好的水果处理成坏果的样子,再提交给购物平台要求售后,就能轻易地获得部分或者全额退款。

生鲜水果是 AI 生成图片退款订单的重灾区。(图 / 小红书截图)

在这场民间的 AI 战争中,商家和消费者前所未有地剑拔弩张。不过,消费者也并不总是赢家。

今年冬天,陈丽在购物平台给自己选购新衣时发现,很多流行爆款的女装模特图都是由 AI 生成的。这些商品图中的模特面容姣好,身材苗条,衣服的针织纹理清晰可见。但点进店铺一看,每件衣服的模特都不同,也没有衣服的实物平铺

图,甚至连买家秀都是 AI 感强烈的刷单图片。

AI 模特攻占女装类目。 ( 图 / 小红书截图)

陈丽发现这件事时正值凌晨,她当时正一个人在房间逛电商平台,准备深夜 " 激情购物 ",却被 AI 模特和 AI 买家秀吓得毛骨悚然。光影、构图和人物脸上笑容的弧度都是完美的,乍一看和真人没有区别," 如果不是为了买东西,(而是)匆匆扫一眼,很难发现这是 AI 图 "。

当身处的世界充满了 AI,你还能分清真实和虚幻的边界吗? ( 图 /《楚门的世界》剧照 )

陈丽有点如坠梦里,像是突然掉进了楚门的世界,真实和虚幻的边界前所未有地模糊。琳琅满目的女装页面里,模特是 AI,买家也是 AI,只有一个形单影只的真人,伫立在一片完全由人工智能创造出来的虚空当中。

被 AI 消耗的人们

AI 制图最初出现时,所有人都觉得,世界即将迎来一次关于生产力和创造力的巨大革命。

像是跟老伙计聊天一样,手写或语音发出几句指令,就可以生成逼真的、精美的图片或者视频——只要指令能够理解,AI 还能不厌其烦、不知疲倦、任劳任怨地修改到你满意为止。

人工智能的迭代之快超出所有人想象。 ( 图 /IC photo )

潘多拉魔盒都很美妙,也很荒诞。

以备受诟病的女装网店为例,原本需要花费数月时间选面料、打版、实物拍摄、修图的商品上架流程,现在只要详细地对 AI 描述服装的面料、版型和模特图所在场景,一分钟内就能生成店铺上百个款式的女装上身效果图。

在这个逻辑下,不再需要摄影师,也不再需要修图师,服装可以直接从流水线快递到消费者手里,商家甚至不用承担任何压货的风险。服装业重投入、易压货的行业特性,瞬间就被改写,越来越多的 AI 服装店,因此攻占了购物平台首页。

社交媒体上批量生产女装 AI图片的教程。 ( 图 /小红书截图 )

社交媒体吐槽 AI 模特的帖子下,有服装从业者表示,因为行业近年来的风气是不断压缩成本,自己所在的公司从今年起,也开始在部分商品上启用 AI 制图," 劣币驱逐良币 "。

林薇所在的地区电商群里,常常会有人发 AI 带货图教程的广告,全套教程只需要 99 元。她知道,不少同行都在试着用 AI 节省成本,提高效率。林薇自己也试过,但她觉得 AI 生成的图片虽然精美,却始终无法还原袜子本身的细节," 看起来很像是真袜子,但没办法 1:1 还原实物的质感、图案和走线 "。

像林薇一样受到 AI 图仅退款困扰的商家,会在社交平台上分享 " 自救 " 方法。譬如要求买家提供三张以上不同角度的图片,或者要求拍一个指定动作的视频等,因为目前的 AI 技术在多视图一致的技术能力上仍有欠缺。

目前对这种行为的防范难度还很大。 ( 图 / 小红书截图 )

但也有人很悲观地留言:" 不知道哪天这种 bug 就会被 AI 修复,只能管一天是一天。"

但林薇也说," 双十一 " 等购物节通常是单量暴增的时候,上述方法需要花费大量人力和时间去仔细鉴别。一旦处理得不够快,平台有时会自动执行退款,从商家的保证金里直接扣除,后续申诉还要花费更多的时间。

如你所见,想象中的创造力革命,仍然在很大程度上如期而至了——但,新生事物也许都伴随着强烈的副作用,世界上又无端多了一些被消耗的人。

AI 正在毁掉生命的神迹

如今,已经几乎没有人可以过一种 "AI 含量为零 " 的生活。

打开搜索引擎,跳转后最先出现的是对搜索词条的 AI 总结;刷短视频时,营销号为了规避版权问题,在原创视频中间不断地插入 AI 制作的动画和语音,一个完整流畅的画面故事被切成几段;购物平台上,AI 生成的商品图和实物图放在一起,难辨真假。

你感觉到很累,只想看一些可爱的小动物相拥而眠、互相舔舐,来治愈自己这颗一刻不停地去伪存真的、警惕的心。评论区赫然出现:" 一眼 AI。"

面对滥用 AI 的世界已经成为一种精神折磨。 ( 图 /《男亲女爱》剧照 )

就连科普教育,也正在因为 AI 的滥用变得越来越艰难。

有网友发帖称,在吉林科学技术出版社出版的经典科普图鉴系列图书《昆虫》一册中,多张昆虫图片与真实形态不符,质疑书中科普图片由 AI 生成。网友指出,书中展示的大王花金龟前足带刺,不合实际。同时,其头部花纹和触角都模糊不清,翅膀也不符合花金龟前宽后窄的特点。

植物图片也是 AI 污染的重灾区。社交媒体上,有网友用正式的科普语言和格式介绍水晶花、黑蝙蝠花等看上去奇异瑰丽的植物,并配上其拉丁名和科属,甚至介绍了各种异形植物的生长环境。评论区很多对植物不了解的人纷纷赞叹大自然的鬼斧神工,殊不知这些图片都是由 AI 生成,自然界里并不存在这样的奇观。

这种植物并不存在于自然界,但作者并未标注 AI 创作。 ( 图 / 小红书截图 )

一切都可以被几条语言指令制造。

钟灵毓秀不过是来自人工智能几秒内的 " 深度思考 " 和迅速生成," 山泉共鹿饮,林果让僧尝 " 可能是 AI 生成的," 碧桃吹晓笙,白鹤惊春涨 " 也有可能是 AI 生成的。即使能再次见到那些生灵之间的依偎倚靠、自由奔放,我们的警惕也会先于赞叹。

未来,我们是否也会陷入对真实与虚假的不断怀疑中? ( 图 /《楚门的世界》剧照 )

事实上,在这场民间的 AI 零和博弈中,平台曾经试图做些什么。

今年 3 月,淘天集团宣布,淘宝正式全平台启动 AI 假图治理,严厉打击利用 AI 假图欺骗消费者、侵害原创品牌商家的违规行为。淘宝规定,商品图片应以商品实拍图作为核心的效果体现,修饰行为应当适度,避免失真。严禁利用 AI 等技术合成方式,呈现显著失真的与实际不符的商品信息效果图。

小红书、微博、微信视频号、抖音、快手、B 站等主流社交平台,也都对 AI 合成内容进行规范,上线关于 AI 合成内容的 " 主动声明 " 功能,并在用户协议中明确用户的主动标识义务。部分平台甚至明确提出,若违规不进行标识,可能面临封号等严厉处罚。

平台开始对 AI 生成内容治理。 ( 图 / 淘天集团官方公告 )

然而,目前来看,这些规范仍然高度依赖用户的主动性。同时,平台本身也在不断推广其自研的 AI 创作工具,包括 AI 插画、虚拟模特等功能,对于 AI 内容的审核标准,也依然处于模糊地带。

对 AI 图仅退货订单心力交瘁的林薇,甚至想过关闭经营多年的店铺。她反复地提到,她这个等级的店铺在平台并不多见,尤其是像她这样卖小商品的。解锁这个成就,意味着她需要达成超过十万笔交易。

林薇总是希望,能回到大家 " 老老实实做生意 " 的时代。她还珍藏着开店初期,老顾客给她发来的买家秀,构图有些歪,但袜子针脚整齐,骨节分明," 是她(顾客)用数码相机拍了再传到电脑上的 "。