双11促销结束，玩具商小黄（化名）客服后台收到一份特殊的售后申请。买家上传的图片中，售价167元的毛绒玩具挂件“贝儿”已完全烧焦变黑，尾巴处出现火焰般的裂纹。 “没用，这是为什么？”并要求“退款50元”。凭借多年的电商经验，小黄最初认为是顾客使用不当造成的损坏。 “我们都会记录新品发货的全过程，如果是顾客使用不当造成的损坏，我们是不会赔付的。”尽管做好了恶意退货的准备，但小黄并没有预料到买家使用的是“技术伎俩”。 “我以为是顾客把玩具扔进火里的，但经朋友提醒，我越看越像假的AI（人造）图片。”看似平常的售后纠纷，其实只是这是人工智能技术滥用的一个缩影。新京报财经记者调查发现，从“烂”香蕉到“漫画般衬衫”，从“破损”饭碗到“烧焦”毛绒玩具，AI生成的错误图像已经成为一些人的“退款神器”。这场科技狂欢影响着电商交易的信任基础。对此，京东、拼多多、淘宝、抖音等领先电商平台向贝壳财经记者回应称，高度重视对于此类问题，新京报贝壳财经记者独家获悉，一些企业的AI“对策”将在年底正式推出，“自制”反诈骗指南“我盯着那张图看了好久，以为是AI画的娃娃呢！”小黄指着手机上的聊天记录，感到愤怒又无奈。他开店以来就遇到过这样的情况：消费者使用人工智能生成的“破损娃娃图片”轻松获得50元退款。事情发生在十一月中旬。一位买家下单购买一款毛绒流苏玩具几天后，发来一张照片：娃娃的裙子开裂，绒毛斑驳，布料有类似陶瓷的裂纹纹理，并配文“皮肤剥落，给我退款50元”。商家认为，消费者退款时赠送的毛绒玩具是假的AI照片。提供采访者提供的照片的店主觉得时间有问题：“我们发货的都是新货，还有跟踪视频，怎么会这么差呢？”他没有立即曝光，先要求对方提供原始时间数据，但消费者只是反复“有质量问题”，随后直接申请平台介入，成功退还了50元。 “我以为这是是买家把玩具扔进火里的。我当时想，我是不快乐的。我的朋友提醒我“这张图像是由人工智能生成的”。 “裂纹”，与毛绒材质的物理特性完全不符。“平台认定芒氏商贸有问题，没有仔细核对证明，直接退回给消费者。”小黄没有说没有办法，只能把时间花在后续申诉上。“直接提供消费者发来的图片，不要提供视频。只要图片不是太逼真，产品获胜的概率就很大。”随后，该商家向平台申诉，拿回了50元。消费者要求“仅退款”或退回产品以获得退款。湖北电商创业者采访者肖乐基（化名）提供的照片，也遇到了AI生成的货物损坏假图，也被用来申请退货售后退款。然而，小幸运识破了消费者的“欺骗”。 “正常损坏是不会掉下来的，消费者会对他们的态度产生怀疑，坏了之后更不可能把它包括进去拍照。” ”该商家在接受财经财经记者采访时表示，消费者给出了宠物的“破损版”并要求退款，并拒绝提供视频。小幸运认为，消费者提供的商品破损图片有明显与常理不符的痕迹，是识别假图片的关键线索。受访者给出的图片容易腐败，难以举证。贝壳财经记者从采访中了解到，在遇到假AI照片申请退款时，大多数商家都能用肉眼识别假AI照片因为他们“cannotiran”，直接拒绝了买家的退款要求，经过商家的反复询问后。对于该图片，承认这是一张假的AI图片。江苏一位服装卖家告诉贝壳财经记者，一位买家购买了一件9.89元的衬衫，称衬衫有破洞，要求退款，但仍继续提供多张明显由人工智能生成的图片作为证据。 “我说完指出这是一张‘漫画风格’的AI图片，他还说要改变位置，但是新图片中的洞的位置已经改变了。”卖家表示，在多次指出图片中的AI痕迹后，买家也承认曾试图以虚假证据打破退款。对于识别假AI图片的经验，一位商家总结了一份“反欺诈指南”。他表示，用户是否有“不良行为”记录，可以通过数据识别；首先从细节观察，“AI生成的缺陷（发霉区域、裂纹）边缘模糊，光影与产品本身不相符。例如颜色” 还可以检查是否有痕迹。 “有些假照片会保留AI工具水印。” 注意只提供单张图片。 “要求其他方拍摄多角度视频，重点关注产品包装、缺陷等。特写和手部状态，或者水印相机有时间拍照和记录等。”真实的AI“魔改”照片：10秒快，“傻傻不清”的AI造假和退款已经成为一个缺口，不诱人。一年前，AI生成的照片还可以靠“六指琴妖”和“丑背景”来破解，但现在专业人士也会犯错。 AI造假门槛并不高，贝壳财经记者在实际测试中发现，目前各大AI应用都配备了“AI修图”功能，用户在测试过程中可以轻松利用AI对物理图像进行“神奇改变”。记者紧随其后。我选择了照片修图机，输入了“Lina Belle Pendant”、“Burnt”和“Cracked”。不到10秒，一张与上述照片效果类似的照片出现了。为了清晰验证AI修图的欺骗性，inshell财经记者准备了5件真实物品，分别使用聊图、钱文、豆宝，通过“把这件衣服弄脏”等简单的提示词，生成了11张AI生成的“损坏物品”图像。之后，这5个项目被人为打碎，并与生成的图像一起，制作了一份16张“真或假”图片调查问卷。本次调查问卷涵盖了衣物污渍、包装破损、水果腐烂等，对应了目前市场上电商平台提供的三种退款方式。截至11月28日，壳牌财经记者收集问卷时，共有73人参与。结果显示，约70%的AI照片造假成功被受访者“发现”。生成11张图像的识别。新京报记者 财经记者 罗一丹专门找图，这11张AI图像中，大部分被受访者肉眼识别，以6:1甚至10:1的“压倒性优势”。但很难确认个别图像是AI生成的。一张脏夹克的图片出现“32人判断是真实的，28人判断是人工智能，13人不确定”，成为唯一一张成功“骗过”过半受访者的图片。名为AI10的照片代号原型是一只蓝色的小鸭子。左图为原始图像，右图为AI生成的图像。 73 名受访者中只有 28 人的判断正确。值得注意的是，受访者在开始调查之前就清楚地意识到这些图像与生成的图像混合在一起，这会在一定程度上增加受访者的“警惕性”。商业场景下，更多人可能会被AI图像“蒙蔽”。此外，AI照片编辑的出现也加剧了受访者对真实照片的不信任。对于本次调查问卷中混合的五幅真实图像，只有53.42%的人判断图像是真实的，35.62%的人误认为图像是AI图像，10.96%的人不确定。 5 图像识别情况。新京报贝壳财经记者罗一丹绘制的图中，一张照片被受访者判断为假的概率高达10：1，只有6人认为这张照片是真的。事实上，这是真实香蕉腐烂的延时截图。这张代号为Real 15的照片的原型是一些香蕉。左图和右图均为真图。 73 名受访者中有 62 人认为该图像是由人工智能生成的。承认宽恕还需要技术升级，证据宽恕涉嫌欺诈。在这项调查中，30 人填写了他们的想法ts 进行测试。其中，大多数受访者认为这些图像“真假难辨”。有采访者留言称，“放在一起看，很难分辨出来，最大的感受就是年轻人还是有辨别意识的，大多数成年人都能相信是真的。”至于如何判断AI假真照片，有受访者表示：“AI这一代相当‘时尚’，我自己对照片会比较小心，会软弱——我对真照片也持怀疑态度。AI发达了。”也有受访者表示：“感觉比较做作、笨拙。”人工智能的破坏程度一般，但还是有人上当。”壳牌财经记者在测试中发现，目前，对于一些包装上有文字的物品，人工智能生成的图像更容易暴露出“瑕疵”，比如错别字、扭曲等。此外，很难达到人类对物品的“平均”破坏程度。例如，损坏点通常是划痕、洞等，而人工智能生成的大多数损坏图像都显示整个物品有损坏的迹象。不过，这些问题可以通过改变AI生成图像时的即时文字来轻松解决。未来，如何识别AI图像仍然是一个不断进化和技术升级的过程。今年9月1日出台的《人工智能生成内容标注办法》，为人工智能生成内容的使用划出了红线。第十条规定“任何组织和个人不得恶意删除、关联、伪造、隐藏本办法规定的生成合成内容的标签，不得为他人实施恶意行为提供工具或者服务，不得通过不正当的标签方式损害他人合法权益。”万商天勤律师事务所程亮律师表示，相比普通律师事务所“就退款”，利用AI造假照片的行为更为严重。其行为是通过灭失证据、货物或退款纠纷、侵犯商户和平台产权等方式欺骗商户和平台。上海正策律师事务所律师董一智表示，利用AI出示证据申请退款或“只退款”的行为，可能违反人民法院或仲裁机构请求撤回退款的行为，并要求消费者退回货款。面对假冒AI假退款，电商平台的应对措施已经落后。对此，北京贝壳财经记者采访了京东、拼多多、抖音、淘宝（天猫）平台生态相关部门开展智能判断相关项目，全面打造多模态人工智能图像识别能力。新鲜农产品。它正处于测试运行阶段，可以识别和破坏包括虚假人工智能图像在内的虚假凭证。预计年底正式上线。拼多多也表示，平台高度重视此类问题，将按照相关规定持续加强技术币支持。如果商户遇到问题，可以保留相关凭证并联系平台，平台会尽快核实并处理，保护商户和消费者的合法权益。抖音电商相关负责人表示，平台目前不提供“只退款”服务，但在售后过程中，如果买家在开始销售时申请平台介入，平台会根据证据和售后双方的方案进行综合评估，最终做出是否退款的判断。根据双方提供的证据。为了保护交易者的合法权益，平台不断进行技术迭代。目前，已建立相关AIGC识别能力，并正在试运行。正式上线后，将能够对利用虚假AI图片进行恶意售后等违法行为进行瓦解和识别。同时，平台持续对羊毛采摘等黑灰色活动进行专项监管，确保平台高效的运营环境。对此，淘宝（天猫）客服回应称，平台有严格的风控体系来验证凭证的真实性，建议消费者在遇到问题时提供真实有效的凭证，避免恶意行为。同时，在退款方面，随着政府监管的不断推进，电商平台逐步优化，“r调整了“只退款”服务政策。此次安排主要限制了以往平台介入判定“只退款”的适用情形，扩大了平台内经营者自主决定是否同意“只退款”的适用情形。全国商业联合会直播电商工作委员会副会长曹雷表示，面对人工智能技术滥用带来的新挑战，没有人能够独善其身。这需要监管部门划清底线，平台编织一张密密麻麻的防护网，商家提高自卫能力，每一位消费者诚信参与，构筑起坚固的防线。天使投资人、网易电子商务研究中心特约研究员郭涛指出，“只退款”的黑灰行业对电商生态造成了破坏，严重扰乱了市场秩序。河对于商户来说，他们不仅在货物和支付方面遭受直接经济损失，而且还必须投入额外的成本来核实证据和解决不合格问题。中小商户防范风险能力较弱，可能因经常出现有害退款而陷入经营困难，进而挫伤创业创新积极性。对于电商平台来说，此类行为破坏了买卖双方的权利平衡，导致交易者质疑平台规则的公平性，导致优质交易者的流失。对于消费者而言，从长远来看，商家可能会通过提高产品定价、收紧售后政策来对冲风险，最终损害后续消费者的合法权益。而且，黑灰产业泛滥，还会滋生不诚信消费习惯，败坏公平交易的市场环境，阻碍健康可持续发展。电子商务产业蓬勃发展。郭涛建议，监管部门需要完善法律法规，明确恶意退款的法律定义和处罚标准，对人工智能生成的内容实施强制标注要求，惩罚非法服务提供者和篡改者。更改标识的用户将依法受到处罚；同时，建立跨平台征信机制，将滥用退款行为纳入个人征信。电商平台应优化政策和审核流程，打破“只看图片退款”的单一模式，增加人工审核环节，利用技术手段验证照片真实性，设置账户退款门槛和风险提示。接受封禁恶意账号等制裁，明确平台审核不通过的赔偿责任。商家需做好防控工作记录整个配送过程保存证据，优化售后沟通流程，要求消费者提供多维度退款凭证，遇到AI假图诈骗时立即向平台投诉并向公安机关报案，并联动行业组织共享恶意消费信息，共同防范风险。新京报贝壳财经记者 程子娇 罗一丹编辑 王金宇 傅春民校对