用户投稿从“骗捐寻亲”到“退款 P 图”，AI 变得越来越让人失望，这背后有多重原因，反映了当前 AI 技术发展阶段、应用场景、伦理规范和社会接受度之间的复杂关系：
1. "技术仍不成熟，缺乏真正的理解和常识："
"深度伪造（Deepfake）技术易被滥用：" P 图（深度伪造）技术虽然令人惊叹，但其本质是利用大量数据训练模型，学习生成逼真的图像或视频。然而，AI 并不理解这些内容背后的真实性与虚假性。它只是学会了“如何画得像”，而不具备“辨别真伪”或“理解伦理”的能力。当恶意使用者利用这项技术制造虚假信息时，AI 就成了助纣为虐的工具。
"缺乏情感和意图识别：" AI 目前难以真正理解人类复杂的情感和意图。在“骗捐寻亲”这类场景中，AI 可能能识别出一些常见的寻亲模式或文字表达，但无法判断当事人的真实意图。它可能被精心设计的虚假信息所迷惑，或者无法区分真诚的求助与恶意的欺骗。这反映了 AI 在“社会常识”和“人类同理心”方面的巨大鸿沟。
2. "应用场景良莠不齐，伦理边界模糊："
"恶意使用的诱惑：" AI 的强大能力天然带有被滥用的风险。无论是为了博取同情
相关内容：
前段时间刷抖音的时候，小雷看到了一则 “2 岁女童王喵喵走失” 的寻人启事。可谁能想到，这是一场彻头彻尾的闹剧。
7 月 23 日，一位叫 “诺言”（王某某）的网民在抖音发布了这则寻人启事，说 2 岁的王喵喵在嘉兴市南湖区新丰镇乌桥超市走失，被一位五六十岁的大妈抱走了。
图源：抖音截图这则启事里，女童的姓名、年龄、身高、体貌特征、走失地等信息一个不少，甚至还提到了家长在监控看到的情况。最后附上了女童“父亲”与“母亲”的联系电话。
短短十几个小时，该视频在抖音平台的播放量就超过 160 万次。大家纷纷转发，希望能帮着找到孩子，嘉兴警方马上介入调查。
一查，好家伙，发现全是猫腻。
图源：微博随着深入调查，警方发现帖子里面“女童王喵喵”的照片，是王某某套用了广东深圳一位博主分享的自己女儿的日常照片。而且他根本没老婆孩子，全是 AI 生成的假信息。
最后王某某被行政拘留了。
其实这事儿不是个例，现在用 AI 造假简直成了某些人的 “流量密码”。
你刷到的那些 “外国人字正腔圆唱中文老歌”、“银发奶奶传授独家养生秘诀”、“氛围感女孩分享穿搭美学” 的视频，看着真实可信，但说不定就是 AI 生成的假货。
图源：央视新闻根据“新华视点”记者调查发现，这些账号靠 AI 造假内容博眼球快速“吸粉”起号，等粉丝多了就带货变现。
还有前一段时间，雷科技写过一篇关于外卖平台的 “视觉骗局”。现在打开外卖软件，好多店铺的门头图都是 AI 生成的。都不需要按照地址找过去，简单看两下就是浓浓的 AI 画风，背后可能就是个连堂食都没有的小作坊。
图源：微博后来才知道，商家花三四十块就能定制一个 AI 头像，甚至还有专门提供 “AI 门面设计” 的服务，月销量能破万单。
所以啊，咱们点外卖的时候，可别光看图片，多翻翻真实评价，或者直接打电话问问商家有没有堂食，毕竟 “眼见为实” 才靠谱。
除了造假和虚假宣传，AI 还被用来薅商家羊毛。最近好多电商商家都遇到了 “仅退款 AI 图” 的套路：买家收到货后，用 AI 把完好的商品 P 成破损的样子，比如鞋子开裂、水果腐烂，然后上传图片申请退款。
更离谱的是，有人连视频都伪造，结果因为技术不过关，视频里垃圾桶旁边突然 “长” 出一只手，这 AI 生成的破绽也太明显了。有些图片仔细一看，角落还有 “AI 生成” 的水印。
图源：微博说了这么多案例，小雷想说，AI 技术是把双刃剑，用好了能造福社会，用歪了就是害人害己。
小雷认为，我们不能为了流量不择手段。就像外卖商家，与其花心思搞 AI “照骗”，不如把钱花在提升菜品质量上；想当网红的朋友，与其用 AI 编造故事，不如踏踏实实输出有价值的内容。
普通人也要擦亮眼睛，遇到可疑信息多核实，别轻易当 “吃瓜群众”。
微信扫一扫打赏
支付宝扫一扫打赏
