今天小雷来讲一件特别离奇的事。
一位名叫埃迪玛尔·马丁斯的49岁大叔，干了一辈子泥瓦匠的活。他变卖了全部家产，坐了超过2000公里的长途大巴，去见他心中的梦中情人。
这位梦中情人是他网上关注的一位女博主，名叫杰西卡·法赞代拉。
这个账号拥有30多万粉丝，视频里的杰西卡是一名农场主，每天分享田园生活，还公开表示自己在找伴侣，并承诺会为心仪的对象提供经济援助。
图源：全球吃瓜现场
这不就是天上掉馅饼？
埃迪玛尔不但信了，还觉得这是命中注定的爱情。
他立刻变卖所有家当，买了一张车票，跨越2000多公里，从巴西东北部的马拉尼昂州，一路坐到了东南部的贝洛奥里藏特市。
10月11日，大叔满怀期待地下了车。
图源：全球吃瓜现场
结果到了地方，人没见到，却发现那个拥有30万粉丝、有农场、还承诺给他经济支持的白富美，竟然是一个AI生成的虚拟人物。
很离谱吧？但这是发生在巴西的真实事件。
小雷看完只想说，AI诈骗现在进化到能把人的后半辈子都骗进去的地步了？
后来，这个账号的管理员出来发了一个视频，承认杰西卡是AI生成的。还承认这个账号纯粹是为了做商业推广和带货赚钱的。
他根本没在私下和埃迪玛尔聊过天，更没邀请他过来。
原来这段网恋，从头到尾只是埃迪玛尔对着屏幕，单方面地爱上了AI批量生产的幻觉。
看到这儿，你是不是觉得，这大叔太傻太天真了？这都能信？
在小雷哔哔（ID：xiaoleibbb）看来，这事儿不能光怪大叔智商不够。在AI和社交平台的加持下，普通人根本防不住。
这30万的粉丝数量摆在那儿，很难让人怀疑这居然是AI。
这也是最可怕的地方。因为粉丝数量，现在可以轻而易举地用AI和算法刷出来。
以前我们教长辈防骗，说不要相信网上的陌生人。
现在一个虚拟人物不仅有30万粉丝，视频里还有精美的农场、阳光、草垛，甚至还展现了复杂的情绪和个性化的表达。
图源：Acfun
这玩意儿谁能一眼看出是假的？
虚拟网红（Virtual Influencer）这个圈子，早就把以假乱真玩明白了。
就拿在Ins上拥有几百万粉丝的虚拟网红Lil Miquela来说，她早就和各大奢侈品牌合作了。
而且粉丝明明知道她是CGI做的，但还是愿意投入真感情。
而杰西卡就是把这套逻辑，用在了最脆弱、最渴望情感的底层打工人身上。用最高端的技术，割最底层的韭菜。
最后，埃迪玛尔到了贝洛奥里藏特市，举目无亲，钱也花光了，最后只能去找当地的警察和社工。
社工给他提供了食物，让他洗了澡，还帮他安排了回家的路。
但当地警方表示，目前没有关于此案的立案记录。因为在现有的法律框架下，这很难被定性为传统杀猪盘。
而且管理员完全可以说：“我只是在用AI做个虚拟人设带货，他自己当真了，跟我有什么关系？我又没问他要钱。”
可以说，埃迪玛尔确实是自己变卖家产跑过去的，账号也从来没有主动问他要过一分钱。
但这合理吗？
一个拥有30万粉丝的账号，披着人皮，讲着虚假的情感故事，引导用户产生情感依赖。
平台在这个过程中，难道连个本账号内容由AI生成的标识都不要求加吗？
AI目前最大的问题在于，技术跑得比火箭还快，监管却还在骑自行车。
图源：全球吃瓜现场
平台靠这30万粉丝赚了流量费，AI公司靠着卖模型赚了服务费，骗子赚了带货的钱，最后只有这个砖匠把一辈子的血汗钱都赔光了。
说实话，这起事件都应该给全社会敲响警钟。
在AI时代，你看到的、听到的都可能是假的。 你看到的漂亮脸蛋，可能是AI换脸的；你听到的甜言蜜语，可能是AI语音克隆的；你以为的几十万粉丝网红，可能只是个每天花几十块钱买流量的虚拟皮套。
粉丝数、精美视频、深情文案，这些都是生产出来的，根本不是身份验证。
而且现在的AI造假成本极低，越是完美的人设，越有可能是假的。技术改变了我们的生活方式，但也放大了人性的贪婪与恶意。
最后，小雷也想问下大家，如果你在平台上看到一个有几十万粉丝、人设极其完美的账号，你会怎么辨别真假？你觉得平台该不该为这种事负责？来评论区聊聊你的看法。
本文由雷科技编译自gadgetreview
原文链接：别被人设骗了！坐拥30万粉丝的农场女神，竟然是AI