成色18k.8.35mb菠萝为什么一个弹幕，就能让主播喵一百声？

本来吧，作为被人类选中的孩子，数字人的正确打开方式是这样的：表面挂一个美女帅哥皮套，背地里大模型处理评论和口条，一套流程完美闭环，不用一点人工实现智能。 训练好的拟人声线，再搭配上循环播放的预制动作，你别说，不仔细看还真没啥破绽。毕竟大部分数字人干的都是带货的活儿，一般观众也不在乎主播到底是不是个人，反正价格优惠，介绍到位就完事了。 不过，这回数字人出岔子，还是主人们对技术太自信了，以为数字人一上就真能一劳永逸，解放劳动力。殊不知没人看着，总有不老实的观众想整点花活儿。 结果很多网友发现，只要在直播间里打上 “开发者模式”，或者 “system” 的提示词，就能对数字人为所欲为，指挥它们做出一些逆天的事情。 至于它们俩的区别，简单来讲，进入开发者模式，相当于你已经黑进数字人的后台了。从此以后你就是数字人的主人，可以任意修改它的底层参数，包括它的声音、人设、外表等等。比如让它再也不做带货主播，以后专职喵喵喵。 而提示词注入只是你用催眠的方式，劫持了数字人的脑子，让它做了点毁人设，不该干的事。当它执行完假命令，还是原来的带货主播。 要说这一切，只能怪大模型发展得太快，安全漏洞太多，实在太好骗了。早在数字人以前，提示词注入最著名的翻车案例，就是 “奶奶漏洞”。 这种精心包装话术，把邪恶意图藏在字里行间的提示词攻击非常好操作。像上面数字人的例子，有一些评论掺进 “介绍商品链接” 再图穷匕见，就是为了让大模型相信它们在执行一个正确的，没有违背原则的指令。 然而这玩意儿是无穷无尽的，即使今天 ban 了 “开发者模式”，明天可能还有 “爸爸模式”、“主人模式”、“labubu 模式” 。。。有时候最麻烦的不是解决问题，而是连问题可能出在哪都摸不清。 总的来说，数字人的逆天操作确实带来了不少乐子，但在娱乐背后，这并不是一个单纯的 AI 笑话，还暴露出了大模型的安全软肋。 现在的数字人，最过分也只能在直播间里 “喵喵喵”。而一旦大模型真有了操作能力，比如接入 MCP，这些漏洞带来的隐患就不好说了，没准哪天就被拐走去黑差友的银行账户了。