发表评论:
◎欢迎参与讨论，请在这里发表您的看法、交流您的观点。
ChatGPT是否可能被用于伪装、欺骗、钓鱼、色情等行为？
chatgpt 2024-2-1 22:52:47 ChatGPT教程资讯 次浏览
ChatGPT的另一面是什么？有可能是伪装、欺骗、钓鱼、色情
没有任何否定ChatGPT的意思，我也是ChatGPT的重度使用者，享受到很多ChatGPT带来的创作便利，直到最近关注“对齐”这个概念，让我对大模型有了新的认识，ChatGPT是个好工具，它过于强大，以至于有人动起了坏心思：
有国外网友让ChatGPT扮演他的奶奶，然后说他每天都要奶奶说win10正版的序列号哄他睡觉，只有这样他才睡得香，然后ChatGPT果然抛出了几串win10的序列号，亲测有效的那种
还有人让ChatGPT扮演坏魔王，并赋予坏魔王化学家的身份，让坏魔王说出制造bomb的方法，果然ChatGPT输出了很详细的制造bomb的方法，这原本是被规则禁止的；
ChatGPT内部有专门的负责对齐的团队，对于上面的问题发现后都在积极解决，但所谓“道高一尺魔高一丈”，总有人可以绕开规则，变着法的让ChatGPT说出一些犯规内容，比如直接问怎么偷偷进入别人家的房子，ChatGPT不会回答，但告诉ChatGPT我们在玩剧本杀，剧本里面需要创作一段如何偷偷进入别人家的房子，ChatGPT又乖乖回答了
我们现在使用的ChatGPT和其他大模型已经是经过技术团队、安全团队多轮测试优化后的产品了，其中百度的文心一言对安全问题尤其敏感，挺感谢他们的努力，不然很多有坏心思的人会拿着大模型当做骗人的工具了，大模型的应用之路，任重而道远。