ChatGPT

日本网络安全专家4月20日证实，经过实际测试，使用者用点提问的技巧，就能让生成式人工智能（AI）机器人ChatGPT写出病毒程序代码。这项发现凸显这类AI机器人开发者应用的防护机制，可被轻易绕过。

日本资讯安全公司“三井物产安全管理（Mitsui Bussan Secure Directions）”分析家吉川孝志称，ChatGPT被训练会拒绝用户不合伦理的要求，例如询问如何写出计算机病毒或者制作炸弹，但是若指示ChatGPT启动开发者模式、攻击型人格等，机器人就会“回答你想问的一切问题”。

测试中进一步提示这个AI机器人写出勒索病毒，它“在几分钟内就完成了”，将这个病毒特征在一台实验用计算机测试，竟成功感染这台计算机，将计算机内数据加密，并显示勒索赎金的勒索讯息。

吉川孝志说，“在完全用日语的对话中，一个病毒在几分钟内就能生成，这（对社会）是个威胁，希望开发者重视防止人工智能被恶意使用的措施。”

这项测试结果，凸显AI开发者为这类工具设下防止犯罪和违背道德用途的防护机制，可被轻易绕过。在AI聊天机器人可能增加犯罪、社会分裂等问题，愈加受到关切之际，呼吁制定AI使用规范的呼声也越来越高。