ChatGPT

大家可能已经对ChatGPT“睁着眼睛说瞎话”的行为习以为常了，但你可能想不到，如今GPT-4的造假能力已经修炼到了“炉火纯青”的境界，伪造的论文数据甚至骗过了国际学术期刊审核员的眼睛。

最近，Nature发文揭露了一篇发表在《JAMA Ophthalmology》上的论文存在数据造假的现象，而造假的“幕后黑手”正是GPT-4。这篇论文的数据是由研究人员使用GPT-4的高级数据分析功能（ADA）生成的，准确支撑了错误的论文观点，形成了误导结果。

《JAMA Ophthalmology》是同行评审的国际眼科和视觉科学期刊，已经有百余年的历史。这次论文造假事件让人们开始重新审视人工智能在科学研究领域的应用。

据悉，研究人员向GPT-4输入了一些数据生成要求，并提供了关于圆锥角膜（keratoconus）眼部疾病患者的数据集的提示词。AI随即生成的数据包括160名男性和140名女性参与者，并表明接受“DALK”治疗的人在视力和成像测试方面的得分都比接受“PK”治疗方法的人更好。但经验证发现，这一发现与真正的临床试验显示的结果不一致。

为了验证GPT-4做出来的数据是否真的令人信服，Nature特意请来了英国曼彻斯特大学生物统计学家杰克・威尔金森（Jack Wilkinson）和同事Zewen Lu来检查数据可信度。调查人员表示，数据集中许多“参与者”的性别与通常从名字中预期的性别不匹配（比如“Mary”是男性）。此外，术前和术后视力测量与眼部影像学测试之间没有发现相关性。”他们认为该数据集存在缺陷。

研究作者随后承认了该调查结果，并表示“如果只是快速地查看这个数据集，很难识别出他不是人做的。”这一事件引起了人们对人工智能在科学研究领域可信性的担忧。

EMBO报告的主编Bernd Pulverer认为这是一个令人担忧的问题，因为现实中的评审人往往无法进行全面的数据分析，并且不太容易发现人工智能精心设计的违规行为。他补充说，“期刊将需要更新质量检查的方法，以识别人工智能生成的合成数据。”

威尔金森也强调，这是一个需要人们思考的问题，因为AI一旦知道自己是哪里“露馅”了，很快将会进步，并找出方法来规避这些问题，从而生成让人类更难以识别的结果。

人工智能的发展为科学研究带来了很多帮助，例如在数据分析及复杂运算方面，它都是一个很好的工具。但目前为止，很大一部分科学家还是对其可信性表示担忧。

邵逸夫生命科学与医学奖得奖者彼得黑格曼（Peter Hegemann）曾对搜狐科技表示，“人工智能的确在一些研究工作上帮忙节省了很多时间，比如比对几百个基因，人工做下来要很久，它却可能在几秒内完成。但至少从生物学的角度看，人工智能构建的模型还不完整，生成的结果还不足以让人信赖。”

这次GPT-4造假论文数据的曝光，再次提醒我们，虽然人工智能的发展速度令人惊叹，但在追求科学真理的道路上，我们还需要保持谨慎和警惕。