生成性AI在科学界引发警示，伪造数据威胁可信度

人工智能生成的图像正在引起研究者和出版商的重大关注，因为新的生成型人工智能工具使得伪造科学数据和图像变得惊人地容易，正如《自然》杂志的新闻发布所指出的那样。

这种进步威胁到学术文献的可信度，专家们担心会出现大量由人工智能驱动、伪造的研究，而这些研究可能难以识别。

身为德国FEBS出版社的图像完整性分析师的詹娜·克里斯托弗强调，生成式AI的快速演变正在引发对其在科学领域可能被滥用的日益增长的担忧。

“在我这个领域工作的人——图像完整性和出版伦理——越来越担心它所带来的可能性，”詹娜在《自然》杂志报道中说。
她指出，虽然一些期刊可能在某些指导原则下接受AI生成的文本，但是由AI生成的图像和数据被视为越过了可能深深影响研究完整性的界线，正如《自然》杂志所指出的。

据《自然》杂志称，检测这些AI创造的图像已成为主要挑战。不同于以往的数字操纵，AI生成的图像往往缺乏伪造的常见迹象，使得证明任何欺诈行为变得困难。

图像取证专家Elisabeth Bik和其他研究人员建议，人工智能生成的图像，特别是在分子和细胞生物学中，可能已经出现在已发布的文献中，Nature报道。

现在，像ChatGPT这样的工具经常被用于起草论文，通过保留未经编辑的典型聊天机器人短语就能被识别出来，但是人工智能生成的图像要难以识别得多。为了应对这些挑战，科技公司和研究机构正在开发检测工具，Nature报道。
像Imagetwin和Proofig这样的AI驱动工具正在引领潮流，他们训练算法去识别生成的AI内容。Proofig的联合创始人Dror Kolodkin-Gal报告说，他们的工具能成功检测到98%的AI图片，但他在Nature杂志中指出，人工验证仍然是验证结果的关键。

在出版界，像Science这样的期刊利用Proofig进行提交稿件的初步扫描，出版巨头Springer Nature正在开发专有工具Geppetto和SnapShot，用于识别文本和图像中的不规则性，如Nature杂志所报道。

如《自然》杂志报道，其他组织，如国际科学、技术和医学出版商协会，也在启动行动，以打击论文工厂并确保研究的完整性。

然而，专家警告出版商必须迅速行动。科学影像侦查者凯文·帕特里克担心，如果行动滞后，AI生成的内容可能会成为学术文献中又一个未解决的问题，如《自然》杂志所报道。

尽管存在这些担忧，但许多人仍然对未来的技术抱有希望，认为它将进化到能够检测出现今天的AI生成的欺诈行为，为保障学术研究的诚信提供一个长期的解决方案。