应对AI论文造假，不妨“以AI检测AI”

急需20万周转资金怎么办咨询微信【syss99168】-合规贷款,门楷低,最高30万,3-36个月,立即申请,大额低息,下款极速

　　论文代写，一直是学术作弊黑灰产中的隐疾。而随着人工智能时代到来，AI又成了其中得力的生产工具。近日，据新京报卧底调查，在论文代写产业链中，黑灰产团队已经开始通过AI工具来批量编造论文，并在各大平台接单生产售卖。

　　报道中值得注意的细节是，有代写团队成员向暗访记者表示，因为AI代写工具的出现，使得论文代写的门槛降低，甚至出现了“职高生用AI工具帮博士生代写论文”的现象。

　　在AIGC(人工智能生成内容)工具出现之初，行业普遍认为人工智能将能够提升内容生产效率，但或许令人意想不到的是，AI工具暂时还没有来得及在严肃的学术研究生产中得到广泛应用，却率先成为了黑灰产业提高产量的工具。

　　而要对抗“AI代写”的黑灰产，需要监管者更快升级技术工具，同时，建立更加严格的行业性规范。一方面，用“AI来检测AI”；另一方面，要对“AI工具如何使用”建立明确的标准。

　　当前，国内外已经开始研发专门针对“AIGC内容”的检测工具。在部分内容平台上，已经开始对疑似“AI生成内容”进行了异常标注。从数据检测识别的逻辑看，这类AI造假内容的特征相对更加明显，通过对文本结构、用词与语言模型等进行检测，应当可以识别察觉出AI的创作痕迹。

　　因此，在传统的抄袭查重系统之外，至少目前，可以尽早将针对“AI内容”的检测工具也应用到学术论文的检测流程之中，并对疑似AI造假的内容进行标注，辅助审核人员进行判断。

　　在技术性防范手段之外，针对AI论文造假，学术界也可以迅速行动起来，为AI工具的应用设定清晰的边界。例如，可以使用AI辅助制作插图，但不得进行任何文本、数据生成。

　　当然，随着AI被应用于检测预警，以及行业共同规范的建立与调整，AI造假的漏洞终将被迅速填平。从长期来看，人工智能仍然会是创新的朋友，而不是造假的同伙。

　　□马尔文(媒体人)

　　(新京报) 【编辑:李岩】

　　《 应对AI论文造假，不妨“以AI检测AI” 》（2024-05-23 10:56:18版）

分享让更多人看到