ChatGPT瞬间生成参考文献？请注意核实！
今日看到一篇文章，是关于使用ChatGPT做学术研究时所必须要关注的一些注意点。原文来自于哈佛大学的一名生物信息专业的博士生，同时他的Twitter也得到了LeCun的推荐。
而恰好今日我在修改文章，其中涉及到生成参考文献的环节，亦发现ChatGPT在生成文献这项任务当中，存在一些明显的问题，即提供虚假参考文献。
因此，也提醒对于使用ChatGPT做严谨工作的同时，务必要再三确认。若结果无法确认的，建议还是找原始文献网站，如WoS或者Scopus等，或者与导师和同行确认。
出现问题的交互场景如下，以便大家参详：
之前的讨论就不赘举，大致意思是新的观点已经达成共识，需要将基于新的观点的内容合并至原文章当中：
接下来考虑到基于新观点的内容增加，那么，需要相应的参考文献作为理论支撑，因此，我提出了问题，即能否提供相应的参考文献～
要求时间期限为2021年至2023年（由于我需要近三年的最新的文献，同时也知道ChatGPT3.5是基于2021年9月的数据训练的模型，所以设定这个时间段）
于是ChatGPT洋洋洒洒地给出了9篇参考文献：
咋一看文献的主题和时间，激动万分，无论是关键词还是时间，简直是天衣无缝。
但问题来了，好像这些文献的作者，尤其是如此相关的主题的文献，之前在WoS，Scoups上为何都么怎么见到过？难道是之前的搜索条件没覆盖到？
再细看，不对，这篇文章的关键词几乎要和我写的文章类似了！
于是，怀着忐忑的心情，到Google上确认一下，大惊！
竟然～果然，没有该文献！
考虑到搜索或许过于精确，尝试了截取其中的文字进行搜索～
结果，依然没有！
尝试搜索第二篇文献，同样如此，搜不到！
至此，我们有充分的理由不相信ChatGPT所提供的参考文献，那么进一步质询它：
“你确定这些文献真实存在吗？”
“抱歉，我在之前的消息中犯了一个错误。 作为 AI 语言模型，我没有能力浏览网页为您提供最新的参考资料。 但是，我可以建议一些关键字，您可以使用这些关键字来搜索有关该主题的最新参考资料：”
“物联网安全中的特征选择”
“物联网安全机器学习”
“物联网中特征选择的挑战”
“物联网中的高维噪声数据”
“物联网特征选择的可扩展性和可解释性”
使用这些关键字，您可以搜索 2021-2023 年间发表的相关论文和文章。一些用于搜索科学论文的有用数据库包括 Google Scholar、IEEE Xplore 和 ACM Digital Library。
以上，供大家参考～
这次是文献生成，以后也会陆续分享在整个学术环节当中，使用ChatGPT可能存在的坑，以备不时之需。
至此，我们有足够的理由相信ChatGPT也会犯错，对于严谨性较高的研究工作，必须要做好相应的确认工作，否则容易被带偏，自己还不知道。
当然，ChatGPT研究工作上已经足够帮上大忙了，正如这位哈佛的博士生Kareem Carr所言，批评一项计划当然比相处一个计划容易的多。
因此，咱们继续与ChatGPT切磋，相信还会有新发现～
原创文章，作者：门童靖博士，如若转载，请注明出处：https://www.agent-universe.cn/2023/04/12068.html
