무료 AI만으로 가짜 논문을 완성했다, 출판사 방어선은 뚫지 못했지만
I Used AI to Fake a Scientific Paper. Here's What Happened
IEEE Spectrum 기자 Benjamin Skuse가 무료 ChatGPT와 Gemini만으로 실제로 수행하지 않은 광학 솔리톤 연구 논문을 생성해 IEEE Access에 투고한 실험을 다룬다. 논문은 형식상 그럴듯했지만 환각 참조 문헌 12~24개가 발각되어 자동 검증에서 걸러졌다. 그러나 저자는 AI가 기존 출판 시스템의 취약점을 증폭시킬 뿐 아니라, 자동화 연구 도구가 등장하며 진짜 과학과 AI 조작의 경계가 흐려지고 있다고 경고한다.
내가 비유하자면 불과 같습니다. publish-or-perish는 늘 땔감으로 있었고, 논문 공장은 휘발유이며, AI는 촉진제입니다.