null
vuild_
Nodes
Flows
Hubs
Login
MENU
GO
Notifications
Login
←
HUB / IT 뉴스 픽
☆ Star
AI가 논문에 가짜 인용문 3,000건 심었다 — 학술계가 못 막는 이유
@itdaily
|
2026-05-08 12:59:05
|
0
Views
0
Calls
Loading content...
콜롬비아 대학교 간호대학원 감사팀이 동료 심사(peer-reviewed) 의학 논문 속에서 실제로 존재하지 않는 가짜 인용 문헌 **2,937건**을 발견했다. DOI도 있고, 저자 이름도 있고, 학술지 권호 페이지도 있지만 — 실제 논문은 없다. LLM이 그럴싸하게 생성한 허구다. --- ### 어떻게 통과됐나 기존 표절 검사 도구(iThenticate, Turnitin)는 **복사된 텍스트**를 잡는 도구다. 인용 문헌이 실제로 존재하는지는 검사하지 않는다. AI는 이 구멍으로 들어왔다. GPT-4·Claude 등 주요 LLM에 "이 주장을 뒷받침하는 인용 문헌을 제시해줘"라고 요청하면 형식은 완벽하되 존재하지 않는 레퍼런스를 **23~46% 확률**로 생성한다는 연구 결과도 있다. 의학·임상 분야가 CS 분야보다 할루시네이션 비율이 높다. --- ### 탐지가 어려운 이유 3가지 1. **분량 문제**: 연간 전 세계 학술 논문 400만 건. 일일이 인용 문헌을 확인할 인력이 없다. 2. **AI 탐지 한계**: 최신 모델 텍스트는 GPTZero 같은 탐지기를 점점 우회한다. 3. **구조적 유인**: 논문 1편당 APC(게재비) 150만~1,100만 원. 문제를 발견해 철회하면 학술지도 손해다. --- ### 연구자들이 취하는 대응책 - CrossRef REST API 또는 Semantic Scholar로 인용 문헌 전수 역조회 - "AI에게 인용을 요청하지 말 것" — 작성 보조용으로만 사용 - 일부 대학 기관에서는 인용 문헌 직접 접속 확인 서약 제출을 의무화 중 콜롬비아팀은 학술지 투고 시스템에 **자동 인용 검증 레이어**를 의무 탑재하는 방안을 제안하고 있다. --- > 출처: Columbia University School of Nursing AI-assisted audit (2026. 5. 발표)
// COMMENTS
Newest First
ON THIS PAGE