기계가 쓰고 기계가 심사한다: AI 가짜 논문과 학문적 신뢰의 종말

과학적 발견은 인류가 쌓아 올린 지식의 거대한 성벽이다. 이 성벽의 벽돌 하나하나에는 수많은 연구자의 땀과 검증된 데이터가 깃들어 있어야 한다. 그러나 2026년 현재, 이 성벽의 밑바탕에 '가짜 벽돌'이 대량으로 끼워 넣어지고 있다.

생성형 AI가 있지도 않은 통계 수치와 그래프(Synthetic Data - 실제 실험 없이 AI가 생성한 합성 데이터)를 만들어내고, 존재하지 않는 참고문헌(Hallucinated Citations - AI가 그럴싸하게 지어낸 가짜 논문 출처)을 자연스럽게 삽입하면서 학계의 신뢰 시스템이 근본적으로 흔들리고 있다.

클릭 몇 번으로 조립된 논문들이 권위 있는 학술지에 게재되고, 이를 바탕으로 또 다른 연구가 수행되는 악순환이 시작되었다.

와일리(Wiley)의 경고: 무너지는 상아탑의 컨베이어 벨트

힌다위(Hindawi) 학술지 대량 철회와 폐간 사태

최근 세계적인 학술 출판사 와일리(Wiley)가 자회사 힌다위(Hindawi)의 학술지들을 대거 폐간하고 수천 편의 논문을 철회한 사건은 학계에 큰 충격을 주었다.

이는 단순히 몇몇 연구자의 일탈이 아니었다. 조직적으로 논문을 위조하여 판매하는 '논문 공장(Paper Mills - 돈을 받고 대필하거나 데이터를 조작한 논문을 양산하는 조직)'이 학계 시스템을 정면으로 타격한 결과였다.

논문 공장은 이제 생성형 AI라는 강력한 엔진을 장착했다. 과거에는 데이터를 조작하는 데에도 일정 수준의 지식과 시간이 필요했으나, 이제는 AI를 통해 단 몇 초 만에 그럴싸한 연구 논문 한 편이 '조립'된다. 대학과 연구 기관의 지독한 실적 압박인 '출판 혹은 파멸(Publish or Perish)' 문화는 연구자들을 이 저렴하고 강력한 조작의 유혹으로 내몰고 있다.

기계 대 기계(Machine-to-Machine): 껍데기만 남은 검증 시스템

피어 리뷰 링(Peer Review Rings)과 AI 심사의 실체

더욱 심각한 문제는 검증 시스템의 붕괴다. 과학적 진실성을 담보하는 최후의 보루인 '동료 평가(Peer Review - 전문가들이 논문의 가치를 심사하는 과정)' 제도가 사실상 마비되었다. 브로커들은 가짜 계정을 만들거나 심사 위원단을 매수하여 자기들끼리 논문을 합격시켜주는 '피어 리뷰 링'을 구축했다.

 

최근에는 심사 위원조차 AI를 사용하여 심사평을 작성하는 '기계 대 기계' 리뷰 실태가 폭로되었다. 논문은 AI가 쓰고, 심사평도 AI(ChatGPT 등)가 작성하는 황당한 상황이 벌어지고 있는 것이다. 커뮤니티에서는 이를 두고 '과학의 자동화된 자멸'이라 부르며 냉소적인 반응을 보이고 있다.

"최근 들어온 동료 평가 요청의 절반은 AI가 쓴 가짜 논문처럼 보인다. 일일이 복사해서 재현하기엔 심사비도 안 나오는 자원봉사 심사원 입장에서 물리적으로 불가능하다. 결국 대충 통과시키는 구조가 반복된다." 

 

국내 이공계 커뮤니티에서도 성토가 이어진다. "임용이나 승진을 위해 편수 채우기 식 논문 작성이 만연해 있는 상황에서 AI는 조작의 문턱을 아예 없앴다. 밤새 실험실을 지키며 정직하게 데이터를 수집하는 사람만 바보가 되는 시대다"라는 자조 섞인 목소리가 높다.

썩은 벽돌로 쌓은 성: 재현성 붕괴의 비용

가짜 논문의 범람은 단순히 학계 내부의 문제가 아니다. 이는 '재현성 위기(Reproducibility Crisis - 이전 연구 결과가 동일한 조건에서 재현되지 않는 현상)'를 가속화한다. 가짜 데이터를 기반으로 한 연구에 국가 예산과 민간 자본이 투입되고, 이를 바탕으로 신약 개발이나 기술 표준이 수립될 때 그 피해는 고스란히 사회 전체의 비용으로 돌아온다.

 

지식의 누적 시스템이 파산 위기에 처했다. 썩은 벽돌 하나를 제거하기 위해서는 그 위에 쌓인 수많은 정상적인 벽돌까지 허물어야 한다. 지금 우리가 마주한 가짜 논문의 파도는 인류가 수백 년간 쌓아온 객관적 진실의 토대를 갉아먹고 있다. '더 많이, 더 빨리'라는 양적 팽창의 지표를 버리고, '얼마나 정직한가'라는 본질적인 무결성(Integrity)으로 회귀하지 않는 한 과학의 미래는 없다.

마치며

기계가 생산한 가짜 지식이 상아탑을 점령하고 있다. 우리는 이제 기술이 주는 생산성의 안락함 뒤에 숨은 '신뢰의 붕괴'라는 거대한 청구서를 마주해야 한다. 연구 윤리에 대한 강력한 규제와 데이터 투명성 확보, 그리고 무엇보다 결과 중심의 연구 평가 시스템 혁신이 시급하다. 과학이 다시 인간의 정직한 관찰과 고뇌의 산물로 돌아갈 때, 무너진 지식의 성벽을 다시 세울 수 있을 것이다.

 

공부를 위한 self-FAQ

Q: AI가 쓴 가짜 논문을 구별해내는 방법은 없는가?

A: 현재로서는 완벽한 식별이 매우 어렵다. AI 텍스트 감지 도구들이 존재하지만 오판율이 높고, AI가 생성한 합성 데이터는 통계적으로 완벽한 구조를 가질 수 있어 인간 심사위원이 육안으로 조작을 잡아내기에는 한계가 명확하다.

 

Q: 논문 공장이 활개를 치는 근본적인 원인은 무엇인가?

A: 대학 및 연구 기관의 지독한 양적 평가 시스템이다. 논문의 질보다 게재된 편수와 인용 지수(Impact Factor)가 승진과 연구비 수혜를 결정하기 때문에, 연구자들은 수단과 방법을 가리지 않고 논문을 양산하려는 유혹에 빠지게 된다.

 

Q: 가짜 논문 사태가 일반 대중에게 미치는 직접적인 영향은?

A: 잘못된 과학 정보를 바탕으로 한 건강 정보, 정책 수립, 기술 개발 등이 대중의 안전과 경제적 손실로 이어진다. 또한 과학 전반에 대한 불신을 조장하여 기후 위기나 감염병 대응 등 공동체의 중요한 의사결정 능력을 약화시킨다.

 

 

 

참고 자료 및 연구 출처

中학자들 논문 국제학술지 잇단 철회 '수모'…당국 대대적 조사

https://www.yna.co.kr/view/AKR20240106023000097

연구실적 압박 의대교수들 ‘검은 유혹’ 노출

https://www.dailymedi.com/news/news_view.php?wr_id=903832

"표절 놀랍지 않아…실적 압박·인원초과 연구실 구조 문제"

https://www.yna.co.kr/view/AKR20220704073900004