생성형 인공지능을 이용한 논문 작성의 윤리적 쟁점

윤리법제위원회
한림대학교 의과대학 소화기내과 박세우

존경하는 대한소화기학회 회원 여러분, 안녕하십니까? 대한소화기학회 윤리법제위원회에서는 실제 진료와 임상연구 과정에서 접할 수 있는 다양한 윤리적·법적 문제에 대해 관련 분야 전문가들의 강의와 의견을 바탕으로 회원 여러분께 도움이 될 수 있는 글을 준비하고 있습니다. 여러 회원님의 지속적인 관심과 성원을 부탁드립니다.

최근 ChatGPT를 비롯한 생성형 인공지능 (generative AI)은 문헌 검색과 요약, 초안 작성, 영문 교정, 통계 코드 생성, 그림 제작에 이르기까지 논문 작성의 거의 모든 단계에서 활용되고 있습니다. 진료와 연구를 병행해야 하는 임상의에게 이러한 도구는 시간과 노력을 크게 줄여 주는 유용한 수단입니다. 그러나 생성형 인공지능은 학습한 자료를 바탕으로 그럴듯한 문장을 만들어 내는 도구일 뿐, 그 내용의 진위를 판단하거나 결과에 책임을 질 수는 없습니다. 이러한 특성 때문에 생성형 인공지능의 활용은 저자됨 (authorship), 연구의 진실성, 개인정보 보호 등 여러 측면에서 새로운 윤리적 문제를 제기하고 있습니다.

두 번째 쟁점은 내용의 정확성과 연구 진실성입니다. 생성형 인공지능은 존재하지 않는 논문이나 잘못된 수치를 사실처럼 제시하는 이른바 환각 (hallucination) 현상을 보일 수 있으며, 실제로 인공지능이 만들어 낸 가짜 참고문헌이 그대로 실린 논문이 국내외에서 보고되어 철회로 이어진 사례가 있습니다. 따라서 ICMJE는 인공지능이 생성한 자료를 일차 자료로 인용하는 것을 허용하지 않으며, 저자는 인공지능이 제시한 문헌, 수치, 해석을 반드시 원문과 대조하여 확인해야 합니다. 또한 생성형 인공지능은 학습 자료에 포함된 타인의 문장을 출처 표시 없이 재현할 수 있으므로 표절의 위험도 함께 존재합니다. 인공지능이 작성한 문장이라 하더라도 표절 여부에 대한 책임은 저자에게 있으며, 특히 인공지능으로 생성하거나 수정한 그림과 영상 자료는 자료 조작으로 오인될 소지가 크기 때문에 대부분의 학술지가 이를 엄격히 제한하고 있습니다.

세 번째 쟁점은 자료의 비밀 유지와 개인정보 보호입니다. 상용 생성형 인공지능 서비스는 이용자가 입력한 내용을 외부 서버로 전송하고, 서비스 조건에 따라서는 이를 모델 학습에 활용할 수 있습니다. 따라서 환자의 진료기록이나 가명처리되지 않은 연구자료를 인공지능에 입력하는 것은 「개인정보 보호법」과 「생명윤리 및 안전에 관한 법률」 위반의 소지가 있으며, IRB 승인 범위를 벗어나는 자료 처리가 될 수 있습니다. 같은 이유로 아직 출판되지 않은 원고나 심사 중인 타인의 논문을 인공지능에 입력하는 것도 문제가 됩니다. ICMJE는 심사자가 심사 중인 원고를 인공지능에 입력하는 것은 원고의 기밀성을 침해하는 행위이므로 금지된다고 명시하고 있으며, 인공지능을 활용하여 심사 의견을 작성한 경우에도 이를 학술지에 공개하도록 하고 있습니다.

국내에서도 관련 지침이 마련되고 있습니다. 대한의학학술지편집인협의회는 ICMJE 권고안을 국내 의학학술지에 적용하도록 안내하고 있고, 개별 학술지 역시 인공지능 활용에 관한 투고 규정을 잇달아 도입하고 있습니다. 교육부와 한국연구재단도 대학과 연구자를 대상으로 인공지능 활용 윤리 가이드라인을 발표하였으나, 법적 구속력은 없고 기관별로 세부 지침을 마련하도록 하고 있어 소속 기관과 투고 학술지의 규정을 함께 확인하는 것이 필요합니다.

정리하면, 생성형 인공지능은 논문 작성에 유용한 도구이지만 저자를 대신할 수는 없습니다. 인공지능을 활용할 때에는 첫째, 사용 여부와 범위를 학술지 규정에 따라 투명하게 공개하고, 둘째, 인공지능이 생성한 문헌과 내용을 저자가 직접 검증하며, 셋째, 환자 정보나 미공개 원고와 같은 민감한 자료를 입력하지 않아야 합니다. 결국 인공지능이 얼마나 정교해지더라도 연구의 정확성과 진실성에 대한 책임은 사람인 저자에게 남는다는 점을 회원 여러분께서 다시 한번 유념해 주시기를 부탁드립니다.

본 letter는 2026년 SIDDS의 의협필수세션에서 부산의대 백동훈 교수님께서 강의하신 ‘생성형 AI를 이용한 논문 작성에 대한 윤리적 문제 Ethical challenges of using generative AI in research and publication’의 내용을 바탕으로 작성하였습니다. 강의의 자세한 내용은 아래 바로가기를 통해 확인하실 수 있습니다.

[강의 VOD 바로가기]