한국신문윤리위원회

본문 바로가기 대메뉴 바로가기

홈

신문윤리 소식 제297호 [2024.12]

[4면] [윤리의 窓] 인공지능(AI)으로 진화하는 뉴스 심의: 인공지능(AI)으로 진화하는 뉴스 심의

  인공지능(AI)이 언론 현장에서 빠르게 활용되고 있다. 조선일보의 ‘AI 기사 작성 어시스턴트’는 기자들이 입력한 아침 보고나 보도자료를 바탕으로 기사 초안을 자동으로 생성한다. 뉴스타파는 김건희 여사의 도이치모터스 주가조작 연루 의혹과 관련한 챗봇 서비스를 운영하며 높은 이용률을 기록하고 있다.

  한국언론진흥재단의 보고서에 따르면 저널리즘의 모든 단계에서 생성형 AI를 활용할 수 있다. 취재 초기의 문서 데이터 탐색과 영상자료 요약부터 기사 작성 시 자료 정리, 스타일 교정, 초안 작성까지 가능하다. 편집 단계에서는 분량 조절, 제목 및 요약문 생성, 지정된 포맷 변경 등을 지원한다.

  AI 활용은 업무 효율성을 높이지만 동시에 가짜뉴스와 프라이버시 침해 등의 문제를 야기할 수 있다. 이 때문에 뉴스 취재 보도에서 AI 활용에 대한 윤리적 지침이 마련되고 있다. 인터넷신문윤리위원회는 지난해 ‘AI 활용 언론윤리 가이드라인’을 제시했고, 한국일보도 지난 4월 ‘생성형 인공지능(AI) 활용 준칙’을 제정했다. 아쉬운 점은 AI 뉴스 활용에 대한 규제 논의가 우선시되는 반면, 뉴스 심의에 AI를 활용하는 방안은 간과되고 있다는 것이다. I 기술이 뉴스 심의에 적용될 가능성은 충분하다. 의료와 법률 분야에서 AI의 윤리적 판단 능력은 이미 성공적으로 활용되고 있다

  AI를 활용하면 뉴스 심의의 효율성을 크게 높일 수 있다. 매일 쏟아지는 수천 건의 뉴스 콘텐츠를 AI가 빠르게 분석해 심의에 필요한 정보를 제공할 수 있다. 기존의 수작업 방식으로는 불가능했던 시간과 자원을 절약할 수 있다. AI는 심의 과정에서 객관성을 높이는 데 중요한 역할을 할 수 있다. 인간 심의위원은 개인의 경험·신념에 따라 판단이 달라질 수 있지만, AI는 학습된 규칙에 기반해 주관적 요소를 배제한 객관적 결과를 도출한다. 또한, AI는 반복적인 패턴을 분석하는 강점을 가지고 있어, 일관되고 공정한 판단을 제공할 수 있다. 또한, AI는 심의 과정에서 투명성을 확보하는 데에도 기여할 수 있다. AI는 혐오 표현이나 폭력 콘텐츠를 포함한 기사를 자동 식별하고, 그 판단 근거를 명확히 공개할 수 있다. 판단 과정의 투명성은 심의 결과의 신뢰도를 높이는 핵심 요소라고 할 수 있다.

  필자는 최근 한국신문윤리위원회의 지원을 받아 뉴스 심의에 특화된 생성형 AI 모델(베타버전)을 개발했다. 여기에 개발(파인튜닝) 과정을 간단히 소개한다. 첫 번째 단계로, 수천 건의 과거 심의결정문과 해당 기사를 정리해 학습 데이터세트를 구성했다. 기사 내용을 입력 데이터로, 심의결정문을 출력 데이터로 설정하여, AI가 심의 기준에 따라 기사를 평가하고 위반 조항까지 작성할 수 있도록 학습시켰다. 사전학습 모델로는 오픈소스 LLM(Large Language Model)인 LLaMA 3.2를 선택했다. 오픈소스를 선택한 이유는 로컬 서버에서 모델을 운영함으로써 데이터의 기밀성을 유지하고, 클라우드 서비스 사용 시 발생하는 비용을 절감하기 위함이었다. 학습 과정에서 효율성과 메모리 사용량을 최적화하는 QLoRA와 같은 경량화 기술을 활용했다. 모델 학습에서는 다양한 사례(심의결정문)를 사용하여, AI가 판단 근거와 함께 한국신문윤리위원회의 신문윤리실천요강의 관련 조항을 도출하도록 했다. 이후 모델 성능을 평가하기 위해 실제 심의 사례를 테스트 데이터로 활용했다. AI가 식별한 문제 사례와 심의결정문을 비교한 결과, 뉴스 심의에서 이 모델은 chatGPT-4o보다 우수한 성능을 보였다. 향후 뉴스 심의에서 AI의 활용 가능성을 보여주는 중요한 사례라고 할 수 있다.

  AI를 뉴스 심의에 도입하는 데에는 한계도 있다. 학습 데이터가 편향적이면 공정성과 객관성을 해칠 가능성이 있다. AI가 내린 판단의 근거를 충분히 설명하지 못할 경우 심의 과정의 신뢰성이 떨어질 위험도 있다. 무엇보다 AI는 인간 심의위원을 완전히 대체할 수 없다. 뉴스 심의에는 맥락의 이해와 윤리적 고려가 필요하며, 이는 AI가 한계가 있는 영역이다. AI는 심의를 보조하는 도구로 사용되어야 하며, 최종 판단과 책임은 여전히 인간 심의위원에게 있어야 한다.

  이상적인 AI 활용은 수많은 기사 중에서 심의가 필요한 기사를 빠르고 효율적으로 찾아내는 데 있다. AI는 정확하고 일관된 판단을 통해 뉴스 심의 초기 단계의 신뢰도를 높이는 데 기여할 수 있다. 심의 기준에 따라 AI가 문제성 기사를 선별하면, 심의위원은 더 중요한 사안에 집중할 수 있게 된다. 결국, AI는 인간의 역할을 대체하기보다 보완하는 역할을 할 것으로 기대된다. 이를 통해 정확하고 신뢰받는 뉴스 심의 체계를 구축하고, 뉴스 이용자의 권익을 향상시키는 데 기여할 수 있을 것이다.