AI가 쓴 기사, 어디까지 믿어야 할까?

AI가 쓴 기사, 어디까지 믿어야 할까?

최근 인터넷 뉴스를 보거나 정보를 검색하다 보면 "이 글은 인공지능이 작성했습니다"라는 문구를 종종 발견하게 됩니다. 혹은 아주 매끄럽게 쓰인 글이지만 어딘가 모르게 기계적인 느낌을 받아본 적이 있으실 것입니다. 기술이 발전하면서 우리는 자연스럽게 "과연 AI가 쓴 글 내용을 전적으로 신뢰해도 될까?"라는 의문을 가지게 됩니다. 정말 AI는 인간처럼 모든 사실을 알고 글을 쓰는 것일까요? 아니면 그저 그럴듯해 보이는 문장을 나열하는 것일까요? 이러한 의문은 비단 전문가뿐만 아니라 일반 독자들도 한 번쯤 깊이 고민해보아야 할 문제입니다. 이 글에서는 인공지능이 글을 쓰는 원리를 아주 쉬운 비유를 들어 설명하고, 실제 발생했던 오류 사례들을 통해 우리가 AI가 쓴 기사를 어떻게 받아들여야 하는지 알아보겠습니다.

인공지능은 생각하는 것이 아니라 확률을 계산합니다

1. 아주 똑똑한 스마트폰 자동완성 기능과 같습니다

우리가 사용하는 스마트폰에는 메시지를 보낼 때 다음 단어를 추천해 주는 자동완성 기능이 있습니다. 인공지능이 글을 쓰는 원리도 이와 매우 유사합니다. 다만 그 규모가 비교할 수 없을 정도로 방대할 뿐입니다. 인공지능은 수많은 데이터를 학습한 뒤, 특정 단어 다음에 올 가장 적절한 단어를 확률적으로 계산하여 배치합니다. 예를 들어 '맛있는'이라는 단어 뒤에 '사과'가 올지 '자동차'가 올지를 계산했을 때, '사과'가 올 확률이 훨씬 높다고 판단하여 문장을 이어가는 식입니다. 즉, 인공지능은 문장의 의미를 깊이 이해하고 진실을 말하는 것이 아니라, 통계적으로 가장 자연스러운 단어의 조합을 우리에게 보여주는 것입니다.

2. 그럴듯한 거짓말, 할루시네이션 현상

인공지능 분야에는 '할루시네이션(Hallucination)'이라는 용어가 있습니다. 우리말로는 환각이라는 뜻인데, 인공지능이 사실이 아닌 내용을 마치 진실인 것처럼 아주 뻔뻔하고 그럴듯하게 대답하는 현상을 말합니다. 예를 들어 인공지능에게 "세종대왕이 2020년에 어떤 상을 받았나요?"라고 엉뚱한 질문을 던지면, "모른다"라고 대답하는 대신 가상의 상 이름을 지어내어 아주 구체적으로 설명하기도 합니다. 이는 인공지능이 사실 여부를 판단하는 능력이 부족하고, 주어진 질문에 대해 어떻게든 답변을 완성하려는 성질을 가지고 있기 때문에 발생합니다. 따라서 문장이 유려하다고 해서 그 내용이 반드시 사실이라고 믿어서는 안 됩니다.

실제 사례로 보는 인공지능 기사의 오류들

1. 법정에서 존재하지 않는 판례를 제출한 변호사

2023년 미국에서는 한 변호사가 재판 준비 서면을 작성하면서 챗GPT와 같은 생성형 인공지능을 활용했다가 큰 곤욕을 치른 사건이 있었습니다. 이 변호사는 인공지능에게 자신에 논리에 맞는 과거 판례를 찾아달라고 요청했고, 인공지능은 아주 구체적인 사건 번호와 판결 내용이 담긴 판례 6건을 제시했습니다. 변호사는 이를 믿고 법원에 제출했지만, 판사가 확인해 본 결과 그 판례들은 모두 인공지능이 지어낸 가짜였습니다. 존재하지 않는 사건을 마치 실제 있었던 역사처럼 창조해 낸 것입니다. 이 사례는 전문가조차 인공지능의 그럴듯한 문장력에 속아 넘어갈 수 있음을 보여주는 결정적인 사건입니다.

2. 시연회에서 틀린 정보를 말한 인공지능

세계적인 IT 기업인 구글이 자사의 인공지능 챗봇을 처음 대중에게 공개하던 날에도 실수가 발생했습니다. 시연 영상에서 인공지능은 "제임스 웹 우주망원경이 태양계 밖의 행성을 최초로 찍었다"라고 설명했습니다. 하지만 천문학자들은 즉시 이 내용이 틀렸음을 지적했습니다. 실제로는 2004년에 다른 망원경이 이미 촬영한 기록이 있었기 때문입니다. 전 세계가 지켜보는 중요한 자리에서조차 인공지능은 사실과 다른 정보를 정답인 양 제시했습니다. 아무리 기술력이 뛰어난 회사가 만든 인공지능이라 할지라도, 학습된 데이터가 부정확하거나 확률 계산 과정에서 오류가 발생하면 언제든 틀린 정보를 내놓을 수 있습니다.

인공지능이 쓴 글을 현명하게 소비하는 방법

1. 숫자가 포함된 정보는 반드시 검증이 필요합니다

인공지능은 문맥을 파악하는 데는 뛰어나지만, 정확한 수치를 기억하고 인용하는 데는 여전히 약점을 보입니다. 기사나 글에서 연도, 금액, 통계 수치 등이 나온다면 이를 맹신하지 말고 신뢰할 수 있는 기관의 공식 자료와 대조해 보는 습관이 필요합니다. 예를 들어 "특정 회사의 매출이 500억 원이다"라는 내용이 있다면, 이것이 최신 자료인지 아니면 과거의 데이터인지, 혹은 인공지능이 문장을 만드는 과정에서 임의로 생성한 숫자인지 확인해야 합니다. 특히 0에서 100 사이의 작은 숫자는 덜 틀릴 수 있어도, 단위가 커지거나 복잡한 연산이 필요한 수치는 오류 가능성이 높습니다.

2. 출처가 명확한지 확인하는 습관을 들여야 합니다

사람이 쓴 기사는 보통 "누구에 따르면" 혹은 "어떤 보고서에 의하면"과 같이 정보의 출처를 명확히 밝힙니다. 인공지능이 작성한 글을 읽을 때도 이러한 출처가 명시되어 있는지 확인해야 합니다. 만약 출처 없이 " ~라고 알려져 있습니다" 혹은 " ~라는 연구가 있습니다"와 같이 모호하게 서술되어 있다면 의심해 보아야 합니다. 인공지능은 여러 인터넷 문서를 짜깁기하여 요약하는 능력이 탁월하기 때문에, 원본 출처가 불분명한 경우가 많습니다. 중요한 정보라면 해당 내용을 구글이나 네이버 같은 검색 엔진에 직접 검색하여 실제 존재하는 뉴스나 연구 결과인지 교차 검증하는 과정이 필수적입니다.

결론

인공지능은 우리에게 방대한 정보를 빠르게 요약해 주고, 새로운 아이디어를 제공하는 훌륭한 도구임이 분명합니다. 하지만 앞서 살펴본 바와 같이, 인공지능은 진실을 말하는 기자가 아니라 확률을 계산하여 문장을 만드는 기계에 가깝습니다. 그 과정에서 있지도 않은 사실을 만들어내거나, 잘못된 정보를 마치 정답처럼 제시하기도 합니다. 따라서 독자 여러분은 AI가 쓴 기사나 글을 접할 때, 이를 100퍼센트 완성된 진실로 받아들이기보다는 하나의 참고 자료로 활용하는 지혜가 필요합니다. 편리함 뒤에 숨겨진 오류의 가능성을 항상 인지하고, 중요한 정보일수록 직접 확인하고 검증하는 비판적인 읽기 태도를 갖추어야 합니다. 기술이 발전할수록, 올바른 정보를 가려내는 인간의 능력이 더욱 중요해질 것입니다.