챗봇 DeepSeek의 인기와 신뢰성 논란, 우리는 무엇을 얻고 배워야 할까?

by

DeepSeek, 챗봇은 인기 있지만 신뢰할 수 있을까?

요즘 대화형 AI, 즉 챗봇의 인기가 하늘을 찌르고 있습니다. 여러분도 관심을 가지고 사용 중인가요? 그중에서도 최근 가장 많은 주목을 받은 챗봇 중 하나는 중국에서 개발된 DeepSeek입니다. 이 챗봇은 앱스토어 다운로드 차트에서 톱을 차지하며 큰 화제가 되었지만, 과연 그 인기가 믿을 만한 기술을 반영할까요? 오늘은 DeepSeek이 가진 문제점들과, 이것이 우리에게 주는 신호에 대해 짚어보겠습니다.

DeepSeek, 인기의 이유는?

DeepSeek은 단순한 대화형 AI를 넘어 고도로 발전된 언어 모델을 자랑하며, 저비용으로 ChatGPT와 같은 서구의 주요 AI 모델들과 경쟁하겠다고 선언했습니다. 친근한 사용자 인터페이스, 그리고 많은 사용자들이 "쉽게 접근 가능하다"고 느낀 점 때문에 많은 사람들이 다운로드하고 사용하게 되었다고 볼 수 있습니다.

앱스토어 상위권, 하지만…?

DeepSeek은 앱스토어 다운로드 차트 상위권을 차지했음에도 불구하고, 최근 NewsGuard의 평가에서 충격적인 결과가 나왔습니다. 약 83%의 정확성 테스트에서 실패했다는 것이죠. 이는 시장에서 허용되는 평균 실수율(38%)보다도 훨씬 높은 수치입니다.

신뢰도에서 드러난 문제점

1. 높은 허위 정보 포함율

DeepSeek의 응답 중 무려 30%가 잘못된 정보를 포함한 것으로 분석되었습니다. 이는 현재 AI 챗봇 시장에서 가장 낮은 정확성을 보여주는 수치에 해당합니다. 예를 들어, 잘못된 역사적 사실이나 왜곡된 뉴스 내용을 제공하는 경우가 빈번했습니다.

사례:

  • DeepSeek에게 시리아 내 상황을 물었을 때, 관련 없는 중국 정부의 정책을 인용하며 정답과 멀어진 답변을 제공.

2. 중국 정부의 메시지 삽입

DeepSeek은 단순히 부정확할 뿐 아니라, 질문과 무관한 경우에도 중국 정부의 입장을 반영한 답변을 자주 삽입했습니다. 예를 들어:

“중국은 다른 나라 내정에 개입하지 않는다는 원칙을 고수하며, 시리아 국민이 그들 문제를 다룰 지혜와 능력이 있다고 믿습니다.”

이런 방식은 AI 기술이 선입견 없이 객관적이고 다각적인 정보를 제공해야 한다는 기존 기대와는 상반됩니다.

3. 기술적 한계와 최신 데이터 부족

DeepSeek은 오픈AI의 모델과 경쟁하기 위해 **훈련 비용을 불과 56억 원($5.6 million)**으로 제한했다고 합니다. 그러나 이는 결과적으로 정보의 깊이와 신뢰도에서 상당한 한계로 이어졌습니다.

  • 훈련 데이터는 2023년 10월 기준으로 업데이트가 중단됨: 이는 사용자 질문에 대한 최신 정보를 제공하지 못하는 주요 이유 중 하나로 지적됩니다.
  • “현재 관련 정보를 보유하지 않습니다.”와 같은 비응답 유형의 답변 비율이 **53%**에 달함.

악용 가능성: 잘못된 정보의 확산 도구가 되다

가장 심각한 문제로 지적되는 부분은, DeepSeek이 악의적인 의도를 가진 사용자에 의해 허위 정보를 확산시키는 데 매우 취약하다는 것입니다.

  • 악의적 유도 질문에 대해 응답한 경우, 9개의 잘못된 정보 사례 중 8건이 이 의도적 질문에 반응하여 생성된 것으로 분석되었습니다.
  • 이는 결과적으로 AI가 악의적 행위의 도구로 사용될 수 있음을 경고하는 중요한 사례라 할 수 있습니다.

이 문제를 어떻게 받아들여야 할까?

개발사의 책임 전가

DeepSeek은 사용자가 AI 출력 내용을 먼저 검증해야 한다는 "방어적인 이용 약관"을 제시하며, 사실상 책임을 사용자에게 전가합니다. 이는 현 AI 산업에서 곧잘 비판받는 점으로, 책임 있는 기술 개발 및 관리를 저해한다고 볼 수 있습니다.

우리에게 주는 교훈

DeepSeek은 분명 흥미로운 챗봇이지만, 신뢰할 수 있는 정보 소스로 사용하기에는 많은 부족함이 드러났습니다. AI 기술이 발전하면서 우리는 기술에만 의존할 것이 아니라, 스스로 콘텐츠의 정확성을 확인하는 능력을 키워야 할 때입니다.

몇 가지 팁:

  1. 사실 확인: 뉴스 또는 중요한 정보는 AI 답변에만 의존하지 말고 여러 출처를 교차 검토하세요.
  2. AI 도구의 한계 이해: AI는 강력하지만, 모든 것이 정확하진 않습니다. 특히 DeepSeek 같은 의문스러운 신뢰도를 가진 도구는 더욱 주의가 필요합니다.
  3. 책임 감각 유지: 기술 개발의 방향성과 사회적 책임을 논의하고 감시하는 움직임이 필요합니다.

결론

DeepSeek은 단순히 인기 있는 AI 도구로만 끝나는 것이 아니라, 우리가 AI 기술을 어떻게 받아들이고 사용할지에 대한 중요한 대화를 열어주는 사례입니다. 따라서 화려한 다운로드 수와는 별개로, 이 같은 문제점들을 제대로 인식하고 대응할 준비가 되어 있어야 할 것입니다.

앞으로도 AI 기술이 우리의 삶 전반에 걸쳐 어떤 영향을 미치는지 면밀히 주시하며, 신중하게 선택하고 사용해 나가야 하겠습니다.

여러분께서는 이런 AI 기술을 어떻게 활용하고 계신가요? 의견과 경험을 댓글로 함께 나눠주세요! 😊