[안병익의 AI라이프] 생성형 AI의 불편한 진실
[안병익의 AI라이프] 생성형 AI의 불편한 진실
  • 신아일보
  • 승인 2024.07.05 05:30
  • 댓글 0
이 기사를 공유합니다

-식신 안병익 대표
 

대규모 언어 모델(Large Language Models, LLM)을 이용한 챗GPT 개발사 오픈AI는 최근 문장을 입력하면 동영상을 생성해주는 AI 시스템 ‘소라’를 출시하면서 세상을 또 한번 놀라게 했다. 소라는 간단한 글을 입력하면 최대 1분 길이의 헐리우드 영상 수준의 고품질 영상을 만들어 주는 생성형 AI 모델이다. 동영상 확장 및 새로운 프레임 채우기가 가능하고 여러 캐릭터의 동작 및 복잡한 장면 등을 생성한다.

전문가들은 소라를 AGI(Artificial General Intelligence: 범용 인공 지능) 시대를 도래하게 한 최초의 서비스라고 보고 있다. 최근의 생성형 AI 기술은 사람들이 사용하는 문장과 그 맥락을 이해하고 실세계에서 어떻게 작동하는지 파악하고 있으며 물리 법칙까지 어느정도 학습했다고 볼 수 있다. 생성형 AI가 만든 실사 같은 동영상은 어떤게 진실이고 거짓인지 분별하기 어려운 시대를 예고했다. 이제 생성형 AI는 콘텐츠 제작, 교육, 엔터테인먼트는 물론이고 각종 서비스와 기업 업무에 이르기까지 거의 모든 분야에서 활용되고 있다. 

그러나 생성형 AI는 아직도 몇 가지 불편한 진실들을 갖고 있다.

첫 번째, 생성형 AI는 거짓정보를 제공하는 오류를 범할 수 있다. 생성형 AI는 특정 주제에 대해 수천 단어 분량의 전문적인 내용의 문서를 뚝딱 만들어 내는 놀라운 능력을 보여준다. 그러나 바로 이러한 능력으로 인해 생성형 AI는 거짓정보를 제공하는 오류를 범할 수 있다. 생성형 AI는 고학력 언어 전공자의 수준으로 단어를 조합하고 문장을 만들어 낸다. 생성형 AI가 만드는 글의 내용은 대게 정확하다. 그러나 종종 거짓 정보를 만들어 내는 오류를 범한다. 

이는 생성형 AI의 태생적인 구조로 인해 발생되는 현상이다. 생성형 AI는 문장이 자연스럽게 표현되기 위해 확률을 이용해 학습한다. 그러나 이 과정에서 잘못된 단어의 조합을 선택할 수도 있다. 확률을 통해 만들어 지다 보니 종종 잘못된 결과값이 나올 수 밖에 없다. 생성형 AI가 만든 글이 100% 진실이라고 믿는 것은 아주 위험한 생각이다.

두 번째, 생성형 AI는 비밀 정보를 처리할 수가 없다. 모든 기업이나 정부, 군대 등은 조직 구조에 따른 그룹별 정보의 깊이와 내용이 다르다. 즉 특정 그룹에서는 볼 수 없는 비밀 정보가 존재한다. 그러나 생성형 AI는 이런 비밀정보 처리에 구조적 한계점을 갖고 있다. 생성형 AI는 어떤 정보는 비밀로 하고 어떤 정보는 공개하도록 만들기가 매우 어렵다. 모든 정보가 다 확률로 처리되기 때문이다. 따라서 기업이나 특정 조직에서 생성형 AI를 학습할 때 공개돼도 문제가 되지 않는 데이터를 갖고 해야 한다. 

세 번째, 생성형 AI가 만든 결과물에 저작권 문제가 있을 수 있다. 리포트 작성뿐 아니라 논문작성 등 고난이도의 업무도 처리할 수 있는 고성능 생성형 AI들이 시장에 나와 있다. 그러나 특정 업무 특성에 맞는 맞춤형 서비스를 제공하기 위한 데이터 세트는 아직 턱없이 부족한 실정이다. 사용자들은 생성형 AI의 결과물에 대해 저작권 이슈가 있는지 없는지 파악하기 매우 어렵다. 일부 저작권자들은 자신의 저작물이 동의를 받지 않고 AI 학습에 활용되면 소송을 제기하기도 한다. 이런 저작권 침해로 인해 오픈AI에 소송을 제기한 사례가 점차 늘고 있다. 사용자들은 생성형 AI의 결과물에 대해 저작권에 문제가 없는지를 항상 걱정해야 한다.

생성형 AI 만능시대는 이미 도래 했다. 결과물을 척척 만들어 내는 생성형 AI에 대해 흥분하지 않기도 어려운 것이 사실이다. 사람들은 앞으로 모든 분야에서 생성형 AI가 인간들의 작업을 개선하고 더 좋은 결과를 낼 것이라고 기대한다. 그러나 아직 생성형 AI는 불편한 진실을 갖고 있다. 불편한 진실을 넘어 생성형 AI가 우리사회 전분야에 잘 안착되기를 기대해 본다.

/ 안병익 식신 대표

※ 외부 기고는 본지 편집방향과 다를 수 있습니다.

master@shinailbo.co.kr