#질문1 출판사 스노우폭스북스는 인간 출판 기획자의 기획안으로 인공지능(AI) 챗봇 챗GPT가 글을 쓴 책 ‘삶의 목적을 찾는 45가지 방법’을 출간했다. 사람이 쓰지 않은 이 책은 표절해도 될까.
#질문2 AI 스타트업 업스테이지가 최근 출시한 아숙업(Askup) 업스케치 서비스는 ‘∼∼그려줘’를 입력하면 나름대로 이미지를 만들어낸다. 이렇게 만든 이미지를 활용해 캐릭터 사업 등 상업적으로 이용할 수 있을까.
텍스트뿐 아니라 이미지, 음악 등을 척척 만들어내는 다양한 생성형 AI가 확산하고 있다. 그러나 기술의 발전 속도를 법·제도가 따라잡지 못하는 게 현실이다. AI가 창작한 이미지나 소설에 대한 법적 권리는 누가 갖는지, AI로 인한 피해는 누가 책임을 져야 하는지 등 끊임없는 질문이 나오지만 답은 아직이다. 공백이 커지지 않도록 정비가 필요하다는 지적이다.
◆AI 창작물 권리 판단 제각각
21일 업계에 따르면 생성 AI와 관련한 법·제도에서 가장 자주 언급되는 것이 ‘저작권’이다. 이는 학습 데이터에 대한 저작권 침해가 인정되는지와 AI의 창작물이 법의 보호를 받을 수 있는지로 구분된다.
생성 AI는 웹스크래핑 등을 통해 얻은 데이터로 학습하고, 이를 재구성해 글이나 그림을 창작해낸다. 저작권이 있는 데이터를 허가 없이 학습용으로 이용할 수 있는지가 쟁점이 될 수 있다.
해외에서는 이미 이와 관련한 법적 움직임이 나오고 있다. 세계 최대 이미지 제공업체 게티이미지는 이미지 생성 AI ‘스태빌리티 AI’ 개발사 스테이블 디퓨전이 이미지 1200만개를 무단으로 AI 학습에 사용했다며 손해배상소송을 냈다.
월스트리트저널(WSJ)과 CNN 등은 챗GPT 개발사 오픈AI를 상대로 소송을 검토하고 있다. WSJ 모회사 뉴스코프는 지난 2월 투자자들에게 “WSJ 기사를 AI 학습에 활용하고자 한다면 라이선스를 받아야 한다”고 강조했다. 이런 움직임의 확산 여부는 아직 알 수 없으나 AI와 언론 간 관계 정립에 한 이정표가 될 것이라는 분석이다. 챗GPT는 WSJ, 뉴욕타임스, 가디언 등 다양한 언론사 콘텐츠를 활용하는 것으로 알려져 있다.
그러나 방대한 자료를 일일이 허락받아 사용하게 한다면 생성 AI 개발 자체가 불가능해진다는 반론도 만만찮다.
생성 AI로 만든 콘텐츠의 저작권도 정리해야 한다. 저작권법상으로 저작물은 ‘인간의 사상 또는 감정을 표현한 창작물’로 정의되기에 저작물로 인정하기 어렵다는 것이 대체적인 시각이다. 법적으로 저작권 보호가 되지 않는다면 다른 사람이 무단으로 도용하고, 이를 이용해 돈을 벌어도 문제가 되지 않는다는 의미가 된다.
기준이 없기에 AI 창작물에 대한 권리는 업체마다 다르게 운영되고 있었다. 업스테이지의 경우 아숙업 업스케치로 만든 이미지의 상업적 이용이 가능하다고 설명한다. 반면 미국 이미지 생성 AI 미드저니는 유료 버전만 상업적 이용이 가능하다. 카카오는 AI로 만든 이모티콘은 받지 않는다. 한국음악저작권협회는 광주과학기술원이 개발한 작곡 AI ‘이봄’이 작곡한 작품은 인간의 창작물이 아니라는 이유로 저작권료 지급을 중단했다.
스노우폭스북스 서진 대표는 “‘삶의 목적을 찾는 45가지 방법’의 경우 유료 챗GPT로 작성했고, 출판사 기획자가 창조한 질문으로 한 것이기에 기획에 대한 저작권은 주장할 수 있다고 본다”면서도 “질문을 그대로 해도 챗GPT 답이 달라질 수 있고, 유료 버전이 아닌 일반 챗GPT의 답이었다면 모호해질 것”이라고 설명했다. 이어 “단순히 챗GPT에 돈을 냈으니까 챗GPT가 데이터 원작자에 지불을 했는지 상관없이 마음대로 써도 되느냐는 고민은 많이 든다”며 “사회적 합의가 필요하다”고 강조했다.
◆AI의 가짜뉴스 생성 책임은
AI가 학습하는 과정에서 개인정보가 포함될 가능성을 배제할 수 없다. 답변에 노출되면 개인정보 침해 사고로 이어진다.
실제로 국내에서 인공지능 챗봇 ‘이루다’는 명시적인 동의 없이 카카오톡 이용자 대화를 학습했고, 채팅 과정에서 사용자 실명이나 계좌번호가 노출됐다. 이 때문에 단체 손해배상 소송이 진행 중이다.
이탈리아와 프랑스, 캐나다 등에서는 최근 챗GPT가 개인정보를 무단수집했다는 진정서가 접수되면서 챗GPT 사용을 중단시키고 조사에 들어갔다. 우리 개인정보보호위원회도 어떤 국내 데이터가 챗GPT에 사용됐는지 확인하고 있다.
AI가 가짜를 사실처럼 만들어내는 능력이 있다는 점도 고민거리다. 최근 흰색 패딩을 입은 프란치스코 교황 사진과 경찰에 체포되는 도널드 트럼프 전 미 대통령 사진이 미드저니로 만든 가짜 이미지였다는 사실이 드러나 논란이 된 바 있다. 이에 미드저니는 무료 평가판 서비스를 중단했다. 챗GPT는 ‘이순신이 주로 사용하던 검법에 대해 설명해달라’는 황당한 질문을 해도 그럴싸하게 답을 내놓는다.
이용자로서는 이미지나 텍스트 내용이 사실인지 거짓인지 확인할 수 없다. 일각에선 AI로 진짜 같은 가짜 웹사이트나 악성코드를 만들어 범죄에 이용할 수 있다는 우려를 제기한다.
한국지능정보사회진흥원은 ‘챗GPT 등장과 법제도 이슈’ 리포트에서 “개인정보와 관련, 유연한 접근과 함께 개인의 열람청구권, 삭제권 등 실질적 권리를 보장할 필요가 있다”며 “공정하고 안전한 AI 이용 환경 조성과 AI 오류 가능성 등을 고려한 손해배상제도와 피해구제 방안을 모색해야 한다”고 제언했다.
◆과기부 ‘AI 윤리기준 자율점검표’ 제시
하루가 다르게 발전하는 인공지능(AI)을 어떻게 다룰 것인지, 그에 필요한 법·제도는 무엇인지 각국이 고민하고 있다.
21일 업계에 따르면 국회에서는 ‘인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(인공지능법)’이 논의 중이다. ‘우선 허용, 사후 규제’ 원칙을 명문하고, 자율주행 등 시민 안전을 위협할 수 있는 고위험 활용 영역을 설정해 조치를 요구하도록 했다. 시민단체에서는 우선 허용 원칙이 생명·안전에 위해를 가할 위험이 크고, 피해가 발생했을 때 제재할 수 없으며, 고위험 영역도 모호하다고 지적하고 있다.
과학기술정보통신부는 ‘AI 인공지능 윤리정책 포럼’을 운영 중이다. 이달 초 포럼 2기가 출범, 윤리·기술·교육 3개 전문분과위원회에서 AI 윤리영향평가와 신뢰성 검·인증 체계, AI 윤리교육 콘텐츠 개발 등을 논의 중이다. 과기정통부는 지난해 ‘인공지능 윤리기준 실천을 위한 자율점검표’도 마련했다. 점검표는 △인권보장 △프라이버시 보호 △다양성 존중 △공공성 △책임성 등 10가지 핵심 요건에, 35개의 점검항목을 제시하고 있다.
AI 생성물의 저작권에 대해서는 문화체육관광부가 창작자, 관련 업계, 저작권 전문가 등과 ‘AI 저작권법 제도개선 워킹그룹’을 구성해 AI 시대에 맞는 저작권법의 개선 방향을 검토하고 있다.
오는 9월 시행되는 개인정보보호법 개정안에는 AI 시대와 연관해 AI 면접에서 떨어지거나 AI가 평가한 인사평가에서 불이익을 당하는 경우 이를 거부하거나 설명을 요구할 수 있는 권리를 담았다.
유럽연합(EU)은 AI가 초래할 수 있는 사회적 위험을 예방하고, 신뢰할 수 있는 AI 기술 개발을 위해 인공지능법을 제정해 올해 의회 통과를 추진하고 있다. 이 법은 △AI 정의 △AI 위험성 분류와 그에 따른 법적 의무 △감독기관의 설치 등을 골자로 한다. 영국은 지난달 AI 책임 있는 사용을 위한 AI 백서를 내놓았다. 이를 토대로 내년 규제 법안을 도입한다는 계획이다.
미국은 지난해 10월 법적 구속력이 없는 인권 보호지침인 ‘AI 권리장전’ 초안을 발표한 데 이어, 최근에는 미국 상무부 산하 국가통신정보관리국(NTIA)이 AI 시스템 규제안에 대한 여론 수렴에 나섰다.
속도 조절을 요청하는 목소리도 나온다. 미 비영리단체 삶의미래연구소는 지난달 초거대 AI 개발을 최소 6개월 중단하자는 공개서한을 발표했고, 일론 머스크 테슬라 최고경영자(CEO), 스티브 워즈니악 애플 공동창업자, 유발 하라리 예루살렘히브리대 교수 등 유명인사가 서명해 눈길을 끌었다.