네이버가 28일부터 제22대 국회의원 총선거일인 오는 다음달 10일까지 인공지능(AI) 서비스에서 선거와 관련한 콘텐츠 생성을 금지한다.
네이버에 따르면 이날부터 대화형 AI 서비스 '클로바X'와 생성형 AI 검색 특화 서비스 '큐:'(CUE:)를 선거와 관련한 정보 요청이나 예측 등을 위해 사용하지 못한다.
공직선거법상 생성형 AI를 활용한 텍스트 결과물은 선거에 활용해도 문제가 없지만, 논란이 될 수 있는 시빗거리 자체를 원천 차단한 셈이다.
네이버는 다양한 형태의 질문이나 요청 형태로 선거와 관련한 정보가 생성될 수 있는 점을 고려해 두 서비스의 대화창 하단에 사용자 주의 안내 문구도 노출한다.
네이버는 최근 선거와 관련한 딥페이크(AI로 만든 영상·이미지 합성 조작물)가 활개를 치는 현실을 고려해 이날부터 포털에서 관련 검색어를 입력하는 경우 주의 안내 문구를 띄운다.
검색 이용자가 정보를 소비하는 과정에서 딥페이크 기술의 악용 사례에 대해 경각심을 가질 수 있게 하겠다는 취지다. 블로그와 카페 등에서 영상 게시물을 작성할 때도 딥페이크 주의 안내 문구가 나타난다.
이 밖에 네이버는 자사 AI 서비스가 생성한 이미지에 꼬리표(label)나 워터마크를 붙이는 기술을 연구·개발 중이다.