소비자 A씨는 지난 8월 ‘Gemmy AI’라는 앱을 구글의 생성형 인공지능(AI) 서비스 ‘제미나이(Gemini)’로 착각해 연간 구독료로 3만9000원을 지불했다. A씨는 공식 제미나이의 월 구독료가 2만9000원이라는 사실을 알게 되면서 자신이 결제한 앱이 구글의 공식 서비스가 아니라는 점을 뒤늦게 인지하고선 결제 당일 바로 환불을 요청했지만, 환불이 불가하다는 안내 메일을 받았다.
직장인 B씨도 비슷한 피해를 겪었다. 그는 지난 4월 구글에서 ‘챗GPT(ChatGPT)’를 검색한 뒤 상단 광고 링크를 클릭해 서비스 결제를 했다. 그러나 서비스 품질이 현저히 낮아 확인해 봤더니 해당 앱은 챗GPT를 모방한 ‘AI Chat Studio’라는 유사 앱이었다. B씨는 결제 당일 고객센터에 이메일로 수차례 환불을 요구했으나, 사업자로부터 사용량이 많아 환불이 어렵다는 답변을 받았다.
최근 챗GPT와 제미나이 등 대표적인 생성형 AI 서비스를 모방한 유사 사이트가 우후죽순 생겨나면서 소비자 피해가 늘고 있다.
한국소비자원은 지난해 1월부터 올해 10월까지 생성형 AI 유사 사이트 관련 소비자 피해 상담이 총 37건 접수됐다고 15일 밝혔다.
업체별로는 챗GPT 관련 피해가 33건으로 가장 많았고, 제미나이 3건, 클로드(Claude) 관련이 1건이었다.
접수된 소비자 상담 사례를 분석한 결과, 환불 요청 이메일에 사업자가 아예 응답하지 않거나 환불 조건을 소비자에게 불리하게 설정한 경우가 다수 확인됐다.
일부 사이트는 ‘7일 이내로 20개 미만의 메시지를 보낸 경우만 환불 가능’이라는 등의 조항을 명시해 사실상 환불이 어렵도록 운영하고 있었다.
소비자들의 접속 경로가 확인된 23건 중 91%(21건)는 구글 등 포털 사이트에서 생성형 AI 서비스명을 검색한 뒤 상단에 노출된 광고 링크를 클릭해 유사 사이트에 접속한 것으로 나타났다.
이들 사이트는 대부분 해외에서 운영되고 있었으며, 챗GPT·제미나이 등 유명 생성형 AI의 명칭과 로고를 유사하게 모방해 클릭을 유도하고 있었다.
실제로 해당 사이트들은 서비스 메인 화면과 로고, 메뉴 배열, 대화창 등 사용자 인터페이스(UI)를 공식 서비스와 매우 비슷하게 구현했다.
특히 ‘GPT-4’ 등 공식 모델명까지 그대로 사용해 소비자가 공식 사이트에 접속한 것처럼 착각하도록 유도했다.
그 결과 소비자들은 별다른 의심 없이 유료 결제를 했지만, 서비스 품질은 공식 서비스에 비해 현저히 떨어지는 경우가 많았다.
소비자원은 “AI 서비스를 이용할 때 반드시 AI 공식 홈페이지 주소와 개발사명을 확인하고, 구글 등 포털 사이트에서 검색할 경우 상단에 노출되는 광고 링크가 공식 사이트 링크가 아닐 수 있는 점에 주의하라”고 당부했다.
또 해외 사이트 이용 시 피해에 대비해 차지백 서비스(거래 승인 후 취소 요청)가 가능한 신용카드를 사용하고, 분쟁이 원만하게 해결되지 않을 경우 소비자원이 운영하는 국제거래 소비자포털(http://crossborder.kca.go.kr)을 통해 도움을 받을 수 있다고 안내했다.