캐나다의 한 지방의회 의원이 인공지능(AI)으로 작성한 연설문을 읽던 중 AI가 사용자에게 제시한 안내 문구까지 그대로 낭독하는 실수를 저질러 온라인에서 화제가 되고 있다.
해당 의원은 AI를 연설문 작성에 활용한 사실을 인정하고 사과했지만, 이번 일을 계기로 정치권의 생성형 AI 활용 방식과 검증 책임을 둘러싼 논란도 다시 불거지고 있다.
캐나다 글로벌뉴스 등에 따르면 뉴브런즈윅주 의회 소속 빌 올리버 진보보수당 의원은 지난 6월 9일 열린 주 의회 연설에서 AI가 생성한 문장을 그대로 읽다가 AI의 안내 문구까지 함께 낭독하는 실수를 했다.
올리버 의원은 연설 도중 갑자기 “여기 더 자연스럽고 의회 연설처럼 들리도록 고쳐 쓴 버전이 있습니다”라는 문장을 읽었다.
해당 문구는 생성형 AI가 초안을 수정해 줄 때 흔히 제시하는 안내 문구로, 실제 연설 내용이 아니라 AI가 출력한 설명 문장이었다. 올리버 의원은 이를 인지하지 못한 채 연설을 이어갔다.
당시 올리버 의원은 이를 인지하지 못한 채 연설을 계속 이어갔다.
해당 장면이 담긴 영상은 최근 엑스(X·옛 트위터)와 틱톡 등 사회관계망서비스(SNS)를 통해 빠르게 확산하며 수많은 조회 수를 기록했다. “AI가 쓴 답변을 검토도 하지 않았다”는 비판과 함께 정치인의 AI 의존 문제를 지적하는 목소리가 이어졌다.
논란이 커지자 올리버 의원은 AI를 활용해 연설문을 작성한 사실을 인정했다.
그는 “AI는 연설문을 다듬기 위한 도구로 사용했지만 원고를 충분히 확인하지 않은 것은 전적으로 내 책임”이라며 “앞으로는 AI가 작성한 내용을 더욱 꼼꼼히 검토하겠다”고 밝혔다.
이번 사건을 계기로 정치권에서 생성형 AI를 활용하는 사례가 늘어나는 가운데 AI가 작성한 내용을 그대로 사용하는 데 따른 위험성과 인간의 최종 검토 책임이 다시 주목받고 있다.
전문가들은 생성형 AI가 문서 작성이나 초안 작성에는 유용하지만, 최종 검토와 사실 확인은 반드시 사람이 직접 해야 한다며 이번 사례가 AI 활용의 한계를 보여준 사례라고 평가했다.