어느 날 범죄를 저지른 두 공범이 경찰에 체포돼 각기 다른 방에서 조사를 받게 된다. 소통할 수 없는 두 죄수는 자신들의 범죄에 대해 묵비권을 행사(‘협력’)하거나 자백(‘배신’)을 해야 하는 상황으로 내몰린다. 만약 두 사람 모두 범죄에 침묵하면 각각 1년형 정도의 가벼운 처벌만 받게 되고, 모두 범죄를 자백하면 각각 5년형을 받는다. 또 한 명만 자백하고 다른 한 명이 침묵하면 자백한 사람은 즉시 석방되지만 침묵한 사람은 10년형의 중형에 처해진다. 두 죄수는 어떤 선택을 하게 될까.
수학자 앨버트 터커의 ‘죄수의 딜레마(Prisoner’s Dilemma)’ 이론에 따르면, 서로를 믿지 못한 두 죄수는 자신의 입장에선 자백하는 게 상대보다 형량을 줄이는 선택이기에 모두 자백을 선택해 나란히 5년형을 받게 된다. 함께 침묵하면 가벼운 처벌만 받을 수 있음에도 서로를 믿지 못해 더 나쁜 결과를 초래하는 역설이 발생한다. 이는 각 행위자가 자신의 이익을 위해 행동하지만, 가격과 시장 메커니즘에 의해 바람직한 결과가 나온다는 애덤 스미스의 ‘보이지 않는 손’ 개념과 대비된다.
최근 인공지능(AI) 개발속도를 늦춰야 한다는 ‘속도조절론’이 급부상하고 있다. 앤스로픽의 최고경영자(CEO) 다리오 아모데이가 최첨단 AI의 개발속도를 조절할 필요가 있다고 주장하며 불을 지폈다. 테슬라의 일론 머스크가 공개 동조하고 오픈AI와 구글 딥마인드 CEO 등이 공감하면서 일파만파로 확산했다. 근저에는 AI가 인간을 멸망시킬 수 있다는 ‘인간 종말론’까지 자리한다.
하지만 사람들은 AI 속도조절론의 실현 가능성에 회의적이다. 각 기업 간 치열한 경쟁에 미·중 패권 다툼까지 맞물리면서 아무도 먼저 브레이크를 밟지 못할 것이라는 관측 때문이다. 이른바 ‘죄수의 딜레마’에 놓여 있다는 것이다. 그런데 두 죄수가 의사소통을 할 수 있다면 죄수의 딜레마는 해소될 수도 있다. 즉, 소통과 신뢰가 있다면 앞으로 있을 결과를 예측하며 약속을 지킬 가능성이 커지기 때문이다. ‘협동’과 ‘연대’라는 사회적 진화 가능성이 탄생하는 순간이다. 과연 인간은 죄수의 딜레마를 넘어 AI의 조절과 통제에 성공할 수 있을까.