메뉴 보기
인공지능(AI)이 가져올 위험에 대한 우려가 커지면서 AI 위험을 평가하고 통제하는 인력 수요가 늘고 있다.
마이크로소프트(MS)가 보유한 경력 관리 사회관계망서비스(SNS) 링크트인은 1일(현지시간) AI 안전 관련 직군의 채용 수요가 지난 1년간 91% 늘어난 것으로 나타났다고 밝혔다. 대니얼 셔페로 링크트인 최고경영자(CEO)는 전반적인 채용이 정체된 가운데서도 일부 직무는 성장하고 있다고 설명했다. AI 안전은 기술 연구와 위험 완화부터 정책 수립, 제품에 안전체계를 적용하는 업무까지 포괄한다.
주요 AI 기업들의 채용 공고에서는 AI의 능력이 커질수록 인간이 이를 어떻게 감독하고 통제할 것인지가 연구 과제로 제시된다. 대표적인 분야가 ‘AI 정렬’이다. AI의 목표와 행동이 인간의 의도에 부합하도록 만드는 것으로, 복잡하거나 예상하지 못한 상황에서도 AI가 의도와 다른 행동을 하지 않도록 하는 것이 핵심이다.
오픈AI는 정렬 연구자 채용 공고에서 AI의 능력이 향상되는 만큼 정렬 기술도 함께 발전해야 한다고 설명했다. 연구자는 AI가 인간의 의도와 가치를 따르는지 평가하는 실험을 설계하고, 사람이 AI의 판단을 이해하고 감독할 수 있는 방법을 개발한다. 인간의 감독을 AI의 의사결정 과정에 반영하는 것도 주요 업무다.
앤트로픽도 정렬 연구 엔지니어·과학자를 모집하고 있다. 공고에는 특정 분야에서 인간의 지적 능력을 넘어서는 모델도 정직하고 유용하게 작동하도록 감독하는 기술을 개발한다고 명시했다. 낯선 상황이나 외부 공격이 가해지는 조건에서도 AI를 안전하게 통제하는 방법을 연구하고, 배포 전에 우려되는 행동이 나타나는지 평가하는 업무도 포함된다.
안전장치를 만들었다고 연구가 끝나는 것은 아니다. 앤트로픽은 AI가 안전 기술을 무력화하도록 훈련한 뒤 기존 방어 수단이 얼마나 효과적인지 시험하는 것을 프로젝트 사례로 제시했다. 정렬 실패가 어떤 조건에서 발생하는지 실험으로 확인하겠다는 취지다. 이 직무의 공고상 연봉 범위는 35만∼50만달러(약 4억7600만∼6억8000만원)다.
AI 정렬과 보안은 맞물린 과제이기도 하다. 오픈AI가 모집하는 첨단 AI 위험 완화 연구자는 정렬과 통제, AI의 내부 작동을 이해하는 기술 등을 활용해 안전 대책을 개발한다. 회사는 향후 발생할 수 있는 극단적인 위협에 대응하기 위해 악용 방지와 정렬 실패 방지 장치, 보안 대책을 함께 발전시키는 것을 목표로 제시했다. 해당 직무의 공고상 보수는 38만∼50만달러(약 5억1600만∼6억8000만원)에 주식 보상이 추가된다.
미국 노동통계국도 핵심 직종인 정보 보안 분석가 직무가 2025년부터 2035년까지 10년간 21% 늘어나리라고 내다봤다. 안전 관련 직무 외에도 AI 관련 직종의 수요는 빠르게 늘어나고 있다고 링크트인은 설명했다. 기업에 상주하며 AI 기술을 최적화해 설치하는 현장 배치 전문가 수요는 226% 늘었고, AI 포렌식(Forensic·디지털 증거 추출) 분석가 직무를 찾는 곳도 169% 증가했다. 최근 3년간 AI 덕분에 창출된 일자리만 200만 개라고 링크트인은 덧붙였다.
