메뉴 보기
애플이 인공지능(AI) 에이전트의 자율적인 작동이 보안 통제를 우회하거나 데이터를 삭제하는 등 예측하기 어려운 위험을 초래할 수 있다고 경고했다.
AI 기능을 자사 제품과 서비스에 본격적으로 도입하는 가운데 기술의 오작동과 악용 가능성을 공식적인 사업 위험 요인으로 제시한 것이다.
애플은 3일(현지시간) 미국 증권거래위원회(SEC)에 제출한 2026 회계연도 연례보고서(10-K)에서 AI 에이전트와 관련한 보안·통제 위험을 언급했다.
AI 에이전트는 사용자의 명령에 따라 정보를 검색하거나 문서를 작성하는 데 그치지 않고 여러 시스템에 접근해 복잡한 작업을 자율적으로 수행하는 기술이다. 활용 범위가 넓어질수록 오작동이나 악용으로 인한 피해 가능성도 커질 수 있어 보안 통제의 중요성이 강조되고 있다.
애플은 보고서에서 “AI 에이전트와 기타 기술은 내·외부 시스템과 상호작용하고, 코드를 실행하거나 수정하며, 통신을 전송하고 거래를 완료하는 등 자율적으로 작동할 수 있다”고 밝혔다.
이어 자사가 개발한 AI 에이전트뿐 아니라 다른 기업이 만든 기술도 인간의 지시 없이 작동하거나 지시를 따르지 않을 수 있으며, 예측하기 어려운 방식으로 움직일 가능성이 있다고 지적했다.
특히 AI 에이전트가 기존 보안·통제 수단을 우회하거나 악의적인 행위자에게 악용될 수 있다고 우려했다. 여러 단계로 이어지는 업무를 AI에 맡길 경우 개별 단계에서 발생한 오류가 누적돼 데이터 삭제 등 복구할 수 없는 결과로 이어질 수도 있다는 설명이다.
애플은 AI와 슈퍼지능(SI)을 둘러싼 법률·규제 환경의 불확실성도 사업상 위험 요인으로 꼽았다. AI 기술에 대한 소비자의 부정적인 인식과 윤리적 우려 역시 사업에 부담을 줄 수 있다고 보고서에 적시했다.
이 같은 경고는 애플이 자사 제품과 서비스에 AI 기능을 확대하는 시점에 나왔다는 점에서 주목된다. 최신 아이폰과 맥 등에 '애플 인텔리전스'와 음성 비서 '시리' 등 AI 기능을 도입하면서 관련 기술의 활용 범위가 넓어지고 있어 보안과 개인정보 보호 문제도 중요한 과제로 떠오르고 있다.
애플은 최근 AI 에이전트의 맥 컴퓨터 데이터 접근을 통제하는 등 개인정보 보호 조치를 잇달아 도입하고 있다. AI가 사용자를 대신해 파일과 시스템에 접근하고 여러 작업을 수행하는 과정에서 정보 유출이나 의도하지 않은 조작이 발생하지 않도록 관리 체계를 강화하는 모습이다.
존 터너스 애플 최고경영자(CEO)도 최근 실적발표 콘퍼런스콜에서 AI 에이전트 기능을 “사용자에게 유망한 도구”라고 평가하면서도 이용자가 어떤 접근 권한을 부여하는지 인지해야 한다고 강조했다.
그는 AI 에이전트가 보안과 개인정보를 보호하는 방식으로 구현돼야 한다고 덧붙였다.
