데프콘 34 CTF 본선에도 진출해 공격, 방어 기술 겨뤄

데프콘(DEFCON 34)에 참가한 SK쉴더스 화이트해커 그룹 EQST(이큐스트) 구성원들이 기념 촬영을 하고 있다. (사진=SK쉴더스 제공)

SK쉴더스(대표 민기식)는 자사 화이트해커 그룹 EQST(Experts, Qualified Security Team, 이큐스트)가 미국 라스베이거스에서 개최된 세계 최대 해킹ㆍ보안 컨퍼런스 ‘데프콘(DEFCON) 34’의 AI Village에서 진행된 CTF(Capture The Flag)에서 글로벌 200여 개 팀 가운데 최종 5위를 기록했다고 11일 밝혔다.

데프콘은 전 세계 해커와 보안연구자들이 최신 해킹 기술과 보안 위협을 공유하는 국제 해킹, 보안 콘퍼런스다. 매년 미국 라스베이거스에서 개최되며 보안 전문가들의 강연과 기술 시연, 분야별 빌리지(Village) 해킹대회 등 다양한 프로그램이 진행된다. 올해는 AI, 자동차, 암호화폐 등을 주제로 38개 빌리지가 운영됐다.

회사 측에 따르면 EQST는 AI CTF에서 국내 참가팀 중 유일하게 톱5에 올랐다. 이와 함께 데프콘 34 CTF 본선에도 참가해 본선 진출팀들과 공격, 방어 기술을 겨뤘다.

올해 데프콘에서는 대규모언어모델(LLM)과 AI 에이전트 관련 사이버보안 이슈가 주요 프로그램에서 다뤄졌다. AI Village에서는 AI 기술을 둘러싼 공격 방식과 보안 취약점, 대응 기술 등이 소개됐다.

EQST가 참가한 AI CTF는 주어진 AI 모델을 기반으로 침투테스트를 수행하는 AI 에이전트를 구성하고 이를 활용해 보안 문제를 해결하는 방식으로 진행됐다. 사람이 공격 과정을 일일이 수행하는 기존 CTF와 달리 AI 에이전트가 문제를 분석하고 공격 방법을 선택해 플래그(Flag) 획득을 시도하도록 만드는 것이 특징이다.

참가팀들은 AI 모델을 기반으로 에이전트의 구조와 프롬프트를 제작하고 문제 해결 과정과 공격 전략을 설계하는 역량을 겨뤘다. EQST는 문제 유형별 AI 모델을 최적화하고 에이전트의 행동 방식을 조정하며, 배점과 난이도를 분석해 공략 순서를 결정하는 등 다양한 전략을 적용했다.

AI 에이전트가 스스로 취약점을 탐색하고 공격을 수행할 수 있도록 설계하는 과정에서는 AI 모델에 대한 이해와 침투테스트 경험, 보안 문제 분석 능력을 활용했다. 그 결과 전 세계 200여 개 참가팀 가운데 최종 5위를 기록했다.

EQST는 이번 대회에서 에이전틱 AI(Agentic AI)를 활용한 공격 방식과 보안 이슈를 살펴봤다. 대회에서 확인한 AI 에이전트의 공격 전략과 문제 해결 사례는 향후 AI 서비스와 모델의 취약점 연구, AI 레드팀 및 보안 대응 기술 고도화에 활용할 계획이다.

EQST는 AI CTF와 함께 데프콘 34 CTF 본선에도 참가했다. 데프콘 CTF는 온라인 예선을 통과한 팀들이 참가하는 국제 해킹대회로, 올해 예선에는 686개 팀이 참가했으며 이 가운데 12개 팀이 본선에 진출했다.

SK쉴더스 EQST와 네이버클라우드, 루비야랩, 핀란드 H-T8 등이 참여한 국제 연합팀도 본선 무대에 올라 다른 본선 진출팀들과 경쟁했다. SK쉴더스에 따르면 본선은 공격, 방어(Attack and Defense)와 킹 오브 더 힐(King of the Hill, KOTH)을 결합한 방식으로 진행됐다. 참가팀들은 상대 팀 시스템의 취약점을 찾아 공격해 플래그를 획득하는 동시에 자신의 시스템을 방어하고, KOTH 과제에서는 다른 팀보다 우위를 확보하기 위한 경쟁을 펼쳤다.

공격에 성공하는 것뿐 아니라 발견된 취약점에 대응하면서 서비스의 정상 운영 상태를 유지해야 하는 만큼 취약점 분석과 공격 코드 개발, 패치 및 방어 전략 수립 등을 동시에 수행하는 종합적인 보안 역량이 요구됐다. EQST 구성원은 글로벌 보안 전문가들과 실전 경쟁을 펼치며 새로운 공격 기법과 문제 해결 방식을 경험하고 공격ㆍ방어 기술에 대한 연구 경험을 축적했다.

EQST는 약 200명 규모의 화이트해커 그룹으로 취약점 연구와 침투테스트, 악성코드 분석, AI 보안 연구 등을 수행하고 있다. 최근에는 AI 레드팀 해킹대회 ‘저지먼트 데이(Judgement Day)’와 ‘드림핵 해킹방어대회 2026’에서 우승했으며, EQST는 R3CTF 2026 2위와 ‘미드나이트 선(Midnight Sun) CTF 2026’ 예선 3위 등을 기록했다.

김태형 SK쉴더스 EQST사업그룹장은 “전 세계 200여 개 팀이 참가한 AI CTF에서 국내 참가팀 중 유일하게 톱5를 기록한 것은 EQST가 축적해 온 AI 보안 기술과 실전 문제 해결 역량을 보여주는 성과”라며 “앞으로도 AI 기술을 활용한 새로운 공격과 보안 위협에 선제적으로 대응할 수 있도록 AI 취약점과 레드팀 연구를 확대하고, 글로벌 수준의 AI 보안 경쟁력을 지속적으로 강화해 나가겠다”고 말했다.