SK쉴더스 EQST, ‘데프콘 34’ AI CTF 세계 5위

▲데프콘(DEFCON 34)에 참가한 SK쉴더스의 화이트해커그룹 EQST(이큐스트) 구성원들이 기념촬영을 하고 있다. (사진 제공=SK쉴더스)

SK쉴더스의 화이트해커 그룹 EQST(이큐스트)가 세계 최대 해킹·보안 컨퍼런스 '데프콘(DEF CON) 34'에서 열린 인공지능(AI) 해킹대회에서 전 세계 200여 개 팀 가운데 최종 5위를 차지했다고 10일 밝혔다.

데프콘은 전 세계 해커와 보안 연구자들이 모여 최신 해킹 기술과 보안 위협을 공유하는 행사다. 올해는 대규모언어모델(LLM)과 AI 에이전트 등 스스로 판단하고 행동하는 AI 기술이 사이버보안 환경에 미칠 영향이 주요 화두로 다뤄졌다.

EQST는 데프콘 AI Village에서 열린 CTF(Capture The Flag)에 참가해 국내 참가팀 가운데 유일하게 톱5에 이름을 올렸다. 이번 대회는 AI 모델을 기반으로 침투테스트를 수행하는 AI 에이전트를 구축해 보안 문제를 해결하는 방식으로 진행됐다.

기존 CTF가 사람이 직접 취약점을 분석하고 공격을 수행하는 방식이라면 이번 대회에서는 AI 에이전트가 문제를 분석하고 공격 방법을 선택해 플래그 획득을 시도했다. 참가팀들은 AI 모델을 기반으로 에이전트 구조와 프롬프트를 구성하고 공격 전략과 문제 해결 과정을 설계하는 능력을 겨뤘다.

EQST는 문제 유형별로 AI 모델을 최적화하고 에이전트의 행동 방식을 조정하는 한편, 문제별 배점과 난이도를 분석해 공략 순서를 결정하는 전략을 적용했다. 이를 통해 AI 모델에 대한 이해와 침투테스트 경험, 취약점 분석 역량을 결합해 전 세계 200여 개 팀 중 5위를 기록했다.

EQST는 이번 대회에서 확보한 에이전틱 AI(Agentic AI) 기반 공격 전략과 문제 해결 경험을 AI 서비스 및 모델의 취약점 연구와 AI 레드팀, 보안 대응 기술 고도화 등에 활용할 계획이다.

이와 함께 EQST는 데프콘 34 CTF 본선에도 참가했다. 올해 예선에는 686개 팀이 출전했으며 이 가운데 12개 팀만 본선에 진출했다. SK쉴더스 EQST는 네이버클라우드, 루비야랩, 핀란드 H-T8과 국제 연합팀을 구성해 세계 정상급 보안 전문가들과 경쟁했다.

본선은 공격·방어(Attack and Defense)와 킹 오브 더 힐(King of the Hill·KOTH)을 결합한 방식으로 진행됐다. 참가팀들은 상대 시스템의 취약점을 공격해 플래그를 획득하는 동시에 자신의 시스템을 방어하고 서비스를 정상적으로 유지하는 능력을 겨뤘다.

EQST는 약 200명 규모의 화이트해커 그룹으로 취약점 연구와 침투테스트, 악성코드 분석, AI 보안 연구 등을 수행하고 있다. 최근 AI 레드팀 해킹대회 '저지먼트 데이'와 '드림핵 해킹방어대회 2026'에서 우승했으며 R3CTF 2026 2위, '미드나이트 선 CTF 2026' 3위 등을 기록했다.

김태형 SK쉴더스 EQST사업그룹장은 “전 세계 200여 개 팀이 참가한 AI CTF에서 국내 참가팀 중 유일하게 톱5를 기록한 것은 EQST가 축적해 온 AI 보안 기술과 실전 문제 해결 역량을 보여주는 성과"라며 “AI 기술을 활용한 새로운 공격과 보안 위협에 선제적으로 대응할 수 있도록 AI 취약점과 레드팀 연구를 확대해 나가겠다"고 말했다.

오유경 기자 oyk1213@ekn.kr