[세줄 요약]
·코드게이트 2025, 서울 코엑스서 AGI 보안 주제로 개최
·화웨이, 딥페이크 사례 중심으로 AI 보안 위협 경고
·실전형 인재 양성 위한 해킹대회 및 시상식 진행
세계적 해킹방어대회 ‘코드게이트 2025’가 지난 10일부터 이틀간 서울 코엑스에서 개최됐다. 올해로 17회를 맞은 이번 행사는 ‘AGI와 사이버보안, 미래를 지키다’를 주제로 열렸으며 해킹방어대회와 보안 컨퍼런스가 동시에 진행됐다. AI 시대에 맞는 실전형 보안 전문가 양성과 글로벌 보안 생태계 확장을 위한 기술 논의가 이어졌다.
조현숙 코드게이트보안포럼 이사장은 개회사에서 “코드게이트는 전 세계 화이트 해커들이 실력을 겨루는 국제 대회이자 보안 기술의 최신 동향과 미래 방향을 제시하는 글로벌 컨퍼런스 장”이라고 설명했다. 이어 “딥페이크와 생성형 AI를 활용한 피싱 공격이 기존 보안 체계를 위협할 정도로 정교해졌고 AI가 해킹을 시도하고 AI가 방어하는 시대가 현실이 됐다”며 “다가올 AGI 시대를 대비하려면 보다 지능적이고 선제적인 보안 전략이 절실하다”고 강조했다.
유상임 과학기술정보통신부 장관은 환영사에서 “코드게이트는 사이버 공간을 안전하게 만들기 위한 협력의 플랫폼이자 미래 보안 산업을 이끌 인재 발굴의 장으로 기능해 왔다”고 평가했다. 이어 “AI, 사물인터넷, 양자기술 등 신기술이 일상을 혁신하는 동시에 복합적이고 정교한 사이버 위협도 증가하고 있다”며 “디지털 주권을 보호하기 위해 정부도 보안 생태계 강화와 글로벌 보안 인재 발굴에 아낌없는 지원을 하겠다”고 밝혔다.
기조연설자로 나선 장먀오 화웨이 본사 사이버보안 신뢰 구축 총괄은 생성형 AI 기술이 만들어낸 보안 위협의 현실을 지적하며 이를 통제하기 위한 기업의 전략적 대응 방안을 소개했다. 그는 “AI는 세상을 빠르게 바꾸고 있지만, 우리는 AI가 세상을 ‘안전하게’ 바꾸도록 보장해야 한다”며 보안 없는 AI 도입은 오히려 산업에 심각한 리스크를 초래한다고 경고했다.
장 총괄은 AI 확산에 따라 등장한 보안 리스크를 세 가지로 정리했다. 첫째 ‘코드·네트워크·락인 공격과 같은 전통적 공격의 AI화’, 둘째 ‘AI 자체를 겨냥한 데이터 조작, 모델 오염 등 적대적 공격’, 셋째 ‘AI 기술이 실제 사회에서 악용되는 응용 사례’다. 그는 “실제로 홍콩에선 해커가 딥페이크로 생성한 가짜 임원 영상으로 회계 담당자를 속여 2천만 달러 송금을 유도한 사건이 있었다”고 사례를 언급했다. 해당 사례에서 “영상 회의에 참가한 인물 중 단 한 명만 실제 사람이었고 나머지는 모두 AI가 생성한 가짜였다”고 밝혔다.
화웨이는 이 같은 위협에 대응하기 위해 ‘보안 설계 내장(Security by Design)’ 원칙을 제품 개발 전 과정에 적용하고 있으며 산업 맞춤형 모델을 제공하는 ‘판구(Pangu)’ AI 모델 체계를 운영 중이다. 장 총괄은 “산업별 맞춤형 AI 모델이야말로 신뢰할 수 있는 AI 보안의 핵심”이라며 “규제 또한 중요하다. 유럽의 AI 법안은 높은 위험 시나리오별 규정을 세분화하고 중국은 AI 생성 콘텐츠에 워터마크 표시를 의무화하고 있다”고 설명했다.
또한 그는 “화웨이는 내부에 AI 거버넌스 전담 조직과 개발 프로세스를 운영하고 있으며 모든 제품 설계단계부터 AI 보안 기준을 내재화하고 있다”고 덧붙였다. 마지막으로 장 총괄은 “AI 기술이 인간의 통제를 벗어날 수 있다는 우려가 커지고 있지만 결국 사람 중심의 가치와 생명에 기반한 거버넌스가 AI 시대의 방향이 되어야 한다”고 강조했다.
한편, 이번 코드게이트 본선에는 전 세계 66개국 2778명이 예선에 참여했으며 이 중 일반부 13개국 20개 팀, 주니어부 4개국 20명이 본선에 진출해 각각 24시간, 12시간 동안 실력을 겨룬 뒤 시상식이 이어졌다.
헬로티 구서경 기자 |
