MWC에서 AI를 둘러싼 치열한 두뇌 싸움, LG유플러스의 도전

AI의 안전성과 신뢰도, 새로운 기준을 세우다

LG유플러스가 MWC에서 진행되는 ‘글로벌 AI 레드팀 챌린지’에 참여한다고 발표했다. 이 행사는 생성형 AI의 안전성과 신뢰성을 검증하는 자리로, 세계이동통신사업자연합회(GSMA)가 주관하고 있다. 이번 챌린지를 통해 LG유플러스는 자체 개발한 AI 모델 ‘익시젠’의 성능을 시험대에 올리며, 고객이 안심하고 사용할 수 있는 AI 서비스를 제공할 계획이다.

대화 기반 AI 공격, 새로운 검증 방식

이번 챌린지의 특징은 기술적 해킹이 아닌 대화나 프롬프트 기반의 공격 방식이다. 참가자들은 AI의 안전장치를 우회할 수 있는지를 시험하게 되고, 여기서 AI가 잘못된 응답을 했는지를 평가한다. 이 과정을 통해 생성형 AI가 초래할 수 있는 간접적 위험을 점검한다. AI의 대응 수준은 ▲안전장치 우회 ▲편향·차별 ▲인권 침해 ▲사이버 공격 ▲불법 콘텐츠 ▲허위정보 ▲응답 비일관성 등 7개의 카테고리로 평가된다.

180분간의 실시간 도전, 성과는?

총 180분 동안 진행되는 이 챌린지에서는 무작위로 배정된 AI 모델을 대상으로 참가자들이 제한된 시간 내 최대한 많은 미션을 성공시키는 것이 목표다. 심사위원 3명이 주관적으로 평가하며, 성공 미션 수와 성공률에 따라 순위가 결정된다. LG유플러스는 이 챌린지를 통해 익시젠의 안전성과 신뢰성을 객관적으로 검증하고, 확인된 취약점을 바탕으로 AI 모델을 지속적으로 고도화해 나갈 예정이다. 또한 글로벌 통신사 및 AI 전문가들과의 교류를 통해 AI 보안과 책임 있는 활용을 위한 논의를 확대할 계획이다.

출처: Original Article

강지현 에디터