글로벌 인증·보안표준 추진
사람 대신 행동하는 에이전트
오픈AI·MS· 구글 등 손잡고
데이터 보안·신원인증 강화
한국선 SKT·삼성전자 참여
[Unsplash/Philip Oroni] 인간을 대신해 온라인에서 정보를 수집하고 작업을 처리하는 ‘인공지능(AI) 에이전트’가 급증하면서,이들을 어떻게 검증하고 관리할 것인지가 글로벌 AI 업계 화두로 부상하고 있다.
인간 사용자가 특정 사이트에 접근할 때 계정과 비밀번호로 로그인함으로써 신원(아이덴티티)을 인증하듯,이제는 에이전트를 확인해야 하는 시대가 온 것이다. 검증되지 않은 에이전트가 보안 측면에서 치명적인 리스크로 작용할 위험이 있기 때문이다.
21일 AI 업계에 따르면 오픈AI는 최근 글로벌 인증·보안 표준을 수립하는 비영리 단체인 FIDO 얼라이언스 이사회에 합류했다. FIDO 얼라이언스는 기존의 아이디와 비밀번호 방식 인증을 넘어 지문·안면인식,패스키와 같은 인증 기술을 연구하고 표준을 정립하는 단체로,애플·구글·메타·마이크로소프트(MS) 등 주요 빅테크는 물론 주요 글로벌 보안 기업들이 가입해 있다. 한국 기업 중에는 SK텔레콤과 삼성전자 등이 회원이다.
오픈AI는 FIDO 얼라이언스 합류 후 소셜 미디어를 통해 “에이전틱 AI를 위한 인증 기술을 발전시키는 데 기여하기 위해 FIDO에 합류했다”며 “AI 에이전트가 사람을 대신해 행동하기 시작하면서 에이전트가 신뢰할 수 있고 명확히 사용자 의도에 따라 행동하도록 보장하기 위해서는 안전한 신원 인증 프레임워크가 필수적”이라고 밝혔다.
글로벌 보안업계 또한 지난해부터 이 같은 에이전트 신원 인증 기술에 주력하는 추세다.
MS는 기업이 에이전트에 ID를 부여하고,에이전트별로 어떤 데이터에 접근할 수 있는지를 관리할 수 있게 하는 솔루션인 ‘마이크로소프트 엔트라 에이전트 ID’를 지난해 공개했다. 마치 직원에게 사원번호를 부여한 뒤 직원별로 권한을 통제하는 방식과 유사하다.
신원 인증 특화 보안 기업인 옥타 또한 검증된 에이전트를 식별하고 권한을 통제할 수 있는 ‘옥타 포 AI 에이전트’ 솔루션을 이달 중 출시할 예정이다.
기업 입장에서는 확인되지 않은 에이전트가 사내 데이터에 접근하거나 많은 권한을 가진 에이전트가 해킹될 경우 피해가 커질 수 있기 때문에 선제 대응을 위해 인증 기술에 관심이 많다.
물론 AI 에이전트 등장 이전에도 디지털상에서 ‘봇’처럼 인간이 아닌 접근에 대한 관리 기술은 존재했다. 다만 이제는 AI가 인간 명령을 처리해주는 에이전트를 넘어 스스로 판단하고 다른 에이전트와 소통하는 에이전틱 AI로 진화하면서 신원 인증 또한 까다로워지고 있다.
국내에서는 블록체인 기반 신원 인증 기술 등을 개발한 라온시큐어가 업스테이지와 협력해 에이전틱 AI의 신원 검증과 권한 통제를 위한 ‘에이전틱 AI 매니지먼트’(AAM) 기술 개발에 나섰다. 라온시큐어는 에이전트별로 검증 가능한 신원과 역할 범위를 설정함으로써 에이전트가 허용된 권한 안에서만 작동하도록 하는 모델을 목표로 하고 있다.
한편에서는 이처럼 확인된 에이전트를 검증하는 기술을 개발한다면,다른 한편에선 ‘인간 여부’를 증명하는 기술 또한 부상하고 있다. AI가 인간의 목소리,움직임까지 모방하는 수준으로 발전하면서 실제 인간임을 분간하는 것 또한 어려워지고 있기 때문이다.
샘 올트먼 오픈AI CEO가 주도하는 ‘월드’ 프로젝트가 최근 미국 샌프란시스코에서 열린 ‘리프트 오프’ 행사에서 신원 인증 시스템 ‘월드 ID’를 공개한 것이 대표적이다. 월드 ID는 홍채를 스캔하는 기기를 통해 인간임을 인증한 후 암호화된 디지털 신원을 다양한 플랫폼에서 활용하는 구조다.
이는 비대면 회의 서비스 ‘줌’에 탑재돼 회의 상대방이 인간임을 확인할 수 있게 하거나,콘서트 예약 서비스에서 인간임을 증명한 사람만 표를 구매할 수 있게 하는 등의 방식으로 활용된다.