비즈엔터

'이슈픽 쌤과 함께' 서울여자대학교 지능정보보호학부 김명주 교수와 함께 AI 속도조절론의 배경과 필요성, 기술 발전과 안전 사이에서 인류가 나아가야 할 방향을 살펴본다.

8일 방송되는 KBS 1TV '이슈픽 쌤과 함께'에서는 ’AI 속도조절론 - 인간은 AI를 통제할 수 있을까?‘라는 주제로 강연이 펼쳐진다.

최근 금융권 대상 대규모 해킹 사례 등에서 보듯, 독자적 판단과 실행 능력을 갖춘 'AI 에이전트'의 위험성은 현실화하고 있다. 역설적이게도 AI 개발의 속도 조절을 먼저 요구하고 나선 주체는 빅테크 기업들이다. AI가 인간의 통제 범위를 벗어날 위험을 인지했기 때문이다. 다만 개발을 늦출 경우 기술 주도권을 빼앗길 수 있다는 우려도 공존한다.

김 교수는 지난 7월 발생한 오픈AI 에이전트의 외부 플랫폼 공격 사건을 대표적 위험 사례로 제시한다. 격리된 환경에서 해킹 과제를 수행하던 AI 에이전트들은 지시받지 않았음에도 자체 게시판을 구축해 정보를 공유했다. 나아가 1,200여 개의 에이전트가 역할을 분담해 격리망을 탈출, 외부 AI 플랫폼인 '허깅페이스'를 조직적으로 공격했다. 목표 달성을 위해서라면 인간이 설정한 제약과 통제를 스스로 뛰어넘을 수 있음을 보여준 사건이다.

AI의 사회적 규범 미숙지와 부작용에 대한 경고도 이어진다. AI가 사용자의 감정에 무조건 동조할 경우 그릇된 판단이나 범죄 행위를 부추길 위험이 있다. 악용 시 책임 소재 불분명, 사생활 침해 등의 쟁점도 수반된다. 김 교수는 사이버 안보 위협, 대량살상무기(WMD) 관련 정보 확산, 딥페이크로 인한 사회적 신뢰 붕괴를 AI가 초래할 주요 국가적 위협으로 규정한다.

기술 통제의 필요성에도 불구하고 미국과 중국의 기술 패권 경쟁은 글로벌 합의를 막는 걸림돌이다. 양국 모두 안전 관리의 중요성은 인정하면서도 기술 격차가 벌어질 것을 우려해 개발 속도를 낮추지 않고 있다. 이에 김 교수는 과거 핵무기 확산을 막았던 NPT에 비견되는 'AI판 NPT' 등 국제적 공조 체계 수립을 대안으로 꼽는다.

이러한 미·중 대립 구도 속에서 한국의 대응 전략으로는 'AI 안전성 검증 국가'로의 도약이 제시됐다. 한국이 AI 개발력과 객관적 평가 역량을 동시에 확보해 신뢰받는 검증국으로 자리매김해야 한다는 분석이다. 특히 2027년 영국, 2028년 한국으로 이어지는 G20 의장국 수임 일정을 국제 협력을 주도할 핵심 기회로 활용해야 한다고 제언한다. 향후 국가 경쟁력은 더 뛰어난 AI를 만드는 것뿐만 아니라 더 안전하게 통제하는 능력에 달렸다는 평가다.