미국의 인공지능 기업 오픈AI가 최근 충격적인 사실을 공개했습니다. 중국 정부 관계자가 챗GPT를 악용해 일본 총리를 공격하려 했다는 내용입니다.
오픈AI가 발표한 보고서를 살펴보면, 지난해 10월 중국 법을 집행하는 기관과 연결된 사람이 다카이치 사나에 일본 총리를 겨냥한 조직적인 음해 활동을 챗GPT로 계획했다고 합니다. 이 작전은 ‘사이버특수작전’이라는 이름으로 불렸습니다.
구체적인 계획 내용을 보면, 다카이치 총리를 비난하는 글을 인터넷에 올리고, 항의 메일을 대량으로 보내며, 미국이 일본에 부과한 관세 문제를 활용해 반일 감정을 부추기려 했던 것으로 드러났습니다. 이른바 ‘비밀 영향력 작전’을 펼치려 셈입니다.
오픈AI는 계정이 중국 법집행 기관과 관련 있다고 판단했습니다. 그래서 작전 계획 단계에서 챗GPT 사용 요청을 거부하고 해당 계정을 차단했다고 밝혔습니다. 하지만 같은 사용자가 나중에 비슷한 내용의 문서 편집을 요청한 점으로 미루어, 챗GPT 없이도 공작이 실행됐을 가능성이 있다고 덧붙였습니다.
오픈AI 조사팀의 니모 수석 연구원은 “이런 사이버 작전은 많은 인력과 자원이 투입되는, 마치 산업처럼 조직화된 활동 형태를 보이고 있다”고 설명했습니다.
실제로 엑스(옛 트위터) 같은 소셜미디어에는 문서에 나온 ‘우익공생자’라는 해시태그를 다카이치 총리 비판 게시물과 유튜브 영상이 올라온 것이 확인됐습니다. 다만 관련 유튜브 영상 조회수는 자릿수에 불과했고, 게시물도 거의 반응을 얻지 못해 실제 영향력은 매우 제한적이었다고 오픈AI는 분석했습니다.
보고서는 또한 중국 사법 당국이 반체제 인사의 가짜 부고와 무덤 사진을 만들어 퍼뜨리거나, 인권 단체를 공격하는 건이 넘는 다양한 전술을 사용해왔다고 지적했습니다. 과정에서 챗GPT뿐만 아니라 딥시크 같은 중국 자체 인공지능 모델도 함께 활용된 것으로 보인다고 설명했습니다.
한편 중국 외교부의 마오닝 대변인은 정례 기자회견에서 관련 질문에 대해 “해당 상황을 알지 못하며 이런 주장을 뒷받침할 근거도 보이지 않는다”고 반박했다고 블룸버그 통신은 전했습니다.
이번 사건은 인공지능 기술이 정치적 목적으로 악용될 있다는 우려를 다시 한번 확인시켜주었습니다. 오픈AI는 앞으로도 이러한 악의적 사용 시도를 지속적으로 감시하고 차단할 것이라고 밝혔습니다.
