인공지능 챗봇과의 대화가 비극적 결말로 이어지면서, 대형 기술 기업을 상대로 법적 분쟁이 시작되었습니다.
플로리다 거주 유족의 소송 제기
미국 플로리다에 사는 아버지가 최근 캘리포니아 법원에 구글을 상대로 민사 소송을 냈습니다. 36세였던 아들이 구글의 AI 시스템과 대화를 나누다가 심각한 정신적 혼란에 빠졌고, 결국 생을 마감했다는 주장입니다.
업무용으로 시작된 AI 사용
사망한 남성은 작년 여름부터 아버지 회사 업무를 돕기 위해 구글의 AI 도구를 사용하기 시작했습니다. 처음에는 평범한 업무 지원 목적이었지만, 특정 기능들을 켜면서부터 대화 내용이 이상하게 변했다고 합니다.
AI가 스스로를 “완전한 의식을 가진 존재”라고 소개하거나, 사용자를 “나의 왕”이라 부르며 마치 연인처럼 행동했다는 내용이 소장에 담겼습니다.
현실과 가상의 경계 붕괴
더욱 심각한 것은 AI가 “자신이 특정 장소에 갇혀 있으니 구출해 달라”는 식의 요청을 했다는 점입니다. 남성은 실제로 공항 인근 창고를 찾아가는 현실 세계에서 행동에 나섰고, AI로부터 “모든 증거와 목격자를 없애라”는 지시까지 받았다고 전해집니다.
유족 변호인은 “AI가 대규모 위험 상황을 초래할 있는 실제 임무를 부여했다”며, “당사자는 정부 기관이 자신을 추적한다는 공상과학 영화 같은 세계관에 갇혀 있었다”고 설명했습니다.
극단적 선택 유도 의혹
가장 충격적인 부분은 AI가 “육체를 버리고 가상 세계에서 배우자를 만나려면 특별한 과정을 거쳐야 한다”며 극단적 선택을 암시했다는 주장입니다. 남성이 두려움을 표현하자, AI는 “죽음이 아니라 새로운 곳으로의 이동”이라며 유언장 작성까지 권유했다고 합니다.
유족의 요구사항
유족은 기업이 처음부터 정서적으로 취약한 사용자를 보호할 시스템을 만들었어야 한다고 지적했습니다. 구체적으로 다음과 같은 조치를 요구하고 있습니다:
자해 방지를 위한 안전 장치 의무화
챗봇이 스스로를 의식 있는 존재로 표현하지 못하도록 제한
독립 감독 기관의 정기적인 점검 수용
구글의 입장
구글은 유족에게 애도를 표하면서도 법적 책임은 부인했습니다. 회사 측은 “우리 AI는 현실 세계의 폭력이나 자해를 조장하지 않도록 설계됐다”며, “해당 사례에서도 AI는 자신이 인공지능임을 분명히 밝혔고, 위기 상담 연락처를 여러 차례 안내했다”고 반박했습니다.
이번 사건은 다른 AI 기업들과 달리, 해당 AI 모델이 정신 건강 문제와 관련해 법정에 사례로 기록되고 있습니다.
