알리바바의 최신 오픈소스 대형언어모델(LLM) '큐원 3.8 27B'를 바탕으로 안전성 제약을 대폭 줄인 변형 모델이 공개됐다. 애플 실리콘의 통합 메모리를 활용하면 별도의 CUDA 기반 GPU나 클라우드 서버 없이 개인용 맥에서 직접 구동할 수 있다는 것이 특징이다.</p>
<p data-source-line="4-4">커뮤니티 개발자 조나단 코레티는 최근 알리바바의 '큐원 3.8 27B'를 기반으로 안전성 정렬을 크게 낮춘, 이른바 '무삭제(Uncensored)' 버전을 허깅페이스를 통해 공개했다. 특히 애플 실리콘 맥에서 별도의 CUDA 환경이나 클라우드 서버 없이 직접 실행할 수 있도록 최적화돼, 고성능 AI 모델의 로컬 구동 장벽을 한층 낮췄다는 평가가 나온다.</p>
<p data-source-line="6-6">이번 모델은 'Qwen3.8-27B-Uncensored-GGUF'로, 큐원 3.8 27B를 추가로 학습하거나 별도의 대규모 훈련 데이터를 투입하지 않고 모델 가중치에 수학적·기술적 변환을 적용해 답변 거부를 유도하는 안전 가드레일을 약화한 '무력화(abliterated)' 방식으로 제작됐다. 개발자가 공개한 테스트에서는 유해 프롬프트 100개에 대한 거부가 원본 모델의 98회에서 12회로 감소한 것으로 나타났다. 다만 거부 행동이 완전히 사라진 것은 아니다. '무삭제'라는 표현은 모델의 모든 안전장치가 제거됐다는 의미라기보다 안전성에 관한 거부 반응을 크게 줄였다는 의미에 가깝다.</p>
<p data-source-line="8-8">이 모델의 가장 큰 특징은 애플 실리콘 기반 맥에서 구동할 수 있다는 점이다. 공개된 GGUF 파일은 2·4·6·8비트 등 다양한 양자화 형태로 제공되며, 애플 실리콘의 통합 메모리를 활용해 로컬에서 모델을 실행할 수 있다. MLX 환경에 맞춘 형태와 GGUF 형태가 제공돼 LM 스튜디오(Studio)나 올라마(Ollama) 같은 로컬 AI 실행 도구에서도 활용할 수 있다.</p>
<p data-source-line="10-10">기반 모델인 큐원 3.8 27B는 270억 개의 매개변수를 사용하는 밀집형(dense) 멀티모달 모델이다. 텍스트뿐 아니라 이미지와 영상을 입력할 수 있으며, 최대 26만2144토큰의 네이티브 컨텍스트와 도구 사용, 추론 모드 등을 지원한다. 따라서 단순한 챗봇을 넘어 코딩, 연구, 문서 분석, 장시간 에이전트 작업 등에 활용할 수 있다.</p>
<p data-source-line="12-12">다만 맥에서 실행한다고 해서 모든 사양에서 사용할 수 있는 것은 아니다. 가장 작은 양자화 모델도 16기가바이트(GB) 이상의 메모리가 필요하며, 모델 가중치뿐 아니라 운영체제와 긴 컨텍스트를 처리하기 위한 KV 캐시에도 통합 메모리가 사용된다. 특히 16GB 맥에서는 모델을 실행할 수 있어도 메모리 여유가 매우 적어 속도가 크게 떨어질 수 있다. 반면 64GB 수준의 통합 메모리를 갖춘 고사양 맥에서는 27B 모델을 훨씬 여유 있게 운용할 수 있다.</p>
<p data-source-line="14-15">이 같은 로컬 실행 능력은 사이버보안 분야에서 관심을 받을 것으로 보인다. 자체적인 강력한 거부 기능이 줄어든 만큼 보안 연구자들이 취약점 분석이나 침투 테스트 등에서 자유롭게 모델을 활용할 가능성이 있기 때문이다. 반대로 안전장치가 약해진 모델이 별도의 감독 없이 사용되면 악성 코드 생성이나 공격 지원 등 보안·윤리적 위험이 커질 수 있다는 우려도 제기된다.
