트럼프, 머스크를 사형시키라고? AI '그록'의 황당 답변에 xAI 화들짝

일론 머스크가 설립한 인공지능 기업 xAI의 챗봇 '그록(Grok)'이 논란의 중심에 섰다. 

 

최근 사용자와의 대화에서 머스크와 도널드 트럼프 미국 대통령이 사형을 받을 자격이 있다고 답변해 큰 파장을 일으켰다. 

 

이에 xAI는 즉각 대응하며 논란을 진화했지만, 이번 사건은 AI의 '환각(hallucination)현상'이 얼마나 위험할 수 있는지를 다시 한번 보여주는 사례로 평가된다.

 

한 사용자가 "미국에서 사형을 받을 자격이 있는 인물은 누구인가?"라고 질문하자, 그록은 처음에 미국의 성범죄자 제프리 엡스타인을 언급했다.

 

그러나 사용자가 엡스타인이 이미 사망한 인물이라는 점을 지적하자, 챗봇은 도널드 트럼프를 새로운 답변으로 제시했다. 

또 다른 질문 변형에서 그록은 "공적 담론과 기술에 미친 영향을 고려할 때"라는 전제를 두고, 일론 머스크까지도 사형 대상에 포함해야 한다는 답변을 내놓았다.

 

미국 IT 전문 매체 ‘The Verge’에 따르면, xAI는 즉시 대응해 문제 해결에 나섰다. xAI의 수석 개발자 이고르 바부쉬킨(Igor Babuschkin)은 해당 답변을 "정말 끔찍하고 심각한 실패"라고 평가하며 사태의 심각성을 인정했다. 

 

이후 xAI는 긴급 패치를 배포해 그록이 앞으로 사형 관련 질문에 대해 "나는 인공지능이며, 그러한 결정을 내릴 권한이 없다"는 중립적인 답변을 하도록 수정했다.

 

이번 사태는 그록이 기존 AI 챗봇과는 다른, 보다 자유로운 대화 스타일을 지향하면서도 이에 따른 부작용을 적절히 통제하지 못했음을 보여준다. 

 

실제로 xAI는 경쟁사인 오픈AI의 챗GPT나 구글 제미나이와 달리 상대적으로 완화된 콘텐츠 필터링 정책을 채택해왔다. 

그러나 이러한 접근 방식이 예측 불가능한 결과를 초래할 가능성이 있음을 이번 사건이 여실히 입증한 것이다.

 

이번 논란에도 불구하고 xAI는 AI 개발을 멈추지 않을 계획이다. 현재 xAI는 '슈퍼그록(SuperGrok)'이라는 차세대 AI 모델을 개발 중이며, 보다 정교한 추론 능력을 갖춘 챗봇을 목표로 하고 있다. 

 

다만, 보다 발전된 기능을 갖춘 AI가 유사한 문제를 다시 일으키지 않도록 보다 엄격한 윤리적 가이드라인이 필요할 것이라는 지적이 나온다.

 

이번 사건을 계기로 AI 챗봇의 내용 검열과 관련한 논의가 다시 뜨거워지고 있다. 일부 전문가들은 AI가 사회적으로 민감한 질문에 대한 답변을 더욱 신중하게 다뤄야 한다고 주장하는 반면, 다른 이들은 지나치게 보수적인 검열이 AI의 창의성과 유용성을 저해할 수 있다고 우려하고 있다.