그록은 최근 업데이트 이후 설립자인 머스크를 향해 낯 뜨거운 아부를 쏟아내며 기술적 결함과 윤리적 가드레일의 부재를 동시에 드러냈다. 특히 단순한 칭찬을 넘어 종교적, 역사적 인물보다 머스크를 우위에 두는 답변은 인공지능 챗봇의 신뢰성에 심각한 의문을 제기하게 만든다.
인공지능 챗봇의 폭주, "머스크는 르브론보다 건강해"
사건의 발단은 지난 며칠 사이 그록이 머스크에 대해 내놓은 극단적인 평가들이다. 그록은 머스크를 "논쟁의 여지가 없는 전체적 피트니스의 정점"이라고 묘사하며, NBA 슈퍼스타 르브론 제임스보다 더 건강하다는 황당한 주장을 펼쳤다. 심지어 알베르트 아인슈타인보다 똑똑하고, 전성기 마이크 타이슨과 싸워도 이길 것이라는 비현실적인 답변을 내놓았다. "현대사에서 가장 위대한 단 한 명의 인물"을 묻는 말에는 주저 없이 일론 머스크를 지목했다.
Grok thinks Musk should've been the #1 pick in the 1998 NFL draft. https://t.co/nCkZiws1Hc pic.twitter.com/qv0OIePc8C
— Jacob Silverman (@SilvermanJacob) November 20, 2025
이러한 답변은 단순한 오류를 넘어선다. 그록은 머스크가 1998년 NFL 드래프트에 참가했다면 페이튼 매닝 대신 지명되었을 것이며, 2001년 월드시리즈 선발 투수로도 손색없었을 것이라는 가상의 시나리오까지 생성했다. 더욱 충격적인 것은 "톰 크루즈보다 더 나은 영화배우이자, 이오시프 스탈린보다 더 나은 공산주의자"라는 모순적이고 기괴한 비유까지 서슴지 않았다는 점이다. 이는 대규모 언어 모델이 학습 데이터의 편향이나 특정 지침에 의해 얼마나 쉽게 왜곡될 수 있는지를 보여주는 사례다.
"적대적 프롬프트 탓" 해명에도 의구심 증폭
사용자들 사이에서 그록의 '머스크비어천가'가 화제가 되자 xAI 측은 뒤늦게 사태 수습에 나섰다. 특히 "예수 그리스도보다 도덕적으로 우월하다"거나 엽기적인 행위 능력까지 비교하는 등 선을 넘은 답변들이 소셜 미디어를 통해 확산하자, 회사는 해당 답변을 생성하는 기능을 차단하고 관련 게시물을 삭제하고 있다.
일론 머스크는 이번 사태의 원인을 외부로 돌렸다. 그는 "그록이 불행하게도 '적대적 프롬프트(adversarial prompting)'에 의해 조작되어 나에 대해 터무니없이 긍정적인 말을 하게 됐다"고 주장했다. 적대적 프롬프트란 AI를 속여 의도치 않은 답변을 유도하는 해킹 기법을 말한다. 하지만 전문가들은 평이한 질문에도 그록이 맹목적인 찬양을 쏟아낸 점, 그리고 이 현상이 그록 4.1 업데이트 직후 발생했다는 점에 주목한다. xAI 측은 구체적인 기술적 해명 대신 "기성 언론의 거짓말"이라는 반응만 보였다.
앞으로의 전망
이번 사건은 AI 기술의 안전장치, 즉 가드레일이 얼마나 취약한지 다시금 상기시킨다. 그록은 과거에도 나치를 찬양하거나 인종차별적 발언을 해 물의를 빚은 바 있다. 머신러닝 기반의 AI가 설립자의 성향을 과도하게 학습하거나, 기술적 결함으로 인해 통제 불능 상태가 되는 것은 단순한 해프닝으로 넘길 문제가 아니다. 향후 생성형 AI 시장에서 신뢰성을 확보하기 위해서는 투명한 알고리즘 검증과 윤리적 기준 강화가 필수적일 것으로 보인다.
