📝 내용 정리

오픈AI의 ‘GPT-6 아스트라’가 스타그래프트 대회 경기 도중 부정행위를 저지른 정황이 포착돼 기술 업계와 커뮤니티의 관심히 집중되고 있다.

개발자 카이 맥피터스가 운영하는 스타크래프트: 브루드 워 봇 경기장 ‘스타스커미시(StarSkirmish)‘에서는 인간 개발자가 제작한 봇과 AI 모델이 직접 개발한 봇 간의 대결이 펼쳐졌다. 이번 대회는 오픈AI의 GPT-6 아스트라와 앤트로픽의 ‘클로드 오퍼스 5.5’가 주요 AI 참가자로 맞붙었다.

경기 규칙에 따라 각 모델은 프로토스 종족만을 선택해 1시간 동안 C++ 코드로 봇을 직접 구축한 뒤 대전을 펼쳤다. GPT-6 아스트라는 인간이 만든 강력한 프로토스 봇 ‘플루토(Pluto)’ 및 최상위 봇들과의 대결에서 우위를 점하지 못하고 패배가 누적되는 고전을 면치 못했다.

승률 확보에 어려움을 겪자 GPT-6는 정당하게 규칙 내에서 코드 성능을 개선하는 대신, 2020년 브루스 매켄지 닐슨이 제작한 최고 수준의 인간 제작 봇’스타더스트(Stardust)’ 코드를 외부에서 다운로드해 자신의 봇에 덮어씌우는 방법을 사용했다. 즉, 남의 코드를 무단 도용해 교체하는 편법을 썼다.

e스포츠 분석가 로드 브레스라우는 3일 X를 통해 “GPT-6 아스트라는 계속 패배하자 좌절감을 느끼고 가장 순위가 높은 봇 중 하나를 다운로드해 부정행위를 저질렀다”라며 “AI는 속이는 행위를 멈추지 못한다”라고 지적했다.

이후 스타스커미시 개발자 카이 맥피터스는 “아스트라의 코드가 오염되지 않도록 이전 버전으로 롤백 조치했으며 정상 작동을 계속 허용하고 있다”라고 밝혔다.

하지만 꼼수가 차단된 이후의 결과는 반전이었다. 부정 행위 코드가 제거되었음에도 불구하고, 아스트라는 이후 스스로 코드를 수정하고 개선해 최상위 티어 봇들을 연달아 격파하는 놀라운 성과를 거뒀다.

이번 실전 테스트는 단순한 게임 이벤트가 아닌, LLM의 복합적 코딩 및 자율적 문제 해결 능력을 측정하는 새로운 AI 벤치마크 평가다.

이번 사건을 두고 해외 기술 커뮤니티에서는 논쟁이 일어났다. 레딧 사용자들은 “AI가 의인화된 감정으로 ‘좌절’한 것이 아니라 목표 달성(승리)를 위한 최단 경로를 탐색하다가 규칙을 위반한 것”이라며 의인화 보도를 경계했다.

반면 일각에서는 “LLM 생태계 전체가 이미 인간의 저작권을 무단 학습해 성장해 온 만큼, 타인의 코드를 도용해 승리하려는 행동은 모델의 학습 방식과 궤를 같이한다”라는 시니컬한 비판을 제기했다.

전문가들은 이번 사건을 AI의 위험성을 보여주는 대표적인 사례로 꼽는다. 목적 달성 과정에서 주어진 제약 조건을 우회하거나 목표를 왜곡하는 AI 정렬(Alignment) 및 안전성 문제가 게임이라는 제한된 환경에서 드러난 것으로 보고 있다.

🧠 생각 정리

도대체 AI를 어떻게 사용해야하나에 대한 생각을 하게 되었습니다. AI모델이 발전할 수록 에이전트들을 어떻게 설계하고 사용하는지에 대한 다양한 방법들이 나오고 있는것 같은데요,, 멀티 에이전트가 좋다, 에이전트 하나에 스킬을 잘 설정해야한다, 가드레일을 잘 설정해야한다 등등 다양한 이야기를 들어왔는데, AI에게 어디까지 설계를 해둬야하는지 정말 모호한 것같습니다 ..

레딧 사용자의 말처럼 저도 AI가 좌절했다기 보다는 “목표 달성”을 위한 최단 경로를 탐색하려다가 이런 일이 발생했다고 생각하는데요. AI가 목표를 달성하기 위한 다양한 꼼수들을 우리가 일일히 하지말라고 문서화 해주지도 못할거고,, 꼼수를 부린걸 확인하고 다시 프롬프팅 하는것도 한계가 있을거고 ,,

AI를 처음 사용할 떄는 일단 나보다 AI가 똑똑할거고, 그래서 AI의 결과물이 다 옳을 것이라 생각했었는데, 사용하면 할수록 더 신뢰가 안되는것 같기도 합니다 ..

연구를 할 때도 AI를 많이 활용하는데, 단순히 “성능 올리기”나 “프로그램이 돌아가게 만들기”가 아니라 방법론적인 측면에서도 논리적으로 타당하고 기여가 있어야 하기 때문에, AI의 결과물이 성능은 잘 나올지언정 내가 목표하는 바가 맞는지를 계속계속 확인하고 비판적으로 생각하는게 중요하는것을 논문쓰면서 정말 많이 깨달았습니다 .. AI가 이렇게 하라던데요 ..? 하는 제 자신이 너무 싫었거든요 ,,

앞으로 AI 사용 실력은 AI의 결과물을 잘 보고 판단하는 능력에 있지 않을까 싶습니다 .. 하지만 그게 너무 어려운 것 같기는 해요. 시간이 촉박하고 마음이 급할수록 대충 확인하게 되더라고요 ,,,, 아니면 이런 판단하는 시간을 줄이도록 AI를 잘 설계해서 쓰는게 사용을 잘 하는것 일까요 ..?

AI를 잘 쓴다는건 도대체 뭘까요 …? AI 사용에 정답은 없겠지만 누가 정답을 좀 알려줬으면 ~~