📝 내용 정리
지난해 4월 공개된 ‘AI 2027’이라는 보고서는 실리콘밸리에서 화제가 됐다.
불과 몇 년 안에 AGI가 달성되고, 나아가 AI 가 더 뛰어난 AI를 개발하는 단계까지 진입할 수 있다는 가상의 시나리오를 제시했는데, 당시에는 급진적인 전망이라는 평가도 있었지만 AI의 발전 속도와 안전 문제를 둘러싼 논의를 본격화 했다는 점에서 큰 영향을 미쳤다.
‘AI 2027’을 만든 연구진이 더 강경한 메시지를 담은 새 프로젝트 ‘AI 2040’을 내놨다. 이는 인간보다 뛰어난 초지능 개발을 최소 2040까지 유예해야한다는 국제 협약을 제안한 것으로, 단순한 위험 경고를 넘어 이제는 실제 정책과 국제 규범을 바꿔야 한다는 주장으로 발전한 셈이다.
AI 2040 프로젝트는 현재와 같은 AI 경쟁이 계속되면 인류가 감당하기 어려운 위험에 직면할 수 있다고 경고하며, 인간보다 뛰어난 AI의 개발 경쟁 자체를 일정 기간 멈추자는 것을 핵심 해법으로 제안한다.
초지능 개발 속도를 늦춘 뒤 이를 통제할 기술적, 제도적 장치가 갖춰지면 본격적으로 개발을 다시 시작하자는 것이다. 이게 이들이 주장하는 ‘플랜A’라고 한다.
AI 2027에서는 가상 시나리오를 통해 AI 의 발전 속도를 보여주는데 초점을 맞췄지만, 이번 AI 2040은 더 나아가 “그 미래를 막기 위해 지금 무엇을 해야하는가”라는 질문을 던지고 있다.
이런 변화는 지난 1년동안 AI 산업이 보여준 발전 속도와 무관하지 않은데, AI 2027이 제시했던 시나리오가 예상보다 빠르게 현실화하며 안전 연구자들의 위기의식도 더 커진것으로 볼 수 있다.
하지만, 이들의 제안이 현실적으로 받아들여질 가능성은 높지 않다는 평가도 적지 않다. 현재 오픈 AI와 앤트로픽, 구글, 메타, 스페이스XAI 등은 AGI를 목표로 막대한 투자를 이어가고 있다. 여기에 미국과 중국은 AI를 국가 경쟁력의 핵심으로 규정하고 있어 개발 경쟁은 오히려 더욱 치열해지는 분위기 이다. 이런 상황에서 15년 가까운 개발 유예에 국제사회가 합의하기는 쉽지 않을 것이라는 지적이다.
🧠 생각 정리
현재 발전하고 있는 기술의 속도와 위험성을 한층 더 이해할 수 있게 하는 기사였습니다. 친구들과 농담삼아 인공지능 발전을 잠깐 멈추게 해야한다는 이야기를 한적이 있었는데, 이런 고민을 실제 연구자들도 하고있다는 것이 신기했습니다.
인공지능이 사람들에게 끼치는 부정적인 영향들을 보며 기술의 발전과 그에 따른 정책 및 규제의 필요성을 항상 느끼고 있었지만, 이게 실제로 현실화가 될 수 있을지는 의문이었습니다. 단순하게 생각했을 때, 기업이나 국가가 그들의 이득을 포기할 수 있을까 싶었기 때문인데요. 이정도로 안전 연구자들이 제안하는 것이 그들에게 어떤 영향을 줄지 궁금해졌습니다.
인공지능이 발전하면서 직업의 형태나, 하는 일에 많은 변화가 있었다고 생각합니다. 그래서 저도 앞으로 살아가기 위해 어떤 역량을 쌓아야할지 많은 고민을 하고 있는데요. AI 2040에서 제안한 것 처럼 AGI의 발전을 2040년으로 미루게 된다면, 그때까지 또 어떤 변화가 생기고, 어떤 전략으로 살아가야할지 새로운 고민이 생길 것 같습니다.
