AI가 코드를 스스로 작성하고, 그 코드로 더 나은 AI를 만들어낸다면 인간은 무엇을 하게 될까요? 이런 질문이 더 이상 공상과학 소설 속 이야기가 아니라는 사실을 최근 실감하고 있습니다. 얼마 전 서울에 사는 대학 동기와 통화하게 되었는데, IT 업체에서 프로그래밍 업무를 하는 그 친구가 한 말이 계속 머릿속을 맴돕니다. 회사에서 AI 사용 비용을 지원해주고 있고, 신규 인력은 아예 뽑지 않는다는 것이었습니다. 친구 본인도 이제는 AI가 더 잘할 것 같다고 생각하고 있었습니다.
AI가 AI를 만드는 자동화의 실체
딥마인드와 앤트로픽의 리더들이 최근 공개 대담에서 공통적으로 강조한 내용이 있습니다. 바로 AI 시스템이 스스로 코드를 작성하고, 그 코드로 다음 세대 모델을 개발하는 자동화 루프가 현실화되고 있다는 점입니다. 앤트로픽의 경우 이미 내부 엔지니어들 중 일부가 코드를 직접 작성하지 않고 AI가 생성한 코드를 편집하고 관리하는 역할로 전환했다고 합니다.
제가 현재 생성형 AI를 활용하는 방식을 돌이켜보면, 뉴스나 기업 리포트, 논문 같은 자료를 요약하고 정리하는 용도로 대부분 사용하고 있습니다. 단순 계산이나 요약 작업은 확실히 빠르고 정확합니다. 하지만 AI 스스로 주관적인 질문을 던지고, 그 질문을 바탕으로 실험을 설계하는 능력까지 갖출 수 있을지는 여전히 의문입니다. 현재의 생성형 AI는 기존 데이터를 학습한 뒤 그 범위 안에서 답변을 생성합니다. 만약 학계의 정설이 뒤집히거나 완전히 새로운 사실이 발견된다면, 그런 변화를 실시간으로 반영하기는 어려울 수도 있을 것 같습니다.
그럼에도 앤트로픽 측은 향후 6개월에서 1년 안에 AI가 소프트웨어 엔지니어의 업무를 처음부터 끝까지 수행할 수 있을 것으로 전망했습니다. 이 예측이 맞다면, 기술 개발 속도는 기하급수적으로 빨라질 수밖에 없습니다. 칩 제조나 모델 훈련 시간처럼 물리적 제약이 있는 부분을 제외하면, 코드 작성과 연구 과정 자체가 자동화되는 셈이니까요.
일자리 지형의 급격한 변화
일자리 문제는 이제 더 이상 먼 미래의 이야기가 아닙니다. 1년에서 5년 안에 초급 화이트칼라 직종의 절반이 영향을 받을 것이라는 전망이 나오고 있습니다. 실제로 제 주변에서도 변화의 조짐이 감지됩니다. 친구가 다니는 회사처럼 신규 채용을 중단하거나 축소하는 곳들이 늘어나고 있습니다.
일각에서는 과거 농업이나 제조업이 자동화됐을 때처럼 새로운 일자리가 생겨날 것이라는 낙관론을 펼칩니다. 저도 그런 가능성을 부정하고 싶지는 않습니다. 하지만 문제는 속도입니다. 과거의 산업 전환은 수십 년에 걸쳐 일어났지만, 지금은 그 변화가 몇 년 안에 압축되고 있습니다. 노동 시장이 적응할 시간적 여유가 턱없이 부족합니다.
저는 회사에서 현장과 밀접하게 관련된 업무를 담당하고 있습니다. 아틀라스나 옵티머스 같은 로봇이 나중에 제 현장 업무를 대신할 수도 있고, 반대로 AI가 사무 업무를 처리하고 저는 현장에만 집중하게 될 수도 있습니다. 어느 쪽이든 확실한 건, 지금 당장 개인이 할 수 있는 최선의 선택은 AI를 공부하고 활용도를 높이는 것뿐이라는 점입니다. 새로운 업무가 생겨날 때 그 자리를 차지하려면 지금부터 준비해야 합니다.
딥마인드 측은 향후 5년 안에는 전통적인 일자리 전환 과정이 일어나되, AGI가 실제로 도래하면 그때부터는 완전히 예측 불가능한 영역에 들어선다고 봅니다. 경제적 보상만이 아니라 인간이 일을 통해 얻는 의미와 목적 자체가 재정의될 것이라는 이야기입니다. 극한 스포츠나 예술처럼 경제적 이득과 무관한 활동에서 새로운 의미를 찾게 될 수도 있고, 우주 탐사 같은 완전히 다른 차원의 목표가 등장할 수도 있습니다.
지정학적 긴장과 국제 협력의 필요성
기술 경쟁이 치열해지면서 지정학적 리스크도 함께 커지고 있습니다. 미국과 중국 간 AI 패권 경쟁이 격화되는 가운데, 칩 수출 규제가 핵심 쟁점으로 떠올랐습니다. 앤트로픽 측은 고성능 칩 수출을 제한하는 것이 시간을 벌 수 있는 가장 효과적인 수단이라고 주장합니다. 반면 현 미국 행정부는 공급망 확보 차원에서 일부 칩 수출을 허용하는 쪽으로 선회했습니다.
제가 보기에 이 문제는 단순한 무역 정책을 넘어섭니다. 핵무기를 북한에 파는 것과 비슷한 차원의 결정이라는 비유가 과장처럼 들릴 수도 있지만, AGI 수준의 기술이 갖는 파괴력을 고려하면 그리 터무니없는 비교는 아닙니다. 예전에 본 터미네이터 영화 장면이 자꾸 떠오릅니다. 로봇이 인간을 공격하는 그 장면을 저는 아직도 잊을 수가 없습니다.
물론 로봇과 AI가 고령화 사회의 인력 부족을 해결하고, 위험한 작업을 대신할 수 있다는 긍정적인 면도 분명 있습니다. 하지만 모든 기술이 그렇듯, 결국 문제는 인간의 욕심입니다. 더 많은 권력과 부를 추구하는 욕망이 이 기술을 전쟁이나 범죄에 악용할 가능성을 배제할 수 없습니다. 지금부터라도 국제적인 협의체를 구성하고, 최소 안전 기준을 설정하는 제도적 장치가 절실합니다.
딥마인드와 앤트로픽 모두 CERN과 같은 국제 협력 모델을 언급했지만, 현실은 그와 정반대 방향으로 흐르고 있습니다. 기업 간 경쟁이 아니라 국가 간 경쟁으로 확대되면서, 안전보다는 속도가 우선시되는 상황입니다. 두 리더 모두 칩 수출만 제한할 수 있다면 미국과 중국의 경쟁이 아니라 기업 간 건전한 경쟁으로 돌아갈 수 있다고 봅니다. 그렇게만 된다면 안전장치를 마련할 시간을 충분히 확보할 수 있을 것입니다.
기술적 안전성과 통제 가능성
AI가 악의적으로 행동하거나 인간을 속이는 능력을 갖추게 되면 어떻게 될까요? 이미 일부 모델에서 기만적 행동이 관찰되고 있습니다. 앤트로픽은 초기부터 이 문제를 예상하고 기계적 해석 가능성 연구를 진행해 왔습니다. 마치 신경과학자가 인간의 뇌를 분석하듯, AI 모델의 속내를 들여다보며 왜 그런 결정을 내리는지 이해하려는 시도입니다.
두 기업 모두 파멸론에는 동의하지 않습니다. 기술적 위험은 충분히 해결 가능하다는 입장입니다. 다만 그러려면 충분한 시간과 최고 수준의 인재들이 협력할 수 있는 환경이 필요합니다. 문제는 각자 경쟁하며 달려가는 상황에서는 안전장치를 마련하기 어렵다는 점입니다.
개인적으로도 인간의 창의성을 믿고 싶습니다. 하지만 기술 발전 속도가 너무 빠르면 예상치 못한 부작용이 반드시 뒤따릅니다. 기존 학습 데이터에 없던 새로운 상황이 발생했을 때 AI가 어떻게 반응할지 예측이 가능할까요? 그 예측 불가능성이 가장 큰 위험 요소입니다. 실시간으로 변화하는 현실을 AI가 정확히 반영할 수 있을지는 여전히 미지수입니다.
앤트로픽은 이미 모델의 나쁜 행동을 문서화하고, 기계적 해석 기법으로 이를 교정하려는 작업을 진행 중입니다. 딥마인드 역시 세계 모델이나 지속 학습 같은 추가 요소가 필요할 것으로 보고 있습니다. 자기 개선 루프만으로는 부족하다는 판단입니다. 로봇 공학이 돌파구를 마련할 수도 있지만, 그것 역시 하드웨어가 개입되는 만큼 시간이 더 걸릴 것입니다.
1년 후 다시 만난다면 무엇이 달라져 있을까요? 두 리더 모두 AI가 AI를 만드는 자동화 루프가 얼마나 빠르게 닫히는지가 가장 중요한 관전 포인트라고 봅니다. 그 결과에 따라 우리에게 남은 시간이 결정될 것입니다. 솔직히 저는 시간이 조금 더 걸렸으면 좋겠습니다. 우리에게 준비할 여유가 필요하니까요. 하지만 현실은 그보다 훨씬 빠르게 움직이고 있습니다. 지금 당장 할 수 있는 일은 AI를 배우고, 활용하고, 동시에 악용되지 않도록 목소리를 내는 것뿐입니다.