브래드 거스트너 “AI 안전 중요하지만 개발 중단은 더 큰 위험”

거스트너 AI 멸망론은 과도한 공포 조장

알티미터 캐피털의 브래드 거스트너 대표가 최근 실리콘밸리에서 다시 확산하고 있는 인공지능의 인류 멸망 가능성에 대해 안전 문제를 무시해서는 안 되지만 기술 개발 자체를 중단하거나 지나치게 제한하는 방향으로 논의가 흘러가는 것은 더 큰 위험을 만들 수 있다고 주장했다.

거스트너는 CNBC와의 인터뷰에서 최근 앤트로픽을 떠난 연구원이 제기한 AI 위험론을 겨냥해 일부 주장이 현실에서 지나치게 동떨어진 과장된 표현으로 전달되고 있다고 비판했다. 특히 인류 멸망 가능성을 앞세워 대중과 규제기관의 공포를 자극하는 방식에는 정치적 의도가 섞여 있을 수 있다며, AI 산업이 안전성을 무시한 채 무작정 개발 경쟁을 벌이고 있다는 묘사는 사실과 다르다고 말했다.

논란은 앤트로픽 연구원으로 일했던 제이컵 콕슨이 회사를 떠나면서 AI 기업들이 초지능 개발 경쟁 과정에서 인류의 안전을 놓고 도박하고 있다는 취지의 글을 공개하면서 커졌다. 이후 앤트로픽과 다른 AI 기업의 연구원들도 첨단 AI가 장기적으로 통제 불가능한 수준에 도달할 가능성을 공개적으로 언급하면서 논쟁이 확산됐다.

앤트로픽의 에반 허빙거는 AI가 향후 인류 멸망으로 이어질 가능성을 10% 이상으로 본다는 입장을 다시 밝혔으며, 스스로 연구하고 성능을 개선하는 AI 시스템이 등장할 경우 기존과 다른 종류의 위험이 생길 수 있다는 우려가 AI 업계 내부에서도 제기되고 있다.

거스트너 역시 AI가 새로운 위험을 만들 가능성 자체를 부정하지는 않았다. 다만 위험 가능성과 실제 대응 상황을 구분하지 않은 채 곧바로 개발 중단이나 광범위한 규제로 연결하는 것은 적절하지 않다는 입장이다.

AI 기업 안전 투자 과거 기술보다 훨씬 크다고 강조

거스트너는 자신이 실리콘밸리에서 활동한 약 25년 동안 새로운 기술이 본격적으로 보급되기 전부터 이 정도 규모의 자금과 인력이 안전 문제에 투입된 사례를 거의 보지 못했다고 말했다.

인터넷과 소셜미디어가 성장하던 초기와 비교하면 현재 주요 AI 기업들은 모델 안전성 평가와 사이버보안, 오용 방지, 정렬 연구 등에 훨씬 많은 자원을 투입하고 있으며 정부의 국가안보 기관과도 관련 정보를 공유하고 있다는 설명이다.

첨단 AI 모델은 공개되기 전 기업 내부에서 별도의 안전성 평가를 거치고 있으며, 미국 정부도 프런티어 모델이 사이버 공격 등 국가안보 위험을 높일 수 있다는 판단 아래 사전 검토와 정보 공유 체계를 확대하고 있다. 미국은 올해 프런티어 AI 모델을 대상으로 자발적인 출시 전 사이버보안 검토 체계를 마련했으며, 미·중 당국도 AI를 이용한 사이버 공격과 첨단 모델의 안전 문제를 논의하는 별도 대화 채널을 추진하고 있다.

거스트너는 이런 조치들이 이미 진행되고 있음에도 최근 논쟁만 접하면 AI 기업들이 안전 문제를 완전히 외면한 채 성능 경쟁만 벌이는 것처럼 보일 수 있다고 지적했다. 그는 안전 투자를 계속 강화하는 것과 기술 개발을 사실상 멈추는 것은 다른 문제라고 강조했다.

알티미터 캐피털은 오픈AI와 앤트로픽을 비롯해 Glean, Databricks 등 주요 AI 기업에 투자하고 있다. 거스트너는 AI 산업의 장기 성장 가능성을 강하게 지지해온 동시에 안전 문제에 대한 선제적인 투자가 필요하다는 입장도 지속적으로 밝혀왔다.

미국만 개발 늦추면 중국과 경쟁에서 더 큰 위험

거스트너가 가장 강하게 경계한 것은 미국만 AI 개발 속도를 늦추는 상황이다. 중국을 비롯한 경쟁국이 첨단 AI 개발을 계속하는 가운데 미국 기업에만 강력한 개발 제한이나 일방적인 중단 조치가 적용되면 국가안보 측면에서 오히려 더 큰 위험이 발생할 수 있다고 주장했다.

그는 AI 경쟁이 단순히 기업 간 기술 경쟁에 그치는 것이 아니라 경제 성장과 일자리, 군사·사이버 능력, 국가안보 전반과 연결돼 있다고 설명했다. 미국이 데이터센터와 AI 모델 개발을 스스로 제한하면 글로벌 AI 경쟁에서 우위를 경쟁국에 넘길 수 있다는 것이다.

거스트너는 이전에도 미국의 데이터센터 건설을 중단하거나 제한하는 정책이 시행될 경우 AI 투자뿐 아니라 경제 성장 자체에 직접적인 영향을 줄 수 있다고 주장해왔다. AI 관련 데이터센터 투자와 생산성 향상이 현재 미국 경제에서 큰 비중을 차지하고 있는 만큼 대규모 개발 중단은 투자와 고용에도 영향을 줄 수 있다는 설명이다.

미국과 중국 모두 첨단 AI의 안전 문제를 국가안보 사안으로 다루기 시작했다. 양국은 AI가 자율적으로 사이버 공격을 수행하는 상황과 프런티어 모델의 통제 문제 등에 대해 논의를 확대하고 있으며, 미국 정부는 중국이 미국 수준의 고성능 모델을 확보하는 상황 역시 주요 안보 위험으로 보고 있다.

거스트너는 이런 환경에서 필요한 것은 AI 개발을 포기하는 것이 아니라 안전망을 강화하면서 기술 우위를 유지하는 것이라고 주장했다.

데이터센터 지역사회 설득에는 AI 업계 실패 인정

다만 AI 산업에 대한 대중의 반발을 단순한 오해로 치부해서는 안 된다고 말했다. 데이터센터 건설이 빠르게 확대되면서 지역 주민들이 전기요금과 수도 사용량, 일자리 변화, 환경 부담을 우려하고 있는데도 AI 기업들이 이를 충분히 설명하지 못했다는 것이다.

거스트너는 데이터센터가 들어서는 지역 주민들이 자신과 가족의 일자리가 어떻게 달라질지, 전력요금이 얼마나 오를지, 지역의 물과 전력 인프라에 어떤 부담이 생길지 걱정하는 것은 자연스러운 반응이라고 말했다.

최근 미국 곳곳에서는 AI 데이터센터가 대규모 전력과 용수를 사용한다는 이유로 지역사회 반발이 커지고 있다. AI가 사무직과 전문직을 포함한 기존 일자리 일부를 대체할 수 있다는 우려와 AI 투자로 발생한 부가 기술기업과 자본시장 투자자에게 집중될 수 있다는 불만도 함께 나타나고 있다.

거스트너는 기술기업들이 AI가 국가와 기업에 가져올 경제적 이익을 설명하는 데 집중한 반면, 데이터센터가 들어서는 지역 주민들이 실제로 느끼는 비용과 불안에 대응하는 데에는 충분한 노력을 하지 않았다고 인정했다.

그는 AI 산업이 사회적 신뢰를 유지하려면 기술의 장점을 홍보하는 데 그치지 않고 전력과 물 사용, 지역사회 투자, 고용 변화와 같은 문제에 대해 보다 직접적인 해법을 제시해야 한다고 강조했다.

AI 성장 과실 국민에게 나누고 직업 전환 지원해야

거스트너는 AI 확산에 따른 경제적 이익을 더 많은 미국인이 직접 공유하는 구조가 필요하다고 말했다. 대표적인 방안으로 아동과 청소년을 위한 장기 투자계좌를 통해 미국 기업과 AI 산업 성장의 경제적 과실을 국민이 직접 보유하도록 하는 방식을 제시했다.

그는 ‘트럼프 계좌’로 불리는 아동 투자계좌 제도의 주요 설계자 가운데 한 명으로, AI와 기술기업이 이들 계좌에 자금을 지원하면 AI 발전으로 발생하는 자산 가치 상승을 일반 가계도 함께 누릴 수 있다고 주장해왔다.

거스트너는 과거에도 AI로 인해 일부 직업이 줄어드는 과정에서 국민이 기술 발전의 부정적인 영향만 경험해서는 안 되며, 자본시장 참여를 통해 경제적 상승 효과도 함께 가져갈 수 있어야 한다고 강조했다.

일자리 문제에 대해서는 자산 지원만으로 충분하지 않다고 봤다. AI가 기존 업무를 자동화하면서 직업 구조가 변하는 만큼 새로운 산업과 직무로 이동할 수 있도록 대규모 직업 재교육과 기술 교육도 병행해야 한다는 입장이다.

거스트너는 AI 안전을 위한 투자와 규제 논의 자체는 계속돼야 하지만, 인류 멸망 가능성을 단기간의 확정적인 미래처럼 제시해 개발을 중단시키는 방향으로 여론이 움직이는 것은 경계해야 한다고 주장했다. 중국 등 다른 국가들이 개발을 계속하는 상황에서 미국만 속도를 늦추는 것은 국가안보 위험을 키울 수 있으며, 동시에 AI 산업은 데이터센터의 전력·용수 부담과 일자리 변화, 부의 편중에 대한 대중의 우려를 해결하기 위한 경제적 보상과 직업 전환 정책을 함께 마련해야 한다고 밝혔다.