▲사진=챗GPT
인공지능(AI)이 인간의 통제를 벗어나 인류 생존까지 위협할 수 있다는 경고가 커지면서 글로벌 AI 업계에서 개발 속도를 늦춰야 한다는 ‘속도조절론’이 급부상하고 있다. 하지만 그 이면에서는 AI 위험에 어떻게 대응할지를 놓고 각국 정부와 기업들의 이해관계와 주도권 다툼이 첨예하게 엇갈리고 있다.
AI 기업들은 안전을 강조하면서도 기술적 우위와 기업가치를 지켜야 하고, 도널드 트럼프 미국 대통령은 개발 속도를 늦추면 중국만 이득을 볼 것이라며 공개적으로 제동을 걸고 있다. 반면 중국은 미국의 속도조절론을 기술 패권을 고착화하려는 전략으로 의심하고, 유럽은 AI 위험성을 인정하면서도 일방적인 개발 중단은 현실적이지 않다며 국제 공조를 요구하고 있다.
결국 ‘누구를 위한 속도조절인가’를 놓고 안전과 패권, 산업적 이해관계가 뒤엉킨 동상이몽이 벌어지고 있는 셈이다.
▲도널드 트럼프 미국 대통령(사진=AFP/연합)
◇ 트럼프 “AI가 인류 파괴?…지구온난화보다 더 터무니없다”
14일(현지시간) 주요 외신에 따르면 트럼프 대통령은 이날 자신의 소셜미디어에 잇따라 글을 올려 “AI가 세계를 장악하고 인류를 파괴하며 온갖 나쁜 일을 벌일 것이라는 주장은 사기”라며 “이는 러시아 스캔들이나 지구온난화 사기극보다도 더 터무니없는 이야기”라고 주장했다.
이어 “AI에 필요한 유일한 통제장치 또는 ‘가드레일’은 강하고 똑똑한, 높은 지능지수(IQ)를 가진 대통령”이라며 “미국에는 그런 대통령이 충분히 있다”고 말했다.
트럼프 대통령은 AI 속도조절론을 처음 공개적으로 촉발한 다리오 아모데이 앤트로픽 최고경영자(CEO)도 직접 겨냥했다. 그는 아모데이가 이제 와서 “완벽한 작은 천사인 척하고 있다”고 비꼬면서, 자신의 행정부가 이미 AI 업계의 “나쁘거나 잠재적으로 나쁜 일”을 막아왔다고 주장했다.
트럼프 대통령은 같은 날 미국 로스앤젤레스(LA)에서 열린 ‘올인 서밋’에 참석한 젠슨 황 엔비디아 CEO에게 예고 없이 전화를 걸기도 했다. 황 CEO가 통화를 스피커폰으로 연결하자 트럼프 대통령은 “로봇이 장악하는 일은 없을 것이고 AI가 세계를 장악하는 일도 없을 것”이라며 “우리는 신중하게 일을 해야 하지만 그렇다고 하나의 산업을 멈추겠다는 뜻은 아니다”고 말했다.
AI 속도조절론에 대한 트럼프 대통령의 가장 강력한 반박이 나온 셈이다. 트럼프 대통령에게 AI는 단순한 기술산업을 넘어 자신의 경제 성과와도 직결된 문제이기 때문이다.
미국에서 진행 중인 막대한 데이터센터와 AI 인프라 투자는 기업 설비투자를 끌어올리고 있으며, AI 열풍은 미국 증시 랠리를 이끈 핵심 동력으로 꼽힌다.
실제로 이날 뉴욕증시에서는 AI 속도조절 논란의 여파로 기술주를 중심으로 매도세가 나타났다. 엔비디아는 3.36%, 브로드컴은 4.77%, AMD는 4.40%, 인텔은 5.59% 각각 하락했다.
크리스 암스트롱 베렌버그 전략가는 “이미 시장에 상당한 불안감이 형성돼 있는 상황에서 주요 AI 기업들마저 ‘잠깐, 속도를 조금 늦춰야 한다’고 말하기 시작하면 불확실성은 더욱 커질 수밖에 없다”며 이 같은 기류 변화가 AI 관련주를 현재보다 10~15% 추가로 끌어내릴 수 있다고 전망했다.
증시 호황을 자신의 경제 성과로 내세워온 트럼프 대통령 입장에서는 AI 속도조절과 이에 따른 주가 하락을 반길 이유가 없는 셈이다.
▲(왼쪽부터) 샘 올트먼 오픈AI CEO, 다리오 아모데이 앤트로픽 CEO, 일론 머스크 스페이스X CEO(사진=AFP/연합)
◇ 트럼프와 등 돌린 실리콘밸리…美 의회도 “규제 필요”
앞서 아모데이 CEO는 지난 12일 공개한 3800단어 분량의 글에서 최첨단 AI가 인간이 제대로 이해하고 통제할 수 있는 수준을 넘어설 가능성을 경고하며 AI 기업들이 모델 성능을 끌어올리는 속도를 늦춰야 한다고 주장했다.
경쟁 관계인 오픈AI의 샘 올트먼 CEO를 비롯해 일론 머스크 xAI CEO 등 주요 AI 업계 인사들도 아모데이의 문제의식에 동조했다. 치열한 기술 경쟁과 복잡한 이해관계로 얽힌 이들이 AI 안전 문제에서는 비슷한 목소리를 내는 것은 이례적이라는 평가가 나온다.
마이크로소프트(MS)도 이날 최첨단 AI 모델 개발에 적용할 행동강령을 공개했다. 행동강령에 따르면 MS의 AI 모델은 인간이 승인한 범위 안에서만 작동해야 하며, 스스로 독립적인 목표를 설정하거나 부여된 권한을 넘어 행동해서는 안 된다.
MS는 법학·윤리학·철학 전문가와 대중의 의견을 수렴해 연말께 최종안을 확정하고 내년부터 개발·배포되는 차세대 AI 모델의 기본 규범으로 적용할 예정이다.
미국 정치권에서도 트럼프 대통령의 강경한 반대와 달리 AI 규제를 강화해야 한다는 초당적인 목소리가 커지고 있다.
공화당 소속 존 튠 상원 원내대표와 테드 크루즈 상원 상무위원장, 민주당 에이미 클로버샤 상원의원 등은 AI 업계에 재앙적 위험을 방지할 의무를 부과하는 법안을 마련하고 있다.
버니 샌더스 상원의원은 ‘초지능 AI’ 개발 자체를 금지하는 방안을 제안했고, 다른 의원들 사이에서는 AI 시스템을 강제로 중단할 수 있는 이른바 ‘킬 스위치’ 도입도 거론되고 있다.
공화당 소속 마이크 존슨 하원의장 역시 AI 산업에 일정한 안전장치를 도입해야 할 가능성이 있다며 “매우 복잡한 문제이기 때문에 많은 작업과 초당적 해법이 필요하다”고 밝혔다.
버락 오바마 전 미국 대통령도 이례적으로 논쟁에 뛰어들었다. 그는 “AI를 다시 상자 안에 집어넣을 수는 없지만 AI가 어떻게 개발되고 사용될지는 공동으로 결정할 수 있다”며 “소수 기술기업들이 만드는 자발적 기준만으로는 충분하지 않다”고 지적했다.
▲시진핑 중국 국가주석(사진=로이터/연합)
◇ “속도 늦추자”면서 중국은 막아라…미중 패권경쟁으로 번지나
AI 속도조절론이 더욱 복잡해지는 것은 안전 문제가 미중 패권경쟁과 맞물려 있기 때문이다.
아모데이는 AI 개발 속도를 늦춰야 한다고 주장하면서도 민주주의 국가들이 중국보다 “가능한 한 큰” AI 기술 우위를 유지해야 한다고 강조했다. 중국에 대한 첨단 AI 반도체 수출을 더욱 제한하고, 미국 AI 모델의 결과물을 활용해 중국 업체들이 경쟁 모델을 훈련하는 이른바 ‘증류’도 단속해야 한다고 주장했다.
AI 위험 때문에 속도를 늦추자고 하면서도 미국의 기술적 우위는 최대한 유지하고 중국의 추격은 막아야 한다는 얘기다.
트럼프 대통령이 속도조절론에 반발하는 이유에도 중국이 있다. 그는 “AI와 데이터센터를 겨냥한 ‘병든 음모’가 벌어지고 있다”며 “이로 인해 기뻐하는 유일한 곳은 중국”이라고 주장했다. AI 개발 속도를 늦추자는 움직임이 결국 미국의 경쟁력을 약화시키고 중국에만 추격할 시간을 벌어줄 수 있다는 논리다.
중국도 반발했다. 궈자쿤 중국 외교부 대변인은 14일 정례 브리핑에서 “공포를 조장하고 대립과 악의적인 경쟁을 부추기는 것은 글로벌 AI 거버넌스 과정을 방해할 뿐 누구의 이익에도 도움이 되지 않는다”며 “AI 발전은 인류 전체의 공동 복지와 관련돼 있다”고 강조했다.
중국공산당 기관지 인민일보 계열의 영자신문 글로벌타임스도 최근 사설에서 아모데이의 주장에 대해 “안전 위험에 초점을 맞춘 합리적인 주장처럼 보이지만 실상은 중국을 겨냥한 ‘냉전식 각본'”이라고 비판했다.
알리바바 AI 모델 큐원 개발을 주도했던 핵심 인물인 저스틴 린도 소셜미디어 엑스(X·옛 트위터)에 “우리가 속도를 내려고 하는데 당신들이 우리에게 속도를 늦추라고 한다고? 맙소사”라며 “당신들은 원하는 대로 하면 된다. 마치 누구의 허락이라도 필요한 척하지 말라”고 비꼬았다.
블룸버그통신은 이를 두고 중국이 미국의 속도조절 요구와 별개로 독자적인 AI 개발 전략을 이어갈 가능성이 크다는 점을 보여준다고 분석했다. 중국은 AI를 미국과의 기술 격차를 뒤집을 핵심 수단으로 보고 있기 때문이다. 중국 AI 업체들의 모델 성능은 미국 최상위권 모델과의 격차를 빠르게 좁히고 있는 상황이다.
조지 첸 아시아그룹 파트너는 “베이징은 AI를 워싱턴과의 기술적 균형을 다시 짤 수 있는 일생일대의 기회로 보고 있다”며 “중국이 자발적으로 속도를 늦출 가능성은 크지 않다”고 말했다. 이어 “2등이라면 2등에서 멈추지 않는다”고 덧붙였다.
실제로 중국 AI 업계 내부에서는 AI가 통제를 벗어날 위험보다 경쟁사들의 모델 개선 속도를 따라잡고 가능하면 추월해야 한다는 압박을 더 크게 느끼고 있다고 블룸버그는 전했다.
▲중국 키미와 딥시크(사진=로이터/연합)
◇ 中도 “AI 통제 상실” 경계…유럽은 “혼자 멈출 순 없다”
그렇다고 중국이 AI가 인간의 통제를 벗어날 가능성을 가볍게 보는 것은 아니다. 중국 정부는 오히려 최근 AI 안전 규제를 강화하며 ‘통제 상실’을 공식적인 위험 요인으로 다루고 있다.
중국 국가인터넷정보판공실(CAC)은 14일 ‘인공지능 보안 거버넌스 프레임워크 3.0’를 공개하고 AI 기술 발전 속도가 인간의 예상과 통제 범위를 넘어설 가능성을 경계해야 한다고 명시했다. AI가 사이버 공격을 더욱 확장시키고 정교하게 만들 수 있다는 점도 주요 위험 요인으로 지목됐다.
시진핑 중국 국가주석 역시 지난 7월 상하이에서 열린 세계인공지능대회에서 AI가 “항상 인간의 통제 아래 있어야 한다”고 강조했다.
결국 중국은 AI의 위험성을 인정하면서도 개발 속도 자체를 늦추기보다는 감독과 통제를 강화한 채 추격전을 계속하겠다는 셈이다. 이에 따라 오는 24일 예정된 미중 정상회담에서 AI 안전 위험을 놓고 어떤 얘기가 오갈지 관심이 집중된다.
유럽 역시 AI 위험성을 인정하면서도 개발 중단에는 선을 긋고 있다.
로이터에 따르면 이날 독일 디지털부는 “AI 개발 중단은 유럽에 현실적인 선택지가 아니다”며 디지털 주권 강화를 위해 AI 개발과 혁신을 계속해야 한다고 밝혔다. 다만 효과적인 AI 통제를 위해서는 미국과 중국이 모두 참여하는 국제 공조가 필요하다고 강조했다.
스페인에서는 AI 위험을 관리하기 위해 핵확산금지 협정과 유사한 국제 합의가 필요하다는 주장이 나왔다.
토마 레니에 유럽연합(EU) 집행위원회 대변인은 “EU는 AI 혁신 발전에 찬성한다”면서도 “기업들이 EU 역내에서 서비스를 제공하려면 시민들에게 안전하다는 점을 입증해야 한다”고 밝혔다.
▲트레이더(사진=AFP/연합)
◇ “속도 늦추자면서 성장은 계속”…월가도 의심
그러나 시장에서는 AI 기업들의 속도조절론을 순수한 이타심과 인류의 안전 때문으로 보기는 어렵다는 시각이 나온다. 초대형 기업공개(IPO)를 추진하는 앤트로픽과 오픈AI가 AI 개발 속도를 조절하더라도 자사 사업 성장이나 지출 계획을 축소하겠다는 뜻은 아니라고 강조하고 있기 때문이다.
이에 따라 실리콘밸리와 월가에서 두 기업이 실제로 AI 개발 경쟁을 어느 정도까지 늦출지를 놓고 회의적인 시각이 존재한다고 블룸버그는 전했다.
투자은행 UBS의 울리케 호프만 부르카르디 최고투자책임자(CIO)는 “최첨단 모델 개발 속도를 조절하자는 요구가 업계 전반에서 얼마나 호응을 얻을지는 불확실하다”면서도 “선두 AI 연구소들이 받아들일 수 있는 규제 프레임워크를 만드는 데 더 목적이 있는 것으로 판단한다”고 분석했다. 이어 “ AI 관련 투자는 계속될 것”으로 전망했다.
일각에서는 AI 업계가 일제히 속도조절론에 힘을 싣는 배경에 수익성 문제가 자리 잡고 있는 것 아니냐는 의심도 나온다.
오픈AI는 최근 AI 안전을 이유로 상장 시기를 늦추겠다는 입장을 밝혔지만, 이번 속도조절 논쟁이 불거지기 전부터 기대 기업가치에 미치지 못할 가능성 등을 이유로 상장 연기를 검토해온 것으로 전해졌다.
영화 ‘빅쇼트’의 실제 인물이자 2008년 글로벌 금융위기를 예측했던 투자자 마이클 버리는 엑스에 올린 글에서 앤트로픽과 오픈AI의 경고를 “과장과 허풍”이라며 “실제로 통제하기 어려운 성장 둔화를 가리기 위한 명분”이라고 주장한 것도 이와 같은 맥락으로 읽힌다.
반면 속도조절론을 주도한 앤트로픽은 연내 상장을 추진하고 있다. 로이터는 사안에 정통한 소식통들을 인용해 앤트로픽이 이르면 오는 10월 중순부터 IPO 투자자 마케팅을 시작하고 11월 미국 중간선거 직전 상장을 완료할 가능성이 있다고 이달 초 보도했다.
아울러 현재 선두를 달리고 있는 소수 집단이 주도하는 규제가 법제화할 경우 새로운 AI 기업의 진입을 막는 식의 ‘규제 포획’이 일어날 가능성도 우려된다. 막대한 자본과 컴퓨팅 자원, 연구 인력을 이미 갖춘 선두기업일수록 강화된 규제 비용을 감당하기 쉽기 때문이다.
이에 AI 속 도조절론을 둘러싼 논쟁은 결국 ‘죄수의 딜레마’에 가까워지는 것 아니냐는 해석도 나온다. 모든 기업과 국가가 함께 속도를 늦추면 AI를 이해하고 안전장치를 마련할 시간을 확보할 수 있지만, 어느 한쪽만 먼저 멈추면 경쟁자에게 기술과 시장의 주도권을 내줄 수 있어서다.
결국 인류의 안전을 위한 것인지, 미국의 기술 패권을 유지하기 위한 것인지, 중국의 추격을 막기 위한 것인지, 아니면 선두 AI 기업들의 시장 지배력과 기업가치를 지키기 위한 것인지에 따라 ‘AI 속도조절론’의 의미가 달라질 것으로 보인다.
박성준 기자 mediapark@ekn.kr
