[삼성 이영진] 글로벌 AI/SW

다리오 아모데이x드와르케시 파텔 팟캐스트 주요 내용

■ AI 기술의 발전과 ‘스케일링’의 미래

- 컴퓨팅 덩어리 가설 (Big Blob of Compute)

: 2017년부터 유지해온 가설로, 알고리즘의 기교보다 컴퓨팅 파워, 데이터의 양과 질, 스케일 가능한 목표 함수가 지능 향상의 본질적 요인이라고 설명

: 이러한 가설은 사전 학습에서만 아니라, 강화 학습(RL)에서도 동일하게 관측되며, 학습 시간·컴퓨트 증가에 따라 성능이 로그-선형적으로 개선되는 패턴이 나타나고 있다고 언급

- 데이터센터 내 ‘천재들의 국가’ (Country of Geniuses)

: 미래의 AI를 데이터센터 안의 천재들의 국가(country of geniuses in a datacenter)로 표현하며, 수천 명의 인간 천재(노벨상 수상자급)가 동시에 일하는 것과 유사한 지적 능력이 단일 시스템에서 구현될 수 있다고 설명

: 이러한 수준의 지능에 대해 10년 내 도달 확률을 약 90%로 평가하며, 특히 코딩, 수학 등 검증 가능한 영역에 대해서는 1~2년 내 도달할 가능성이 매우 높다고 발언

: 장기적인 불확실성은 인정하지만, 이는 속도의 문제이지 근본적 기술 장벽 때문은 아니라는 입장을 보임

- 지속적 학습 (Continual Learning)

: 인간처럼 실시간으로 현장에서 배우는 지속적 학습이 당장 완벽하지 않더라도, 방대한 사전학습, 강화학습을 통한 일반화, 긴 컨텍스트 활용만으로도 이미 매우 큰 경제적 가치를 창출할 수 있다고 설명

: 따라서 지속적 학습은 필수 조건이 아니라 추가적인 가속 요인이며, 이를 완전히 해결하지 못해도 고도 지능 시스템의 핵심 가치는 구현 가능하다는 입장

■ HW·전력·컴퓨트 확장 경로 (Hardware Scaling)

- 컴퓨트는 곧 전력(GW) 문제

: 프론티어 AI의 확장은 더 이상 모델이나 소프트웨어 차원의 문제가 아니라, 전력, 데이터센터, 국가 인프라 차원의 문제로 전환되었다고 명확히 언급

: AI 산업은 이미 GW(기가와트) 단위 전력을 사용하는 단계에 진입했으며, 이는 기존 IT 산업이 아닌 에너지·중공업급 스케일에 해당한다고 설명

- 산업 전체 컴퓨트 확장 속도 (연 3배 성장)

: AI 산업 전체의 컴퓨트(전력 기준)는 연간 약 3배(3x) 속도로 증가하고 있다는 관측을 제시

: 이러한 추세가 지속될 경우, 수백 GW 규모에 도달하는 시나리오가 가능하다고 언급

: 이 수준은 단일 산업이 국가 전력망과 거시경제에 직접적인 영향을 미치는 단계라고 평가

- 비용 구조와 자본 집약성

: 1GW 컴퓨트 용량을 확보하고 운영하는 데 연간 약 100~150억 달러가 소요된다고 언급

: 따라서 수백 GW 규모로 확장될 경우, AI 산업은 수조 달러 단위의 인프라 투자를 요구하는 산업이 됨

: 컴퓨트를 10배 늘린다고 해서 지능이 10배 향상되는 것이 아니라, 성과는 로그-선형적으로 개선되기 때문에 다음 단계의 지능을 얻기 위해 필요한 자본·전력 투입은 기하급수적으로 증가

- 수요 예측 딜레마와 파산 리스크

: 데이터센터와 전력 확보는 1~2년의 선행 투자가 필요하며, 이 과정에서 수요 예측이 1년만 어긋나도 기업이 파산할 수 있다고 명확히 경고

: 아모데이는 이를 근거로, 무모하게 컴퓨트를 선매하는 ‘YOLO식 베팅’에 반대하며, 업사이드는 확보하되 생존을 위협하지 않는 신중한 확장 전략의 중요성을 강조

- 연구(training) vs 추론(inference) 자원 배분

: 개념적으로는 전력·컴퓨트 자원이 차세대 모델 학습과 실제 서비스 추론에 균형 있게 배분되는 구조가 바람직하다고 설명

: 그러나 수요가 급증할 경우 추론이 연구 자원을 잠식할 수 있으며, 이로 인해 장기 경쟁력이 약화될 수 있어 HW 설계와 전력 배분이 핵심 전략 요소라고 언급

■ 경제적 확산(Diffusion)과 비즈니스 모델

- 확산의 지연 (Diffusion Cope)

: AI가 소프트웨어 엔지니어링 업무의 대부분을 수행할 수 있게 되더라도, 실제 기업 도입에는 보안, 법무, 컴플라이언스, 워크플로우 변경 등으로 인해 물리적 시간이 필요하다고 설명

: 다만 이러한 확산 속도조차 과거 어떤 기술보다 빠를 것이라고 평가

- API vs 제품

: API 기반 모델은 여전히 핵심적인 역할을 하지만, Claude Code와 같이 특정 직무를 End-to-End로 수행하는 제품형 AI가 점차 중요해질 것이라고 언급

: 장기적으로는 토큰 단가 기반 과금뿐 아니라, 성과·결과 기반 보상 모델이 병존할 가능성도 제시

■ 규제, 안전 및 지정학적 전략

- 지정학적 주도권

: AI는 단순한 산업 기술이 아니라 국가 안보와 체제 경쟁의 문제라고 규정

: 민주주의 국가들이 AI 주도권을 확보하지 못할 경우,
권위주의 정부가 AI를 활용해 내부 억압이나 국제적 불균형을 초래할 위험이 있다고 경고

: 이러한 맥락에서 대중국 첨단 반도체 수출 통제를 강하게 지지

- 규제에 대한 태도

: 단순히 AI 대화나 일반적 사용을 제한하는 피상적인 규제에는 반대

: 반면 생물학적 위험, 자율적 탈취 등 실질적 고위험 영역에 대해서는 정부 차원의 투명성 기준과 강력한 안전 장치가 필요하다고 주장

- 헌법적 AI (Constitutional AI)

: 개별 규칙을 일일이 주입하는 방식보다 가치와 원칙(헌법)을 학습시켜 AI가 스스로 판단하도록 하는 접근이
확장성과 안전성 측면에서 더 효과적이라고 설명

https://youtu.be/n1E9IZfvGMA

YouTube

Dario Amodei — “We are near the end of the exponential”

Dario Amodei thinks we are just a few years away from “a country of geniuses in a data center”. In this episode, we discuss what to make of the scaling hypothesis in the current RL regime, how AI will diffuse throughout the economy, whether Anthropic is underinvesting…

❤8👍4

7.19K views09:01