사티야 나델라-드와르케시 파텔(Dwarkesh Patel) 팟캐스트 주요 내용

1. AI와 경제 성장
- AI 시장이 단일 승자 구조로 끝나지 않을 것. 기업 고객은 단일 공급자가 아닌 다양한 공급자를 선호하기 때문

- AI는 전 세계 컴퓨팅 인프라 수요를 폭발적으로 증가시키며, 하이퍼스케일러들에게 큰 기회

- 스스로 AGI를 달성했다는 주장은 터무니 없이 앞서가는 것으로, 세계 GDP 성장률(10% 이상)이 AI의 진정한 영향을 측정하는 기준이 되어야함

2. 양자 컴퓨팅의 돌파구
- 새로운 물리적 상태인 Majorana 제로 모드를 활용하여 신뢰성이 높은 토폴로지 큐비트 개발. 이는 “양자 컴퓨팅의 트랜지스터 순간”

- 2027~2029년 사이에 실질적 양자 컴퓨터가 상용화될 가능성을 언급하며, 기술은 화학과 생물학에서 혁신을 가져올 것

- AI와 양자 컴퓨팅이 함께 사용되어 시뮬레이션 및 데이터 생성에 혁신적인 영향을 미칠 것

3. 게임 AI 모델
- 게임 데이터를 활용해 세계 및 인간 행동 모델을 생성하는 AI 모델 Muse 발표

- 게임 산업뿐만 아니라 다른 분야에서도 활용될 수 있는 잠재력을 가지고 있음

4. AGI와 법적/사회적 과제
- AGI 개발이 기술적 문제 뿐만 아니라 법적, 사회적 신뢰 구축 문제를 해결해야 한다고 강조.

- 특히, AGI가 인간 노동과 상호작용하는 방식에 대한 법적 구조 필요. AGI가 널리 배포되기 위해서는 책임 소재 문제를 명확히 해야 한다는 입장

https://www.dwarkeshpatel.com/p/satya-nadella

오픈AI, 오퍼레이터(Operator) 확대 출시

: 호주, 브라질, 캐나다, 인도, 일본, 싱가포르, 한국, 영국 등 여러 국가에서 챗GPT Pro 구독자를 대상으로 출시. EU, 스위스, 노르웨이, 리히텐슈타인, 아이슬란드는 제외

오픈AI, 컴퓨팅 파워 파트너 전환 계획 및 재무 전망

- 컴퓨팅 파워
: 마이크로소프트를 통해 엔비디아 GPU를 임대하는 방식에서 스타게이트 기반의 직접적인 컴퓨팅 자원 확보 형태로 전환

: 2030년까지 데이터센터 용량 75%를 스타게이트 프로젝트를 통해 제공받을 것으로 예상

: 마이크로소프트에서 전환이 즉각적인 것은 아니며, 향후 몇 년간 MS 보유 데이터센터에 대한 지출 증가 계획(25년 130억 달러 → 28년 280억 달러)

: 2030년까지 8GW 컴퓨팅 용량 확보 계획. 3GW는 이미 계약(스타게이트 텍사스 데이터센터 1GW)

- 매출 전망
: 24년 37억 달러 → 25년 127억 달러→ 26년 280억 달러

: 25년 매출 구성 → 챗GPT 79억 달러. AI 에이전트 30억 달러. API 18억 달러. 올해 매출 성장의 1/3은 소프트뱅크향.

- 비용 전망
: 기존 모델 운영 및 신규 모델 개발 관련 비용 25~30년까지 3,200억 달러 전망

: 절반 이상은 모델 학습 및 개발 관련 연구 활용. 해당 비용은 향후 3년간 6배 증가 전망(28년 400억 달러 수준)

: 2030년에는 추론 비용이 모델 훈련 비용 초과 전망

- 현금 소진 전망
24년 20억 달러 → 25년 70억 달러 → 27년 200억 달러

- 신규 펀딩
: 400억 달러 펀딩 라운드에서 소프트뱅크가 300억 달러 부담. 펀딩 자금 절반은 몇 달 내 스타게이트 프로젝트에 투입

https://www.theinformation.com/articles/openai-forecast-shows-shift-from-microsoft-to-softbank?rc=dp0mql

이번 주말 Grok 3의 주요 기능 추가와 버그 수정 예고

딥시크는 21일 X(트위터)를 통해 다음 주부터 '오픈 소스 위크(Open Source Week)'를 시작한다고 발표했다.
우선 "우리는 인공일반지능(AGI)을 탐구하는 아주 작은 팀"이라며 "다음 주부터 5개의 오픈 소스 저장소(Repo)를 공개, 작지만 진지하게 진행 상황을 완전히 투명하게 공유한다"라고 밝혔다.

코드 및 데이터 저장소는 AI 모델을 훈련, 실행 및 평가하는 데 필요한 데이터와 리소스를 정리하고 관리하는 디지털 저장 공간이다. 이번 공개로 누구나 R1이나 다른 모델의 코드를 다운로드해 빌드하거나 개선할 수 있게 됐다. 또 딥시크는 자사 기술이 완전한 테스트를 통해 배포 및 문서화됐다고 밝혔다.

이어 "오픈 소스 커뮤니티의 일원으로서, 우리는 공유된 모든 것들이 AI 발전을 가속화하는 집단적 계기가 된다고 믿는다"라며 "상아탑은 없다. 순수한 작업실의 에너지와 커뮤니티 중심의 혁신만 있을 뿐"이라고 강조했다

이 밖에도 딥시크는 R1 출시 이후 한달 남짓 사이에 코드 대신 자연어로 추론 훈련을 강화하는 방법과 장기 컨텍스트 추론 효율을 높이는 기술 등을 잇달아 오픈 소스로 공개했다.

딥시크 API 서비스가 각국에서 보안 문제로 폐쇄되고 몰려드는 트래픽으로 인해 인프라 구축에 어려움을 겪는 상황에서, 개발자들이 직접 모델을 다운로드해 사용하는 것을 유도하는 셈이다. 이는 API 서비스를 통한 수익 창출에 초점을 맞추지 않는다는 것을 의미한다.

실제로 딥시크는 중국 기업들이 앞다퉈 제휴를 요청하고 있으며, 이를 통해 상당한 수익을 올릴 수 있다. 이런 상황에서 굳이 보안 문제와 인프라 부담이 따르는 API 서비스를 고집할 이유는 없다. 특히 딥시크는 외부 투자 유치 없이 자체 자금으로만 운영, 외부 투자자들의 매출 압박에서 자유롭다. 

https://www.aitimes.com/news/articleView.html?idxno=168201

[삼성 이영진] 글로벌 SW 헤드라인 (25/2/24)

■ 오픈AI, 컴퓨팅 파워 파트너를 기존 MS에서 스타게이트 기반으로 전환 계획 보도

■ 오픈AI, 오퍼레이터(Operator) 국가 확대 출시

■ 오픈AI, 챗GPT를 악의적 목적으로 활용한 중국 및 북한 사용자 계정 제거

■ xAI, Grok 3 thinking 모드에서 트럼프와 머스크에 대한 언급을 하지 않도록 설정 된 것이 CoT에서 확인

■ xAI, 그록 보이스 모드 베타 출시. Unhinged와 Sexy 모드 존재

■ 크라우드 스트라이크, 리셀러 Carahsoft와 거래가 법무부와 SEC의 조사를 받고 있다는 보도

■ 딥시크, 오픈 소스 위크(Open Source Week) 시작 발표. 5개의 오픈 소스 저장소(Repo) 공개 예정

■ 구글, 비전언어모델(VLM) PaliGemma 2의 업그레이드 버전 PaliGemma 2 Mix를 오픈 소스로 공개

■ 중국의 문샷 AI, 긴 컨텍스트를 효율적으로 처리하는 새로운 기술 블록 어텐션 혼합(MoBA) 공개

■ NIST 산하 미국 AI 안전 연구소, 대규모 예산 삭감과 인력 감축 위기

감사합니다.

마이크로소프트 데이터센터 발 노이즈 - 캐파 과잉인가 전략적 단기 조정인가

안녕하세요 삼성증권 글로벌 SW 담당 이영진입니다.

마이크로소프트의 데이터센터 임대 취소 관련 노이즈가 시장을 어둡게 덮고 있습니다.

채널 조사 결과 미국 내 수백 MW의 데이터센터 임대 계약을 취소했으며, 임대 전환 축소/지연도 이루어지고 있다는 외사 보고서가 나왔고,

페널티를 지불하고 위스콘신 Kenosha와 조지아 Atlanta 데이터센터 및 전력 공급 계약을 파기하고 있다는 루머도 대두되었습니다.

여기에 오픈AI가 2030년까지 AI 모델 구축 및 활용을 위한 컴퓨팅 파워의 75%를 스타게이트 향으로 전환한다는 보도가 나왔고,

샤티아 나델라 CEO가 드와르케시의 팟캐스트에서 과잉 공급을 언급했다는 내용이 자극적으로 기사화 되었습니다.

헤드라인만 놓고보면 마이크로소프트의 캐파가 과잉 공급 상태이고, 향후 Capex를 줄이는 것이 아닌가하는 우려가 대두될 수 있습니다.

우선 지난 스타게이트 프로젝트 발표부터 마이크로소프트가 오픈AI의 학습 관련 대규모 클러스터 구축에는 발을 빼고 추론용 케파 구축으로 선회하는 것은 예상된 흐름입니다.

오픈AI의 컴퓨팅 파워 전환 보도도 이를 재확인하는 내용에 불과합니다. 또한 해당 기사에도 전환은 점진적으로 이루어지며 항후 몇 년 간 마이크로소프트 데이터센터 향 지출도 지속 증가할 것이라고 언급되어있습니다.

샤티아 나델라 CEO가 과잉 공급을 언급한 것도 AI 수요 둔화를 걱정하는 것이 아니라 오히려 기업과 국가 단위의 공격적 투자에 따른 반대 급부이고,

데이터센터를 직접 구축하는 것이 아니라 임대하는 입장에서 '27년 및 '28년에 낮은 가격에 많은 용량을 임대하는 기회가 될 수 있다는 맥락입니다.

추론 매출(수요) 확인을 언급한 것도 수요와 공급의 동행을 강조한 것이지 전망이 비관적으로 변한 것은 아닙니다.

오히려 같은 팟캐스트에서 AI는 전세계 컴퓨팅 인프라 수요를 폭발적으로 증가시키며, 하이퍼스케일러들에게 큰 기회라는 코멘트를 남겼습니다.

마지막으로 임대 계약 취소 배경으로 시설 및 전력 공급 지연이 꼽혔는데요. 당장 모델 학습을 위한 막대한 규모 케파가 필요없어진 상황에서 무리하게 계약을 끌고가는 것 보다 수요를 확인하며 대응하는 전략은 당연해 보입니다.

지금 필요한 것은 추론용 캐파입니다. 1월 초 보도된 위스콘신 주 Mount Pleasant 지역 33억 달러 규모 데이터센터 프로젝트 일시 중단도 이런 단기 케파 조정의 연장선입니다. 

사람들은 딥시크 이슈 이후 Capex 계획 변화를 우려했지만, 오히려 추론 비용 하락은 더 많은 API 소비와 서비스/앱 증가 가능성과 연계되며, 마이크로소프트도 공격적 Capex 계획을 발표했습니다.

보고서에 언급된 해외 투자를 국내로 전환한 것도 강력한 추론 수요의 기대감이니까요. 마이크로소프트의 AI의 연 환산 매출은 지난 분기 130억 달러로 기존 전망치 100억 달러를 크게 뛰어 넘는 성과를 냈습니다.

결국 이전부터 확인된 오픈AI의 관계 변화에 따른 단기 캐파 조정 과정에 발생하는 이슈라고 생각합니다.

(2025/2/24 공표자료)

프론티어 모델 Artificial Analysis Index 추이

Claude 3.7 Sonnet의 에이전트 성능을 평가하는 벤치마크로 활용된 포켓몬 레드 플레이

[삼성 이영진] 글로벌 SW 헤드라인 (25/2/25)

■ 앤스로픽, Claude 3.7 출시. 하이브리드 추론 모델. 코딩 분야 최고의 성능

■ 앤스로픽, 615억 달러 밸류로 35억 달러 펀딩. 1월 보도된 밸류와 펀딩 600억 달러와 20억 달러 규모에서 확대

■ 세일즈포스, 구글과 7년 25억 달러 규모 클라우드 인프라 계악 체결. 세일즈포스는 AWS 기반에서 멀티클라우드로 확장. 구글 Gemini 모델과 Agentforce 통합 지원과 세일즈포스 서비스 클라우드와 구글 고객 인게이지먼트 제품 통합도 발표

■ 애플, 4년 간 미국 내 5,000억 달러 투자 발표. 휴스턴에 애플 인텔리전스를 지원하는 서버 생산 시설 구축, 여러 주에 데이터센터 확장, 2만 명의 신규 고용 창출 등

■ 애플, Siri에 구글 Gemini 추가 가능성. 코드 내 서드파티 모델에 구글과 오픈AI 옵션 존재

■ 구글 Veo2, 초당 50센트 가격 책정. 1분 영상 생성에 30달러

■ 메타, 공식적으로 Meta AI를 중동과 북아프리카 지역으로 확장. 아랍어 지원 추가

■ 알리바바, 향후 3년간 AI 및 클라우드 인프라를 위해 520억 달러 투자 예정

■ 알리바바, Qwen2.5-Max 기반의 추론 모델 QwQ-Max-Preview 출시

■ 퍼플렉시티, 자체 웹 브라우저 Comet 공개 예정. 가입 리스트를 받는 중

■ 몽고DB, Voyage AI 2.2억 달러에 인수. 임배딩 및 리랭킹 기술을 통해 기업 및 정보 검색 능력 향상 솔루션

■ AI 검색 스타트업 Genspark, 5.3억 달러 밸류로 시리즈 A 펀딩을 통해 1억 달러 조달

감사합니다.

세일즈포스 & 구글 클라우드 파트너십 확장 발표

: 세일즈포스 Agentforce 내 구글 Gemini 모델 통합. 멀티모달 처리와 200만 컨텍스트 윈도우 활용

: 세일즈포스 Service Cloud와 구글 Customer Engagement Suite 통합. AI 기반으로 실시간 음성 번역, 에이전트 추천 등

: 세일즈포스의 주요 앱을 구글 클라우드에서 실행할 수 있도록 하는 클라우드 계약

: 7년 25억 달러 규모로 보도. 세일즈포스는 AWS 기반에서 멀티 클라우드로 확장

https://www.googlecloudpresscorner.com/2025-02-24-Salesforce-and-Google-Bring-Gemini-to-Agentforce,-Enable-More-Customer-Choice-in-Major-Partnership-Expansion

앤스로픽, Claude 3.7 Sonnet 출시와 신규 자금 조달

안녕하세요 삼성증권 글로벌 SW 담당 이영진입니다.

전일 앤스로픽 관련 소식이 쏟아졌습니다. 하이브리드 형태 모델 Claude 3.7 Sonnet을 출시하고, 신규 펀딩 라운드 완료 보도가 나왔는데요

■ 코딩 SOTA 모델, Claude 3.7 Sonnet

3.7 Sonnet은 일반 LLM과 추론 모델을 결합한 하이브리드 모델로 복잡한 문제를 단계적 추론을 통해 해결할 수 있는 확장된 사고 능력을 제공합니다.

유저는 즉각적 응답을 위한 Standard 사고와 고급 추론을 위한 Extended 사고 중 선택할 수 있습니다.

수학과 과학 측면 최적화를 다소 포기하고 사용자 요구를 반영하는 실제 작업에 초첨을 맞췄는데요. 이 결과 코딩 및 에이전트 툴 활용 분야에서 SOTA급 성능을 달성했습니다.

SWE-Bench는 o3와 유사한 수준이고, 에이전트 코딩 벤치도 67%로 기존 뉴 소넷 3.5(62%)에서 추가 개선에 성공했습니다.

복잡한 실제 작업에서 AI 에이전트를 테스트하는 TAU-bench에서도 최고 성능이네요. 심지어 포켓몬 레드도 플레이 할 수 있습니다.

컴퓨터 유즈, 에이전트 기능, 복잡한 추론 및 콘텐츠 생성에서 활용 가능하다는 점을 강조했습니다.

추가적으로 리서치 프리뷰 형태로 에이전트 코딩 어시스턴트 Claude Code도 출시했습니다. 코딩에 상당히 진심이네요

단점은 비용입니다. API 가격은 인 풋 $3/백만 토큰, 아웃풋 $15/백만 토큰입니다.

프롬프트 캐싱으로 최대 90%, 배치 처리로 50% 비용 절감 가능하다는 점을 강조했지만, o3-mini-high랑 만 비교해도 가성비 느낌은 아닌 점이 아쉽습니다.

■ 신규 펀딩과 밸류에이션

신규 라운드에서 615억 달러 밸류로 35억 달러 자금 조달 보도(블룸버그)가 나왔습니다. 1월 보도된 20억 달러 목표에서 확대된 것인데요

The Information이 보도한 오픈AI와 앤스로픽의 '25년 매출 목표는 각각 127억 달러 및 22억 달러(Base 기준)입니다.

논의 중인 펀딩 라운드 완료 가정 시 밸류에이션(Post-Money)이 오픈AI 3,400억 달러, 앤스로픽 615억 달러입니다.

언론에 나온 숫자를 토대로 계산한 '25년 매출 기준 PSR은 오픈AI 27배, 앤스로픽 28배로 비슷하네요.

보여준 것만 따지면 밸류 격차가 나도 할 말은 없지만, 앤스로픽도 이제 본격적으로 움직이려는 상황이니까요

앤스로픽은 '24년 assists(인간 작업을 보조하고 생산성을 높이는 역할)를 넘어 '25년 Collaborates(전문가 수준의 독립 작업과 개인과 팀의 능력 향상 역할)을 도달 후 '27년 Pioneers(혁신적 해결책을 찾으며 인간보다 빠르게 문제 해결) 달성을 목표로 하고 있습니다.

3.7 Sonnet 발표에서 확인된 것 처럼 앤스로픽의 전략은 특정 분야(코딩, 에이전트)를 확실하게 파고들어 API 사업 및 엔터프라이즈 고객 확장을 타겟으로 하고 있습니다.

지지부진해보이던 모델 경쟁이 다시 가속화되고 있습니다. 어떻게 보면 중국의 반격이 불을 붙인 것 같은데요. 이제 공은 오픈AI와 메타로 넘어갔습니다.

오픈AI가 모델 로드맵에서 제시한 것 처럼 하이브리드 형태 모델 대중화가 전망되는 가운데 이제는 일반과 추론 모델 간 전환 최적화 능력도 중요해질 것 같습니다.

(2025/2/25 공표자료)

DeepSeek, R2 모델 출시를 앞당길 계획

: 5월 출시 예정이었으나, 가능한 빨리 출시하는 것을 목표로 설정. 구체적 일정은 공개되지 않음

: 코딩 능력 개선 및 영어 외 언어에서 추론 능력 향상 예상

https://www.reuters.com/technology/artificial-intelligence/deepseek-rushes-launch-new-ai-model-china-goes-all-2025-02-25/

[삼성 이영진] 글로벌 SW 헤드라인 (25/2/26)

■ 딥시크, R2 모델 출시를 앞당길 계획. 5월 출시 예정이었으나, 가능한 빨리 출시하는 것을 목표로 설정

■ 오픈AI, 딥 리서치 기능을 Plus, Team, Enterprise, Edu 유저로 확장. 월 10회. 기존에는 Pro 유저 대상 월 120회 제공

■ 오픈AI, GPT-4o 기반 어드밴스드 보이스 모드를 프리뷰 형태로 모든 유저로 확대 제공

■ 구글, 소비자용 AI 코딩 어시스턴트 Gemini Code Assist를 무료로 공개. 한도는 월 18만개 코드 완성(무료 깃허브 코파일럿 대비 90배)과 일 240회 쿼리 요청(무료 깃허브 코파일럿 대비 5배)

■ 구글, Gemini 2.0 Flash-Lite 정식 출시. 인풋 $0.075 및 아웃풋 $0.30 / 백만토큰

■ 마이크로소프트, 데이터 보호 및 복구 솔루션을 제공하는 Veeam Software에 지분 투자

■ 마이크로소프트, 광고를 포함한 윈도우용 무료 오피스 앱 출시 계획. 일부 국가에서 테스팅

■ 액티비전, 콜 오브 듀티: 블랙 옵스 6에 AI로 생성된 에셋이 포함 되었다는 내용을 우회적으로 공개

■ 어도비, 아이폰용 무료 포토샵 앱 출시. 모바일 유저가 웹 기능 활용을 원할 경우 $7.99 추가 과금

■ IBM, DataStax 인수 발표. NoSQL DB 솔루션 AstraDB 개발 및 로우코드 AI 애플리케이션 개발 도구 제공 기업

■ IBM, 64억 달러 규모의 HashiCorp 인수 딜이 영국 규제 당국 승인 획득

감사합니다.

Claude 3.7 Sonnet, ARC-AGI 테스트 결과

: 퍼포먼스는 o3-mini와 유사. 비용은 증가

> Base: 13.6%, $0.05/task
> Thinking 1K: 11.6%, $0.07/task
> Thinking 8K: 21.1%, $0.21/task
> Thinking 16K: 28.6%, $0.33/task

메타, 2,000억 달러 규모 데이터센터 캠퍼스 구축 논의 보도

: 캠퍼스 구축에 필요한 반도체 및 전력 기반 투자 규모 산출

: 지난 실적 컨콜에서 장기간 수천억 달러(hundreds of Billions) 지출 언급. ‘25년 capex 가이던스는 600~650억 달러(+69% YoY)

https://www.theinformation.com/articles/meta-discusses-200-billion-ai-data-center-project