앤스로픽, 채용 면접서 "안전 위해 주가 0돼도 괜찮나" 질문

: 앤스로픽은 모든 지원자를 대상으로 문화 적합성 인터뷰를 진행하며, 일부 지원자에게 "안전을 위해 AI 개발 야망을 포기하고 그 결과 주식 가치가 0이 된다면 어떻게 생각하겠는가"라는 질문 제시

: 질문은 완전히 정형화된 대본은 아니며, 지원자에 따라 주가 0 또는 안전과 매출 간 트레이드오프 형태로 질문. 도덕적 딜레마를 경험한 사례와 당시 대응 방식도 주요 평가 항목

: CEO 다리오 아모데이는 최근 합류한 직원들이 높은 보상이나 지분 가치가 아닌 회사의 미션을 위해 입사하는지 의문을 제기한 것으로 알려짐. 보상 협상도 허용하지 않고 최초 제시 조건을 그대로 적용

: 이러한 문화는 실제 경영 판단에서도 나타남. 앤스로픽은 기술의 무제한 사용을 요구한 미 정부와의 계약을 거부해 일부 정부 계약을 잃었으며, 안전 우려를 이유로 사이버 역량이 높은 Mythos 모델의 접근도 제한

: 앤스로픽은 채용 페이지에서도 "결국 우리 모두가 이곳에 있는 이유는 미션"이라고 명시하며, 고액 보상 경쟁이 심화되는 AI 인재 시장에서도 경제적 보상보다 안전과 미션에 대한 정렬을 채용의 핵심 기준으로 강조

https://t.iss.one/Samsung_Global_AI_SW

엔비디아 Groq 3 LPX 양산, 네비우스가 최초 도입하며 초고속 추론 상용화

: 엔비디아는 인터랙티브 AI 추론 가속기 Groq 3 LPX의 본격 양산 시작. Vera Rubin 플랫폼의 확장 제품으로, 에이전틱 AI에서 핵심인 초고속 토큰 생성과 저지연 추론에 특화

: 에이전틱 AI 추론은 크게 컨텍스트 처리와 생성으로 구분. 에이전트는 하나의 작업에서도 수십 번의 순차 모델 호출을 수행하기 때문에 각 단계의 지연시간이 누적되며, 이에 따라 토큰 생성 속도가 실제 에이전트의 작업 완료 시간을 좌우하는 핵심 요소로 부상

: Gemma 4 31B, 10만 토큰 컨텍스트 기준 단일 사용자 3,400 output tokens/s를 기록해 해당 모델 역대 최고 속도를 달성. 엔비디아는 에이전트 및 지연시간 민감 워크로드에서 가장 가까운 대안 대비 4배 빠른 응답성을 제공한다고 설명

: Groq 3 LPX는 랙당 256개 LPU 가속기, 128GB 온칩 SRAM, 640TB/s 스케일업 대역폭으로 구성되며 NVIDIA MGX 기반 완전 수랭식 설계. Vera Rubin NVL72와 결합해 대규모 컨텍스트 처리와 초고속 토큰 생성이 필요한 에이전틱 추론 성능 강화

: 네비우스가 Groq 3 LPX를 도입하는 최초의 AI 클라우드 사업자로, 자체 프로덕션 추론 플랫폼 Token Factory에 적용할 예정. 이후 Groq 역시 초기 도입사로 참여할 계획

: 네비우스 고객은 별도 SDK, 신규 벤더 계약이나 과금 체계 변경 없이 기존 Token Factory에서 모델 선택만으로 Groq 3 LPX를 활용 가능

: 오토스케일링, observability, function calling, structured output 등 기존 기능을 그대로 유지하면서 멀티에이전트, 실시간 코딩, 저지연 추론 워크로드의 생성 속도 향상

엔비디아 발표: https://nvidianews.nvidia.com/news/nvidia-groq-3-lpx-now-in-full-production-with-world-class-speed-for-agentic-ai

네비우스 발표: https://nebius.com/blog/posts/nvidia-groq-3-lpx-nebius-token-factory

[삼성 이영진] 글로벌 AI/SW 뉴스 🤖 (26/8/25)

■ 스페이스XAI, 차세대 에이전틱 AI 워크로드를 위해 엔비디아 Vera CPU의 대규모 도입 발표

■ 엔비디아, Groq 3 LPX 양산 돌입. 네비우스가 AI 클라우드 최초 채택. Gemma 4 31B 기준 3,400토큰/초

■ 엔비디아, Vera Rubin NVL72가 실제 에이전틱 워크로드에서 GB300 대비 MW 당 처리량 최대 30배, 토큰 비용 최대 35배 개선 발표

■ Lancium-엔비디아, 전략적 파트너십 공식화. Lancium의 4GW 계약 캐파, 15GW+ 전력 부지에 풀 스택 AI 팩토리 구축

■ 오픈AI, ChatGPT Images에 커스텀 스티터 제작 기능 추가. 별도 배경 제거 작업 없이 메신저 앱을 통해 공유 가능

■ 오픈AI, GPT-5.6 시리즈를 AWS의 AI 개발 플랫폼 Kiro에 탑재

■ 스페이스XAI, Grok Voice Think Fast 2.0이 추론,도구사용, 실제 업무 수행 능력을 종합하는 Speech-to-Speech 평가에서 최상위 성능 기록. Starlink의 대규모 고객지원에 적용. 하루 1.5만 건 이상의 인바운드 전화 처리

■ SEC, 헤지펀드 Situational Awareness의 거래 시점과 레버리지 사용 관련 대출기관 커뮤니케이션 조사

■ 알리바바, 문서, 스프레드시트, 슬라이드, 웹페이지를 최대 30초 영상으로 변환하는 생성모델 Wan 3.0 정식 출시

■ 알리바바, 102억 달러 유상 증자에 280억 달러 주문. 약 3배 초과 청약

■ AWS, 서버리스 데이터 통합, ETL 서비스인 AWS Glue 6.0 정식 출시. 이전 버전 대비 가격 30% 인하

■ 메타, 오픈AI와 Thinking Machines 출신 연구원 Luke Metz 영입 보도. 올해 오픈AI 복귀 후 재차 이직

■ 미스트랄 AI-휴메인, 수억 유로 규모의 전략적 AI 파트너십 체결. 사우디 AI인프라와 아랍어 프런티어 모델 공동 구축 포함 AI 스택 전반 포괄

■ Nous Research, 스페이스XAI와 파트너십을 통해 Nous Portal에서 Grok 4.6을 1주일간 50% 할인 제공. Hermes Agents와 함께 사용하는 것을 주요 활용 사례로 제시

감사합니다.

https://t.iss.one/Samsung_Global_AI_SW

메타, 소비자 AI 에이전트 ‘Hatch’ 출시 임박, 차세대 모델 ‘Watermelon’은 10월 목표

: 메타는 OpenClaw 기반 소비자용 AI 에이전트 플랫폼 ‘Hatch’를 8월 말~9월 초 출시할 계획. 대규모 AI 투자를 수익화하고 광고 외 매출원을 확대하려는 전략

: Hatch는 DoorDash, Etsy, Reddit, Yelp, Outlook 등 외부 웹사이트에 접근해 작업을 수행하며, 에이전트가 피트니스 트래커나 여행 일정 등 자체 도구와 스킬을 생성해 사용자 맞춤형 대시보드에 배치하는 구조

: 수익화 모델로 단계별 구독제를 검토 중이며, 높은 사용 한도를 제공하는 프리미엄 요금제는 월 최대 $199.99 수준까지 논의

: WhatsApp에서도 외부 AI 에이전트를 통합해 대화할 수 있는 플랫폼 준비 중. 이르면 이번 주 소규모 사용자 대상으로 먼저 출시 예정

: 모델 측면에서는 4월 Muse Spark, 7월 Muse Spark 1.1, 8월 Muse Spark 1.2 및 코딩 에이전트 Muse Code를 연이어 공개하며 코딩, 컴퓨터 사용, 멀티에이전트 등 에이전틱 AI 역량을 빠르게 강화

: 차세대 AI 모델 ‘Watermelon’은 10월 출시 목표. Muse 제품군에 포함될지 독립 모델로 출시될지는 아직 불확실

: Muse Glimmer와 향후 Muse Spark 1.2 오픈웨이트 버전을 통해 오픈소스 전략도 유지. 폐쇄형 프런티어 모델 및 에이전트로 경쟁하며 오픈웨이트 생태계도 병행하는 이중 전략 추진

→ 예정보다 늦어진 Hatch 출시와 가을(10월)에 나올 수박(Watermelon)

https://t.iss.one/Samsung_Global_AI_SW

Cursor, 600억 달러 인수 완료 후 본격적인 ‘머스크 시대’ 진입

: 스페이스X는 이달 초 600억 달러 규모 Cursor 인수를 완료. 일론 머스크는 인수 당일 1,000명 이상의 Cursor 직원 대상 첫 전사 미팅에서 Grok이 경쟁사에 뒤처져 있으며 빠르게 따라잡아야 한다고 강조

: 머스크는 앤스로픽을 현재 AI 경쟁을 주도하는 강력한 경쟁자로 평가. 동시에 스페이스X가 AI 기업 중 가장 많은 컴퓨팅 용량을 계속 확보하겠다는 방침을 제시하며 Cursor를 모델·에이전트 경쟁력 강화의 핵심 축으로 활용할 계획

: 양사는 지난 4월 기술 공유 및 컴퓨팅 계약 이후 이미 Grok 모델과 AI 에이전트를 공동 개발. 인수 완료 후 Cursor 인력은 스페이스XAI 기존 조직으로 본격 편입되고 있으며, CEO Michael Truell은 머스크에게 직접 보고. 공동창업자들도 사전학습 및 ML 조직에 배치

: Cursor는 지난 6월 ARR 40억 달러를 기록했지만, 스페이스X와 제휴하기 직전에는 매출총이익률 적자와 막대한 컴퓨팅 비용으로 추가 수십억 달러의 자금 조달이 필요했던 상황. 스페이스X와 거래를 통해 필요한 컴퓨팅 자원을 확보

: Cursor는 프론티어 모델 업체가 자체 코딩 제품을 강화하면서 기존 코딩 사업이 잠식될 가능성을 우려해 코딩 외 영역으로 확장 추진. 동시에 GitHub 직접 경쟁 서비스 ‘Origin’을 개발해 지난주 베타 출시했으며, 인수한 Graphite의 코드 리뷰 기술도 통합

: 인수 이후 조직 변화도 본격화. 지난 4월 이후 제품, 엔지니어링 중심으로 45명이 퇴사했고 강화학습, 디자인, 브랜드 등 주요 리더도 이탈. 일부 고위 임원 강등과 보상·베스팅 조건 변경도 진행

: 반면 영업, 마케팅 채용은 크게 확대되며 전체 직원 수는 1년간 4배 이상 증가. 스페이스X 경영진도 Cursor의 채용 예산을 승인하고 영업 인력 확대를 독려

https://t.iss.one/Samsung_Global_AI_SW

Lambda, 최대 30억 달러 조달 추진, ’27년 IPO 가능성

: 엔비디아가 투자한 AI 클라우드 업체 Lambda가 최대 30억 달러 규모 신규 자금조달 논의 중. 120억 달러 이상 밸류 기준으로 투자 유치를 협의하고 있으며, 거래 조건은 아직 확정되지 않음

: 신규 라운드 관련 복수의 텀시트(term sheet)를 받은 상태. 일부 관계자들은 이번 자금조달이 2027년 IPO로 이어지는 기반이 될 수 있다고 설명

: 실적도 빠르게 확대. 관계자들에 따르면 Lambda는 2026년 매출 15억 달러 이상을 기록할 것으로 예상

: Lambda는 25년 11월 펀딩 라운드를 통해 15억 달러 이상을 조달(밸류 59억 달러). TWG Global이 라운드를 주도했으며, 엔비디아 외에도 Andra Capital, SGW, Andrej Karpathy, ARK Invest 등이 투자자로 참여

: AI 인프라 기업에 대한 투자 수요는 사모, 공모시장에서 동시에 확대. 데이터센터 업체 Nscale은 이르면 다음 달 최대 30억 달러 규모 IPO를 추진하고 있으며, Crusoe 역시 30억 달러 조달 논의 중

https://t.iss.one/Samsung_Global_AI_SW

티보 소티오 × 매튜 버먼: AI 에이전트와 오픈AI의 미래

■ AI 에이전트의 병목은 모델 성능에서 시스템 전체로 이동

“Ultra Fast처럼 토큰 생성 속도가 10~14배 빨라지면 CPU, 툴콜, 네트워크 등 다른 부분이 병목이 된다.”

→ 모델 추론 속도가 충분히 빨라질수록 실제 에이전트 작업시간을 결정하는 요소는 토큰 생성 자체가 아니라 툴 호출, 네트워크, CPU, 애플리케이션 실행 등으로 이동

→ 실제로 코드 생성처럼 툴콜이 적은 작업은 Ultra Fast에서 약 10배 빨라질 수 있지만, 툴콜이 많은 에이전트 작업은 체감 개선폭이 3~4배에 그친다고 설명

→ 향후 AI 인프라 경쟁은 단순 GPU 및 tok/s 경쟁을 넘어 추론, CPU, 네트워크, 툴 실행, 오케스트레이션까지 포함한 전체 에이전트 스택 최적화로 확장될 가능성

■ 미래 에이전트는 노트북이 아닌 클라우드 컴퓨팅 환경에서 작동

“노트북은 인간이 처리할 수 있는 작업량에 맞춰 설계됐다. 모델은 같은 제약을 받지 않는다. 미래 모델은 노트북 이상의 자원에 접근해야 한다.”

→ 현재 컴퓨터는 인간의 입력 속도와 멀티태스킹 능력을 기준으로 설계됐지만, AI는 동시에 수십~수백 개 애플리케이션을 처리할 수 있음

→ 에이전트가 고도화될수록 로컬 PC를 대신 조작하는 구조보다 클라우드에서 독립적인 실행환경과 대규모 컴퓨팅 자원을 사용하는 Cloud Agent 구조로 이동할 가능성

→ AI가 직접 컴퓨트의 소비 주체가 되면서 GPU뿐 아니라 CPU, 메모리, 스토리지, 네트워크 등 클라우드 인프라 전반의 수요를 확대할 수 있는 구조

■ Personal Agent와 Full Automation을 서로 다른 두 축으로 개발

“한쪽은 사용자를 깊이 이해하는 Personal AGI이고, 다른 한쪽은 복잡한 프로세스의 완전 자동화다.”

→ Personal Agent는 사용자의 목표, 일상, 팀 상황까지 이해하고 선제적으로 도움을 제공하는 방향

→ Full Automation은 production log 분석, 성능 최적화, 회귀 수정, 보안 취약점 패치처럼 기존에는 사람이 개입해야 했던 복잡한 프로세스를 자동화하는 방향

→ 특히 보안 취약점의 경우 탐지 이후 패치까지 자동화해 사람이 고위험 행동만 승인하는 수준을 언급

→ AI 산업의 발전 경로를 단순 Copilot이 아니라 개인 생산성 향상과 기업 업무 프로세스의 완전 자동화라는 두 축으로 동시에 확장하는 것으로 보는 시각

■ ChatGPT와 Codex 통합, 범용 에이전트와 대규모 배포 전략

“미래 모델이 우리에게 ChatGPT와 Codex를 합치라고 요구한다. 결국 같은 기술, 같은 harness다.”

→ 오픈AI는 코딩용 AI와 일반 AI를 장기적으로 별도 제품으로 보지 않음. 하나의 고성능 멀티모달 에이전트가 코딩, 리서치, 디자인, 영업, 마케팅 등 다양한 작업을 수행하고 인터페이스가 사용자별로 최적화되는 구조를 지향

→ 인터뷰 시점 Codex 사용자는 2,000만 명까지 증가. 개발자 전용 제품을 별도로 키우기보다 ChatGPT와 통합해 PM, 디자이너, 영업, 마케팅 등 비개발자까지 에이전트 사용층을 확대

→ 장기적으로는 하나의 Personal AGI Interface가 사용자별 역할과 컨텍스트에 맞춰 변화하고, ChatGPT의 대규모 소비자 배포를 개발자 및 엔터프라이즈 에이전트 채택으로 연결하는 전략

■ 사용량 리셋은 마케팅이 아니라 사용자 보상 차원에서 시작

“제품이 제대로 작동하지 않거나 경험이 기대에 못 미치면 사용량을 리셋해 보상한다. 마케팅이나 재무팀과 협의해서 하는 것이 아니라 필요하다고 느끼면 내가 직접 버튼을 누를 수 있다.”

→ Codex 사용량 리셋은 초기 제품을 빠르게 개선하는 과정에서 장애나 설정 오류가 발생했을 때 사용자에게 추가 사용량을 제공하는 보상 차원에서 시작

→ 이후 새로운 기능 출시나 주요 순간을 기념할 때도 추가 사용량을 제공하며 사용자들이 신규 기능을 직접 경험하도록 유도

→ 리셋 결정에 마케팅이나 재무팀이 관여하지 않는다고 강조. 제품 완성도가 기대에 미치지 못하면 즉각 보상하고, 단기적인 사용 비용보다 사용자 경험과 신뢰를 우선하는 오픈AI의 제품 운영 문화를 보여주는 사례

■ 미래 AI 인터페이스는 Voice-first, Ambient, Multimodal

“미래에 우리가 만드는 것은 매우 ambient하고 자연스러운 형태다.”

→ 새로운 Voice 출시 이후 음성으로 ChatGPT를 사용하는 이용자가 빠르게 증가하고 있다고 설명

→ 사람은 입력 저항이 가장 낮은 방식을 선택하기 때문에 키보드와 프롬프트 중심 인터페이스가 AI의 최종 형태는 아닐 것으로 판단

→ 향후에는 음성뿐 아니라 사용자의 화이트보드, 화면, 주변 환경까지 이해하는 상시 존재형 멀티모달 에이전트로 발전할 가능성

■ Ultra Fast 수준의 추론 속도가 1~2년 내 사실상 기본값으로

“1~2년 정도면 지금의 속도가 기본이거나 기본에 매우 가까워질 수 있다.”

→ 현재 10~14배 빠른 Ultra Fast는 프리미엄 서비스지만, 추론 하드웨어 발전과 모델 자체의 토큰 효율성 개선이 동시에 진행되면서 현재의 초고속 추론이 빠르게 대중화될 것으로 전망

→ Sol은 Terra보다 훨씬 토큰 효율적이며 차세대 모델은 Sol보다도 크게 개선될 것이라고 언급. 동일한 작업에 필요한 토큰 수가 감소하면서 작업당 총 추론 비용도 하락할 가능성

→ 다만 항상 더 많은 하드웨어를 사용하는 상위 프리미엄 tier는 존재할 것으로 전망. 장기적으로 모델 성능뿐 아니라 latency, cost per task, time per task가 AI 경쟁의 핵심 지표로 부상할 가능성

■ 재귀적 자기개선은 이미 AI 인프라 영역에서 시작

“모델이 다른 모델을 만드는 것뿐 아니라 추론 스택, CUDA 커널, 인프라를 개선하는 것도 Recursive Self-Improvement다.”

→ 오픈AI가 현재 실제 성과를 내고 있다고 강조한 영역은 완전한 AI 연구 자동화보다 AI를 활용한 AI 인프라 개발과 최적화

→ 가장 강력한 프론티어 모델을 이용해 서빙 스택과 커널 등을 재설계하고 있으며, Ultra Fast를 제외한 일반 추론 속도도 최근 약 3개월 동안 60%가량 개선됐다고 설명

→ 더 강한 모델이 추론 인프라를 개선하고, 개선된 인프라가 다시 AI 활용과 연구 생산성을 높이는 자기강화 구조가 나타나기 시작했다는 시각

→ 과거 대규모 컴퓨트 선투자 역시 이러한 구조를 뒷받침. 단순 GPU 보유량보다 Compute × Frontier Model × Inference Optimization의 결합이 경쟁력으로 작용

■ 현재 Frontier Intelligence는 수개월 내 저가, 범용화될 수 있음

“Luna는 6개월 전이었다면 Frontier에 있었을 모델이다. 지금 Frontier인 것도 6개월 뒤에는 훨씬 저렴하게 운영될 것이다.”

→ AI 산업에서 나타나는 중요한 구조적 변화 중 하나는 지능의 빠른 Commoditization

→ 현재 최고급 모델의 성능이 불과 수개월 뒤 저가 모델이나 무료 tier로 확산될 수 있으며, 오픈AI는 효율성 개선에 따른 경제적 이익을 가격 인하 등을 통해 사용자와 공유하겠다는 방향을 강조

→ 장기적으로 모델 자체의 희소성이 빠르게 낮아질 경우 경쟁력은 단순 API 성능보다 Distribution, 에이전트, 개인화, 컨텍스트 활용, 인프라 효율성 등으로 이동할 가능성

https://youtu.be/4qjEgPojjzM

오픈AI DevDay 2026에서 큰 거 온다?

OpenAI DevDay 2026은 창사 이래 최고의 DevDay가 될 겁니다. 다른 DevDay와는 비교가 안 될 정도일 겁니다.

: 티보 소티오는 올해 DevDay가 “회사 역사상 최고의 DevDay가 될 것이며, 비교가 안 될 정도”라고 언급하며 강한 자신감 표명

: 올해 OpenAI DevDay는 9월 29일 개최 예정. 2023년 GPT-4 Turbo 공개를 제외하면 최근 DevDay는 신규 프런티어 모델 자체보다 개발자 플랫폼과 에이전트, 자동화 기능을 강화하는 방향으로 전개

: 2024년 Realtime API, Prompt Caching 등에 이어 2025년에는 AgentKit, Agent Builder, Codex SDK 등을 공개. DevDay 무게중심은 실제 업무를 수행하는 에이전트와 이를 구축하기 위한 인프라로 이동

: 특히 오픈AI는 2026년 9월까지 인간 연구 인턴 수준의 ‘Automated AI Research Intern’ 달성을 내부 목표로 제시. 이후 2028년 3월에는 장기간 독립적으로 연구를 수행할 수 있는 ‘True Automated AI Researcher’를 목표로 설정

: Automated AI Research Intern의 목표 시점과 9월 29일 DevDay가 정확히 맞물림

: 직접적 연관성을 확인할 수는 없지만, 최근 DevDay의 에이전트, 자동화 강화 흐름과 이례적으로 강한 발언을 감안하면 장기 작업, 연구, 코딩 자동화 등 한 단계 진화한 에이전트 관련 발표 여부에 주목 필요

https://x.com/thsottiaux/status/2092117461646856505

구글 클라우드, Gemini Enterprise 금융 및 법률 특화 솔루션 동시 공개

: 구글 클라우드는 Gemini Enterprise for Financial Services와 Gemini Enterprise for Legal을 프리뷰로 공개

: 범용 AI를 넘어 각 산업의 도메인 스킬, MCP 기반 데이터 연결, 실제 업무를 수행하는 에이전트, 파트너 생태계를 하나의 거버넌스 체계 아래 통합하는 산업 특화 전략

: 금융 서비스는 Financial Research 에이전트에 50개 이상의 기본 스킬을 탑재하고 신뢰도 점수, 명시적 방법론, 감사용 데이터 스냅샷, 출처 인용을 제공

: 신용 리스크 평가, 포트폴리오 모니터링, KYC, 시장 리서치, 채권 발행 등에 활용되며 FactSet, Moody’s, MSCI, PitchBook, Guidepoint, SEC EDGAR 등 주요 금융 데이터와 직접 연결

: 법률 서비스는 계약 검토·레드라이닝, 법률 리서치, 규제 모니터링, DSAR 대응, NDA 작성 등을 에이전트 기반으로 자동화

: iManage, NetDocuments, DocuSign, Everlaw, RelativityOne, Thomson Reuters HighQ 등 기존 법률 시스템뿐 아니라 Harvey, Legora, Solve Intelligence 등 전문 법률 AI와도 연결

: 금융에서는 Deutsche Bank와 CME Group, 법률에서는 Cleary Gottlieb, Freshfields, Weil, Williams & Connolly 등이 개발에 참여.

: Google Workspace와 Microsoft 365를 포함한 기존 업무 환경 및 권한 체계를 유지하면서 실제 보고서, 모델, 계약서 등 산출물 생성까지 수행

: 핵심은 모델 성능 자체보다 기업의 도메인 지식과 데이터, 실제 워크플로우를 에이전트에 결합하는 것. 고객 데이터와 모델 출력은 비공개로 유지되며 Google 파운데이션 모델 학습에는 사용되지 않음

: 향후 Healthcare, Life Sciences 등으로 산업 특화 Gemini Enterprise를 확대할 계획

Gemini Enterprise for Financial Services

https://cloud.google.com/blog/products/ai-machine-learning/introducing-gemini-enterprise-for-financial-services

Gemini Enterprise for Legal

https://cloud.google.com/blog/products/ai-machine-learning/introducing-gemini-enterprise-for-legal

오픈AI, 자체 추론칩 Jalapeño 첫 성능 공개

: 오픈AI는 첫 자체 추론칩 Jalapeño의 초기 벤치마크 결과를 공개. InferenceX에서 GPT-OSS 120B, DeepSeek R1 670B, Kimi K2.5 1T를 테스트

: 최대 처리량 기준 와트당 성능은 GB200, GB300 대비 1.5~1.9배 높고 엔드투엔드 지연시간은 1.7~3.6배 낮음. 사용자당 최대 디코딩 속도도 각각 2.7배, 4.1배, 3.8배 향상

: 특히 기존 GPU의 최고 디코딩 속도와 동일한 TBT 기준에서는 mixed tokens/s/kW가 GPT-OSS 53.7배, DeepSeek R1 104.3배, Kimi K2.5 56.1배 높아 저지연 인터랙티브 추론에서 강점을 확인

: 칩, 메모리, 네트워크, 소프트웨어, 랙을 통합 설계하고 KV cache와 모델 상태를 로컬에 유지해 데이터 이동과 통신 지연을 최소화. Prefill과 Decode의 서로 다른 병목을 하나의 아키텍처에서 처리

: AI를 칩 설계와 프로그래밍에도 활용해 설계부터 tapeout까지 9개월 만에 완료. Codex와 GPT-Astra를 활용해 3개 오픈웨이트 모델을 2개월 만에 최적화했으며, 일부 연산 블록에서는 AI 생성 코드가 인간 전문가 대비 1.5~1.8배 빠른 성능 기록

: 오픈AI는 Jalapeño를 모델부터 칩까지 통합하는 풀스택 전략의 첫 결과로 평가. 올해 말 자체 인프라에 배포를 시작하며 Gen 2는 개발 중, Gen 3도 설계 단계. NVIDIA 등 외부 가속기 역시 계속 병행할 계획

https://openai.com/index/jalapeno-first-results

앤스로픽, TAM 30조 달러 이상 제시 전망

: 앤스로픽은 IPO 투자자들에게 AI가 수행할 수 있는 전체 업무 범위를 기반으로 30조 달러 이상의 TAM 제시 전망. 스페이스X가 제시한 28.5조 달러를 넘어서는 규모

: 스페이스X는 28.5조 달러 TAM 가운데 26.5조 달러를 AI 기회로 산정했으나 당시에도 시장에서는 현실성을 둘러싼 논란 제기. 30조 달러는 지난해 S&P 1500 내 191개 기술기업의 전체 매출 2.4조 달러의 12배 이상

: IPO에서 최대 1,000억 달러 조달 및 약 2조 달러 기업가치를 목표로 검토 중. 이는 스페이스X의 IPO 조달액 860억 달러와 상장 당시 기업가치 1.77조 달러를 모두 상회

: 관련 계획과 수치는 아직 논의 단계로 변경 가능. 앤스로픽은 향후 몇 주 내 S-1 서류를 공개할 예정이며, 이르면 9월 또는 10월 초 상장 가능성

→ 뭐든 스페이스X보다 높게!

https://t.iss.one/Samsung_Global_AI_SW

[삼성 이영진] 글로벌 AI/SW 뉴스 🤖 (26/8/26)

■ 오픈AI, 첫 자체 추론칩 Jalapeño의 초기 벤치마크 결과 공개. InferenceX에서 최대 처리량 기준 와트당 성능은 기존 시스템 대비 1.5~1.9배 높고 엔드투엔드 지연시간은 1.7~3.6배 낮음. 사용자당 최대 디코딩 속도도 각각 2.7배, 4.1배, 3.8배 향상

■ 오픈AI, 데이터센터 책임자 Chris Malone 퇴사. 다만 스타게이트 중심에서 파트너십으로 전략이 전환하며 퇴사 시점에 핵심 인프라 구축을 직접 지휘하지는 않음

■ 오픈AI, 최근 코드명 Bel의 사전학습 완료 루머. Bel은 Astra와 GPT-6의 기반이 되는 Doug의 후속 사전학습 모델로 10조 파라미터 이상 거론

■ 오픈AI, ChatGPT Work와 Codex에 사용량 분석, 계정 및 권한 관리, 지출 승인과 반복 IT 업무 자동화를 자연어로 수행하는 Admin Plugin 출시

■ 앤스로픽, IPO에서 30조 달러 이상 TAM 제시 전망

■ 앤스로픽, Claude의 Chat과 Cowork의 메모리를 하나로 통합하고 대화 중 자동 업데이트와 토픽별 직접 편집, 삭제 기능 추가

■ 앤스로픽, 경비업체 직원의 파업 가능성에 대비해 샌프란시스코 직원들에게 일시 재택근무 지시

■ 엔비디아, Jetson Orin Nano 2 공개. 27년 상반기 출시. 추론 성능 2배, 동일 성능 전력소비 40% 절감을 구현한 엔트리급 피지컬 AI 타겟

■ 구글 클라우드, Gemini Enterprise 금융 및 법률 특화 솔루션 동시 공개

■ 메타, Muse Spark 1.2의 Contributor Tier를 글로벌 시장으로 확대. API 가격이 낮은 대신 유저 데이터를 모델 개선에 활용

■ 피규어 AI, 인간 작업 영상을 수집하는 로봇 데이터 플랫폼 Index 공개. 향후 1년 간 데이터, 컴퓨트에 10억 달러 이상 투자 계획

■ Skild AI, 단일 영상 시연으로 미세조정 없이 최대 10분 길이의 신규 물리 작업을 수행하는 로보틱스 파운데이션 모델 SI 공개

■ 퍼플렉시티, 엔비디아 DGX Spark에서 원클릭 로컬 추론과 에이전트 실행을 지원하는 Portable Computer 공개

■ 실시간 데이터베이스 기업 ClickHouse, AI 에이전트 수요 기반으로 ARR은 5월 이후 40% 성장한 3.5억 달러 달성. 오픈AI 사용량은 지난 1년간 10배 증가

■ 바이트댄스, 업무용 AI 에이전트 Doubao Work 출시

■ 허깅 페이스, 연 환산 매출 2달 만에 50% 성장한 1.5억 달러 기록

■ 스페인, AI 데이터센터 투자 급증 배경으로 EU 데이터 역내 저장, 시간당 재생에너지 80% 이상, 신규 전력 1MW 당 재생에너지 1MW 추가 확보 요구 등 규제안 추진

감사합니다.

https://t.iss.one/Samsung_Global_AI_SW

오픈AI, 데이터센터 총괄 크리스 말론 퇴사, 인프라 조직 개편 지속

: 오픈AI의 데이터센터 총괄 크리스 말로(Chris Malone)이 지난주 퇴사. Malone은 구글과 메타에서 데이터센터 전략 및 기술을 담당

: 2025년 3월 오픈AI에 합류해 스타게이트 포함 데이터센터 구축을 주도. 다만 초기 스타게이트 프로젝트는 난항을 겪으면서 직접 개발보다 클라우드 사업자와 계약 중심으로 전략 전환

: 최근에는 단순 칩 임대를 넘어 데이터센터 시설 전체를 임차하는 방식으로 자체 인프라 역량을 다시 강화하고 있으나, 해당 사업은 다른 리더들이 주도

: 올해 인프라 조직 개편 이후 사친 카티(Sachin Katti)가 전체 조직을 총괄하고, 크리스 말론과 에이드리언 콜필드(Adrian Caulfield)가 데이터센터 엔지니어링 및 설계 공동 책임자 역할

: 7월에는 xAI Colossus 구축 핵심 인력이었던 우데이 루다라주(Uday Ruddarraju)를 컴퓨팅 용량 CTO로 승진시키고, xAI 출신 브렌트 메이요(Brent Mayo)도 산하에 배치

https://t.iss.one/Samsung_Global_AI_SW

딜런 파텔 × 드와르케시 파텔: AI 컴퓨트와 경제의 미래 - Part 1

■ 오픈AI와 앤스로픽, 2027년 신규 AI 컴퓨트의 40~50%를 차지할 전망

“내년 말이면 신규 컴퓨트의 절반이 이미 앤스로픽과 오픈AI로 가게 된다.”

→ 2026년 초 오픈AI는 약 2GW, 앤스로픽은 2GW 미만으로 시작했지만 연말에는 양사 모두 5GW 이상으로 확대될 전망. 올해 추가되는 글로벌 컴퓨트의 약 30%가 두 회사에 투입

→ 이미 체결된 계약을 기준으로 2027년에는 양사가 신규 컴퓨트의 40-50%를 차지할 것으로 예상. 신규 칩의 와트당 성능도 기존 세대 대비 35배 높아, 현재 추세가 지속될 경우 2028년 말에는 두 회사가 전 세계 활용 가능한 AI 연산능력 대부분을 차지할 수 있다고 전망

■ AI 랩의 경제성 급격히 개선, 2027년 MW당 매출 7,000만~8,000만 달러 이상도 가능

“추론 용량에 10달러를 쓰면 실제로 50달러의 매출을 만들 수 있고, 그 이익을 다시 학습에 쓸 수 있다.”

→ 과거 오픈AI가 Hopper에서 GPT-4를 서비스할 때는 마이너스 총마진이 발생했지만 GPT-5.6, Opus 5, Fable 5에서는 매출이 컴퓨트의 증분 비용을 크게 상회

→ 컴퓨트 비용은 MW당 약 1,000만~1,500만 달러인 반면 앤스로픽의 매출은 최대 5,000만 달러까지 상승했다고 추정. 앤스로픽은 2Q 흑자 전환, 오픈AI도 Codex와 GPT-5.6 성장으로 3Q 중 흑자 전환 가능성을 언급

→ 2027년 말에는 전사 평균 기준 MW당 매출이 7,000만~8,000만 달러 이상도 가능하다고 전망. 다만 누가 최고의 모델을 보유하는지, 해당 모델을 계속 공개할 수 있는지에 크게 좌우

■ 컴퓨트 집중이 계속되려면 오픈AI와 앤스로픽이 훨씬 높은 가격을 지불해야 함

“2028년에 세계 컴퓨트의 70%를 가져가려면 MW당 2,500만, 3,000만, 5,000만 달러를 지불하기 시작해야 한다.”

→ 현재 MW당 1,000만~1,500만 달러 수준에서는 오픈웨이트 모델을 직접 서비스하는 사업자도 컴퓨트 비용 이상의 매출을 만들 수 있다고 설명

→ 따라서 양사가 2028년 합산 100GW라는 공격적인 목표에 도달하려면 다른 수요자보다 높은 가격을 제시해야 한다고 평가

→ 다만 최첨단 모델의 공개가 제한되면 MW당 매출 증가가 정체되거나 감소할 수 있으며, 데이터센터 규제 역시 공급 감소와 비용 상승을 통해 컴퓨트 확대를 제한할 수 있다고 지적

■ 메타와 스페이스X, 컴퓨트를 선제적으로 확보할 수 있는 잠재적 3위 사업자

“Meta와 SpaceX가 유일하게 현실적인 3위 후보다. 이들은 컴퓨트를 비축하고 있기 때문이다.”

→ 일반적인 클라우드 사업자는 고객 계약을 확보한 뒤 이를 기반으로 자금을 조달해 컴퓨트를 구축하지만, Meta와 SpaceX는 자체 대차대조표를 활용해 최종 고객 없이도 먼저 구축할 수 있다고 설명

→ 이후 자체 AI에 사용할지, 오픈AI나 앤스로픽 등 더 높은 가격을 제시하는 사업자에게 임대할지 선택할 수 있다는 점에서 차별화된 위치에 있다고 평가

■ AI가 창출하는 가치의 상당 부분은 아직 모델 업체보다 사용자에게 돌아가고 있음

“모델들이 만들어내는 가치의 대부분은 오픈AI와 앤스로픽에 돌아가지 않는다. 다행히 지금까지는 대부분 사용자에게 돌아가고 있다.”

→ Jane Street와 Meta 등을 사례로 들며 AI 모델 활용으로 얻는 경제적 가치가 모델 업체에 지불하는 비용보다 훨씬 크다고 설명

→ 과거에는 모델 업체가 추론에서 손실을 보는 동안 하드웨어 공급망이 높은 마진을 확보했지만 최근에는 오픈AI와 앤스로픽의 가치 포착도 빠르게 증가

→ 향후 모델 업체의 MW당 매출이 상승하면 컴퓨트 공급자와 엔비디아, 메모리, 파운드리 등도 가격을 높일 수 있어 가치가 어느 계층에 귀속될지는 계속 변할 것으로 전망

■ AI 랩은 추론보다 R&D에 더 많은 컴퓨트를 배정할 것

“개인적으로 랩들이 시간이 갈수록 추론에 더 적은 컴퓨트를 배정할 것이라고 생각한다. 대부분의 사람들과 반대되는 생각이다.”

→ 일반적인 전망은 장기적으로 대부분의 AI 컴퓨트가 추론에 사용된다는 것이지만, 딜런은 학습과 연구에 사용되는 비중이 오히려 높아질 것으로 전망

→ 추론으로 높은 매출을 올릴 수 있더라도 동일한 컴퓨트를 차세대 모델 개발에 투입하는 내부 가치가 더 높을 수 있다는 논리. 오픈AI와 앤스로픽은 추론 이익을 배당하기보다 AGI 개발에 재투자할 가능성이 높다고 평가

→ 앤스로픽의 컴퓨트가 계속 증가하는 반면 최근 ARR 증가 속도는 둔화된 점을 근거로, 신규 컴퓨트에서 R&D 비중이 높아지는 현상이 이미 나타나고 있다고 주장

■ 프런티어 모델의 단일 학습 런은 랩 전체 컴퓨트에서 작은 비중

“앤스로픽이 Mythos를 학습할 때 사전학습은 200MW 미만이었다.”

→ 현재 프런티어 AI 랩의 컴퓨트 사용을 대략 연구 50%, 개발 10%, 추론 40%로 구분

→ 앤스로픽이 수 GW의 컴퓨트를 보유하고 있더라도 Mythos의 사전학습은 약 두 달 동안 200MW 미만이었다고 추정. 상당한 연구 컴퓨트는 아키텍처, 데이터 믹스, 하이퍼파라미터 등 다양한 실험에 사용

→ 향후 automated coding, automated researcher, continual learning이 발전하면 연구와 학습의 경계는 더욱 모호해질 것으로 전망

■ 현재 중국이 확보하는 글로벌 신규 AI 컴퓨트는 10% 미만

“현재 미국에는 전 세계 신규 와트의 70%가 배치되고 있다. 중국은 정말 작은 숫자로, 10% 미만이다.”

→ 2022년 미국은 글로벌 신규 컴퓨트의 약 45-50%, 중국은 30-35%를 차지했지만 이후 대중 수출규제와 미국의 AI 투자 확대가 겹치며 격차 확대

→ 2028년 중국 전체 AI 컴퓨트는 30GW 이하로 예상. 다만 SMIC, CXMT 등의 생산능력이 확대되면서 2028년부터 중국 자체 컴퓨트 증가가 본격화될 가능성

■ 중국은 2029년 연간 50GW 증설도 가능하지만 칩 성능 격차는 존재

“중국이 2029년에 50GW를 추가하는 것은 충분히 합리적이라고 생각한다.”

→ 2028년에는 중국산 칩만으로 5~10GW의 신규 컴퓨트를 추가할 수 있고, 2029년에는 해외 구매분을 포함해 연간 50GW를 추가하는 시나리오도 가능하다고 전망

→ 다만 중국산 칩은 당시 미국 최신 칩보다 성능이 낮을 것으로 예상돼 중국의 50GW가 미국 최신 칩 기준 약 20GW 수준의 실질 연산능력에 해당할 수 있다고 언급

■ 반면 중국 AI 랩은 컴퓨트 규모에 비해 모델 성능에서 크게 뒤처지지 않고 있음

“중국 기업들은 현재 보유한 컴퓨트 규모에 비하면 AI 모델에서 그렇게 많이 뒤처져 있지 않다.”

→ ByteDance Seed를 제외한 중국 선두 랩의 전체 컴퓨트는 최대 100~200MW 수준으로 추정. Kimi는 1GW에 크게 못 미치는 반면 앤스로픽은 2026년 말 5GW 이상을 사용할 전망

→ 그럼에도 공개적으로 관찰되는 모델 성능에서는 미국 프런티어 랩과 큰 격차를 보이지 않는다고 평가. 현재까지 큰 컴퓨트 격차가 동일한 수준의 모델 성능 격차로 이어지지는 않았다는 지적

https://youtu.be/aV26V1UvkJw