Nvidia가 KV cash를 획기적으로 줄일 수 있는 기술을 소개했다길래,

수다쟁이 챗지피티에게 전닉 던져야 하는지 물어보았다.

https://www.opensourceforu.com/2026/03/nvidia-brings-20x-memory-savings-to-open-source-llm-infrastructure/

이걸로 시장이 갑론을박중

팔란티어 & 안두릴, 골든 돔 미사일 방어 시스템 소프트웨어 개발 컨소시엄 참여

: 컨소시엄은 올 여름 테스트를 목표로 소프트웨어를 준비 중. Aalyria, Scale AI, Swoop 등 AI, 네트워크 기업들도 참여

: 소프트웨어는 센서, 레이더, 요격체계를 연결하는 ‘지휘통제(C2) OS’ 역할로, 시스템의 핵심 아키텍처

: 실제 시연 성공 시 1,850억 달러 규모 방어 시스템의 중심 레이어로 자리잡으며, 장기 개발·유지보수 매출 기회 확보

: 프로젝트는 미 우주군 마이클 게틀라인 장군이 총괄하며, 소프트웨어는 유일하게 직속 조직에서 직접 관리

: 기존 방산 기업(Lockheed, Northrop 등)은 메인 컨트랙터가 아닌 테크 기업 하청 구조로 참여

https://t.iss.one/Samsung_Global_AI_SW

골든돔 떴다...

시연 잘해서 본계약까지 가길 🙏

ai 발 고용위기가 심각해지는걸 느낀게, 내 주변에 해고당한 주니어 꽤보이기 시작함 ㅇㅇㅇ 그리고 체감상 ai는 시니어보단 주니어 인력에게 치명적인 경쟁상대임. 지금 당장은 하드스킬로 일하는 주니어와 직접 적으로 경쟁하는 구조.. 시니어는 매니징 역량과 네트워크를 보유했기 때문에 아직은 살아남지만, 곧 차례가 올듯.

주니어들은 ai를 극한까지 활용해서, 시니어가 직접 ai를 쓰는것보다 높은 퍼포먼스를 내야하는 상황(잇츠미...)임. 그런데 주니어가 하드워킹하면서 경험이랑 인간관계 축적되면서 생기는게 네트워킹(영업역량)인데, ai로 인해 채용자체가 줄고 심지어 해고되는 사례들이 나오니까 시니어가 되는것 자체도 힘들어보임.

아무튼.. 윗글에서 '컴퓨터가 병목이었던 시대'에서, '인간이 병목인 시대'가 됐다는 얘기가 나오듯, ai 활용 효율이 높고 퍼포먼스 좋은 인간이 되는게 당장에 살아남는 방법인듯.

전적으로 동감

우리 모두 빌더가 되어야합니다. 전에 써놓은 글 리마인드 🫡

$MU와 $SNDK는 $GOOGL의 TurboQuant 출시로 인해 개장 초에 큰 영향을 받고 있습니다.

시장에서는 이를 메모리 이름 지정에 잠재적인 장애물로 해석하는데, 이는 장기 컨텍스트 AI 추론이 이제 워크로드당 훨씬 적은 메모리를 필요로 할 수 있기 때문입니다.

몇 달에 한 번씩 “AI에 필요한 메모리가 더 줄어든다” 고 주장하는 논문이 나옵니다. 이번에도 그런 류의 논문입니다.

공짜 점심은 없습니다.

통제된 벤치마크 환경에서 KV 캐시를 압축하는 것과, 그것을 전 세계의 모든 사용자·모든 작업·모든 플랫폼에 보편적으로 확장하는 것은 전혀 다른 문제입니다. 대규모 환경에서는 정확도 붕괴가 실제로 발생합니다. 연구 논문답게, 이런 단점들은 대개 헤드라인에 잘 드러나지 않습니다.

Titans 아키텍처를 기억하시나요? 구글은 이것이 메모리 사용 효율을 높여줄 것이라고 말했습니다. 하지만 판도를 바꾸지는 못했습니다. 오히려 HBM 수요를 더 끌어올렸다고 봐야 합니다. 제번스 역설(Jevons Paradox) 때문입니다. DeepSeek는 어땠나요? 지금의 메모리 수요는 어떤가요? 판단은 직접 해보시면 됩니다.

HBM은 여전히 AI 학습(training)의 핵심 연료입니다. 이 점은 변하지 않습니다. 해당 논문이 겨냥하는 것은 장문맥(long-context) 추론이며, 이 과정은 전체 메모리 스택에 의존합니다. 즉, 속도를 위한 HBM, 용량과 저장을 위한 서버 DRAM 및 NAND가 함께 필요합니다. 추론이 실행되면 메모리 데이터는 HBM에서 기존 DRAM과 NAND로 넘쳐흐르듯(spill) 이동하게 됩니다. 그 과정에서도 HBM은 계속 완전히 활용됩니다. 제 생각에는, 이 연구가 해낼 수 있는 최선은 어디까지나 통제된 작업 환경에서 그 부하를 일부 줄이는 정도입니다.

https://x.com/googleresearch/status/2036533564158910740?s=46

#PLTR

AI SaaS 아포칼립스에 대한 팔란티어의 입장

진행자:

인공지능이 등장했기 때문에 더 이상 코드의 해자도 없고, 데이터의 해자도 없고, 소프트웨어 회사들은 도태될 것이라는 쪽이 있습니다. 반면 어떤 사람들은 그렇게 간단히 대체될 수는 없다고도 말합니다. 이 소프트웨어 종말론에 대해 당신은 어떻게 보나요?

팔란티어 CTO 샴생커:

저는 둘 다 맞다고 봅니다. 다만 다른 기준으로 생각해보면 더 명확합니다. 어떤 소프트웨어는 본질적으로 베타에 관한 것이고, 어떤 소프트웨어는 알파에 관한 것입니다. 베타에 관한 소프트웨어는 앞으로 정말 힘들어질 것이라고 생각합니다. 여기서 말하는 베타는, 당신을 다른 회사들과 더 비슷하게 만드는 소프트웨어입니다.

이것은 제가 오랫동안 소프트웨어 산업 복합체에 대해 비판해온 지점입니다. 소프트웨어 회사들의 주된 포커스는 “이걸 팔 수 있는가?”이지, “이게 실제 가치를 만들었는가?”가 아닙니다. 가치는 판매의 결과물로 밀려나 있죠.

그런데 바이브 코딩이든, 인공지능이든, 이제는 당신만을 위한 소프트웨어를 만들 수 있게 됐습니다. 잘만 하면 본질적으로 알파 중심이죠. 그래서 이미 알파에 집중해온 플랫폼들은 오히려 더 유리해질 겁니다. 그들에게는 돛을 채워주는 바람이 될 거예요.

반대로 베타 중심 소프트웨어는 정말 어려워질 겁니다. 어쩌면 처음부터 그렇게 큰 가치가 없었는지도 모릅니다.

결국 누가 진짜 가치 있는 것을 만들었는지가 드러난 순간이 될것입니다.

아마 지금까지는 남들도 다 쓰니까, 업계 표준 솔루션이니까, 그런 이유로 따라 써온 소프트웨어들이 많았을 겁니다. 그런 것들은 큰 압박을 받을 겁니다. 반면, 당신 회사를 남들과 다르게 만들어주는, 경쟁우위를 표현할 수 있게 해주는 소프트웨어는 더 높은 프리미엄을 갖게 될 겁니다.

Source: BIGDATA DOCTOR

많이 강조했지만, 팔란티어를 사용하는 기업과 그렇지 않은 기업의 격차는 점점 더 많이 벌어질겁니다

#에너지

ICIS: 3월~5월 카타르 아랍에미리트
LNG 수출 3개월 완전 중단 예상

→ LNG 비축분 다쓰면 '당장' 땜빵가능한 에너지원은?

#매크로

트럼프는 이란이랑 협상을 하고 있나?(유튜브 알파고)

1) 트럼프가 이란 측 주요 인사들과 협상 중이라고 밝힌 가운데 이란과의 조기 타협을 원치 않는 이스라엘 언론이 파키스탄 막후 협상설을 의도적으로 유출함

2) 협상 당사자로 거론된 갈리바프 이란 국회의장은 이스라엘 공습에서 생존한 뒤 최고지도자 부재에 따른 권력 공백을 틈타 새로운 힘의 축으로 부상하려는 야망을 보이고 있음

3) 미국은 이란과의 협상을 진행하면서도 동시에 미 지상군 투입 작전을 취소하지 않는 투트랙 전략을 구사 중이며 이스라엘은 이란에 대한 확실한 타격과 압박을 원함

4) 중동의 맹주 사우디아라비아는 미군 주둔을 핑계로 한 이란의 공격을 경계하면서도 확전 시 이란 대 아랍의 전쟁으로 번져 막대한 무기 구매 부담을 안게 될 것을 우려함

5) 기존 중재국이었던 오만이 미국의 신뢰를 잃은 가운데 파키스탄은 동맹국 사우디의 참전을 막고 자국 내 분리주의 단체의 동요를 차단하기 위해 새로운 중재국으로 나섬

6) 대중의 오해와 달리 미국과 이란 간의 핵 문제는 어느 정도 합의가 된 상태였으며 핵심 쟁점인 탄도 미사일 역시 수년간 개발을 중단하는 선에서 대화가 진전되고 있었음

7) 이란의 1차적인 진짜 목적은 단순 휴전을 넘어선 정전(전쟁 종식)이며 표면적으로 내세우는 전쟁 배상금 요구는 사실 해외 동결 자금이나 이라크 석유 수익을 받아내기 위한 명분이자 국내 정치 선전용임

8) 트럼프는 과거 이라크 전쟁 종료일이자 상징적인 날인 4월 9일에 맞춰 이번 중동 사태를 종결지음으로써 본인의 영웅적인 서사를 완성하고자 노력하고 있음

https://www.youtube.com/watch?v=FQEi-JpUqwc

현재 시점 정리하면

이란, 미국: 휴전 원함 BUT 조건 합의가 안됨
이스라엘: 확전 원함
주변 중동국가: 미국 없는 확전 부담스러움

유튜브 댓글

미국:
사람은 똑같은데 말이 계속 바뀜

이란:
말은 똑같은데 사람이 계속 바뀜

▶️[중동 분쟁 여파 속, VLGC 신조 발주에 대한 관심 증가]

- 이란 전쟁 이후 여러 글로벌 선주들이 VLGC 신조선에 대한 관심이 증가하고 있으며, 한국 조선소의 VLGC 신조 슬롯을 확보하기 위해 움직이고 있는 중

- 한국 선사 KSS Line은 HD현대중공업과 VLGC 3척에 대한 LoI를 체결

- TMS Cardiff Gas 또한 HD현대중공업과 VLGC 2척에 대한 LoI를 체결한 것으로 알려짐

- 추가로 두 곳의 선주가 삼성중공업과 VLGC 건조 슬롯을 두고 협의 중인 것으로 전해짐

- 선박 브로커들은 현재 논의되고 있는 VLGC 신조선 가격이 척 당 $110m 수준이라고 언급

- 업계 관계자는 중동 지역 분쟁으로 인한 시장 혼란이 일부 선주들에게 VLGC에 대한 투기적 투자 기회를 제공했을 가능성을 제기

- 미국 LNG 프로젝트들이 승인되면서 관련 생산 증가가 미국의 LPG 수출을 확대시키고, 아시아향 수송이 늘어나면서 톤마일 수요가 증가할 것이라는 기대에 기반

- 또 다른 선박 브로커는 선주들이 단순히 현금이 풍부한 상태에서, 현재 시장에서 매력적으로 보이는 2028년 조기 인도 슬롯을 선점하고 있는 것이라고 설명

- 그는 만약 이란에 대한 제재가 결국 해제될 경우, 현재 LPG를 운송하는 노후화되고 관리가 미흡한 ‘그림자 선대’가 퇴출되면서 새로운 선복 수요가 발생할 수 있다고 언급

https://www.tradewindsnews.com/gas/vlgc-newbuilding-interest-ticks-up-amid-middle-east-conflict-fallout/2-1-1965021

.

정해진 미래