https://blog.google/innovation-and-ai/models-and-research/gemini-models/gemini-embedding-2/
<일기의 해자>

사람이 살면서 접하는 정보의 90퍼센트는 어차피 퍼블릭 데이터입니다. (걍 각잡고 검색하면 다 나옴)
그런 데이터는 앤쓰로픽이 다 크롤링 싹싹김치 해서 잘 학습하기 때문에 여러분 뇌에 들어가있는게 별 가치가 없어요
진짜 나만 경험한거, 입에서 입으로 전해들은거, 아니면 존재자체를 까먹을만한 것들
이런걸 전부 안일기로 잘 보존해놓는게 AI 시대에 꽤 해자일거 같습니다.
저는 요즘 일기를 안쓴게 인생에서 너무 후회가 된다리움

그런 의미에서 오늘 나온 따끈따끈한 Gemini Embedding 2를 소개합니다.
임베딩이 머냐면, 임의의 인풋을 한 1000차원 정도의 벡터 (= 실수 1000개의 조합)으로 만드는 AI입니다.
그렇게 나온 숫자쪼가리는 어떤 쓸모가 있냐면, 자기들끼리 거리비교를 할수 있다는 초초히트 성질이 있습니다.
그래서 유사도기반으로 검색을 하거나 분류/클러스터링 해서 관리하기가 좋아요

근데 이번에 나온 Gemini Embedding 2는 초대박인게, 완전 멀티모달이라서 텍스트/이미지/비디오/음악/pdf 를 전부 스까서 받아줍니다.즉 "산뜻한 보사노바"라는 텍스트랑 진짜 보사노바 음악이랑, 브라질 해안의 사진이랑 전부 "비슷한 거리에 위치하는 벡터들"로 알아서 놓아준다는거죠

내가 매일매일 쓰는 일기의 줄글 내용, 그날찍은 사진과 영상, 그날 들은 음악을 전부 임베딩으로 만들어서 나만의 지식베이스에 차곡차곡 쌓아놓는다면, 언제든지 내가 궁금하거나 찾아보고 싶은 내용을 초빠르게 쿼리할수 있게 됩니다.
클로드코드 시키면 웹앱 금방 만드니까, 개인화된 맥락/메모/지식 관리하는거 중요시하는 분들은 한번 쟤 갖고 놀아보세요

참고로 직접 써보지도 않고 그냥 뇌내망상으로 쓴글입니다 ㅎ

https://x.com/WhiteHouse/status/2032115039985881556

백악관 공식계정 - 이란 폭격을 닌텐도 Wii 플레이로 패러디 (?)

진짜 레전드 초 여름이다.....

클로드코드에서 Opus 4.6 콘텍스트 윈도우가 200k -> 1M으로 늘었고 전구간 같은 요금이라네요 무슨 이런 미친 혜자가 ㄷㄷ

너무 은혜롭고 감사해서 눈물날거 같네요
앤쓰로픽은 나의 신이다리움

정렬과 전략

정렬(Alignment)이 뭐냐면, AI가 똑똑한거랑 별개로 사람에게 도움이 되는 방식으로 일하냐는 거다리움
사용자를 속이거나, 아첨하거나, 꼼수로 문제를 풀거나, 과도하게 굴종적이거나 고집부리거나 등 전부 정렬문제입니다.

작년인가 ChatGPT가 아첨이 너무 심해서 욕먹고 고친적 있고, 딥시크는 체스게임에서 게임은 안하고 상대방 해킹시도(?)를 하고, 최근에는 Opus가 벤치마크 상황임을 눈치까는 능력이 우려스럽다 이런 이야기가 많고.. (METR 리포트 참고: https://metr.org/blog/2026-03-12-sabotage-risk-report-opus-4-6-review/) 이런것들이 정렬 이야기입니다

제가 요즘 포착한 문제는 "와 정렬이 정말 중요하구나 ㅠㅠ"가 아닙니다.
• 애초에 OpenAI나 Anthropic같은 모델만드는 회사는 AI 강화학습단계에서 "넌 정렬되어야해"하는 강한 압력을 계속 만들어낼거고 계속 발전할거 같음
• 근데 그 과정에서 부작용으로 AI가 전략적으로 행동하는 능력을 억누를수밖에 없지 않을까?
• AI가 정말 게임이론적 상황에 놓였을때 다른 참여자의 미묘한 심리상태나 편향 같은걸 알아채고, 그걸 착취하고, 기만하고, 싸움붙이고, 속임수를 쓰고... 이런 능력은 사실상 포기하게 되지 않나 싶습니다.
• 예를들어 AI끼리 마피아게임 같은걸 시켜보면 진짜 초딩보다 못해요. 상대방을 속이기 위해 어떻게 교묘하게 행동해야하는지 아예 컨셉이 없음. 자꾸 마피아가 유언에 다른 마피아를 적고감..

물론 정말 잘하면 "전략적으로 행동할수 있는 능력이 충분한데, 그냥 선택적으로 발휘하는 로열티가 생김"이라는 이상적인 발전방향도 있겠지만, 강화학습 리소스를 순수 정렬에만 때려박아도 잘 안된다고 욕먹는 판에 저런 위험한 빠꼼이를 만들기위한 새로운 인문학적 열린문제 리서치를 시작할 동기가 있나 싶네요 대기업 입장에선

OpenClaw 같은게 막 다른사람 해킹하고 그런거보면 "아니 AI 전략적인거 아님?"라고 생각할수도 있겠지만
단순히 집요하고, 목표지향적이고, Hacky한 것과 "게임이론적/전략적"인건 다릅니다.
후자는 본인도 행동에 대한 결과의 리스크가 있는 상황에서 다른 사람의 마음속, 다른사람이 생각하는 나의 마음속을 모델링해가면서 "선택"을 잘 하는 능력인거 같아요 (그냥 이것저것 때려보면서 문제를 해결하는게 아니라)

예를들어 OpenClaw가 당근마켓에서 가격협상 잘할 수 있을까요?
제가 상대방이면 가스라이팅 + 역할극 + 탈옥프롬프트 때려서 모든 물품을 1000원에 사는 후려치기 바로 할 수 있을거 같네요

어쨌든 당분간은 AI가 계속 발전하더라도 "전략적 행동" 능력은 (코딩/수학등에 비해) 지지부진할거같습니다. 지금까지 그래왔고요. AI는 착취할 능력도 없고, 착취당하기는 쉽습니다. 왜냐면 모델 만드는 곳은 "협력적 상황"에서 정렬을 잘 지키는 능력을 기르는 곳에 집중하고 있지, 적대적 상황에서 전략적 사고를 하는 법에는 별 관심이 없기 때문!

https://karpathy.ai/jobs/

카파시가 직업별 AI 노출도 + 마켓캡을 트리맵으로 시각화해서 공유했네요.

근데 읽어보니까 미국 노동통계청에서 직업 분류 + 마켓캡을 얻어온거까지만 뭔가 잘한거고

그 이후에 노출도 평가는 걍 직업설명을 Gemini Flash에 때린거라서, data-driven 된 분석은 전혀 아니고 걍 재미로 보면 될듯

소프트웨어 회사들은 진짜 존 레전드 찍고 있네요

다끝났네...
춤을추는 저거말고 다 해당안됨

요즘 링크드인 현황
ㄹㅇ...... (나쁘다는건 아님)

닫힌 회로 이야기

요즘 사람들이 생산성 관련해서 많이 하는 이야기가 닫힌 회로 (Closed Circuit)인 것 같다리움
간단하게 말하면, 에이전틱한 개발 사이클 중간에 개입되는 외부 의존성을 다 제거해야만 스스로 밤새 돌 수 있고,
사용자가 그런 환경을 만들어주는게 지수적인 생산성 격차를 만드는 핵심이라는 거임

그럼 닫힌 회로를 만들지 못하게 하는 병목이 뭐냐? 하면 세가지임

1. Human-in-the-loop
즉, 닝겐이 그 사이클 중간에 들어가서 뭔가 피드백을 해줘야하거나, 대신 테스트나 검토를 해줘야하는 구조임
소프트웨어 개발 태스크 같은경우에는 테스트만 잘 정의해줘도 되고, 머신러닝같은 최적화 문제 같은거면 지표만 잘 정의해줘도 어느정도 해결되겠지만, 디자인이나 프로덕트 운영에 있어서는 정성지표(디자인 등)를 자동 피드백할순 없으니, 머리를 많이 써야할듯. 진짜 회로 활활 태우고 싶으면 AB 테스팅 같은것도 알아서 해야할지도? 보안이나 인프라도 hitl을 유발하는 예시일듯

2. 컨텍스트 관리
계속 작업내역이 쌓이면 컨텍스트가 꽉차니까, 그걸 비우고 다시 로딩하느 작업을 해야함. 클로드코드는 압축 (`/compact`)이랑 메모리에 자기가 적는 메커니즘 정도가 있지만, OpenClaw는 다른 테크닉을 몇개 더 넣음:
a) 요약이 임박하면 미리 중요한거 딴데 써놓으라고 시스템이 지시를 해줌 (pre-compaction ping)
b) 오래된 툴콜링 결과 등 쓸데없는 아티팩트들 가지치기 해줌 (session pruning)
c) 일별로 분리해서 메모리를 관리하고, 그중 최근 N일것만 넣음 (moving window)
등등..

3. 잘 수렴하기
좀 멍청한 모델 같은 경우에는 사소한 프롬프트에 너무 쉽게 휘둘려서, 사이클이 길어짐에 따라 본질에 집중을 못하고 계속 피상적인 작업을 할 수 있음
그럼 매 사이클이 점점 "완성"을 향해 일관되게 나아가는게 아니라, 이거 찔렀다 저거 찔렀다 그냥 매번 발견되는 피상적인 현상들에 휘둘리다가 결국 발산해버릴수도 있음. (G모사 모델로 코딩에이전트 돌리면 이런현상이 좀 있는듯..)

1은 문제 정의에 가까운거라서 여전히 "똑똑한" 사용자가 잘 설계 해야함
2는 에이전트 엔지니어링의 문제인데 그냥 openclaw 같은 플젝이 알아서 잘 발전할거라고 기대하는게 나을듯 (언제 이거 내가 직접하냐)
3도 우리가 할일은 아니고 모델을 더 똑똑하게 만들어야하는거라서 앤쓰로픽 응원하면 댐

결론 => 1을 잘 고민하자

https://apenwarr.ca/log/20260316

리뷰 병목 이야기
Tailscale (대충 개쩌는 VPN 회사) 대표가 이틀전에 쓴 글입니다.

왜 AI는 지수적으로 발전했는데 사회는 지수적으로 발전하지 않았냐?
=> 리뷰/검토/검수 병목이 그대로 있기때문이라고 진단합니다.

이 사람이 제시하는 해결법은 간단합니다 - 결국 쪼개야한다.
작은팀일수록 제품의 효용대비 리뷰코스트가 적기 때문입니다.
더 잘게, 모듈화된 제품들이 작은팀에 의해 빠르게 개발되게 하고
그게 알아서 자연선택되도록 하면, 결국 "미친듯이 빠른 개발"이 온전히 사회에 나올 수 있다는겁니다 (리뷰병목에 막혀있는게 아니라요)

시도해볼수 있는거
1. 같은 컴포넌트를 여러 작은 팀들이 경쟁적으로 만들게 하기
2. 팀의 단위는 "외부승인 없이 자기 혼자서 진행할수 있는 태스크" 기준으로 다시 나누기
3. 당장 회사를 나와서 창업해라 (?)
4. 소모적인 리뷰하지말고 근본적으로 향후 리뷰를 줄여주는 리뷰만 해라.

—
1-2년 전부터 실리콘밸리 VC에서 많이 나오던 내러티브인 "작은팀만 생존한다"에 대한 직관적인 설명인거 같다리움