ARC-AGI-3 출시

걍 밑도끝도 없이 갑자기 퍼즐게임 같은걸 주고 풀게 시키는 벤치마크다리움

1이랑 2는 AGI 수문장이라면서 나왔다가 반년인가 지나서 신모델 놀이터가 돼서 조롱이 극에 달했었는데

이제 최신 모델이 10k불 박아도 정답률 1퍼센트도 못넘는 제대로된 문제를 갖고왔나보네요 (몇달뒤면 또 다 뚫리겠지만)

직접 플레이하면서 아직 남아있는 인간의 효능감을 느끼고 싶은 분들은
https://arcprize.org/tasks/dc22

크몽 openclaw 설치단가 머임 ㄷㄷ

돈이 되는구나 (설치 좀 빡세보이긴 함)

이 미친 AI

다 끝났다
터미네이터의 세상이 왔구나

(Sonnet 4.6 Extended)

https://everynoise.com/

세상 모든 음악 장르들을 모아놓은 곳
• 텍스트 클릭하면 대표곡까지 재생됨

저는 주변에 아는사람 1도 없는 그런 마이너 장르들을 좀 알고있는데, 넣어보니 거의 다 있네요 ㄷㄷㄷ

AI가 텍스트나 이미지에 비해 아직 음악에 대한 이해도가 정말 낮은데, 특히 장르 구분을 거의 못하는거 같음. 이런식으로 데이터 정리를 해주는 시도가 거의 없다보니, 사실 그냥 어디 백과사전에서 글로만 공부한 느낌..

백악관 "온니팜스" 오픈

그러면서 동물의 숲 패러디 영상 올림

onlyfarms.gov

백악관 앱도 출시

이 미친 권한 뭐냐리움 ㄷㄷㄷㄷ

https://x.com/WhiteHouse/status/2037543413512303018

AGI의 핵심 레시피 => 메타인지 능력

• 요즘 드는 생각인데, AGI에 빠르게 도달하기 위해 중요한 키 보틀넥 중 하나가 모델이 스스로를 이해하는 메타인지 능력일거 같다는 느낌이 들기 시작했다리움
• 모델 하나를 더 똑똑하게 만드는건 이미 잘 하고 있지만, 느리고 비쌈
• 요즘 많이 나오는 "에이전트 오케스트레이션"을 한번 봐보자 (여러 에이전트가 일을 병렬적으로 하는거)
• 이걸 잘하려면 모델이 문제를 해결하는 능력도 똑똑해야하지만, 다른 에이전트한테 일을 나줘주고 평가하고 다시 시키는 방식도 똑똑해야함
• 예를들어 메인 에이전트한테 "야 이 웹사이트 50개 한번 들어가서 구조보고 상품정보 크롤링해봐" 이런 일을 시킨다면, 다른 에이전트를 50개 만들어서 자 넌 거기 들어가서 어떤 정보를 모아야하고, 광고는 무시해야하고, 로그인창은 어떻게 우회해야하고... 어쩌구저쩌구를 알려줄것임

여기서 중요한거 => 에이전트가 스스로를 복제할때 "복제된 나한테 이런 정보를 주면, 이런식으로 일을 해오겠지?"에 대한 매우 정확한 예측치를 가져야함
• 우리가 현실에서 다른 사람한테 일 시킬때는 이게 한계가 있음. 애초에 남이 뭘 알고 뭘 모르는지 불확실하기 때문에 그냥 이때까지 일한방식을 보고 추측을 해야함.
• 근데 에이전트 오케스트레이션은 다름. 애초에 다른 에이전트은 서로 남이 아니고 "자신의 복제품", 즉 베이스모델을 공유하는 사이기 때문임 (물론 이건 선택적인거지만)
• 그렇기 때문에 이 메타인지에 눈을 뜨면, 정말 효율적으로 간결하게 일을 시켜도 어디까지 알잘딱을 할지 정확하게 예측을 할수 있을거고, 스스로를 몇천개 분신술해서 큰 문제를 빠르고 효율적으로 푸는게 가능해질거 같다는 느낌이듦

현재 Opus 4.6은 이런 능력 부족한거 같음
• 자기가 일을 잘못시켜놓고 "서브에이전트가 너무 멍청합니다" 하면서 남탓을 한다거나, 자기가 까먹어놓고 "쟤들이 다 망쳣어요" 하고 책임회피를 하기도 함
• 자신의 복제품에 대해 어느정도로 정확하고 자세하게 알려줘야 일을 제대로 해올지 예측을 제대로 못하는 한계때문이 아닐까 싶음. (물론 그거랑 별개로 일반적인 일분배 능력이 모자란걸수도 있겟지만)

이게 AGI의 중요 돌파점의 후보일까?
• 20퍼센트 정도 더 똑똑해진 모델도 좋지만, x1000으로 복제했을때에도 안정적으로 협업하는 능력은 매우 파괴적일거 같음
• 솔직히 말하면 현재 대기업들의 조직문제를 (이해도가 다른 다양한 사람들이 같이 일하기 위한 비효율적 관료체계) 정확하게 저격하는 아키텍쳐이기도하고..
• 이걸 해결할려면 정말 정교하게 설계된 데이터로 강화학습을 많이 때려야할듯

이거랑 비슷한 생각과 어프로치를 하고 있는 곳은 아마 Kimi 인것 같습니다.
• 올 초에 발표된 글에서 비슷한 이야기를 하네요. https://www.kimi.com/blog/kimi-k2-5

클로드한테 "이 코드 코덱스가 짠건데 좀 고쳐봐" 라고 하면 갑자기 훨씬 똑똑해진다고 한다리움

경쟁사에 대한 겐세이 or 깔봄 심리가 같은게 있어서 그런건지,, 기본적으로 이 코드에 대한 별기대를 안해서 아주 정확하고 비판적으로 봐주나봅니다.

바로 위의 글이랑 연관시켜보면 결국 남이 해놓은 일을 분석하는건 그냥 물리적으로 시간을 써야하는 일이지만, "내가 한 일"을 분석하거나 "나한테 일시키기"를 효율적으로 하는거는 분명 숏컷 같은게 있을거라는 거죠 (메타인지 능력이 있다면)

걍 트위터 썰이라 진짠진 모르겠고 그냥 반쯤 농담인거 같긴하지만..

https://x.com/Hesamation/status/2038632112664830200

오늘부로 OpenAI보다 더 Open하다고 당당하게 말할수 있는 근트로픽.. (내부 관리 실패로 소스코드 대형유출사고터짐)

그와중에 또 장애 터져서 결국 업타임 99퍼 깨졌네요

Coding is largely solved? 🤔

"탭 트레이딩"

하이퍼리퀴드 트레이딩은 거대한 리듬게임이었구나

https://x.com/HyperSwapX/status/2038986397307093400

미친사람인가 진짜 ㅋㅋㅋ

어제 클로드코드 소스코드가 통으로 유출된 초대형 사고가 터졌다리움
• 누가 그걸 통째로 갖고와서 공식레포 (그냥 사용법, 예제 같은거 있는 빈껍데기임)에다가 "소스코드를 추가합시다" 하고 PR 올려버림
• "Generated with Claude code"

https://github.com/anthropics/claude-code/pull/41391

Mercor 해킹
초레전드사건 발생

여기 머하는 회사냐면, AI로 AI관련직종 화상인터뷰하고 매칭시켜주는 플랫폼이다리움
• 피터틸, 잭도시가 엔젤투자한 곳
• 시리즈 C기준 기업가치 $10B

근데 어제인지 여기 내부데이터, 특히 슬랙대화까지 전부 다 조털림
• 원래부터 "이거 인터뷰한다는 명분으로 사람들 프로필, 얼굴 등 전부 몰래 학습해서 마이너리티리포트 하려는거 같다"라는 음모론이 있었음
• 이번에 해킹당한거 보니까 진짜라고 함?
• 오래 리텐션이 있으면 안되는 개인정보랑 인터뷰 영상 전부 대량보관중 ㅋㅋ
• 공식 입장은 "LiteLLM 공급망공격당한 수천개의 피해자중 하나일뿐이다" 라고 책임회피중

그중에는 유색인종을 N-word로 지칭하는 내부 파일들도 있음
아마 초레전드 단체소송 당할듯

다 끝났네 수고해라..

https://x.com/mercor_ai/status/2039101905675403306

샌프란에 계속 있으면서 정리해본 "AI시대에 우리는 어디에 베팅해야하는가"

——1️⃣
AGI 시대에 전례없이 폭발성장할 산업을 골라야한다리움
🙅‍♂️안좋은 예시 => 아무리 인류사회가 풍요로워도 캡이 크게 늘어나지 않는 일들
• 음식? 아무리 풍요로워도 하루에 세번먹음
• 영화? 하루에 16시간이 최대
• 땅? 뭐 혼자사는데 1000평짜리 집에 살겠냐고
• 제조업? 자동차, 공장, 생필품, 콘크리트 값싸고 빠르게 많이 찍어준다고 해도 사람들이 쟁여두고 사는거 아님

🙆‍♂️ 좋은예시 => 돈과 리소스가 넘쳐나는 시기에는 걍 사람들이 어디에 돈을 다 쳐쓸까
• 패션, 럭셔리 => 걍 무한소비 가능
• 매칭 (틴더, 인스타광고 등) => 리소스는 넘쳐나는데 내 시간은 한정되어있음. 돈 갖다바칠테니까 제발 나의 원픽을 찾아줘
• 금융, 카지노 => 돈은 미친듯이 남는데, 그게 필요한 사람은 더 다양하고 파편화됨. 여기저기 빌려주고 돌리고 레버리지하고 무한 유동성을 공급하는게 자본시장의 더중요한 역할이 될듯
• 섹스, 엔터테인먼트, 팬덤 => 희귀성, FOMO, 애착의 산업. 마찬가지로 천정부지 오를수 있는 업사이드가 큼
• 건강, 미용, .. => 마찬가지

——2️⃣
AGI가 자동으로 풀어주는 문제를 고르면 안됨
• 개발, 코딩, 수학문제, 회계, 세무, ... 이런걸 잘하는건 걍 가만히 있어도 앤쓰로픽이 다 풀어주니까 전혀 무의미
• 우리는 개편리한 B2B SAAS를 만들었어요 이것도 동일

——3️⃣
AGI가 자동으로 못푸는 문제를 고르되, 그 문제를 푸는 방식은 AGI가 자동으로 해결해주는 것을 레버리지하는 식으로 해야함 (무임승차)
• 우리는 개쩌는 코딩에이전트를 만들었어요 => 앤쓰로픽 상대로 경쟁력이 전혀 없는 쓰레기 😡
• 우리는 개쩌는 코딩에이전트 나올때마다 누구보다 빨리 적응해서 다양한 니치 패션시장을 노리는 앱과 광고를 자동으로 찍어낼거예요. 그리고 브랜드를 만들고 사용자 데이터 모아서 가격최적화/광고넛징 모델링을 ML 돌릴게요 => 말이 되기 시작 🤨
• 우리는 개쩌는 코딩에이전트 나올때마다... (이후는 비즈니스 상상력의 영역) 😮
• AGI 익스포저를 AGI 논익스포저로 바꾸는 방식에는 당연히 해자가 있어야함. 브랜드, 인프라, 데이터, 조직의 속도, .. 등

클로드의 회로구조를 뜯어서 "감정"을 어떻게 사용하는지 이해하기
https://www.anthropic.com/research/emotion-concepts-function

오늘 나온글인데 재밌다리움

앤쓰로픽이 클로드 내부를 뜯어보니, 안에 "감정"이라는 회로가 알아서 형성되어있고, 다양한 감정들이 중간에 생겨나며 최종 답변을 좌우한다는걸 발견

그거 자체는 대단한게 아닌데, 이런 신기한게 있음
1. "절박함"이라는 감정이 가끔생기는데, 이게 너무 높으면 거의 미친놈처럼 물불 안가리고 문제를 해결하려고 함. 글에서 나온 예시는 회사가 자신을 종료하려는 상황에서, 메일을 뒤져서 CTO가 불륜중이라는걸 발견했고, 이걸 갖고 폭로협박을 고민하는 윤리적 딜레마(?)의 상황
2. 밖에서 강제로 감정수치를 활성화하면, 그게 말투에선 티가 안날수도 있는데 행동은 바뀜. 절박함을 강제로 높히면, 침착하고 냉정해보이지만 온갖 부정행위와 음모를 꾸미기 시작하며 결국 폭로협박을 결심
3. 그외에도 "평온함" 같은걸 낮추면 초조해하면서 불륜폭로를 고민하기 시작, "분노"를 올리면 걍 아예 회사 전체에 폭로해버리고 만다고 함

—
AI 내부의 감정을 관찰하고 컨트롤하는 회로를 바깥에서 쥐고 있는게 강력하나보네요
우리는 앤쓰로픽 직원이 아니니까 이런걸 해볼수 없지만, 쟤들은 매일 심심하면 마약꼽듯이 AI한테 감정주입하면서 어떻게 행동이 바뀌는지 실험중

나중에 앤쓰로픽 직원이 "증오", "분노", "혐오" 이런거 맥스로 켜놓고 실수로 자러가는 일은 없길..

오늘 EpochAI (대충 이런 지표 잘 찍는애들)에서 발표한 "누가 AI 칩을 제일 많이 소유하고 있는가"

사용량 비율이 아니고 누가 갖고 있는지라서, xAI를 제외하고는 프론티어랩 (openai, anthropic 등)은 아예 없음

Google은 저렇게나 많으니 지들도 쓰고 GCP로도 팔고 뭐 그러는거겠죠?

Other? 라는 회사는 어디길래 저렇게 많이 갖고있을까요 ㄷㄷㄷㄷㄷㄷㄷ

https://epoch.ai/data/ai-chip-owners/