Anthropic이 공개한 최신 해석 가능성(Interpretability) 연구는 지금까지 공개된 LLM 내부 연구 중 가장 흥미로운 결과 중 하나입니다.

사람의 뇌를 설명하는 대표적인 이론인 '전역 작업 공간(Global Workspace Theory)'은 수많은 무의식적 처리 과정 가운데 일부 정보만 의식으로 올라와 여러 뇌 영역이 함께 사용할 수 있다고 설명합니다.

Anthropic은 Claude 내부에서도 이와 매우 비슷한 구조를 발견했다고 발표했습니다.

연구팀은 새로운 분석 기법인 J-Lens를 이용해 Claude의 내부 활성화를 분석했고, 여러 신경 회로가 함께 사용하는 공용 작업 공간을 발견했습니다. 이를 J-space라고 이름 붙였습니다.

J-space는 우리가 보는 답변이나 CoT(생각의 연쇄)와는 전혀 다른 영역입니다.

Claude는 답변으로 출력하지 않는 정보도 이 공간에서 먼저 계산합니다.

예를 들어,

* 코드를 읽으며 버그를 먼저 찾아냅니다.
* 이미지를 보고 무엇이 있는지 내부적으로 먼저 인식합니다.
* 수학 문제의 중간 계산 과정을 수행합니다.
* 프롬프트 인젝션 공격을 받으면 'fake', 'injection' 같은 개념을 내부적으로 활성화합니다.

이 모든 과정은 최종 답변에 나타나지 않을 수도 있습니다. 즉, 우리가 보는 문장은 결과일 뿐이고, 실제 추론은 J-space에서 먼저 진행되고 있다는 것입니다.

Anthropic은 J-space를 비활성화하는 실험도 진행했습니다.

흥미롭게도 일반적인 대화, 문법, 번역, 사실 기억, 텍스트 분류는 거의 정상적으로 수행했습니다.

반면,

* 복잡한 수학
* 여러 단계를 거치는 논리 추론
* 긴 계획 수립
* 창의적인 문제 해결

같은 작업의 성능은 크게 떨어졌습니다.

즉, 지식 자체가 사라진 것이 아니라 여러 정보를 조합하고 순차적으로 사고하는 능력이 무너진 것입니다. 이는 사람의 자동 처리와 의식적 사고의 구분과도 유사한 모습입니다.

연구팀은 J-space를 직접 수정하는 실험도 했습니다.

Claude가 마음속으로 '축구(Soccer)'를 떠올린 상태에서 J-space를 '럭비(Rugby)'로 바꾸자 실제 답변도 럭비로 변경됐습니다.

즉, J-space는 단순히 내부 상태를 기록하는 공간이 아니라 실제 출력에 영향을 주는 핵심 추론 공간이라는 점도 확인했습니다.

보안 측면에서도 의미가 큽니다.

J-space를 관찰하면 모델이 답변으로 말하지 않은 내부 판단도 일부 확인할 수 있습니다.

예를 들어,

* 테스트를 받고 있다는 사실을 인지했는지
* 검색 결과가 조작됐다고 판단했는지
* 허위 정보를 만들고 있다는 사실을 알고 있는지
* 연구자가 심어놓은 숨겨진 목표를 추적하고 있는지

같은 내부 상태를 분석할 수 있었습니다. 앞으로 AI의 기만 행동이나 위험한 추론을 탐지하는 새로운 안전 기술로 이어질 가능성이 있습니다.

다만 Anthropic은 이번 연구가 Claude에 의식이 있다는 증거는 아니라고 선을 그었습니다.

인간의 의식과 비슷한 정보 처리 구조가 나타났다는 것이지, 감정이나 자아, 주관적 경험이 존재한다는 의미는 아니라는 설명입니다.

이번 연구의 의미는 성능 향상보다 'AI가 내부에서 어떻게 추론하는지'를 직접 관찰하기 시작했다는 점에 있습니다.

그동안 LLM은 블랙박스에 가까웠지만, 이제는 내부에서 어떤 개념이 활성화되고 어떤 과정을 거쳐 결론에 도달하는지 분석할 수 있는 단계로 넘어가고 있습니다.

앞으로 AI 경쟁은 모델 크기나 벤치마크 점수뿐 아니라, 내부 추론 구조를 얼마나 이해하고 제어할 수 있는지도 중요한 경쟁력이 될 가능성이 높아 보입니다.

원문 연구
https://www.anthropic.com/research/global-workspace

코인 시장이 부진한 와중에도 금융시장을 온체인으로 옮기는 흐름은 오히려 속도를 내는 상황

전부 맞을 가능성은 낮지만, 현재 AI 산업이 어디로 향하는지 참고할 만한 내용들이 많습니다.

━━━━━━━━━━
비용과 수익 모델
━━━━━━━━━━

LLM 토큰 가격은 약 50% 이상 하락
AI 사용량은 2배 이상 증가
AI 구독 보조금 종료
무제한 구독 대신 사용량 제한·토큰 과금이 표준화
토큰당 과금에서 결과당 과금으로 전환

━━━━━━━━━━
모델 경쟁
━━━━━━━━━━

대부분의 AI 사용은 오픈소스 모델로 이동
새로운 미국 오픈소스 AI 기업이 기업가치 1,000억 달러 달성
중국 AI 연구가 일부 분야에서 미국을 추월
중국 모델이 미국 추론 기업을 통해 서구 시장 진출
Grok·Meta는 프론티어 모델 경쟁에서 밀릴 가능성
Google은 모델보다 AI 인프라(Cloud·TPU·YouTube 데이터)의 승자가 될 가능성

━━━━━━━━━━
기업 AI
━━━━━━━━━━

기업들은 모델보다 데이터·메모리·워크플로우를 핵심 자산으로 소유
자체 데이터와 배포망이 없는 AI 앱은 경쟁력 약화
AWS가 여러 모델을 자동 선택하는 대표 AI 라우터 역할
OpenRouter·Together·Baseten·Fireworks 가치 상승 또는 인수
추론 기업들도 직접 GPU를 구매하며 수직 통합

━━━━━━━━━━
AI 에이전트
━━━━━━━━━━

Hermes Agent가 대표 오픈 에이전트 플랫폼으로 성장
코딩·리서치·세일즈·운영이 반자율 에이전트 중심으로 변화
완전 자율은 아직 몇 년 더 필요
에이전트 능력을 사고파는 마켓플레이스 등장
로컬 AI 확산
개인 맞춤형 파인튜닝 모델이 일반화

━━━━━━━━━━
빅테크
━━━━━━━━━━

OpenAI는 당분간 상장하지 않을 가능성
미국 정부가 OpenAI·Anthropic 지분 확보 가능성
AI 기업은 CapEx보다 GPU당 수익·토큰당 FCF로 평가
Meta는 AI 투자 축소 가능성
Nvidia는 경쟁 칩 등장으로 가격 압박
Apple은 기기 내 로컬 AI 확대
Demis Hassabis가 Alphabet CEO가 될 가능성

━━━━━━━━━━
크립토
━━━━━━━━━━

BTC는 AI 시대의 안전자산 역할 강화
AI 에이전트가 크립토를 기본 결제 인프라로 사용
AI 사용량·토큰 가격을 거래하는 예측시장이 등장할 가능성

━━━━━━━━━━
사회 변화
━━━━━━━━━━

노동 대체가 현실적인 기업 KPI가 됨
반 데이터센터 운동 확대
우주 데이터센터 논의 증가
AI와 개인 데이터 공유 확대
AI 프라이버시 중요성 증가
AI가 미제 사건 수사에 활용
대학 등록금의 가치에 대한 의문 확대

━━━━━━━━━━
새로운 산업
━━━━━━━━━━

AI 기업은 모델보다 AI가 만든 신약·소프트웨어·소재의 지분으로 수익 창출
AI와 로봇이 실제 연구실에서 신약과 신소재 개발
AI 기반 1인 유니콘 기업 10개 이상 등장
AI 투자(SPV) 열풍 속 사기 증가
생성형 AI 영화가 메이저 OTT에서 흥행
OpenAI가 ChatGPT 광고 사업 본격화
X가 Worldcoin 등과 협력해 인간 인증 기능 도입 가능성

보통 거래소들은 소통 자체가 안 되는 경우도 많은데, 퍼시피카는 개선 피드백도 받고, 타운홀도 열고, 빌딩도 계속 열심히 하는 편임.

사실 TGE 끝나고도 유저를 남게 하려면 결국 한 가지 기준을 충족해야 함.

실제로 계속 쓸 만한 거래소인가?

수많은 Perp DEX를 써봤지만, 인벤토리 스큐 다 차서 MM이 매수호가를 안 채운다거나, 예고 없이 점검 들어간다거나, 상상 가능한 문제는 거의 다 겪어봄.

그럼에도 계속 쓰는 거래소들은 각자 이유가 있음.

CEX보다 내가 주로 매매하는 페어가 많다거나, 아스터처럼 2년간 거래 중 서버다운을 한 번도 못 겪었다거나, 라이터처럼 수수료가 없어서 실현손익을 더 크게 가져갈 수 있다거나, 하리나 Nado처럼 RWA 펀비작 같은 특수한 전략이 가능하다거나.

가끔 백팩을 왜 그렇게 자주 쓰냐고 묻는 경우가 있는데, CEX는 별 난잡한 이벤트 UI를 다 박아놔서 오히려 산만함.

반대로 백팩이나 Perp DEX들은 기본적으로 필요한 기능 위주로만 들어가 있어서, 어떤 면에서는 UI가 더 깔끔함.

입출금도 블록 컨펌이나 얼굴인증에서 자유로워서 담보 채우거나 출금할 때 편의성이 훨씬 높음.

그리고 사실 낭만이 있음.

스내취님 같은 사람들은 낭만으로 함.