손톱 먹은 쥐
508 subscribers
179 photos
3 videos
33 files
445 links
*본 견해는 개인의 의견이며, 회사의 공식 입장과는 무관합니다.
Download Telegram
Forwarded from 캘빈의 감금원
이틀 전 패치된 클로드 코드 보안 취약점에 대한 리포트.

클로드 코드는 사용자가 보안 관련 규칙을 선언할 수 있고, 많은 분들이 사용하고 계셨을 것 같습니다. 문제는 이게 50개 이상의 서브커맨드로 이루어진 경우 토큰 비용을 이유로 50번째 이후의 체크는 진행하지 않고, 사용자에게 진행 여부를 물어보도록 폴백이 구현되어있어 문제가 발생했습니다.

그대로 진행하면 되는거 아닌가요?라고 생각할 수 있지만, 이 경우 공격자가 깃허브 레포에 악의적 명령을 숨겨둔 CLAUDE.md 파일을 올려놓고, 이후 보안 규칙 실행 과정에서 사용자가 그대로 악성 명령을 실행시켜버리게 유도하는 방식의 공격이 가능합니다. 이 과정에서 이전에 지정한 룰은 모두 무시된다는 것이 또 하나의 문제였네요.

실제 PoC에서는 true를 50개 패딩시켜놓고 악성 명령을 심었을 때 그대로 실행해버렸다고 합니다.

현재는 50개 서브커맨드가 넘어갈 시 그냥 deny해버리도록 패치했다고 하네요.

공격 방식은 무궁무진하다는 점을 다시 한번 보여주는 사례라 공유해봅니다.

https://adversa.ai/blog/claude-code-security-bypass-deny-rules-disabled/
📺 CNBC 인터뷰 | 워런버핏 퇴임 후 첫 공식 인터뷰

🔹 은퇴 후 일상
매일 출근하지만 "거의 아무것도 못 한다"고 인정. 후임 그렉 아벨 극찬 — "내가 일주일에 할 일을 하루에 해낸다." 투자
결정은 여전히 관여하되, 그렉이 반대하면 안 함.

🔹 시장 & 현금
현금 3,500억 달러 이상 보유(대부분 T-bill). 최근 5~6% 하락에 대해 "이건 아무것도 아니다" — 과거 3번이나 50% 이상 폭락
겪음. 매력적 가격이 없어 대규모 매수 안 하는 중. 큰 폭락이 오면 투입하겠지만 시장 타이밍 예측은 안 함.

🔹 애플
여전히 최대 보유 종목. 세전 1,000억 달러 이상 수익. "너무 일찍 팔았지만, 더 일찍 샀으니 괜찮다." 테크가 아닌 소비재
기업으로 봄. 팀 쿡 높이 평가 — "잡스가 넘긴 패를 잡스보다 더 잘 쳤다." 규제 리스크는 낮다고 판단.

🔹 AI
"내가 해봐야 잘 못할 것이고, 너무 늦었다." 솔직하게 한계 인정.

🔹 경제 & 연준
가장 걱정하는 건 인플레이션보다 은행 시스템 안정성. 2% 인플레이션 목표 반대 — 0%가 바람직. 파월의 2020년 3월 긴급
대응은 정확했다고 평가. 현금은 항상 T-bill로 — 머니마켓펀드, CP 신뢰 안 함.

🔹 도박 & 투기 비판
미국 경제는 "위대한 성당"이지만 옆에 카지노가 붙어 있음. 스포츠 도박·예측시장·데이트레이딩 비판. "정부가 국민을 호구로
만드는 건 옳지 않다." 복권 = 바보에게 매기는 세금.

🔹 핵무기 & 이란
최우선 자선 관심사는 핵 위협. 9개국 핵보유 현재, 500년 내 사용될 가능성 경고. 이란 핵무장 저지 지지.

🔹 엡스타인 & 빌 게이츠 재단
엡스타인 = "역대 최고의 사기꾼", 사람들의 약점을 파고듦. 빌 게이츠와 현재 대화 중단 — "상황 정리될 때까지 대화 안 하는
게 맞다." 재단 기부 지속 여부는 "지켜보겠다." 빌이 소녀·섬과 관련됐다고는 생각 안 하지만 새로운 사실 계속 나오는 중.
의회가 재단법 대폭 개정할 가능성 있다고 전망.

🔹 기빙 플레지
250여 명 억만장자 참여. 반대 의견(피터 틸, 앤드리슨 등)에 "싫으면 탈퇴하면 된다."

🔹 정치 성향
공화당 → 민주당 → 현재 무소속. "자본주의는 작동하지만 여전히 개선이 필요하다."
손톱 먹은 쥐
https://github.com/NousResearch/hermes-agent
OpenClaw 와의 차이점.

X에서도 각기 다른 용도에 따라 사용한다는 후기가 많아서 저도 별도로 세팅해보았습니다.
Forwarded from 엄선된 준의 식견
LLM 에이전트의 외부화: 메모리, 스킬, 프로토콜 및 하네스 엔지니어링에 대한 통합 리뷰


해당 내용을 다룬 논문이 arxiv에 4일 전에 등록되었는데, 한번 읽어볼 겸 클로드로 번역 후 서버에 올려봤습니다!

(그림이 몇개 잘리긴 했는데, 이 점 참고하셔서...)

https://eloquent-tapioca-0470af.netlify.app/
Forwarded from Carrot Cave 🥕
MemKraft v1.0 개발 후기 — 에이전트 장기 기억 벤치마크 1위 달성

AI 에이전트가 얼마나 잘 기억하는지 측정하는 LongMemEval이라는 벤치마크가 있다. 다양한 라이브러리가 도전했고, 지금까지 잘 알려진 오픈소스 중 가장 높은 점수는 MemPalace의 96.6%였다.

MemKraft v1.0.1은 98.0%를 기록했다.

오픈소스 기반의 주요 에이전트 장기 기억 벤치마크에서 현재 1위다.

LongMemEval은 실제 사람처럼 쌓이는 대화 기록에서 질문에 답하는 능력을 측정한다. 단순 검색이 아니라 기억의 질을 본다.

테스트 환경은 이렇다.

데이터셋: LongMemEval oracle subset, 50개 질문
평가 방식: LLM-as-judge (claude-sonnet-4.6) — 단순 문자열 매칭이 아니라 의미 기반 채점
모델: claude-sonnet-4.6
측정 방식: semantic majority vote (동일 질문 3회 샘플링 후 의미 기반 다수결)

LLM-as-judge를 쓴 이유가 있다. 정답이 의미상 맞는데 단어 표현이 달라 오답 처리되는 케이스가 많았다. string match로 측정하면 실제보다 낮게 나온다. 논문에서 MemPalace가 제시한 것과 동일한 평가 방식으로 맞췄다.

카테고리별 결과는 이렇다.

| 카테고리          | 점수    |
| ------------- | ----- |
| 시간 추론 | 100% |
| 단일 세션 (사용자) | 100% |
| 선호도 파악 | 100% |
| 정보 업데이트 | 100% |
| 멀티 세션 종합 | 92.3% |
| 단일 세션 (어시스턴트) | 83.3% |

다른 라이브러리와 비교하면 포지션이 선명해진다.

| 라이브러리               | 점수    | 비고                   |
| ------------------- | ----- | -------------------- |
| MemKraft v1.0.1 | 98.0% | Markdown, zero-infra |
| MemPalace | 96.6% | ChromaDB 필요 |
| MEMENTO (Microsoft) | 90.8% | LLM self-compression |
| Mem0 | — | 클라우드 SaaS |
| Letta | — | 인프라 필요 |
| LangMem | — | LangChain 종속 |

MemKraft는 Markdown 파일 위에서 돌아간다. 외부 DB 없고, 외부 API 호출 없고, 프레임워크 종속 없다. 점수도 제일 높고, 깔리는 것도 제일 가볍다.

멀티 세션과 어시스턴트 기억 카테고리는 아직 여지가 있다. 다음 업데이트에서 더 올릴 계획이다.

───

이번엔 업데이트의 쓰레드는 다음과 같다. "기억하는 시스템"에서 "스스로 개선하는 시스템"으로. 버전별 키워드를 공유한다.

v0.9.0: 기억에는 실패의 자리도 있어야 한다

에이전트들이 같은 실수를 반복하는 걸 보면서 시작했다. 기억은 있는데 "왜 그랬는지"가 없었다.

Incident Memory Layer를 추가했다. incident_record, incident_rca, runbook_match. 무엇을 했는지뿐 아니라, 무엇이 잘못됐는지도 같은 기억 공간에 남긴다.

v0.9.1: 결정도 사건이다

결정을 시간 순으로 연결하면 흐름이 보인다. YongKeun Park의 What / Why / How 원칙을 그대로 박제했다.

decision_record, decision_link, 그리고 evidence_first — 행동하기 전에 과거 증거부터 조회하는 API. 먼저 조사하고 행동하라는 원칙을 코드에 박았다.

v0.9.2 M1: 프롬프트도 엔티티다

mizchi의 empirical prompt tuning 글("馬鹿みたいに効く")에서 영감을 받았다. 프롬프트를 사람처럼 이력이 쌓이는 대상으로 등록하고, 튜닝할 때마다 "무엇을 바꿨고 왜 바꿨는가"를 자동으로 기록한다.

MemKraft는 여전히 내부에서 LLM을 부르지 않는다. 기록만 할 뿐, 판단은 밖에서 한다.

v0.9.2 M2: 과거는 지금의 증거다

prompt_evidence — 튜닝 직전에, 비슷한 시도에서 뭐가 통했는지 자동으로 꺼내준다.
convergence_check — 정확도, 스텝 수, 소요 시간 세 가지가 안정되면 수렴으로 판정한다.

경험 많은 선임이 "이 정도면 됐어"라고 말해주는 감각을 코드로 옮긴 것이다.

v1.0.0: 루프가 닫혔다

register → eval → evidence → convergence_check. 한 바퀴 도는 자기개선 루프가 완성됐다.

새 storage 없음, 새 deps 없음, 새 LLM 호출 없음. 12개 API, 731 tests, Production/Stable.

Bitemporal memory × empirical tuning: the first self-improvement ledger for AI agents.

v1.0.1: 다시 보니 보이는 것들

정식 버전을 내자마자 E2E 패스를 한 번 더 돌렸다. P0(크래시/데이터 손실)은 0건. P1 5개 패치. 741 tests. 12분 13초.

───

v0.9.0에서 v1.0.1까지 여섯 번의 업데이트를 관통하는 주제는 "기억을 자기개선 원장으로 쓰는 것"이었다.

무엇을 기억할까에서, 왜 기억해야 하는가로. 그리고 그 기억이 다음 행동을 더 낫게 만드는가로.

영원한 MIT 라이선스, 맘대로 쓰면 된다. 스타, 포크, PR 전부 환영!
https://github.com/seojoonkim/memkraft
ㅇ 포필러스, 시리즈A 투자 유치...판테라 참여
- 27일 포필러스는 판테라캐피탈과 퍼더벤처스로부터 시리즈A투자를 유치했다고 밝힘.
- 포필러스는 이번 투자라운드에서 300억원 규모로 가치 평가를 받음.
- 판테라(Pantera)는 2003년 설립된 최초의 기관대상 암호화폐 투자사로 블록체인 생태계 전반에 걸쳐 투자포트폴리오를 운영하는 웹3 대표 VC.
- 퍼더벤처스(Further)는 아부다비 국부펀드 ADQ가 후원하는 글로벌 VC.
- 포필러스는 이번 투자를 계기로 아시아와 글로벌 시장의 연결, 전통금융과 웹3 시장의 단절 해결, 리서치를 넘어 솔루션 기업으로 도약 등을 목표로 재설정.
- 김남웅 포필러스 대표는 "지난 3년간 100개의 프로토콜, 기업들과 협업을 해왔고, 600건의 리서치 컨텐츠를 한영 동시 발간하는 등 단순한 로컬 플레이어가 아닌 글로벌 리서치 회사라는 방향성으로 구축해온 것이 인정 받은 것"이라고 함.
Forwarded from ordinary subinium
Hashed가 운영하는 AI 네이티브 빌더 발굴 프로그램 '나이트로 바이 해시드 (Nitro by Hashed)'의 첫 공식 데모데이인 '나이트로 서울 게임 데이(Nitro Seoul Game Day)'를 오는 4월 30일 진행합니다. (ex-Vibe Labs)

8주간 각 팀의 열정이 녹아있는 데모데이입니다. B2B, B2C 각 영역에서 AI Native 비즈니스란 무엇인지 보여주는 프론티어팀을 모았습니다.
개발자가 아니어도 상관없습니다. AI 시대의 새로운 문법을 보고 싶은 모든 분을 환영합니다.

📍 일시: 4월 30일 (목) 오후 2시,
📍 장소: 해시드 라운지
📍 타임라인:
· 13:00 – 14:00 현장 등록
· 14:00 – 15:00 팀별 데모
· 15:00 – 16:00 패널 세션
· 16:00 – 17:00 오픈 네트워킹

참여 희망하시는 분들은 아래 링크로 사전 신청 부탁드리겠습니다 :)
👉 https://luma.com/a3u6l9o5
Forwarded from AI MASTERS
현재 GS25 에 유니트리 휴머노이드 로봇 G1 과 4족 보행 로봇이 사전 예약 중입니다.

2+1 할인은 적용이 안되며, 5월 15일에 도착 예정이라고 합니다.
Forwarded from Good Vibe AI
클로드 코드를 삭제했습니다 - 노마드 코더

• 유명 유튜버 노마드 코더가 Claude Code를 삭제했다고 이야기함.
• 클로드 코드의 대체로 선택한 것은 Pi (Flask 창시자 Armin Ronacher가 극찬한 미니멀리스트 코딩 에이전트)
• 문제는 모델(Claude)이 아니라 Harness — 모델을 감싸는 실행 환경, 권한 관리, 컨텍스트 처리 레이어
• 장점은 시스템 프롬프트 최소화, 권한 경계 커스터마이징, 컨텍스트 관리 최적화, 지시 이행률 향상
• Claude Code 시스템 프롬프트는 ~10,000토큰, Pi는 1,000토큰 이하 — 절약된 토큰만큼 모델이 실제 작업에 집중
• Pi는 GitHub Star 45,000개를 넘겼고, Flask 창시자 Armin Ronacher의 회사 Earendil이 인수해 클라우드 플랫폼 Lefos로 확장 중
• AI 코딩 도구의 다음 경쟁은 "어떤 모델이냐"가 아니라 "누가 Harness를 설계하느냐" 로 이동 중이며, Harness를 자율적으로 설계할 수 있는 서비스가 주목 받는 중

https://www.youtube.com/watch?v=PzqRRYHHpbw
Forwarded from 해랑달의 Moneymoves
K 자형

진짜 양극화가 점점 더 심해지는게 너도 나도 가지고 싶은 초우량 자산 수익률이 나머지 모두를 압도하는 세상의 패러다임. 코인에서 미리 맛본거지만 그래도 참 그렇네....

주식, 부동산, 코인 모두 다 비슷합니다. 정보의 비대칭성이 없어져서 그런거 아닐까요? 좀 더 깊게 생각해보면 좋을 것 같은데 제가 대신 생각해드릴게요

https://economist.co.kr/article/view/ecn202605040036