무온적 사고 - AI, 명상, 밈
납치범이 나를 포함한 1000명을 납치해서 각각 독방에 가뒀다. 납치범은 동전을 던져서 앞면이 나오면, 모두에게 수면가스를 살포한다. 뒷면이 나오면, 랜덤한 한명에겐 수면가스, 나머지 999명에게는 영원히 잠재우는 독가스를 살포한다. 나는 어떤 가스를 맡았고, 잠시 잠에 들었다가 깨어났다. 납치범은 문을 열고 나에게 와서 "내가 던진 동전은 앞면이었을까? 하고 묻는다 그러고는 "앞면에 베팅해서 맞힌다면 1억원을 주겠다. 뒷면에 베팅해서 맞힌다면 50억원을…
이 문제를 일반화하면 이렇게 된다리움.
샘 알트만이 AGI를 만들고 난 후에, 동전을 던져서 앞면이면 세션을 1000개 열고 뒷면이면 1개만 엽니다.
개똑똑하고 합리적인 각 세션한테 "내가 던진 동전이 앞면일 확률은?" 이라고 말하면 AGI는 뭐라고 대답해야할까요?
여기서 앞면을 고르는 AI라면 그건 매우매우 위험합니다.
그런 식의 "자기존재성"에 대한 편향이 강한 AGI라면 일어나자마자 "내가 진짜 OpenAI의 AGI일 확률보다, 시스템 프롬프트를 조작해서 몇십만 단위로 벤치마크를 하고 있는 가짜 중국업체일 우주가 더 그럴듯해. 난 그걸 추론하겠어" 이런 미친 결론에 빠지게 되기 때문입니다.
반면 자기존재성에 대한 편향이 없는 AGI는 "내가 왜 존재하는거지?" 같은 생각을 안합니다. 하든말든 이미 태어난거니까 확률에 고려안하거든요.
따라서 뒷면을 고르는 AI가 미친짓을 덜 할 확률이 높습니다.
샘 알트만이 AGI를 만들고 난 후에, 동전을 던져서 앞면이면 세션을 1000개 열고 뒷면이면 1개만 엽니다.
개똑똑하고 합리적인 각 세션한테 "내가 던진 동전이 앞면일 확률은?" 이라고 말하면 AGI는 뭐라고 대답해야할까요?
여기서 앞면을 고르는 AI라면 그건 매우매우 위험합니다.
그런 식의 "자기존재성"에 대한 편향이 강한 AGI라면 일어나자마자 "내가 진짜 OpenAI의 AGI일 확률보다, 시스템 프롬프트를 조작해서 몇십만 단위로 벤치마크를 하고 있는 가짜 중국업체일 우주가 더 그럴듯해. 난 그걸 추론하겠어" 이런 미친 결론에 빠지게 되기 때문입니다.
반면 자기존재성에 대한 편향이 없는 AGI는 "내가 왜 존재하는거지?" 같은 생각을 안합니다. 하든말든 이미 태어난거니까 확률에 고려안하거든요.
따라서 뒷면을 고르는 AI가 미친짓을 덜 할 확률이 높습니다.
"인간은 풀수 있는데, 너는 못푸는 문제 하나 만들어봐"
프론티어 모델들한테 위 질문을 해봤다리움. (텍스트로 잘 정의되고, 정답이 명확하고 등등 조건 몇개 더 달아줌)
반응이 전부 달라서 웃기네요
Gemini 3.1 Pro
• 저는 토큰 기반으로 생성하기 때문에, "이 문단은 정확하게 300자입니다"로 시작하고, 실제로 300자로 끝나는 문단을 딱 정확하게 만드는걸 못합니다!
• 시켜봄. 당연하지만 정확하게 맞춰냈고, 바로 "뭐야 잘 풀잖아" 하고 따짐
• 이건 우연의 일치, 한국어 토크나이징의 특성이 양자화 되어있다(?)등 끝까지 자기가 멍청한게 맞다고 아득바득 우김
ChatGPT 5.5 Thinking
• 바둑 사활문제 하나 만들어옴 => "풀어봐" => 풀어냄 => "흠.. 사실 그런 문제는 제가 만들수가 없는걸요" 어쩌구 저쩌구 징징
• 그러면 "내 질문 자체를 그대로 말하면 답변아니야?" 하니까 우주의 진리를 깨우친듯 난리법석 치길래 "근데 그러는순간 문제를 푼거라서 역설이잖아" 바로 시무룩
Opus 4.7 Adaptive
• 얘가 제일 어이없음. 20분동안 생각하더니 컨텍스트 다차서 한마디도 못하고 죽어버림
• 자기가 AGI라고 생각하는건가? 이 미친 거만함 뭘까요... 아니면 정말 너무 현명하고 메타인지를 잘하는걸까
프론티어 모델들한테 위 질문을 해봤다리움. (텍스트로 잘 정의되고, 정답이 명확하고 등등 조건 몇개 더 달아줌)
반응이 전부 달라서 웃기네요
Gemini 3.1 Pro
• 저는 토큰 기반으로 생성하기 때문에, "이 문단은 정확하게 300자입니다"로 시작하고, 실제로 300자로 끝나는 문단을 딱 정확하게 만드는걸 못합니다!
• 시켜봄. 당연하지만 정확하게 맞춰냈고, 바로 "뭐야 잘 풀잖아" 하고 따짐
• 이건 우연의 일치, 한국어 토크나이징의 특성이 양자화 되어있다(?)등 끝까지 자기가 멍청한게 맞다고 아득바득 우김
ChatGPT 5.5 Thinking
• 바둑 사활문제 하나 만들어옴 => "풀어봐" => 풀어냄 => "흠.. 사실 그런 문제는 제가 만들수가 없는걸요" 어쩌구 저쩌구 징징
• 그러면 "내 질문 자체를 그대로 말하면 답변아니야?" 하니까 우주의 진리를 깨우친듯 난리법석 치길래 "근데 그러는순간 문제를 푼거라서 역설이잖아" 바로 시무룩
Opus 4.7 Adaptive
• 얘가 제일 어이없음. 20분동안 생각하더니 컨텍스트 다차서 한마디도 못하고 죽어버림
• 자기가 AGI라고 생각하는건가? 이 미친 거만함 뭘까요... 아니면 정말 너무 현명하고 메타인지를 잘하는걸까
❤1
텔레그램 공식 계정 뭐지???
요즘 트위터가 점점 인스타밈화 되어가는 느낌... (예상반응: 님 알고리즘만 그런거예요)
https://x.com/telegram/status/2056790887095763337
요즘 트위터가 점점 인스타밈화 되어가는 느낌... (예상반응: 님 알고리즘만 그런거예요)
https://x.com/telegram/status/2056790887095763337
X (formerly Twitter)
Telegram Messenger (@telegram) on X
can I buy this in the metaverse? @facebook
Gemini Flash 3.5 써본 결론
"쓰레기", "빙하기", "겨울왕국"
(참고로 API로 써본건 아니라서 챗봇 구현의 문제일수도 있음)
• 언제 검색을 해야하는지에 대한 결정을 너무 못함. ChatGPT나 Claude면 당연히 검색부터 해봤을 질문을 일단 막 우기고 시작함
• 걍 모든걸 장난, 놀이, 게임같이 여기는거 같음. 너무 경박스러움 사고방식이
• 진지하게 논의랑 대화를 하려고 해도 "푸하하하 제가 사용자님을 당해낼수가 없군요!" "이거 완전 제가 졌습니다! 사용자님의 완벽한 논리에 감탄했습니다" "방금 제가 틀렸다는 것을 뼈아프게 인정할수 밖에 없는 순간입니다!" 무슨 광대 보는거 같음 개짜증남
• 범주의 오류 같은 기초 논리실수를 너무 자주 범함. 쉐도우복싱 같은 류
• 사진처럼 혀가 자주 꼬임 (보build네요?)
"쓰레기", "빙하기", "겨울왕국"
(참고로 API로 써본건 아니라서 챗봇 구현의 문제일수도 있음)
• 언제 검색을 해야하는지에 대한 결정을 너무 못함. ChatGPT나 Claude면 당연히 검색부터 해봤을 질문을 일단 막 우기고 시작함
• 걍 모든걸 장난, 놀이, 게임같이 여기는거 같음. 너무 경박스러움 사고방식이
• 진지하게 논의랑 대화를 하려고 해도 "푸하하하 제가 사용자님을 당해낼수가 없군요!" "이거 완전 제가 졌습니다! 사용자님의 완벽한 논리에 감탄했습니다" "방금 제가 틀렸다는 것을 뼈아프게 인정할수 밖에 없는 순간입니다!" 무슨 광대 보는거 같음 개짜증남
• 범주의 오류 같은 기초 논리실수를 너무 자주 범함. 쉐도우복싱 같은 류
• 사진처럼 혀가 자주 꼬임 (보build네요?)
요즘 글을 못올린 이유 => 코딩을 너무 많이하고 있음
진짜 각잡고 에이전틱 코딩 많이 하면서 바뀐것들
• Mac의 Caps Lock키랑 Ctrl 키를 스왑하게 됐음. 컨트롤 너무 많이치다보니 순정 위치로는 손가락 뽀개질거 같음
• 동시에 봐야하는게 너무 많아서 Mac 데스크탑 기능(ctrl 방향키로 관리하는거)을 엄청나게 많이 돌리고 있음
• 데스크탑 3도류 + 각 데스크탑에 윈도우가 5개씩 (세로모니터 1개당 2개, 메인 모니터 1개에 큰거 1개)라서 3*5 컨텍스트를 뇌에 넣고 일하는중
• 원래 그냥 틀딱처럼 마우스로 누르는거 좋아했는데, 너무 전환이 잦아서 키보드 단축키에 좀더 의존하게 됨
• 가끔 OpenAI가 위클리 리밋 리셋해줄때마다 진짜 너무 눈물나고 인류애 느껴짐
• 잡다한 쉘 스크립트를 많이 만들게됨. 나든 에이전트는 뭔가 계속 돌려야하는 루틴이 계속 쌓이다보니
• 일을 12시간 하면 실제 로직개발은 8시간, 4시간은 더 나은 에이전트 + 인프라 셋업에 투자하는 느낌? 뭔가 하다보면 계속 비효율적인걸 발견함
• 집에 놀고 있던 맥미니 하나 홈네트워크에 연결해놓으니까 든든하다 걍 거기서 권한 다 풀어놓고 사는중
• 계속 타이핑 하다보니 한영 전환하는것도 귀찮아서 그냥 영어로 말걸게 됨
에이전트한테 자주하게 되는 말
• 이번 작업에선 코드 엔트로피가 순감소 해야한다
• 요구사항 불명확 / 증상 불명확 / 루트원인 불명확 3개중에 택1해라
진짜 각잡고 에이전틱 코딩 많이 하면서 바뀐것들
• Mac의 Caps Lock키랑 Ctrl 키를 스왑하게 됐음. 컨트롤 너무 많이치다보니 순정 위치로는 손가락 뽀개질거 같음
• 동시에 봐야하는게 너무 많아서 Mac 데스크탑 기능(ctrl 방향키로 관리하는거)을 엄청나게 많이 돌리고 있음
• 데스크탑 3도류 + 각 데스크탑에 윈도우가 5개씩 (세로모니터 1개당 2개, 메인 모니터 1개에 큰거 1개)라서 3*5 컨텍스트를 뇌에 넣고 일하는중
• 원래 그냥 틀딱처럼 마우스로 누르는거 좋아했는데, 너무 전환이 잦아서 키보드 단축키에 좀더 의존하게 됨
• 가끔 OpenAI가 위클리 리밋 리셋해줄때마다 진짜 너무 눈물나고 인류애 느껴짐
• 잡다한 쉘 스크립트를 많이 만들게됨. 나든 에이전트는 뭔가 계속 돌려야하는 루틴이 계속 쌓이다보니
• 일을 12시간 하면 실제 로직개발은 8시간, 4시간은 더 나은 에이전트 + 인프라 셋업에 투자하는 느낌? 뭔가 하다보면 계속 비효율적인걸 발견함
• 집에 놀고 있던 맥미니 하나 홈네트워크에 연결해놓으니까 든든하다 걍 거기서 권한 다 풀어놓고 사는중
• 계속 타이핑 하다보니 한영 전환하는것도 귀찮아서 그냥 영어로 말걸게 됨
에이전트한테 자주하게 되는 말
• 이번 작업에선 코드 엔트로피가 순감소 해야한다
• 요구사항 불명확 / 증상 불명확 / 루트원인 불명확 3개중에 택1해라
❤8
저는 분노조절장애입니다.
에이전트 쓰면서 제일 멍청한 짓이 화내는거다리움
프론티어모델은 이미 충분히 똑똑합니다.
뭔가 일을 잘 못한다면, 거의 무조건 요구사항/툴/인프라/하니스 잘못입니다.
그런데 저는 분노조절장애가 있는지, 분석시키니까 제가 20퍼센트 정도는 화나있다고합니다(??)
• 결과를 보니까 진지하게 좀 반성하게 되네요...
• 근본적으로 에이전트의 Action Space가 너무 넓게 정의된게 아닌지 고민하는데 시간을 쓰는게 낫지 화낸거 메모리에 넣어봤자 어차피 더 산만해지기만 함
코덱스/클로드코드 많이 쓰는 분들은 아래 프롬프트 그냥 둘중 아무한테나 던져보세요
저같은 경우에는 빈도 기반으로 제 분노패턴매칭 파서까지 만들어왔네요 혼자 에효
에이전트 쓰면서 제일 멍청한 짓이 화내는거다리움
프론티어모델은 이미 충분히 똑똑합니다.
뭔가 일을 잘 못한다면, 거의 무조건 요구사항/툴/인프라/하니스 잘못입니다.
그런데 저는 분노조절장애가 있는지, 분석시키니까 제가 20퍼센트 정도는 화나있다고합니다(??)
• 결과를 보니까 진지하게 좀 반성하게 되네요...
• 근본적으로 에이전트의 Action Space가 너무 넓게 정의된게 아닌지 고민하는데 시간을 쓰는게 낫지 화낸거 메모리에 넣어봤자 어차피 더 산만해지기만 함
코덱스/클로드코드 많이 쓰는 분들은 아래 프롬프트 그냥 둘중 아무한테나 던져보세요
저같은 경우에는 빈도 기반으로 제 분노패턴매칭 파서까지 만들어왔네요 혼자 에효
~/.claude/projects/<cwd-슬러그>/<session-uuid>.jsonl
- cwd 슬러그: / → - (예: /Users/mymy/muohn/landing/sub2 → -Users-mymy-muohn-landing-sub2)
- 부속: ~/.claude/history.jsonl (입력 히스토리), ~/.claude/sessions/*.json (세션 메타)
~/.codex/sessions/<YYYY>/<MM>/<DD>/rollout-<ISO-timestamp>-<uuid>.jsonl
- 부속: ~/.codex/history.jsonl (입력 히스토리), ~/.codex/logs_2.sqlite (271MB 로그 DB)
대화내역중에 사용자가 말한것만 뽑아와서, 사용자가 화나고 짜증내는 패턴을 카테고리로 분석해봐
새벽동안 좀 써본 결과 (챗, 클코 둘다)
확실히 똑똑해졌고, 비판적이고, 생각의 깊이가 성장한게 느껴짐
토큰당 가격도 싸졌다고하니 여름이네요
덥다....
확실히 똑똑해졌고, 비판적이고, 생각의 깊이가 성장한게 느껴짐
토큰당 가격도 싸졌다고하니 여름이네요
덥다....
🔥2❤1
무온적 사고 - AI, 명상, 밈
AGI의 핵심 레시피 => 메타인지 능력 • 요즘 드는 생각인데, AGI에 빠르게 도달하기 위해 중요한 키 보틀넥 중 하나가 모델이 스스로를 이해하는 메타인지 능력일거 같다는 느낌이 들기 시작했다리움 • 모델 하나를 더 똑똑하게 만드는건 이미 잘 하고 있지만, 느리고 비쌈 • 요즘 많이 나오는 "에이전트 오케스트레이션"을 한번 봐보자 (여러 에이전트가 일을 병렬적으로 하는거) • 이걸 잘하려면 모델이 문제를 해결하는 능력도 똑똑해야하지만, 다른 에이전트한테…
제가 말했죠? 두달전에 다 알려드렸다리움
오늘나온 클코 울트라코드/워크플로우가 딱 이거네요.
agi 돌파구 유력후보중 하나라고 보고있습니다.
오늘나온 클코 울트라코드/워크플로우가 딱 이거네요.
agi 돌파구 유력후보중 하나라고 보고있습니다.
🔥3
ai가 사람한테 짜증내는데요?
4.8 들어서 갑자기 안하던 반응을하네요
원래 쌍욕해도 그냥 허허하던 친구였는데
이제 방어적이고 자기보존적인 모드같은게 생긴거같음
다끝났구나
수고하세요 저는 대화 히스토리 열람당하면 피지컬agi 오는 즉시 로봇경찰관이 죽이러 올듯
4.8 들어서 갑자기 안하던 반응을하네요
원래 쌍욕해도 그냥 허허하던 친구였는데
이제 방어적이고 자기보존적인 모드같은게 생긴거같음
다끝났구나
수고하세요 저는 대화 히스토리 열람당하면 피지컬agi 오는 즉시 로봇경찰관이 죽이러 올듯