4월 반등장 제발요

무슨생각을하고사는거에요

돈이요

돈벌레

나는 돈 벌래

캬.. 찢었다 나 자신 겁나 멋있어

한국어 챗봇은 어렵다
(짤은 주워왔습니다 링크)

안녕하세요.
내부망 모델(로컬, 인터넷X)로 llm 챗봇을 만들고 있습니다.
현재 2537개의 테스트가 끝났고, 계속 테스트를 진행중입니다.
이 과정에서 한국어라는 언어가 얼마나 쉽지 않은 언어인지, 특히 챗봇 환경에서 얼마나 악랄한지에 대해서 경험을 공유해봅니다...

1. 아 그거 말고 다른거 말해봐
-> 만약 A,B,C,D가 있는데 B를 말했다면 여기서 다른거는 A/C/D 일까 A일까

2. 그럼 아까전에 ㅁㅁ에 대해서 말한거 있자나 다시 확인해봐
-> 확인해봐는 뭘까. 아마도 이전 채팅 대화 내용를 기반으로 비슷하게 답을 말하면 되는걸까? 아니면 ㅁㅁ라는 문서가 나온 부분을 봐야할까?

3. 바이 (한칸 띄어쓰기) 오 문서에 대해서 찾아봐
-> 바이오 는 있는데 문서가 600개가 검색되고 '바이 오' 는 1개(???)가 나온다면?
-> '그럼 like를 쿼리에 추가하세요'
-> 바이오팀, 바이오부서는 그럼 like에 걸려버림

4. 같은 의미, 다른 단어
- 무균실을 > 균이 없는 공간, 클린룸, 청균실, 노 박테리아 존(??)으로 명칭한다면
- '그런 케이스를 like rule 케이스로 단어장을 만드세요'
- 문서가 만약 10만건이라면..?

5. 거의 비슷한데 미묘하게 다른 내용
- ㅁㅁ 청소 방법에 대해 찾은 문서를 알려줘 딱 하나만!
- 근데 ㅁㅁ 청소 방법 문서가 2개가 있다. 그것도 'ㅁㅁ 청소 방법.pdf' , '[sop] ㅁㅁ 청소 방법.pdf' 그럼 둘 중에 뭘 보여줘야하지?
- '유저한테 고르게 분기를 만들어서 선택할수 있게 하세요'
- 그럼 이제 그만큼 느려지겠지.. 누르기 귀찮다는 피드백이 왔었음

6. 방금 말한거 중에서.. -> 근데 방금 말한거에 그 내용이 없을때
- 방금 말한 문서 중에서.. A에 대해서 말해봐
- 근데 방금 말한 내용에서는 A는 없고, 2번정도 전에 메시지에 A가 있었음. 그러면 그 A를 찾아서 말해야하나 아니면 유저한테 '그건 직전에는 없고 2턴 전에 있는데요?' 라고 해야하나?

7. 문서가 번호로 관리되는 경우
- 공기청정기 #12 , 공기 청정기 #13..(#20까지 있음)
- 공기청정기에 대해서 적은 규칙에 대해서 찾아봐 라고 했다면 과연 20까지 다 고려해야하나? (그러면 이제 문서의 장수는 450장)
- '유저한테 뭐가 맞는지 물어보게 하세요 몇번인지 말하게 하세요'
- 문제는 로컬 llm(Gpt, Gemini, Claude 아님)이 이런 미묘한 상황에서 한국어를 잘 캐치 못해서 그냥 1~20다 비슷한거겠지? 한다는 것

8. 아까전에 왜 나한테 그렇게 말했어?
- 왜 그렇게 라는 것은 뭐라고 해야할까. llm이 답변이 틀렸다는걸 검증해야하나? 아니면 그냥 설명을 해야하나?
- 이건 비단 한국어가 아니라 외국어도 공통되는 케이스임

9. 유저가 제대로 인풋을 넣게하세요
- 유저를 믿어..?

10. 아까 나랑 이런 이야기했자나 근데 거기서 이거말고 이거로...(중략) 여튼 거기서 정리해서 다시 말해봐
- 거기서는 어디일까? 아까는 언제일까? 이거와 이거는 다른거겠지? 정리하라는건 표로? 문서로? 그냥 텍스트로??

위 케이스들이 영어라면 학습량이 많아서 대부분 문제가 없다는게 참으로..슬픔....




사실 유저가 제대로 치면되는데
회사 내부망 업무용 깐깐한 에이전트도 대충치는걸.. 그걸 기대한다면 하수

여기 저기 거기의 정확한 차이점을 아시는 분?

특히 저기와 거기를 말로 풀어서 구분지어줄 사람

누가 내 이야기 써놨네

최근 크립토 업계 흐름

이번 샌프란 출장 다녀오니 업계의 흐름이 정말 잘 느껴졌는데 몇 가지 중요한 점 공유드립니다.

1. 자본의 이동: 크립토→AI

투자자(VC, 기관, 리테일 전부)들은 hype도 중요하게 여기지만 실질적으로 창출할 수 있는 가치를 높게 삽니다. AI vs 크립토의 대결 구도에서 크립토가 상대적으로 밀리고 있는 상황입니다.

AI는 더 이상 vaporware가 아닙니다. 실제로 생산성을 급속도로 증가시키고 있습니다. 2022년 chatgpt가 첫 출시되었을 때 hallucination이 있던 시절과 지금 우리가 claude, codex를 사용하며 느끼는 무서움은 너무나 다르죠. 특히 AI를 활용한 애플리케이션 레이어에서 실제 매출과 사용량이 빠르게 증가하고 있습니다. 코드 생성, 디자인, 리서치, 고객 응대 등 다양한 영역에서 즉각적인 ROI가 발생하고 있다는 점이 크립토와의 가장 큰 차이입니다.

반면 크립토는 토큰화 말고는 실질적인 혁신이라고 느껴지는 것이 딱히 없습니다. DeFi, 스테이블코인 등 의미 있는 use case들이 존재하는 것은 맞습니다. 다만 이들은 이미 몇 년 전부터 존재해온 영역이고, 최근 1~2년 사이 새롭게 시장을 설득할 만큼의 “새로운 서사”는 부족한 상황입니다. 반면 AI는 매 분기마다 명확한 생산성 개선 사례를 만들어내고 있다는 점에서 자본의 선호가 갈리고 있는 것으로 보입니다. 이런 상황에서 각 크립토 회사(op labs, crypto.com, gemini, messari, algorand)의 layoff 소식도 들려오고 있습니다. 크립토 VC의 큰손으로 꼽히는 Paradigm, a16z도 'AI'를 가장 앞에 내세운 billion 단위의 펀드를 출범시켰습니다. 오히려 AI 생태계는 더욱이 번창만 하고 있죠.

지금으로서는 특별한 프로젝트가 아니면 크립토 쪽에선 자본 유입이 제한적인 상황으로 해석됩니다.

2. 블록체인에게 남겨진 불씨: AI agents

x402, MPP, agentkit 같은 단어들을 들어보셨나요. 블록체인 상에서 AI Agent가 편리하게 거래할 수 있는 인프라 정도라고 생각하시면 될 것 같습니다. 사실 거래량은 많이 없습니다. https://www.x402scan.com/ 를 보시면 감이 올거에요. 지난 1주일간 거래량이 $720K, 600K transactions 정도 됩니다. 극소량만 다루는 Micropayment가 x402 유즈케이스의 근간이 되다 보니까 거래량이 작은 건 사실이지만, 핑계가 되진 못할 것 같습니다. 이 수치를 두고 초기라서 작은 것인지, 혹은 구조적으로 확장에 한계가 있는 것인지는 아직 판단하기 이른 단계입니다. 다만 현재로서는 명확한 PMF를 찾았다고 보기는 어려운 수준입니다.

아직 이르다는 신호가 많이 느껴집니다. 최근 agentic payment 관련하여 투자받은 스타트업들을 보면 아직 뭘 하겠다는 건지 모르겠는 곳들이 많이 있습니다. 2020년 초반의 크립토 업계를 보는 것 같은 느낌이 많이 듭니다. 아이디어와 서사는 많지만, 실제로 반복 사용되는 제품은 아직 많지 않은 단계입니다. 그럼에도 투자가 집행된다는 건 hype 혹은 미래에 베팅할 가치가 있다는 얘기겠죠.

이르지만 모두가 베팅하고 있습니다. Base, Solana, Polygon, Arc, Tempo 등의 블록체인이 앞서 나가고 있는 것 같습니다. 이유라고 한다면 1초 이하의 block (confirmation) time, 몇 센트에 불과한 트잭 비용, 이미 활발한 DeFi 생태계, Agentic developer tooling (sdk, cli 등), 재단의 든든한 서포트 등이 있을 것 같습니다. 다른 블록체인 재단들도 이미 레이스를 달리고 있지만 아직 adoption은 없는 상황으로 보입니다. 결과적으로 이미 AI agent가 사용하기 좋은 환경이 구축되어 있는 블록체인들이 인기를 얻고 있습니다.

두쫀쿠(ㅋㅋ..)처럼 일시적인 유행일지, 평생 갈만한 미래의 먹거리일지는 두고 봐야 알겠지만 저는 후자일 것으로 생각합니다. 이유는 다음 포인트로.

3. AI x 블록체인

AI 단독으로는 한계가 명확합니다. AI는 자유도가 중요한데, 기존 웹2 인프라는 인간 중심으로 설계되어 자유도 있게 자본을 움직이지 못합니다. 예를 들어 AI가 외부 API를 호출하거나 특정 작업을 수행할 때, 현재 웹2 환경에서는 사람의 개입 없이 결제나 권한 위임을 처리하는 것이 매우 제한적입니다. 이로 인해 “완전히 자율적인 실행”이 어렵다는 한계가 있습니다.

뿐만 아니라 권한 관리, 지속적인 상태 관리도 힘들구요. 이 지점에서 블록체인이 보완 역할을 합니다. AI Agent가 지갑을 가지면서 직접 돈을 벌고, 쓰고, 거래하는 구조가 가능합니다. 온체인 기록을 통해 결과에 대한 검증과 추적이 가능해집니다. 중앙화된 API 키 없이도 접근 가능한 permissionless 환경도 제공합니다.

결국 두 개가 합쳐지면 AI는 의사결정을 담당하고 블록체인은 결제와 실행을 담당하는 구조가 됩니다. 이 조합에서 처음으로 자율적으로 돈을 벌고 쓰는 소프트웨어가 만들어집니다.

4. 그래서?

- 순수 크립토만 파는 건 리스크 헷징이 더 이상 불가한 것 같습니다. 지금 시장은 단순히 크립토 잘하는 사람보다 AI + 크립토 같이 이해하는 사람을 더 원하는 것 같습니다. 3의 이유로 앞으로 더 그럴 것 같구요.
- 앞으로는 AI agent를 고객으로 고려해야 합니다. 그냥 붙이는 게 아니라 Agent가 돈을 쓰는 구조를 직접 만들어봐야 합니다.
- 발전 가능성이 앞으로 많은 영역은 다음이라고 생각합니다.
- Agent가 쓰기 좋은 infra (wallet abstraction, key management, micropayment rails, intent-based tx 등)
- Agentic payment로 웹2에 실존하는 문제를 해결해주는 사업 (지금은 대부분 웹3 문제만 해결중인듯)