세로로 탭 표시하는 기능이 크롬에 퍼블릭으로 공개됐습니다.

탭 너무 많이 띄워놔서 선택하기 어려웠던 분들은 적극 활용 ㄱㄱ
(탭 우클릭 -> 세로로 탭 표시 선택하면 됩니다)

파라미터(매개변수) 란?
• 모델 안에 들어 있는, 학습으로 값이 정해지는 숫자들이다. 프로그래밍에서 말하는 함수의 매개변수(인자)와는 전혀 다름
• 신경망은 결국 행렬 곱셈 덩어리. 입력 벡터 x가 들어오면 y = Wx + b 같은 연산을 층층이 통과하는데, 여기서 가중치 행렬 W와 편향 b를 채우고 있는 개별 숫자 하나하나가 파라미터다. GPT-3가 1,750억 개라는 건 그런 숫자가 1,750억 개 박혀 있다는 뜻
• 하이퍼파라미터와는 다름. 온도(temperature), 학습률, 레이어 개수처럼 사람이 손으로 정해주는 설정값은 하이퍼파라미터다. 파라미터는 사람이 정하지 않고 데이터가 정함

예)믹싱 콘솔의 노브를 떠올리면 편하다. 노브 1,750억 개짜리 콘솔이 있고, 학습이란 "다음에 올 단어를 잘 맞히도록" 이 노브들을 아주 조금씩 돌리는 과정이다. 훈련이 끝나면 노브 위치는 고정되고, 그 위치 자체가 모델이 아는 전부가 된다. 흔히 말하는 "모델 파일"이란 이 숫자 목록을 저장한 것에 지나지 않음

(1/3)

지난 5년간 언어 모델을 좋게 만드는 방법은 사실상 하나였다. 크게 만드는 것. 그런데 이 축이 포화 지점에 닿기 시작하면서 질문이 바뀌게 되었다.

파라미터를 바꿔서 개선하던 시대

BERT가 3억 4천만 개, GPT-2가 15억 개, GPT-3가 1,750억 개, PaLM이 5,400억 개. 2018년 이후 매개변수는 기하급수적으로 불어났고, 연산량과 데이터셋을 함께 키우면 테스트 손실이 예측 가능하게 떨어졌다.

그런데 손실 곡선만 매끄럽게 내려간 게 아니다. 특정 크기를 넘어서는 순간 예고 없이 새 능력이 튀어나왔다. 예시 몇 개만 보고 템플릿을 따라가는 few-shot 능력, 그리고 답에 이르는 과정을 함께 보여주면 문제를 훨씬 잘 푸는 사고의 연쇄(chain of thought)가 대표적. 작은 모델은 사고의 연쇄를 줘도 이득을 못 얻는데 커지면 갑자기 써먹기 시작하니, 연구소들이 스케일링을 계속 밀어붙일 이유는 충분했던 셈이다.

ChatGPT의 도약은 크기만으로 설명되지 않는다. 사전학습을 마친 모델은 세상에 대한 통계적 지식만 있을 뿐 무엇이 옳고 그른지에 대한 개념이 없기 때문이다.

그 위에 고품질 데이터로 미세조정을 얹고, 명령어와 질문과 답변 쌍으로 지시를 따르는 법을 가르치고, 사람이 매긴 선호를 보상 모델로 바꿔 강화학습을 돌리는 RLHF까지 붙이면서 비로소 인간의 목표와 가치에 정렬(alignment)된 모델이 나온 것

보상 함수는 정확성이나 유용성, 구체성, 무해성처럼 여러 갈래로 정의하고 가중치를 달리 줄 수도 있다.

(2/3)

모델 파라미터를 직접 건드린다는 것

파라미터를 고정한 채 개선하는 시대

강의에 등장하는 Large Language Monkeys는 원숭이가 타자기를 영원히 두들기면 언젠가 셰익스피어를 쳐낸다는 무한 원숭이 정리에서 이름을 따온 프로젝트다.

문제를 한 번만 풀게 하는 대신 병렬로 반복해서 풀게 하고, 그중 맞는 답을 검증자(verifier)가 골라내는 방식. 코드라면 단위 테스트가 검증자 노릇을 한다.

문제당 샘플을 1개에서 10,000개까지 늘려봤더니, 단발 성능으로는 GPT-4에 못 미치던 8B급 소형 오픈 모델들이 커버리지 기준으로 모든 경우에서 GPT-4를 앞질렀다. 커버리지란 뽑아낸 샘플 중 최소 하나가 문제를 풀어낸 비율이니, 맞는 답을 골라줄 검증자가 있다는 전제가 깔린 수치다. 어떤 문제에서는 10,000개 중 정답이 서너 개에 불과했다고. 능력은 있는데 우리가 한 번밖에 안 물어봐서 못 꺼내고 있었던 셈.

둘을 잇는 루프가 자기 개선의 시작

정답을 아는 수학 문제라면 정답으로 이어지는 경로만 골라 모으고, 코딩 문제라면 통과한 해법을 모아 학습 데이터로 되돌린다. 그렇게 미세조정된 모델이 다시 더 나은 샘플을 만들고. 추론이 훈련 데이터를 낳고 훈련이 추론을 밀어 올리는 이 순환이 자기 개선의 정체이며, 최근 추론 모델들의 도약도 미세조정과 테스트 타임 스케일링을 결합한 데서 나왔다. 검증자에 접근할 수 있다면 샘플 수에 따라 로그-선형 스케일링이 관찰된다는 점도 확인됐는데, 훈련이 아니라 테스트 시점에 같은 법칙이 성립한다는 게 핵심.

그래서 병목은 생성이 아니라 검증 쪽으로 옮겨간다. 그럴듯한 추론 흔적을 잔뜩 쏟아내기는 쉬운데 그게 쓸모 있는지 판정하기는 어려운 것. 이것이 생성자-검증자 격차(generator-verifier gap)이다. 수학이나 코드처럼 규칙으로 채점 가능한 도메인은 개선 루프가 도는 반면, 창의적 글쓰기는 피드백을 어디서 얻을지부터 막힌다.

결국 인간 피드백이 병목으로 돌아오고, 강력한 검증을 확보하는 일이 모델을 더 좋게 만드는 데 계속 걸리는 병목 중 하나로 남아 있는 것이다.

(3/3)

챗봇에서 에이전트로

단일 턴 대화에 머물던 모델이 목표를 받고, 계획을 세우고, 환경과 상호작용하고, 피드백으로 행동을 고치고, 언제 멈출지까지 판단하기 시작했다. 우리가 활용하는 코딩 에이전트나 딥 리서치가 그 증거.

다만 현실의 워크플로우 상당수는 여전히 사람이 그래프를 손으로 짜둔 정적 구조에 가깝다. 작업을 쪼개 이어붙이는 프롬프트 체이닝, 난이도에 따라 경로를 가르는 라우팅, 여러 호출을 동시에 굴리는 병렬화, 중앙 LLM이 계획을 세우고 후속 호출을 지휘하는 오케스트레이터, 결과를 다른 LLM이 판정하는 LLM-as-a-judge가 그 조립 부품들이다.

여기서 요구되는 능력이 계획과 다단계 추론, 그리고 자기 개선인 것.

블루엘리펀트 어펄마캐피탈 투자 1천억 유치, 법적 리스크 속 기업가치 4천억 인정

블루엘리펀트는 글로벌 사모펀드 운용사 어펄마캐피탈매니져스코리아(이하 어펄마캐피탈)와 1000억 원 규모의 신주 및 구주 인수 투자 계약을 체결했다고 공식 발표했다. 어펄마캐피탈은 우선 750억 원을 납입하여 지분을 취득하고, 향후 6개월 이내에 250억 원의 추가 투자를 진행하는 옵션을 행사할 경우 총 25.8%의 지분율을 확보하게 된다.

이번 투자 라운드에서 인정받은 블루엘리펀트의 기업가치(Enterprise Value)는 약 4000억 원에 달한다. 브랜드 설립 후 비교적 짧은 업력에도 불구하고 독창적인 오프라인 공간 마케팅과 해외 핵심 상권 점유율 확대를 발판 삼아 차세대 K-아이웨어 대표주자로서의 성장 가능성을 대외적으로 검증받았다는 분석이다.

재무 안정성 확보 속, 전 대표의 부정경쟁방지법 위반 재판 지속

대규모 투자 유치라는 호재 뒤편에는 넘어야 할 법적 악재도 존재한다. 국내 유명 아이웨어 브랜드 ‘젠틀몬스터’의 상품 형태를 모방해 판매한 혐의(부정경쟁 방지 및 영업비밀 보호에 관한 법률 위반)로 구속기소 되었던 최진우 전 블루엘리펀트 대표가 대전지방법원으로부터 보석 허가를 받아 석방되었다. 이번 투자 유치가 석방 직후 전격 이뤄져 최대 주주인 최 대표의 역할이 주요하게 작용했을 것으로 업계는 해석하고 있다.

검찰 측은 최 전 대표가 2023년 2월부터 2025년 6월까지 젠틀몬스터의 히트 선글라스 등 인기 제품 51종, 총 32만1000여 점(판매가 기준 약 123억 원 상당)을 무단 모방하여 막대한 부당 이득을 챙겼다고 판단했다. 검찰은 사안의 중대성과 내부 직원들에 대한 심리적 압박 우려를 들어 구속 상태 유지를 주장해왔다.

반면 최 전 대표 측 변호인은 이번 사안을 유통업계 내 경쟁사 간의 상품 형태 분쟁으로 규정했다. 명확한 정의 규정이 부재한 부정경쟁방지법 형사처벌 조항의 위헌성을 다투고 방어권을 보장받아야 한다고 맞섰으며, 법원이 이를 받아들여 보석을 인용했다. 검찰의 피고인석방통지에 따라 최 전 대표는 석방 상태에서 오는 8월 24일 예정된 공판에 참석해 공방을 이어가게 된다.

#솔라다임 #거버넌스

솔라다임 중복상장에 대해서 별 문제가 없다고 코멘트하는 애널들이나 채널들은 다 나감.

https://m.blog.naver.com/wlfvndxnwk/224372415887

https://m.blog.naver.com/wlfvndxnwk/224373322505

해시드 플랫폼팀에서 AI Ecosystem Growth 인턴을 모집합니다!

저희 Nitro 이니셔티브를 같이 운영할 분을 찾고 있습니다.

Nitro는 올해 1월 Hashed Vibe Labs라는 이름으로 시작한 프로그램이고, AI를 적극적으로 쓰는 극초기 팀들과 함께합니다.

하는 일
- 워크샵, 멘토링 세션, 데모데이 등 프로그램 기획과 실행 서포트
- 빌더 커뮤니티 온오프라인 접점 설계, 소셜 채널 운영
- 홍보 콘텐츠 기획과 제작
- 공동 주최사, 스폰서, 협력사 실무 조율
- 해커톤과 밋업 현장 운영
- 참여자 데이터 정리 → 결과 리포트 작성

이런 분
- AI 생태계와 빌더 커뮤니티에 관심 있는 분
- 여러 건이 동시에 돌아갈 때 순서를 스스로 잡는 분
- 영어 자료 리딩과 기본 커뮤니케이션 가능한 분
- 커뮤니티 운영이나 그로스, 이벤트 운영 경험 있으면 우대
- AI와 바이브코딩 직접 해보셨으면 우대

다만 경력보다 중요하게 보는 건 정해진 게 많지 않은 상태에서 스스로 방향을 잡아본 경험입니다.

근무 조건 및 지원
- 서울 오피스, 근무 시작일로부터 최소 3개월(희망 시 연장 협의)
- 이력서와 간단한 자기소개서를 [email protected] 으로 발송
- 면접 이후 추가 과제 진행될 수 있음

혹시 주변에 생각나는 분 있으시면 편하게 공유해주시면 감사하겠습니다!

https://www.sedaily.com/article/20078898

왓챠의 인수가 드디어 확정 되었습니다. 대한민국 OTT 플랫폼 서치 회사인 키노라이츠가 50억에 인수를 진행한다고 합니다.

스토킹호스 방식의 인수로, 키노라이츠가 먼저 인수예정자로 나선 뒤 더 높은 조건을 제시할 인수자를 공개적으로 모집했지만 추가 입찰자가 나타나지 않아 최종 인수가 확정됐습니다.

스읍,, 키노라이츠 작년 매출이 28억에, 왓챠 부채가 993억으로 알려졌는데 뭐 잘 해보길 기원하겠습니다