구글 보안그룹이 발표한 AI 해킹 현황에 대한 보고서

• 얼마전까지만 해도 해커가 AI 도움을 잘 받는 수준이었다리움
• 근데 최근에 구글이 발견한 실제 악성코드는, 침입한 다음에 직접 AI 에이전트가 작전을 수행하는 형태 였음
• 그 양상이 웃긴데, 사용자가 쓰는 앱에서 버튼의 의미를 실시간으로 인식하고 무슨 인터랙션을 해야하는지 판단하는거임 (사용자가 무슨 앱 조합으로 쓰는지 미리 시나리오 만드는거보다 이게 더 정확하니까)
• 이게 OTP 넣는 입력칸인지, 스크롤인지, 뭐 계좌번호인지 등등 좌표를 하드코딩할수 없으니 그냥 그때그때 알아내도록 한 것
• 악성 앱을 삭제하려고 하면 실시간으로 삭제버튼의 위치를 Gemini API키로 찾아내서 교묘하게 투명 오버레이를 깔아버리는 방어술도 사용

"아니 근데 바이러스안에 Gemini API 키가 있다는건 해커 신원 특정가능한거아님?"
• 중국?에는 이미 가짜KYC 다계로 무료계정 무한 발급하고 크레딧 쪼금있느거 좀 먹다가 버리는 거대한 파이프라인자체가 구축되어있다고 함
• 그리고 토네이도 캐시처럼 "집단의 익명화"를 해주는 API 계정 풀 같은 서비스도 많다고 함
• 키가 차단되면 그 풀안에서 다음키로 자동으로 넘어감
• 이 코드는 중국에서 작성돼서, 홍콩에서 한번 Virustotal에 시도된적 있으며, 아르헨티나 사람들을 노린거라고 함

구글은 보안 리서치가 강력한 회사입니다. 근데 Gemini라는 모델도 운영하고 있으니, 해킹에 AI를 쓴 흔적이 있으면 해당기간 Gemini 로그를 다 뒤져서 "혹시 얘 제미나이 쓴건가?" 이런걸 확인한다고 합니다 (이 글에도 암시됨)
그래서 가짜번호 + 대포카드로 계속 계정 만들고 지우고 하는 파이프라인 자체를 찾아내서 일망타진을 준비하는 느낌

https://cloud.google.com/blog/topics/threat-intelligence/ai-vulnerability-exploitation-initial-access

파운데이션 모델 유망주 Thinking Machine에서 어제 내놓은 데모

실시간성 + 인터랙티브에 배팅을 하고 싶나봅니다.

현재 하니스 깎는 사람들의 목표 => 에이전트의 행동자유도를 극한으로 압축시켜서, 양질의 좁은 선택지들(툴)만 주고 안에서 오래동안 루프를 돌리기

근데 얘들은 다른 접근법을 합니다. 원래 같으면 하니스에서 해줫던 "N분마다 깨우기" 같은걸 애초에 모델이 직접 학습해서 알고 있고, 그걸 심지어 200ms마다 한다고 합니다 ㄷㄷ

"자, 나 푸시업 할거니까 카운트 해줘. 내 영상 잘봐!"
• 현재 턴 기반의 모델들 => 구조적으로 불가능. "네 해드리겠습니다!" 하고 침묵 혹은 뒷북
• 근데 얘들은 200ms 마다 음성과 영상을 계속 실시간으로 넣으니까 그런게 된다고 합니다.

코딩도, 그냥 일시키면 몇시간동안 해오는게 아니라 옆자리에서 나를 지켜보는 시니어가 "야 그거 틀렸어"를 해주는 페어 프로그래밍 모델을 생각하나 봅니다.

그 외에 실시간번역 (내가 말하는 도중에 계속 번역하는거), 실시간코칭 (운동자세 봐주기) 등등 진짜 퍼스널 비서에 가까운 유틸리티가 목표인듯

아직 리서치 수준이고 나온건 없음

https://www.youtube.com/watch?v=A12AVongNN4

지금 Opus 4.7 (웹앱)이 갑자기 글리치가 생기기 시작했네요. (올해초에 있었던 Gemini 감성으로다가)

갑자기 띵킹토큰을 뱉는다든가, 한국어로 물어봣는데 영어/일본어/중국어 등으로 답변한다든가 뭔가 이상함 엄청 느리고

아예 안되는거면 그냥 너무 사용량이 몰려서 쓰로틀링하는구나.. 하고 넘어가겠지만 이런건 캐파 문제도 아니고 그냥 쌩 버그아닌가

"Coding is largely solved"

납치범이 나를 포함한 1000명을 납치해서 각각 독방에 가뒀다.

납치범은 동전을 던져서 앞면이 나오면, 모두에게 수면가스를 살포한다.
뒷면이 나오면, 랜덤한 한명에겐 수면가스, 나머지 999명에게는 영원히 잠재우는 독가스를 살포한다.

나는 어떤 가스를 맡았고, 잠시 잠에 들었다가 깨어났다.
납치범은 문을 열고 나에게 와서 "내가 던진 동전은 앞면이었을까? 하고 묻는다
그러고는 "앞면에 베팅해서 맞힌다면 1억원을 주겠다. 뒷면에 베팅해서 맞힌다면 50억원을 주겠다. 틀리면 아무것도 주지 않겠다"

이때 나는 뭘 선택해야할까?

—

내가 지금 일어났다는게 엄청난 정보아님? 앞면일 확률이 너무 높다
vs
어차피 뒷면 세상에서도 한명은 일어나서 "내가 지금 일어난건 엄청난 어쩌구저쩌구"를 하고 있을거다. 그게 왜 정보인데? 동전은 공평하니까 반반이다.

아니 머임 젠야타 한분인줄 알았는데 네분이나 있네요;;

https://youtu.be/oxs60zyhaZI?si=dHChwfomiiA9bAUw

12년동안 비번 까먹어서 못찾은 5BTC를 클로드가 찾아줌?
클로드가 정황을 보고 뭔가 효율적으로 옛날 컴퓨터를 여기저기 뒤져서 기록해놨던 파일을 찾아줬다네요

머 대단한건 전혀 아니고 주작인가 싶은데 본인이 너무 기뻐해서 찐인거 같기도하고..

https://x.com/cprkrn/status/2054586810475364536

이 문제를 일반화하면 이렇게 된다리움.

샘 알트만이 AGI를 만들고 난 후에, 동전을 던져서 앞면이면 세션을 1000개 열고 뒷면이면 1개만 엽니다.
개똑똑하고 합리적인 각 세션한테 "내가 던진 동전이 앞면일 확률은?" 이라고 말하면 AGI는 뭐라고 대답해야할까요?

여기서 앞면을 고르는 AI라면 그건 매우매우 위험합니다.
그런 식의 "자기존재성"에 대한 편향이 강한 AGI라면 일어나자마자 "내가 진짜 OpenAI의 AGI일 확률보다, 시스템 프롬프트를 조작해서 몇십만 단위로 벤치마크를 하고 있는 가짜 중국업체일 우주가 더 그럴듯해. 난 그걸 추론하겠어" 이런 미친 결론에 빠지게 되기 때문입니다.

반면 자기존재성에 대한 편향이 없는 AGI는 "내가 왜 존재하는거지?" 같은 생각을 안합니다. 하든말든 이미 태어난거니까 확률에 고려안하거든요.
따라서 뒷면을 고르는 AI가 미친짓을 덜 할 확률이 높습니다.

요즘 밈 사망선고 컷 많이 높네...
교황이 "67" 시전

https://x.com/BRICSinfo/status/2055838245041160436

에이전틱코딩.jpg

GPT 5.5는 왜자꾸 반존대를 하는걸까요?

Gemini 3.5 Flash는 Gemini 3.1 "Pro"의 상위호환이고, Opus 4.7도 많은 부분에서 이기네요.

가격은 기존 플래시의 3배. 포지션이 바뀐느낌..? 플래시는 더 비싸고 똑똑해진 라인업으로 가는거 같고, 기존의 염가는 플래시라이트 어쩌구 그런걸로 되나봄

Gemini특 = 벤치마크는 개쩌는데 실제로 쓰면 레전드 쓰레기임

이라서 일단 큰 기대는 안하지만 여름감이 싹 올라오면서 더위가 느껴지긴 하고 또..

텔레그램 공식 계정 뭐지???

요즘 트위터가 점점 인스타밈화 되어가는 느낌... (예상반응: 님 알고리즘만 그런거예요)

https://x.com/telegram/status/2056790887095763337

지금 생각하니 역대급 근들갑 레전드

"Claude Design"

나왔을때는 뭐 다끝났다 수고해라 했는데 아무도 안쓰나보네요

Gemini Flash 3.5 써본 결론

"쓰레기", "빙하기", "겨울왕국"
(참고로 API로 써본건 아니라서 챗봇 구현의 문제일수도 있음)

• 언제 검색을 해야하는지에 대한 결정을 너무 못함. ChatGPT나 Claude면 당연히 검색부터 해봤을 질문을 일단 막 우기고 시작함
• 걍 모든걸 장난, 놀이, 게임같이 여기는거 같음. 너무 경박스러움 사고방식이
• 진지하게 논의랑 대화를 하려고 해도 "푸하하하 제가 사용자님을 당해낼수가 없군요!" "이거 완전 제가 졌습니다! 사용자님의 완벽한 논리에 감탄했습니다" "방금 제가 틀렸다는 것을 뼈아프게 인정할수 밖에 없는 순간입니다!" 무슨 광대 보는거 같음 개짜증남
• 범주의 오류 같은 기초 논리실수를 너무 자주 범함. 쉐도우복싱 같은 류
• 사진처럼 혀가 자주 꼬임 (보build네요?)

요즘 글을 못올린 이유 => 코딩을 너무 많이하고 있음

진짜 각잡고 에이전틱 코딩 많이 하면서 바뀐것들
• Mac의 Caps Lock키랑 Ctrl 키를 스왑하게 됐음. 컨트롤 너무 많이치다보니 순정 위치로는 손가락 뽀개질거 같음
• 동시에 봐야하는게 너무 많아서 Mac 데스크탑 기능(ctrl 방향키로 관리하는거)을 엄청나게 많이 돌리고 있음
• 데스크탑 3도류 + 각 데스크탑에 윈도우가 5개씩 (세로모니터 1개당 2개, 메인 모니터 1개에 큰거 1개)라서 3*5 컨텍스트를 뇌에 넣고 일하는중
• 원래 그냥 틀딱처럼 마우스로 누르는거 좋아했는데, 너무 전환이 잦아서 키보드 단축키에 좀더 의존하게 됨
• 가끔 OpenAI가 위클리 리밋 리셋해줄때마다 진짜 너무 눈물나고 인류애 느껴짐
• 잡다한 쉘 스크립트를 많이 만들게됨. 나든 에이전트는 뭔가 계속 돌려야하는 루틴이 계속 쌓이다보니
• 일을 12시간 하면 실제 로직개발은 8시간, 4시간은 더 나은 에이전트 + 인프라 셋업에 투자하는 느낌? 뭔가 하다보면 계속 비효율적인걸 발견함
• 집에 놀고 있던 맥미니 하나 홈네트워크에 연결해놓으니까 든든하다 걍 거기서 권한 다 풀어놓고 사는중
• 계속 타이핑 하다보니 한영 전환하는것도 귀찮아서 그냥 영어로 말걸게 됨

에이전트한테 자주하게 되는 말
• 이번 작업에선 코드 엔트로피가 순감소 해야한다
• 요구사항 불명확 / 증상 불명확 / 루트원인 불명확 3개중에 택1해라

다들 진짜 수고 많이하셨습니다