[삼성 이영진] 글로벌 AI/SW

샘 올트먼 × 데이비드 센라: AI 시대의 기업과 오픈AI의 미래

■ AI 기술 발전보다 실제 도입은 훨씬 느릴 것

“우리 모두가 타임라인을 지나치게 공격적으로 예상해왔다.”

→ GPT-4 등장 당시 자신도 소프트웨어 산업이 빠르게 재편될 것으로 예상했지만 실제로는 그렇지 않았다고 인정. 경제와 인간 행동의 관성이 강하기 때문에 AI 기술이 빠르게 발전해도 사회와 경제의 적응은 더 천천히 진행될 것으로 전망

■ 2026년에 모든 기업이 재편된다는 전망에는 다소 회의적

“2026년이 모든 기업이 다시 경쟁에 노출되는 해가 될지는 모르겠다. 조금 더 오래 걸릴 것이라고 생각한다.”

→ 다만 모든 산업이 아니라도 많은 소프트웨어 기업의 기존 지위는 AI로 인해 충분히 흔들릴 수 있다고 평가. AI disruption의 방향보다는 속도에 대해 보수적인 입장

■ 현재 AI는 ‘아이폰 이전의 스마트폰’ 단계

“기술적인 구성요소는 모두 갖춰졌지만, 아직 아이폰 모먼트는 오지 않았다.”

→ AI 기술 자체보다 이를 활용하는 제품과 인터페이스가 문제. 인간이 컴퓨터와 상호작용하는 방식을 완전히 바꿀 결정적인 AI 제품이 아직 등장하지 않았다고 평가

■ 오픈AI의 최우선순위는 모델과 컴퓨트

“현재 내 노력의 대부분은 연구와 컴퓨트에 집중돼 있다.”

→ 가장 중요한 것은 더 똑똑한 모델을 만들고 이를 많은 사람이 효율적이고 풍부하게 사용할 수 있도록 하는 것. 자체 칩, 팹 공급망, 랙, 전력 시스템까지 포함한 컴퓨트 구축은 역사상 가장 비싼 인프라 프로젝트가 되어가고 있다고 평가

■ AI 연구도 벤처투자처럼 Power Law가 작동

“최고의 투자가 나머지 모든 투자를 합친 것보다 더 큰 성과를 내듯 AI 연구도 그렇다.”

→ 다수의 점진적인 연구보다 컨센서스에서 벗어난 소수의 연구자와 고위험, 고성과 연구 베팅이 훨씬 중요하다고 평가. 오픈AI의 AGI와 LLM 집중도 당시에는 비주류 선택이었다고 강조

■ 이제 AI의 병목은 지능보다 컨텍스트

“현재 내가 느끼는 더 큰 제약은 AI가 나에 대해 가지고 있는 유용한 컨텍스트의 양이다.”

→ 최신 모델은 이미 상당히 똑똑해졌으며 앞으로는 내부 Slack, 고객 피드백, 연구자료 등 인간이 모두 처리할 수 없는 방대한 정보를 AI가 이해하고 의사결정에 활용하는 능력이 중요해질 것으로 전망

■ 차세대 AI는 상시 에이전트

“어느 시점에는 AI가 훨씬 더 지속적으로 존재하는 에이전트처럼 느껴질 것이다.”

→ ChatGPT가 챗봇에서 코딩 에이전트를 흡수한 데 이어 향후에는 사용자의 컨텍스트를 지속적으로 이해하고 필요한 일을 먼저 제안하거나 수행하는 Persistent Agent 형태로 발전할 것으로 전망

■ 오픈AI는 제품 회사보다 플랫폼 회사

“오픈AI는 제품 회사보다는 플랫폼 회사가 되어야 한다고 생각한다.”

→ 장기적으로 개인이나 기업의 AGI에 접근하는 하나의 범용 인터페이스와 API를 제공하는 구조를 지향. 최고 성능 AI부터 대규모 저비용 AI까지 모든 가격, 성능 구간을 제공할 계획

■ 오픈AI가 모든 애플리케이션을 직접 만들지는 않을 것

“우리가 모든 제품 카테고리를 직접 만들거나 고객들과 경쟁해야 한다고 생각하지 않는다.”

→ 오픈AI가 경제 전체를 직접 장악하기보다 AI 플랫폼을 제공하고 그 위에서 1억 개의 새로운 기업과 80억 명의 사람들이 새로운 것을 만들도록 하는 것이 목표라고 설명

■ Sora와 Atlas를 중단하고 핵심 영역에 자원 집중

“지난해 우리는 Sora를 중단했다. 좋은 제품이었지만 컴퓨트를 많이 사용했고 Codex만큼 중요하지 않았다. 웹 브라우저 Atlas도 중단했다.”

→ 제한된 컴퓨트와 인재를 범용 지식 노동과 과학을 위한 지능 개발에 집중. 자체 칩, 데이터센터, 인프라 소프트웨어, 모델 훈련 등 범용 지능 개발에 필요한 영역의 중요성 강조

■ AI가 역사상 가장 큰 소규모 창업 붐을 만들 것

“우리는 역사상 가장 큰 소규모 창업 붐을 보게 될 것이다.”

→ AI가 창업에 필요한 자본과 인력, 전문성의 장벽을 낮추면서 훨씬 더 많은 개인이 직접 사업을 시작할 수 있게 될 것이라고 전망

■ AI 업계가 대중에게 AI를 설명하는 데 실패

“AI 업계는 사람들에게 어떤 혜택이 있고 부작용을 어떻게 완화할 수 있는지 설명하는 일을 잘하지 못했다.”

→ 인류 멸망 가능성과 대규모 일자리 감소를 강조하면서 동시에 AI 개발 경쟁을 벌인 것이 대중의 불안을 키웠다고 지적. UBI나 물질적 풍요보다 AI가 개인의 권한, 자유, 자율성을 어떻게 확대하는지를 설명해야 한다고 주장

■ AI의 가장 큰 두 위험은 통제 상실과 권력 집중

“내가 가장 우려하는 두 가지 위험은 AI에 대한 통제를 잃는 것과 권력이 지나치게 중앙집중화되는 것이다.”

→ AI가 인간의 통제를 벗어나는 것뿐 아니라 하나의 기업, 모델 또는 개인이 지나치게 많은 권력을 갖는 것도 핵심 위험이라고 강조. 안전을 명분으로 AI 접근을 소수에게 집중시키는 것에도 부정적

■ AI 안전은 실제 배포를 통해 발전시켜야 한다

“기술을 세상에 내놓고 실제 사용자에게 피드백을 받아 어디에서 문제가 발생하는지 확인하는 것이 안전한 제품을 만드는 방법이기도 하다.”

→ 실제 배포, 문제 발견, 사고 분석, 개선을 반복하는 점진적 배포 방식을 강조. 다만 모델이 최고 수준의 인간 지능을 넘어서는 단계에서는 개발을 지연할지 여부까지 포함한 어려운 결정이 필요할 수 있다고 인정

■ AI의 가장 중요한 장기 가치는 과학적 발견

“AI가 과학적 발견을 어떻게 발전시킬 수 있을지에 매우 큰 관심이 있다.”

→ 새로운 물리학 발견, 질병 치료, 수학 문제 해결 등 AI를 통한 새로운 지식의 발견이 업무 자동화보다도 더 중요한 영역이 될 수 있다고 전망

■ AI 시대에도 인간 자체의 가치는 오히려 높아질 수 있음

“사람과 관련된 것, 사람 간의 연결과 사람들이 다른 사람을 좋아하는 것과 관련된 것은 AI 이후의 세계에서 가치가 낮아지는 것이 아니라 더 높아질 것이라고 생각한다.”

→ AI가 콘텐츠와 지적 노동에서 인간을 넘어가더라도 스포츠, 인간관계, 실제 경험처럼 인간이라는 사실 자체가 중요한 영역은 오히려 희소가치가 높아질 수 있다고 전망

https://youtu.be/kG8AoExkX40

YouTube

Sam Altman on Building OpenAI & Betting on the Impossible

Sam Altman has spent his career at the intersection of startups, investing and artificial intelligence. He says he was fascinated by AI as a child in St. Louis, studied it in college and eventually helped start OpenAI in 2015 after concluding that the most…

❤3👍3

7.34K views06:57