Sam Altman: The Future of OpenAI, ChatGPT's Origins, and Building AI Hardware

A fireside with Sam Altman on June 16, 2025 at AI Startup School in San  Francisco
 
https://lilys.ai/notes/1037688

 

https://www.youtube.com/watch?v=V979Wd1gmTU
  

 

Founding OpenAI Against the Odds.

"뭔가 엄청 잘못되지 않는 이상 10-20년 뒤 우린 엄청 슈퍼 인공지능을 가지게 될 것이다." - 샘 알트먼 2025.

샘 알트먼 OpenAI CEO
작은 결정 같았지만 돌이켜보면 임청 pivotal했던 것은? Open AI 를 하기로 한 것. 거의 안할 뻔 했음.
*pipe dream : an unattainable or fanciful hope or plan. an idea or plan that is impossible or very unlikely to happen.
*coin flippy: metaphorically refers to decision or situation involving a 50/50 chance.

"when in doubt, you should lean into them."

*off the bat: at the very beginning.

AGI를 해야 한다는 생각 하기 vs 이거를 할 똑똑한 사람들 구하기 ㅡ> 둘 중엔 후자가 쉽다. 생각보다 들리는 것 보다 오히려~ 왜냐면 미친짓 할려는데 재밌고 다른 사람들이 안하면 이거 할 사람 많이 구하기 가능함. 생각보다 공감해주는 1%의 사람들에 똑똑한 사람이 엄청 많음. 스타텁 해보면 아는데 다른 사람들이랑 똑같은걸 하면 탤런트를 집중하기 어려움. 미션을 진짜 막 믿게 하기 어려움.

꿈을 크게 하는게 중요함.
"there's a very big difference between a zero million dollar startup and a zero billion dollar startup, but they both have zero dollars of revenue." - vinod khosla

나의 조언은 하나임. 커질 가능성이 있는 시장을 골라라. 그 외에는 그냥 오랫동안 한발짝씩 해야함. one dumb foot in front of the other for a long time.

GPT-4o & the Future of Reasoning Models

챗지피티 최근 모델 관련 알트먼의 생각: 모델이 할 수 있는 능력치에 비해 사람들이 찾아낸 유스케이스는 아직 못 미친다. 그리고 앞으로 성능 대비 비용이 얼마나 낮아질지 놀라게 될거다.
그리고 오픈소스 모델 곧 나올거다.

모델의 성능은 새로운 영역에 접어들었고, API 비용은 급격히 계속 떨어질거고 오픈소스 모델은 엄청 좋은데 추론 모델이 할 수 있는 능력치 만큼의 프로덕트 혁신 수준은 아직 우리가 못 본거같다.

지금 시기는 이런 새로운 것들을 이용하는 회사를 만들기에 정말 특별히 좋은 시기다.

*new square on a periodic table: 주기율표에 새로운 정사각형; discovery and inclusion of a newly created or identified chemical element.

ChatGPT Memory & the 'Her' Vision 

챗지피티의 메모리
사회자:날 진짜 아는 사람이랑 말하는 것 같다.
알트먼: 올해 론칭한 피쳐 중 최애다. 프로덕트 방향성을 가리킨다고 본다. 당신을 알고, 당신의 모든것과 연결되고, 당신을 능동적으로 도와주는 entity. 인생을 통틀어 함께 하는.
Her 영화 처럼 될 것임. 점진적으로 다가가는 중.
AI companion.

---

MCP란?

*MCP in OpenAI; Model Context Protocol; an open standard, open-source framework introduced by Anthropic in Nov 2024 to standardize the way AI systems like LLMs integrate and share data with external tools, systems, and data sources.
안트로픽이 처음 시작하고 안트로픽의 주요 경쟁사인 오픈AI도 25년 3월에 받아들임. 진정한 AI생태계의 시작. 십년 전 모바일앱이 기술을 혁명시킨것처럼. 앱이 스마트폰의 기능을 확장시킨 것 처럼. 근데 standalone app 대신 MCP는 서로 연결된 AI extension의 네트워크를 만든다. 이게 MCP 서버임. 서로 다른 플랫폼 간에 seamlessly하게 협업가능.

- MCP host : 여러 MCP 서버에 연결할 수 있는 어플리케이션 (예: 클로드 데스크톱)
- MCP Servers: AI의 능력을 확장시켜주는 외부 서비스들. (ex) 구글맵, 슬랙, 메모리 (stores and recalls information across sessions), Time, Puppeteer (interacts with headless browsers to fetch HTML and images), EverArt (이미지생성)
- MCP Client: host랑 비슷함.

MCP의 멋짐: open standard approach. single MCP server can work across multiple hosts.
한번 만들면 클로드, 제미나이, 등에 모두 쓸 수 있음.
(안드로이드 vs iOS 처럼 분열되지 않음)

AI Mesh Network로의 한걸음
AI에이전트는 host랑 server 둘 다 될 수 있음.
API와의 차이점: 사용자를 위한 것. 개발자를 위한게 아님. 각 사용자는 각자의 MCP tool 콜렉션을 큐레이트 할수있음. 필요한대로 서버를 넣고빼면서.
예전엔 API 써야했다면 이젠 자연어로 AI어시스턴트 통해서 할 수 있다.

---

챗지피티가 새로운 운영체제다. 모든 삶이 담긴. 다양한 데이터 소스에 접근 가능하고.
 
챗지피티는 2년반 전엔 존재하지도 않았었는데 이제는 세계에서 5번째로 큰 웹사이트 수준이다. 
 
 
o3, o4 mini : reasoning model 추론 모델 
4o: multimodal models (텍스트, 이미지, 오디오, 비디오 등 다양한 유형의 데이터(모달리티)를 함께 고려하여 서로의 관계성을 학습 및 처리하는 인공지능이다. )

지피티5에선 아마 못하겠지만 궁극적으로는 1개의 모델로 통합하고싶음. 1개의 모델인데 어떨땐 추론 집중, 어떨땐 실시간 비디오 생성 가능 등.
 
A hop step over to the embodied aspect: to shift focus from intellectual or abstract understanding to a deeper, experiential awareness of your body and its sensations, emotions, and knowledge. It's about incorporating your physical, sensory, and emotional experiences into your cognitive and psychological life, rather than seeing the body and mind as separate.
 

Robots at scale

AI가 시각, 스피치, 추론을 하게 되면 이건 사실 로봇임. 
 
챗지피티에서 제일 비싼 구독하면 휴머노이드 로봇 보내주는 미래를 꿈꾼다. 
mechanical engineering과 cognitive part는 어렵지만 조만간 할수있을 느낌이다.
 
알트먼이 최근 관심있어하는 질문은 로봇을 만들기 위한 공급 체인을 전부 로봇이 하게 되려면 몇 대의 로봇이 필요할까; 원자재 생산부터 물류, 제조 등 까지. 로봇이 로봇을 만들면 생각보다 금방 로봇을 많이 만들 수 있을 듯. 
 
사회자: 최근 hard tech 쪽에 더 투자가 많이 이루어지고 있다. 미국이 crazy cost overrun 없이 제조와 산업 역량을 가지려면 어떻게 해야할까? 
 

Don't build ChatGPT. Build what's missing. 

defensibility: the quality of being capable of being defended, whether physically, intellectually, or legally. 
 
사회자: 최근 화두 중 하나는, 챗지피티한테 치이지 않을 스타트업을 만들려면 어떻게 해야할까?이다. 
알트먼: 챗지피티가 새로운 스타트업들에게 트래픽을 가져다줄 수 있다. 
개인화된 모델 가져와서 새로운 스타트업에 쉽게 연결할 수도 있음. 
 
스타트업 히스토리에서 계속 봤는데 사람들이 같은 때 같은 것에 흥분한다. 그러니 남들이 다 하는걸 만들지 마라. 사람들이 AI로 가장 만들고 싶어하는 5가지 아이디어는, 이 방 사람들 반이 그거 만들고 있을 듯. 앞으로 커질 회사는 그 5가지 안에 있지 않을걸.
 
다른 사람들이 모두 하려는걸 하면 defensible하기 어렵다. 
아무도 안하는 걸 하면 방어 전략 고민해야하기전에 좋은 제품, 기술 만들 시간 있음. 
오랜 시간 동안 우리의 유일한 방어 전략은 시장에 유일한 프로덕트 가진거 하나였었다. 그다음엔 우리가 브랜드 같이 되었음. 유명해졌고, 이제 우린 메모리나 커넥션 같은 진짜 방어전략 될만한 게 있지만. 
방어 전략이 없단건 우리에게 한동안 진짜 비판이긴 했다. 
 
have some window before which ~ ; you have a limited period of time available to do sth, often an opportunity that will not last long. 
contrarian: a person who opposes or rejects popular opinion
 

옳지만 반대의견을 내는 사람이 되는 것의 중요성. 

scaling laws가 과거엔 받아들여지지 않았으나 지금은 진실로 받아들여짐. 피터틸과 알트먼은 scaling law가 맞다고 주장했었음.
 
* scaling laws: In AI, scaling laws describe the predictable, often mathematical, relationships between the resources used to train a model and the model's performance. Specifically, they show how performance metrics, such as accuracy or test loss, improve as key factors like the size of the model (number of parameters), the amount of training data, and the computational resources (compute) used for training are increased. Understanding these laws allows AI developers to optimize resource allocation, predict performance gains, and build more powerful and efficient AI systems
* pushback: a negative or unfavorable reaction or response. 
 

One Person's Leverage in the Next Decade

Greg Brockman = 샘 알트먼과 함께 OpenAI 공동사장
"올해는 agent의 해다." 
 
사회자: 오퍼레이터, 코드 인터프리터 등의 툴/워크플로우가 사라질거라 생각하는지? 또는 우리가 아직 준비안되었다고 보는지? 
알트먼: 오랜 시간 동안 챗봇은 구글의 대체제 처럼 사용되었음. 구글 쿼리 만큼 긴걸 물어보면 30분 구글링한거 합쳐놓은 결과물 같은걸 줬는데. 이젠 진짜 Codex 같은거에 task 주거나 deep research 시켜 놓고 다른 일 하다가 돌아오면 주니어 직원처럼 짧은 시간 동안 일을 해서 가져온다. 
 
HCI의 변화? 
인터페이스가 녹아없어질거다. 보이스 같은거 생각한다. 
 
새로운 디바이스 관련. 컴퓨터를 가지는 다른 방법을 보여주고 싶다.
잘하는 디자이너인 John Ivan IO 를 데려온 이유임/ 
"Lives up to all the hype" means something successfully meets or exceeds the high expectations that were created by widespread publicity, promotion, or anticipation from the public. In essence, if something lives up to the hype, it is as good as everyone expected or hoped it would be. 
새로운걸 할 수 있는 기회는 많이 오지 않는다. 지금까지 근 50년간 우리는 키보드와 마우스 뿐이었다. 그런데 이젠 AI가 뭔가 완전히 새로운 분야를 열어줄거다. 
// 로지텍 망하려나 
 
지금이 새로운 회사를 시작하기 너무 좋은 시기다. 왜냐면 땅이 흔들리고 있음. 
이제 필요로 할 때 코드가 즉시 생성될수 있다면 ....? B2B SAS 회사들은 무서운 상황. 
이정도로 산업의 시계가 빨리 돌아가는 시기에는 스타트업들이 거의 항상 이긴다. 
 
유명한 맥킨지 책 처럼 클래식한 책이 있는데 "Seven Powers"라는 책. (세븐 파워; 위대한 기업이 되는 7가지 전략) 
 
이런 시대에 How we live, how we work, and how do we create value for each other as a society? 
우리는 한 사람이 전에 할 수 있던 것보다 훨씬 더 많은 것을 한 사람이 할 수 있게 되었음.
누가 뭘 스캐폴딩에 쌓으면 다른 사람이 그 위에 또 다른 레이어를 추가하고 등등. 
 
 *scaffolding: a temporary structure on the outside of a building, made usually of wooden planks and metal poles, used by workers while building, repairing, or cleaning the building.
 
다음 10년간 가장 다르게 느낄 것들 중 한 가지는 with a lot of agency의 한 사람 또는 작은 그룹의 사람이 얼마나 많은것을 해낼 수 있는지에 대한 것일 듯.
"With a lot of agency" means possessing a strong sense of personal control, power, and ability to make independent choices and take meaningful actions in one's life. It signifies having the capacity to influence your thoughts, behavior, future, and circumstances, rather than being controlled by external forces. 
조금 더 많은 것이 만들어지는게 아니라, 진짜 큰 변화가 있을 것.
 
사람들은 여전히 AI를 챗지피티로 생각한다. 많은 사람이 챗지피티를 챗봇처럼 쓴다. 
"wrap your head around something" means to understand or come to terms with a complex, difficult, or unfamiliar idea or situation.
 

영단어 공부 ㅋㅋ let alone: used to indicate that sth is far less likely, possible, or suitable than sth else already mentioned.

인재 채용 관련 어려운 점은?
채용에서 really driven and productive 하고 팀워커인게 90% 정도 차지함. (driven, curious, self-motivated, hard-working, work really well as part of a team, aligned with the company's vision, going for the same direction etc)
난 다른 사람들이 누굴 고용할 때 위의 것들 이외의 것들을 얼마나 많이 보는지를 보고 놀란다.
좋은대학 나오고 좋은 기업의 관리자인 레쥬메를 가진 사람인지 확인하지 않는다.
그냥 지금까지 한 일 중에 가장 멋진게 뭔지 묻는다. 레쥬메는 백업 정도.
폴 그레이엄의 "hire for slope, not y-intercept"가 좋다고 생각함.


사회자 질문: 10-20년 앞으로 개인적으로 관심있는것. 그런 미래를 가져오기위해 사람들이 해야할것.
알트먼: 많지만 굳이 하나 고르라면 과학 목적의 AI가 제일 기대됨.

* first order approximation ? 

 

에너지와 AI 에 항상 관심 있었음. 

과거엔 몰랐는데 둘은 매우 연결되어 있음. 에너지는 AI에 대한 limiter가 된다. 예전엔 직교하는 줄 알았는데, 둘은 같은 벡터임. 

 

알트먼이 에너지에 집중한 이유: correlation of quality of life and abundance of energy and cost of energy. 차트가 흥미로워서. 

 

gpu 너무 돌려서 지구 너무 뜨거워 지기 전에 얼만큼 에너지 생산 가능할까? 

gpu를 우주로 보내기 전까지 얼마나 걸릴까? 

 

알트먼은 자신이 탈성장 degrowth 사고방식을 이해하지 못한다고 함. 

 

5년 전 챗지피티는 거의 문장 하나도 제대로 못 썼지만, 지금은 거의 박사급 글쓰기. 향후 5년간은 지금과 같은 성장속도를 유지할 수 있을 거라고 본다. 엄청나질거다. 

 

ai를 트랜지스터에 비유하는걸 좋아함. 역사적 기술적 비유. 트랜지스터가 세상을 바꾼 것 처럼 AI 도 세상을 바꿀꺼다. 

 

샘 알트먼은 YC 출신임. 여름 파운더스 프로그램 알게되고 참여 요청하여 참여함. 

 

창업자에게 주고싶은 중요 조언: conviction and resilience. 

 

창업은 애 키우는거랑 똑같다. 애 키우면 좋은건 상상보다 더 좋고, 나쁜건 상상보다 더 나쁨.