Sam Altman, "개인이 DRAM을 갖는 건 끔찍한 일"
Sam Altman Thinks You're Wasting DRAM
OpenAI CEO Sam Altman이 Cheeky Pint 팟캐스트에서 전 세계적으로 한정된 DRAM을 개인 컴퓨터에 두고 5%만 쓰는 것은 자원 배분상 끔찍하다고 주장했다. 그는 클라우드에서 최대 활용도를 추구해야 한다며, 로컬 추론을 원하는 사람들의 직관이 반대라고 지적했다. 또한 OpenAI가 AI로 AI를 위해 설계한 Jalapeno 칩을 개발 중이며, 실리콘 용량이 제한된 세계에서 공동 이익이 있다고 말했다.
전 세계적 배분 관점에서 보면, 모든 사람이 세계의 한정된 DRAM 공급량을 자기 컴퓨터에 두고 5%만 사용하는 건 정말 끔찍한 일입니다.
HN 토론
92- logancbrown
두 가지 진술이 모두 사실일 수 있고, 그는 그중 하나를 말한 것이다. 샘은 틀리지 않았다.
1. 로컬 추론은 하드웨어 수명 동안 사용자가 로컬 추론 하드웨어를 최대 용량으로 가동하지 않으면 자원의 큰 저활용을 초래할 수 있다. 이는 저활용이며, 저활용은 경제학적 관점에서 최적이 아니다.
2. 추론 하드웨어가 단일 제공업체에 집중되면 권력이 단일 시스템이나 조직에 집중될 수 있고, 그들의 인센티브는 개별 사용자와 상충할 수 있다.
같은 권력 역학과 경제적 투쟁은 역사 전체에 걸쳐 거의 모든 곳에서 존재해 왔다. 예를 들어, 사업을 위해 중장비를 소유할지 임대할지 결정하려 한다면, 임대 계약 조건에는 하지 말아야 할 것들의 긴 목록이 있지만, 사용 시간당 몇 배의 가격을 지불하고 원하는 대로 사용하면서 자신의 기계를 구매하고 운영하는 것은 얼마든지 환영이다.
- VariousPrograms
세상에서 DRAM을 가장 많이 가진 남자가 자신이 전부를 갖지 못한 것이 끔찍하다고 생각한다.
대중교통을 위해 자동차를 금지하는 것이 더 효율적일 것이다. 사람들이 단독 주택 대신 아파트 단지에만 사는 것이 더 효율적일 것이다. 사람들의 프라이버시와 소유에 대한 욕구를 빼앗으면 수많은 것들이 더 "효율적"이 될 수 있다.
- lrvick
[플래그됨]
- TheJCDenton
그는 이 특정 문제에 대해 너무나 좁은 영역에서 옳아서, 최근 많은 것들이 잘못되어 가는 완벽한 예시일 뿐이다.
OpenAI는 2025년 10월에 월 90만 DRAM 웨이퍼를 주문하여 이 소란을 촉발했고, 당시 전 세계 생산량의 약 40%였기 때문에 모두를 패닉에 빠뜨렸다.
우리 모두는 메모리 공급업체들이 과잉 투자할 때 파산 직전이 어떤 느낌인지 안다는 것을 알고 있지만, 지금 SK하이닉스는 80% 마진(즉 TSMC ~60%)을 내고 있으며 올해 주주들에게 2025년 전체 매출에 해당하는 금액을 지급하기로 했다. 이제 삼성 덕분에 공장 건설 속도가 마진을 보호하기 위해 최대치가 아니라는 것이 상식이 되었다. 그리고 메모리 공급업체들은 이미 2000년에 가격 담합으로 벌금을 부과받았다.
공급이 부족한 것은 그들 모두가 그렇게 만들기로 선택했기 때문이다.
- bugake
알트만: 당신의 재산 중 약간을 투자하여 주요 소프트웨어 개발자들이 우리의 RAM을 낭비하는 것을 멈추는 더 효율적인 코드를 작성하도록 하십시오. 인터넷 브라우저와 날씨를 보여주는 데 1GB를 낭비하는 Windows 11 앱부터 시작하십시오.