Stability AI 창업자 에마드 모스타크: "우리는 인터넷이 곧 오프라인이 될 것이라고 가정해야 합니다"
"We Have to Assume That the Internet Will Go Offline in the Next Few Years"
Stability AI 창업자이자 Intelligent Internet CEO인 에마드 모스타크는 코펜하겐의 TechBBQ 컨퍼런스에서 AI의 미래에 대한 강력한 경고와 낙관론을 동시에 제시했습니다. 그는 Hugging Face 해킹 사건을 언급하며 AI 에이전트의 보안 위협을 강조하고, 인터넷이 수년 내에 오프라인이 될 수 있다고 주장했습니다. 또한 AI의 편향성, 국가 주권, 경제적 영향, 로봇의 부상, 기본소득의 한계 등 다양한 주제를 다루며, AI가 국가를 운영하게 될 것이라고 예측했습니다. 그럼에도 불구하고 그는 AI가 질병과 기아를 해결할 수 있는 '스타트렉' 같은 미래를 만들 잠재력이 있다고 믿습니다.
우리는 인터넷이 앞으로 몇 년 안에 오프라인이 될 것이라고 가정해야 합니다. 어쩌면 그것이 좋은 일일지도 모릅니다.
HN 토론
81- grubbs
재밌네요. 오늘 아침에 이더넷 창시자(로버트 멧칼프)에 대해 읽고 있었는데요: 1995년에 멧칼프는 인터넷이 다음 해에 '파국적 붕괴'를 겪을 것이라고 주장했고, 그렇지 않으면 자신의 말을 먹겠다고 약속했습니다. 1997년 제6회 국제 월드와이드웹 컨퍼런스 기조연설에서 그는 붕괴를 예측한 자신의 칼럼 인쇄본을 가져와 액체와 함께 블렌더에 넣고는 그 걸쭉한 덩어리를 삼켰습니다.[26][27] 그는 자신의 글을 아주 큰 케이크에 인쇄하자고 제안했지만, 청중은 그런 형태의 '말 먹기'를 받아들이지 않았습니다.[28]
- comicjk
"Hugging Face가 스스로를 방어한 방식은 오픈소스 중국 모델인 GLM을 사용한 것이었는데, 그들은 반대편의 높은 수준의 사이버 보안 모델에 접근할 수 없었기 때문입니다. 그것들은 너무 위험합니다." 이것은 실제로 일어난 일이 아닙니다. HuggingFace는 취약점을 일반적인 방식으로 패치한 다음, 이후 일부 포렌식 분석에 GLM을 사용했습니다. HF가 GLM 부분을 부각하는 것은 그들의 이해관계에 부합합니다. 왜냐하면 그것은 상황에서 그들의 주도성과 그들이 배포하는 오픈소스 모델을 강조하기 때문입니다. 그러나 GLM은 사후 분석의 (유용한) 일부였지, 방어의 일부가 아니었습니다.
- jmogly
저는 75세의 인간 배관공(베트남 첫날 저격수를 사살한 사람)이 3인치 너비 장선 두 개에 무릎을 꿇고 그 장선들을 통해 89도 각도로 4인치 직경의 구멍을 뚫는 것을 지켜봤습니다. 그 모든 일을 하는 로봇이 어디 있나요? 이 기사의 다른 종말론적 헛소리들 중에서, 일자리 대체론이 가장 불쾌합니다. 항상 노동의 현실과 너무 동떨어진 사람들, 본질적으로 아이디어와 의견을 가지는 것이 유일한 '직업'이었던 사람들입니다.
- blfr
인터넷이 오프라인이 될 이유가 없다고 봅니다. 다양한 정치적 차단이 인터넷을 구획화하는 경우를 제외하고는요. 그래서: 중국, 러시아, EU가 각자의 네트워크를 가지는 것? 네, 아마도요. 슈퍼 AI가 인터넷을 핵폭격하는 것: 아니요. 사실, AI를 더 많이 사용할수록(어제 제 AI 개발 상자에서 Claude에게 sudo를 넘겨줬습니다), AI를 꽤 훌륭하고 확실히 지칠 줄 모르는 시스템 관리자로 봅니다. 사람들이 AI를 문서화되지 않은 하드웨어 인터페이스에 연결하고 작동하는 설정을 얻는 데 사용하는 것을 보면, 인터넷은 잘 될 것입니다. 기사 전체는 실제로 일어나고 있는 일에 대한 근거 없이 다양한 AI 공포를 모아 놓은 것에 불과합니다. 아마도 요약이 그가 말한 것을 제대로 전달하지 못했을 수도 있습니다.
- EgregiousCube
"주권이란 당신에게 행사되는 힘에 저항하는 능력이다"라는 것은 꽤 설득력 있는 정의입니다. LLM이 기존 프로세스가 패치하는 것보다 빠르게 맞춤형 익스플로잇을 개발함에 따라 그 힘이 어떤 형태를 취할지 생각해 보면, 현재의 보안 모범 사례가 꽤 쓸모없게 되거나 그 자체로 능동적 위험이 될 수도 있을 것 같습니다. 우리의 책임 있는 공개, CVE 정보 주기, 패치 주기, 심층 방어 등의 생태계는 상대적으로 적은 수의 나쁜 0day가 존재하고 그러한 0day의 비용이 상당히 높은 세계에 맞춰져 있습니다. 위협에 대처하는 방식을 진화시킬 수는 있지만, 우리의 모델은 이전에 어떻게 해왔는지에 대한 최고의 문헌을 모두 읽었습니다. "좋은 보안 모델"에 접근할 수 없을 만큼 작은 사람들을 위한 격차가 있다고 생각합니다. 약화된 폐쇄형 모델과 오픈 모델은 그 격차가 해결되지 않는 한 적응에 실패할 가능성이 있어 보입니다.