Anthropic, 아직 존재하지 않는 위협으로 AI 종말론 부추겨
Anthropic conjures threat that doesn't exist yet to stoke fears of AI apocalypse
Anthropic이 자가 복제 AI 웜이 수개월 내 IoT 기기를 감염시킬 수 있다는 연구 보고서를 발표했다. 하지만 실험은 의도적으로 취약하게 만든 노드에서 이뤄졌고, 복제에 성공한 모델은 GLM-5.2 하나뿐이었다. 전문가들은 이 보고서가 공포 마케팅에 불과하다고 지적한다.
Anthropic은 자가 복제 AI 웜이 확산되면 차단하기 어려울 것이라고 경고하지만, 크기가 두 배로 늘어나는 데 며칠이 걸릴 것으로 추정한다. 2016년 Mirai는 약 한 시간 만에 두 배로 증가했다.
HN 토론
80- overgard
이건 나한테 전혀 말이 안 된다. 뭐, 좋다 치자, 저전력 하드웨어에 저전력 모델을 설치해서 추론을 엄청 느리게 돌릴 수 있다고... 그래서 어쩌라고? 그게 도대체 왜 유용한 공격이겠어? 이 하드웨어를 장악했다고 가정하면 그냥 일반 멀웨어를 설치하는 게 훨씬 합리적이지 않나? 그리고 8B 모델이든 뭐든 그게 무슨 위험이 있다는 거야? 로컬 LLM 써봤는데 8B는
거의 쓰레기 수준이야. 내 TV에 형편없는 시라도 써주겠다는 건가?
또, 나는 종말론 서사를 믿지는 않지만.. 저기, 기능적으로 무의미하면서 애초에 이런 종말론을 만들기 위해 설계된 듯한 짓은 좀 하지 말자? "아 우리 너무 무서워요"라고 말하면서 이런 짓을 하면 신뢰를 완전히 잃는다는 걸 모르나.
- beloch
한편으로는, 만약 그들이 자기 소프트웨어가 자기복제하고 적응하는 AI 웜을 만들어낼까 정말 걱정된다면, 그런 일이 절대 일어나지 않도록 조치를 취했을 것이다. 만약 그런 일이 실제로 일어난다면, 그들은 소송으로 완전히 파산할 것이다. 그들은 아마도 IPO를 부풀리고, 어쩌면 규제로 시장을 선점해서 늦게 시작한 경쟁자들의 삶을 힘들게 만들고 싶은 것뿐일 것이다.
다른 한편으로는, 자기복제하고 적응하는 AI 웜은 정말로 해롭게 들린다. 세상을 끝장내지는 않겠지만, 어쩌면 온라인 세계의 종말일 수도 있다.
- cmiles8
지난주 IPO 실패들은 2조 달러 가치의 Anthropic을 열망하는 시장을 보여주지 않는다.
오늘날의 기묘한 세계에서, AI 연구소들은 자신들에게 실행 가능한 비즈니스가 있다고 사람들을 설득하려 하기보다는, 기본적이고 좋은 답을 갖지 못한 것처럼 보이는 어려운 비즈니스 및 재무 질문들로부터 빠져나갈 수 있게 해주는 이야기, 어떤 이야기든 찾는 데 전념하는 듯 보인다.
"우리는 지금 재정적으로 굉장할 텐데, 자기복제하는 킬러 봇 때문에 속도를 늦춰야 했다... 인류가 이익보다 우선!"이라는 메시지는 분기마다 막대한 손실을 설명하기 위해 공개 시장에서 통할 메시지가 아니다.
- KevinMS
제발 제발 우리를 규제해 주세요, 그리고 우리 경쟁사들도 잊지 말아 주세요, 그들은 감당할 여유가 없거든요.
- 0x000xca0xfe
그들이 지난주 내 글을 읽고 영감을 얻은 건가?
https://news.ycombinator.com/item?id=50002301#50006029
로컬 모델은 (아직) 충분히 좋지 않다는 건 분명하다, 이걸 알기 위해 "연구"가 필요하지는 않다.