Anthropic, AI 반대 활동가를 예측 감시하는 시스템을 구축하다
Anthropic Is Building a Predictive Surveillance System to Monitor Activists
Anthropic이 채용 공고와 보안 관계자 인터뷰를 통해 AI 개발에 반대하는 활동가들을 감시하고 시위를 예측하는 시스템을 구축하고 있음이 드러났다. 이 시스템은 범죄 발생 전에 예측해 경찰에 신고하는 '프리크라임' 방식을 포함하며, Anthropic은 국가 안보 계약을 재개하려는 움직임과 맞물려 감시를 확대하고 있다. 이는 Anthropic이 스스로를 OpenAI의 책임 있는 대안으로 내세우는 이미지와 상충된다.
작년에 한 임원이 대도시로 출장을 갔을 때 Samdesk를 통해 계획된 시위에 대한 정보를 받았습니다. Samdesk는 시위 주최측이 일정을 앞당겼다는 사실을 약 60분 전에 알려주었습니다. 그 추가 1시간이 결정적이었습니다. 그것이 없었다면 임원들은 회의를 마치고 나와 혼란의 한복판으로 곧장 뛰어들었을 것입니다.
HN 토론
163- cldellow
이 기사의 논평은 정말 대단하네요.
논평을 걷어내면, 결론은 이렇다고 봅니다:
1. 누군가 Claude에게 자신이 AR-15를 가지고 있고 Anthropic CEO가 "자신의 사정거리 안에" 있다고 말했습니다. Anthropic은 이를 경찰에 신고했습니다.
2. Anthropic은 보안 업체와 계약을 맺고 있습니다.
3. Anthropic은 자체 보안 역량을 구축하려고 합니다.
Anthropic에게는 분명히 고가치 표적이 있습니다(예: 1번의 AR-15를 가진 사람). 제가 2000년대에 Microsoft에서 일할 때도 시설과 임원에 대한 위협을 조사하는 자체 보안팀이 있었습니다.
Anthropic이 나쁜 짓을 하고 있다고 믿을 수도 있지만, "사전 범죄"에 대한 과장된 수사에도 불구하고 이 기사가 실제로 그런 주장을 한다고는 생각하지 않습니다.
- palmotea
얘들아 기억해: Anthropic은 착한 놈들이야! 그들은 도덕과 정렬, 안전을 중요하게 생각해! 그러니 반대 의견을 짓밟기 위한 이 침입적 감시도 우리에게 좋은 거야!
AI는 권위주의자의 꿈이다. 미래는 밝다! 위대한 지도자 Dario가 우리를 그곳으로 이끌 것이다!
- slowin
> "대중이 AI에 대해 부정적인 시각을 가진 것(그리고 이것이 큰 문제라는 것)에는 동의하지만, 그것이 주로 나나 다른 AI 리더들이 AI의 위험에 대해 경고해서 생긴 것이라고는 생각하지 않습니다,"라고 Anthropic CEO Dario Amodei가 지난달 Twitter에 썼다. "나는 이것이 근본적으로 신뢰의 위기라고 생각합니다 … 일반 사람들이 기업, 정부, 기술 업계를 신뢰하지 않고, 우리가 그들을 속일 새로운 방법을 꾸미고 있다고 항상 의심한다고 생각합니다."
사전 범죄 글로벌 감시 체계를 만드는 사람이 하는 말이다. 사람들이 그를 신뢰하지 않는 이유가 궁금하겠지!
- vaylian
> "그 추가 한 시간이 결정적이었습니다. 그것이 없었다면 우리 임원들은 회의를 마치고 나와 방해 행위의 진원지로 곧장 들어갔을 것입니다."
> [..] "높은 스트레스를 받을 수 있는 상황이었을 텐데,"
민주적 시위가 이제 높은 스트레스 상황인가?
- woah
여기 분위기를 깨서 미안하지만, 이게 다른 대기업이 가진 보안과 다른가요?
헤드라인 일화는 공개적으로 제출된 허가 정보를 바탕으로 시위를 피해 임원들의 동선을 바꾼 것에 관한 것입니다.
다른 일화는 살해 협박을 한 사용자를 신고한 것에 관한 것입니다.
- hyperbolablabla
영국 정부가 반체제 인사들을 사전 범죄로 유죄 판결하기 시작하는 날을 기다릴 수 없다
- sleight42
진심이야? 아무도 "로코의 바실리스크의 첫 단계"라고 말하지 않았어???
- smalltorch
이것이 모든 인터넷 사용을 대량으로 수집하는 것인지, 아니면 단순히 자사 플랫폼 내에서만인지 기사만으로는 명확하지 않습니다.