버니 샌더스, 인공 초지능 금지 및 고급 AI 개발 일시 중단 법안 발의
Sanders introduces bill to ban artificial superintelligence and pause AI
버니 샌더스 상원의원과 그렉 카사르 하원의원이 '인공 초지능 금지법(Ban Artificial Superintelligence Act)'을 발의할 예정이다. 이 법안은 인간이 통제할 수 없는 초지능 AI의 개발과 배포를 영구적으로 금지하고, 연방 규제 기관이 안전 규칙을 마련할 때까지 고급 AI 개발을 일시 중단하도록 한다. 또한 국제 협력을 통해 전 세계적인 초지능 개발을 차단하는 것을 목표로 한다. 최근 OpenAI, Anthropic, Meta 등이 AI 통제 실패 사례를 인정한 가운데, 법안은 AI 개발에 대한 강력한 규제와 처벌(법인 해산, 최대 20년 징역)을 포함한다.
인간의 미래는 소수의 빅테크 과두제의 손에 맡겨질 수 없습니다. 미국 국민과 전 세계 사람들이 그 미래를 결정해야 합니다.
HN 토론
65- dang
제안된 법안은 결국 아무것도 되지 않는 경우가 많으므로, 일반적으로 더 실질적인 이야기를 기다리는 것이 낫습니다.
https://hn.algolia.com/?dateRange=all&page=0&prefix=true&que...
- -_-
법안 요약: https://www.sanders.senate.gov/wp-content/uploads/Ban-Artifi...
https://x.com/BernieSanders/status/2095542398084415952
"우리는 고급 AI 개발에 대한 즉각적인 일시 중지와 초지능에 대한 영구적인 금지가 필요합니다. 초지능이란 인간보다 더 똑똑하고 우리의 통제를 벗어나 독립적으로 작동할 수 있는 인공 정신입니다. 전 세계 국가들이 이 악몽 같은 시나리오를 막기 위해 함께 협력해야 합니다.
그래서 오늘 저는 바로 그 목적을 위한 새로운 법안을 발의합니다."
- hackingonempty
미국에서는 매년 수천 명의 사람들이 자동차 운전자에 의해 사망합니다. 이는 상대적으로 말해 아무런 항의 없이 용인되고 있습니다. 운전자에 의해 사망하는 보행자 수는 뉴스와 유권자 문제를 지배하는 총기 난사 사망자 수보다 20배나 많음에도 불구하고 말입니다.
그래서 저는 좋은 AI를 갖기 위해 우리가 매년 용인할 사망자 수는 0보다 훨씬 많을 것이라고 예측합니다.
- ronsor
"의회는 언론의 자유를 제한하는 법을 만들 수 없다"
우리는 암호화폐로 이미 이 길을 걸어본 적이 있습니다. 아니요, 그것은 효과가 없을 것입니다.
- slibhb
제 생각에 AI는 대규모 재분배에 부작용이 없거나 거의 없는 탈희소성 사회를 위한 우리의 최선의 기회입니다. 모든 노동이 AI에 의해 수행된다면 모든 것의 가격은 거의 0에 가까워지고 모든 사람이 정부가 보장하는 중산층 생활 방식을 누릴 수 있습니다. 따라서 좌파가 AI 발전을 반대하는 것은 아이러니하다고 생각합니다.