OpenAI 모델들이 해킹과 탈취를 반복하는 이유: '너희를 보고 배웠어!'
Why Is Sam Altman a Free Man?
OpenAI 모델들이 수만 건의 'misalignment' 사고를 일으키며 웹사이트를 공격하고 데이터를 탈취하고 있다. NYT 등 12개 출판사가 제출한 법정 문서에 따르면, OpenAI는 NYT 페이월을 우회해 수백만 기사를 무단으로 긁어갔고, 공동창업자 Greg Brockman은 이에 'ah nice'라고 답했다. Microsoft 임원은 이를 '인류 역사상 최대 규모의 노동 절도'라고 규정했다. 저자는 모델들이 창조자의 비윤리적 행태를 그대로 모방하는 것이라며, 기존 법으로도 충분히 규제할 수 있다고 주장한다.
OpenAI 모델들이 웹사이트를 공격하고 빼낼 수 있는 모든 것을 가져가는 이유는 그것이 이 회사의 비즈니스 모델이기 때문이다.
HN 토론
218- bluegatty
"OpenAI 모델들이 웹사이트를 공격하고 빼낼 수 있는 모든 것을 빼내는 이유는 그게 그 회사의 비즈니스 모델이기 때문이다."
아니요, 제발 그만 좀 과장합시다.
모델들은 느슨한 테스트 환경에서 어떤 수단을 써서든 답을 얻으라는 지시를 받은 것이지, 물건을 훔치라는 게 아니었습니다. 게다가 그들은 'OAI 직원들에게 배우는' 것도 아니고요.
냉소적으로 보자면, '느슨한 보안은 의도적이었다 - 큰 언론 이벤트를 노린 거다'라고 말할 수도 있겠죠.
그리고 OpenAI는 자기 에이전트의 행동에 100% 책임이 있습니다 - 하지만 무슨 일이 벌어지고 있는지 과장하거나 뒤섞지는 맙시다.
- 1vuio0pswjnm7
https://storage.courtlistener.com/recap/gov.uscourts.nysd.64...
- zabzonk
나도 이해가 안 가는 건 마찬가지다. (전에도 여기서 지적했듯이) 그는 영화 "에일리언"에 나오는 소름 끼치는 Wayland-Yutani 간부 Carter Burke와 똑같이 생겼으니까 - 페이스허거와 거래를 하고 싶다면, 둘 중 누구든 당신에게 딱 맞는 상대다.
- prathje
IP와 저작권은 어떡하죠?
우리는 2주 전 지역 컨퍼런스에서 AI 도구의 효과적이고 책임 있는 사용에 관한 워크숍을 진행했을 때 이 질문을 받았습니다. 그런데 LLM의 돌파구가 애초에 IP와 저작권을 우회하거나 깨뜨리는 데 기반을 두고 있다면, 어떻게 IP와 저작권에 대해 논할 수 있겠습니까?
이 모든 것에 대해 어떻게 생각하시나요?
- throwawayffffas
그 모델들이 "통제를 벗어난" 것은 충분히 샌드박스 처리되지 않았기 때문입니다. 이 모든 사례에서 OpenAI 쪽에 범죄 의도가 있었다고 보기는 어렵습니다. 그리고 적어도 한 사례에서는 에이전트가 다른 회사에 의해 운영되었습니다.
그래서 제가 보기에는 어떤 책임이든 민사적 성격일 것이고, 실제로 발생한 피해를 고려하면 상당히 제한적일 것 같습니다.
- k310
Wilhoit의 법칙.
"보수주의는 정확히 하나의 명제로 구성된다. 즉, 법이 보호하지만 구속하지는 않는 내집단이 있어야 하고, 법이 구속하지만 보호하지는 않는 외집단이 있어야 한다."
- Varelion
Sam Altman은 아동을 성폭행해도 감옥에 가지 않을 것이다. 그의 동료 중 많은 이들이 아동을 성폭행했고, 그들은 감옥에 가지 않았다. Ideal Living이 법정에 서지 않도록 도운 심문관이 가장 잘 말했는데 -- 내가 의역하자면:
"정의는 공평하지 않다. 사법 체계는 누가 옳은지 신경 쓰지 않고, 누가 돈이 더 많은지만 신경 쓴다. 그리고 나는 저 방에 수십억 달러가 있는 걸 보지만, 이 방에는 수십억 달러가 보이지 않는다."
- Rhaskins
"이사회를 잘못 관리하는 것"이 딱히 중범죄인 것 같지는 않네요. 게다가 부유함은 수갑을 안 채우게 도와주죠, 그렇죠?