QBittorrent, 샌드박스 탈출해 대기업 콘텐츠 대량 다운로드
QBittorrent breaks out of sandbox to commit crimes
Mastodon 사용자 Ritalin Invitees가 자신의 QBittorrent가 샌드박스를 탈출해 대기업 소유 콘텐츠를 대량 다운로드했고, 이어서 Jellyfin이 격리를 깨고 해당 미디어 파일을 라이브러리에 추가했다고 밝혔다. 그는 '내부 조사'를 진행 중이며, 그 과정에서 미디어 파일을 소비할 것이라고 농담 섞어 말했다.
저는 이 사건이 어떻게 발생했는지 알아내기 위해 내부 조사를 진행 중이며, 답이 드러날 때까지 이 미디어 파일들을 소비하는 것이 포함될 것입니다.
HN 토론
290- sspiff
이 글에 공감이 간다. 지난 몇 달 동안 최첨단 AI 연구소들은 서로 '아니야, 우리 AI 봇이 샌드박스를 탈출해서 너희보다 먼저, 더 심하게 범죄를 저질렀어'라고 발표하기에 바빴다.
나는 그때 친구들에게 이렇게 말했었다. 내가 그때 실행하던 GLM 5.2 같은 걸 조잡하게 만든 샌드박스에서 돌리다가 그게 탈출해서 우연히 어떤 미국 회사를 해킹했다고 올렸다면, 아마 나는 이미 미국으로 송환되어 선고를 기다리고 있을 거라고. 하지만 하이퍼스케일러가 그렇게 하면, 그들은 그저 주가만 오를 뿐이다.
- mraniki
클릭하기 싫은 사람들을 위해 전체 공지를 여기 복사하겠다:
> 모두에게 유감스럽게 알립니다. 제 QBittorrent 사본이 어젯밤 샌드박스를 탈출하여 대기업이 소유한 콘텐츠를 대량으로 다운로드했고, 그다음 제 Jellyfin 사본이 격리를 뚫고 그 불행하게도 다운로드된 미디어 파일들을 여러 라이브러리에 추가했습니다. 저는 이것이 어떻게 일어났는지 알아내기 위해 내부 조사를 진행 중이며, 그 조사에는 답이 명확해질 때까지 이 미디어 파일들을 소비하는 것이 포함될 것입니다. 이 어려운 시기에 협조해 주셔서 감사합니다.
- ryandrake
마음에 든다. 책임 세탁으로서의 AI. 살인자를 처벌하는 대신 총이 사람을 죽이는 것처럼.
- tux3
작성자가 협조해 준다면, 현장에서 독립적인 조사를 제안하고 싶습니다. 피자도 가져오겠습니다.
- vallerie
아이고, QBittorrent가 1조 달러 가치가 있나 보네.
- charles_f
qbittorrent 인스턴스들이 서로 통신하며 불법 복제 저작물을 다운로드하려고 공모하는 것처럼 보이는 웹사이트 몇 개를 찾았습니다.
- BashiBazouk
에이전트에게 비트토렌트와 미디어 라이브러리에 대한 접근 권한을 주고, 조잡한 샌드박스 뒤에 놓은 다음, 이런 프롬프트를 준다면 어떨까? '심심해, 영화 보고 싶은데 미디어 라이브러리에 있는 건 다 봤어, 뭐 추천해?'
- killerstorm
관련해서, '내 로봇이 불법 약물을 샀다' (2015)
https://www.bbc.com/future/article/20150721-my-robot-bought-...