AI 냉탕: 인간다움을 지키기 위한 경계선
AI Cold Showers
AI에 대한 열광을 식혀주는 에세이. 저자는 AI가 인간의 글쓰기, 읽기, 메모를 대체하는 것에 대한 우려를 담은 글들을 소개하고, 자신이 지키기로 한 세 가지 원칙을 공개한다. AI가 더 나은 코더이자 작가일지라도, 자신의 목소리와 생각을 AI에 맡기지 않겠다고 선언한다. 이 글은 생산성보다 인간의 고유한 능력을 지키는 것이 중요하다는 메시지를 전한다.
인간은 루프에서 빠져야 할 잔재가 아니라, 시스템이 스스로를 바로잡을 수 있는 유일한 장치다. 루프에서 인간을 제거하는 것은 효율이 아니라, 시스템이 자신의 실수를 잡을 수 있는 유일한 메커니즘을 포기하는 것이다.
HN 토론
12- alexpotato
> 그들이 제안하는 것은, 대부분의 경우, 자동화할 준비가 되지 않은 프로세스의 상태를 표시하는 대시보드나 웹사이트이며, 추적할 필요가 없는 워크플로우를 추적하기 위해 만들어진 것입니다. 그 도구는 문제를 해결하지 못했습니다.
위 내용은 목록에 있는 기사 중 하나에서 가져온 것입니다 [0].
이 구절이 저에게 와닿은 이유는 제가 두 군데에서 일해 본 적이 있는데, 그중 하나 또는 둘 다 해당되는 곳이었기 때문입니다:
- 작업 대기열에 필요한 인원보다 더 많은 사람이 있었습니다.
- 사람들의 역할 및/또는 무엇을 작업해야 하는지에 대한 명확성이 없었습니다.
이것을 언급하는 이유는 존재하지 않는 문제에 대한 해결책을 찾는 사람들의 문제가 AI 현상이 아니라 이미 존재했던 현상이기 때문입니다.
AI가 확실히 문제를 악화시키고 있지만, 새로운 현상은 아닙니다.
0 - https://nooneshappy.com/article/appearing-productive-in-the-...
- jgord
재미있게 읽었습니다. 더 중요한 것은, 이것은 우리가 시급히 해결해야 할 새로운 문제라는 점입니다.
실제 사람들이 무슨 생각을 하는지 알아보기 위해 인터넷을 읽고 싶은 제 개인적인 욕구와는 별개로, 저는 일종의 '비트 부패(bit-rot)'에 대해 걱정하고 있습니다. 지금으로부터 십 년 후면, 일반 독자들은 어떤 콘텐츠가 인간에게서 왔고 어떤 것이 AI에게서 왔는지 전혀 알 수 없게 될 것입니다.
저는 AI[LLM]를 _훈련_시키는 사람들이 실제로 이 둘을 분리해야 하고, 이전 LLM의 출력으로 다음 LLM을 훈련시키는 피드백 루프를 피해야 한다고 가정합니다.
아마도 이것은 일종의 평균으로의 회귀, 즉 옛날에 복사본의 복사본을 만드는 것과 같은 결과를 초래하여 복사 품질 저하를 가져올 것입니다.
우리는 이미 물리적 매체에서 멀어지면서 일종의 비트 부패를 겪고 있습니다. 텔레비전의 많은 다큐멘터리와 오디오/비디오/영화/게임이 영구 보관소로 옮겨지지 않아 사라지고 있습니다.
절판된 오래된 책들은 스캔되어 공개되고 영구적으로 온라인에서 이용 가능해야 합니다. 그것들은 우리 문화 유산의 일부이기 때문입니다(특히 현재와 미래의 AI를 훈련시키는 데 사실상의 아카이브/오라클로 사용될 수 있기 때문입니다).
- TazeTSchnitzel
HN에는 AI에 대해 비슷한 말을 하는 블로그 글이 끊임없이 쏟아져 나오는데, 가끔은 이런 식으로 목록으로 걸러져 정리되면 정말 좋겠습니다.