AI에 대한 복잡한 감정: 놀라움, 두려움, 그리고 희망
I Feel about AI
저자는 신경망의 놀라운 성능에 놀라움을 느끼지만, 초지능 AI의 위험에 대한 두려움, AI 기업들이 오픈 웹 커뮤니티를 파괴하는 것에 대한 혐오감, AI로 인해 어려움을 겪는 예술가들에 대한 슬픔, 그리고 자본의 힘을 제어하지 못하는 정치 시스템에 대한 분노를 표현합니다. 동시에 AI 발전이 가져온 발견의 시대에 살고 있음에 행복함을 느끼며, 기술적으로는 긍정적이지만 사회적으로는 암울하다고 결론짓습니다.
기술적 수준에서는 긍정적으로 보이지만, 사회적 수준에서는 암울합니다.
HN 토론
257- hn_throwaway_99
저를 AI에 대해 꽤나 겁나게 만드는 것은, 제 생각에 "유토피아" 시나리오가 "파멸" 시나리오보다 그리 나을 게 없다는 점입니다.
우리는 곧 매우 적은 수의 사람들만이 경제적으로 기여할 수 있는 지점에 도달할 것입니다. 왜냐하면 그들은 대부분의 영역에서 (로봇 공학을 포함한) AI보다 못할 것이기 때문입니다. 사람들이 그저 자신의 변덕이 채워지는 세상은 유토피아가 아닙니다. 우리는 이에 대해 "고생 끝에 낙이 온다", "가치 있는 일은 오직 어려운 일뿐이다" 같은 수많은 속담과 관용구를 가지고 있습니다.
모든 인간이 월-E 카트를 타고 돌아다니는 것은 저에게 유토피아처럼 느껴지지 않습니다.
편집: "가난한 나라의 사람들이 굶주리는 동안 부자들이 일자리를 위해 애쓰는 것에 대해 걱정한다"는 주장을 미리 차단하기 위해, 미국의 쇠퇴하는 러스트 벨트 도시를 방문해 보시기를 권합니다. 이 사람들은 대체로 굶주리고 있지 않으며 (실제로는 칼로리 과잉이 더 큰 문제입니다), 적절한 주거지와 충분한 야외 공간을 가지고 있습니다. 그들의 물질적 필요는 충족됩니다. 하지만 이러한 곳은 절망의 중심지입니다. 사람들은 발전의 기회나 자신의 상황을 바꿀 능력이 거의 없다고 느끼며, 오피오이드 전염병은 동기가 발휘되거나 변화를 일으킬 곳이 없다는 절망감의 직접적인 결과입니다.
- litmus-pit-git
이것은 약간 주제에서 벗어난 넋두리입니다. (그리고 어떤 종류의 개입도 제안하지 마세요)
> 초지능 AI가 필연적으로 인류를 파괴할 것이라는 주장에는 결함이 없는 것 같다
팬데믹이 닥쳤을 때 특정 연령대에 속했고 그것이 개인 생활의 특정 종류의 계획/희망/꿈을 좌절시켰으며, 그 다음에 이 LLM/에이전트 세계가 들어온, 특히 직접적이고 가장 큰 영향을 받는 산업에 종사하는 사람들에게, 이것은 몇 년 동안 초현실적이고 느린 카프카적인 악몽이었습니다. 문제는 시간이 지나고 나이가 들면서 희망이 조금씩 계속 사라지고, 잃어버린 희망의 모든 조각이 다음 조각을 죽이는 데 일조한다는 것입니다. 그런 다음 공포감이 옵니다 - 나이가 지나갔다는 것은 되돌릴 수 없는 현실이며, 이 시계를 되돌릴 수 없기 때문에 본질적으로 손이 닿지 않는 특정 경험과 이정표가 있다는 것입니다.
그래서 저는 이 파멸의 가능성에 대해 이상한 종류의 안도감을 느낍니다. 저는 단지 제가 느끼는 것을 공유하는 것뿐이며, 결국 그것이 불운한 소수에게만이 아니라 우리 모두에게 끝날지도 모른다는 이 안도감을 느끼는 것에 대해 좋게 느끼지 않습니다. 이 감정과 그것에 대한 평온함은 저를 슬프게 합니다.
- Crabber
> 초지능 AI가 필연적으로 인류를 파괴할 것이다
누가 LLM이 어떻게 "인류를 파괴"할 수 있는지 설명해 줄 수 있나요? ChatGPT, Claude 등의 주장이 그들의 매우 무서운 에이전트가 샌드박스를 탈출하여 다른 서버를 해킹하기 시작했다는 것이 사실이라 할지라도 (저는 그것이 적어도 50%는 마케팅 허튼소리일 가능성이 있다고 느낍니다), AI가 현실 세계에서 어떻게 어떤 것에 영향을 미칠 수 있을까요?
아마도 에이전트가 모든 인터넷 연결 서비스를 오프라인으로 만들 수는 있겠지만, 그것은 인류를 파괴하는 것이 아닙니다. AI 에이전트는 오직 디지털적인 것을 통해서만 세상을 보고 상호작용할 수 있습니다. 그냥 그것이 실행되는 서버를 찾아 이더넷 케이블을 뽑으세요. 데이터 센터의 전원선을 끊으세요. 정말로 그 지경에 이르면 전체 전력망을 꺼 버리세요.
- bloaf
신학에 취미로 관심이 있는 사람으로서:
초지능 AI에 대한 논쟁은 철학적 "신 존재 증명"의 모든 특징을 가지고 있습니다: 그들은 겉보기에 무해한 전제에서 시작하여, 신이 존재한다는 겉보기에 틈이 없는 방식으로 결론을 내립니다.
이성적인 생각을 가진 사람들이 그러한 신 증명을 보고 "그렇게 할 수는 없지"라고 외치면서도, 곧바로 초지능 AI에 대해서도 똑같이 하는 경향이 있습니다.
제가 사람들에게 전하고 싶은 핵심 메시지는 다음과 같습니다:
A) 철학은 그렇게 하찮은 것이 아니어서, 그냥 들어와서 "똑똑한 척" 하며 기존의 철학적 논증에서 결함을 찾을 수 있는 것이 아닙니다.
B) AI는 실제로 신학적 함의를 가지고 있으며, 모든 사람이 그것을 둘러싸고 눈치를 보고 있습니다. 한 명 이상의 공공 지식인이 AI에 대한 논의를 통해 자신의 형이상학적 입장을 대중의 의식에 몰래 밀어 넣으려고 하고 있습니다.
- tim333
> Yudkowsky의 초지능 AI가 필연적으로 인류를 파괴할 것이라는 주장에는 결함이 없는 것 같다.
그의 주장이 무엇인지 알아보려고 시도한 결과, 그것은 그다지 엄밀하지도 않은 것 같습니다. 기본적으로 우리보다 똑똑한 AI가 우리를 원하지 않을 수도 있다는 것을 깨닫게 될 것이라는 것입니다. 그것이 실제로 일어날 것이라는 것을 증명하지는 못합니다. 일반적으로 그렇게 착하지 않은 인간조차도 종을 보존하려고 하는 경향이 있으며, 저는 우리가 호전적인 영장류인 우리보다 더 나은 가치를 AI에게 부여하려고 노력할 것이라고 기대합니다.
- dgellow
> 메뚜기 떼처럼, 그들은 열린 위키와 포럼에 내려와 압도합니다.
그것이 비지도 에이전트의 핵심 패턴이며, 메뚜기 떼 비유는 적절합니다. 우리는 AI가 상호작용할 수 있는 모든 시스템, 인간 시스템, 소프트웨어 시스템 등을 포함한 모든 단일 시스템에서 그것을 보고 앞으로도 보게 될 것입니다. 끊임없이 진입점을 찾고, 넘쳐 들어와, 인간에게 가치가 남지 않을 때까지 내부에서 모든 것을 소비합니다.
새롭고 혁신적인 소프트웨어 회사를 만들었나요? 수천 개의 에이전트가 곧 전체를 복제하는 작업을 할 것입니다. 글을 출판하나요? 정확히 같은 일이 일어납니다. 약간의 견인력을 얻는 즉시 당신의 작업은 수천 개의 에이전트에 의해 곧 복제됩니다. 비디오도 마찬가지입니다 (ElevenLabs 등이 추진하는 "얼굴 없는 YouTube 채널" 전체). 온라인 강좌도 마찬가지입니다. 중간 정도의 가치를 가진 모든 웹사이트도 마찬가지입니다. 음악이나 다른 디지털 예술 형식도 마찬가지입니다. 온라인에서 제공되는 모든 행정 서비스는 제출물로 넘쳐나게 됩니다.
- chistev
HN이 자동으로 "How"를 제거해서 제목이 우습게 들리네요.
- mag7269