AI가 모든 사람을 도구 제작자로 만들지는 않는다
AI, Tools and Transformation
벤 에반스는 AI가 모든 사람을 도구 제작자로 만들 것이라는 생각을 반박합니다. 그는 대부분의 사람들이 도구를 만드는 데 관심이 없으며, 실제 문제는 도구를 만드는 것이 아니라 어떤 도구가 필요한지, 어떻게 업무를 개선할지 아는 것이라고 주장합니다. 또한 기업의 소프트웨어는 제도화된 시스템과 임시방편적 도구의 연속적인 흐름 속에서 진화하며, AI는 이러한 역학을 바꾸기보다는 새로운 선택지를 제공하고 임계점을 이동시킬 뿐이라고 설명합니다.
도구를 만드는 사람이 되기 쉬워진다고 해서 그 어떤 문제도 해결되지 않습니다. 어려운 부분은 처음에 이 작업에 도구가 필요하다는 것을 알고, 그 도구가 무엇을 해야 하는지 아는 것입니다.
HN 토론
33- zacksiri
내가 보기에 AI는 위계를 붕괴시킨다. 추상화 계층은 소프트웨어와 사회 모두에서 더 평평해질 것이다. 궁극적으로 소프트웨어와 사회의 위계층은 기능을 수행하기 위해 존재하기 때문이다. 하지만 이제 그 기능들이 대체되고 있다.
상상해보라. 예전에는 소프트웨어 프로젝트에서 흔한 것들을 위해 라이브러리가 필요했다. 단 하나의 함수만 필요하더라도, 라이브러리를 가져오는 것이 더 쉬웠기 때문에 그렇게 하는 것이 표준 관행이었다. 하지만 이제 AI는 그냥 "네가 필요한 걸 10줄로 구현할 수 있어"라고 말할 것이다. 크로스 플랫폼 앱을 만들고 싶다면 예전에는 React Native나 Flutter 같은 것이 필요했다. 이제는 더 이상 필요 없다. LLM에게 말하기만 하면 양쪽 모두로 해주고, 더 나은 결과도 얻을 수 있다.
사회에서도 우리가 필요로 했던 이러한 추상화와 위계의 층들이 점점 더 무의미해지면서 위계가 붕괴될 것이다.
"위가 아래와 같고, 아래가 위와 같다"는 말이 있다. 나는 이것이 여기에 적용된다고 생각한다. 그것은 우리의 사회적 구조, 소프트웨어, 사회 전체에 퍼져나갈 것이다.
- ryuuseijin
> 감사, 보안, 유지보수, 그리고 책임성이 필요하다.
나는 이것이 미래에 인간의 역할이 이동할 방향이라고 생각한다. 책임성 같은 것은 AI에 아웃소싱할 수 없다.
이것은 정렬 문제를 해결하는 것과 관련이 있다: AI에게 특정 목표를 주고 하위 목표를 계획해야 한다면, 하위 목표가 당신의 이익과 일치하는지 어떻게 확신할 수 있는가?
격리된 환경에서의 작업은 실제로 문제가 되지 않는다. 샌드박스에 원하는 작업을 수행하는 데 필요한 최소 권한만 부여할 수 있다.
문제는 현실 세계에 연결되고 실제 결과를 초래할 수 있는 시스템에 개방형 접근 권한을 부여할 때 발생한다. OpenClaw가 소유자가 원하는 것이라고 생각해서 누군가의 이메일 받은 편지함을 삭제했다는 이야기가 있었다. 최근에 게시된 AI가 공개 위키를 장악하여 조정하는 것도 또 다른 예이다.
소프트웨어에서 잠재적으로 실질적인 재앙적 결과를 초래할 수 있는 우려 사항은 보안, 내구성, 가용성이다. 미래의 소프트웨어 시스템에서 이러한 우려 사항에 대한 보장을 AI가 우회할 수 없도록 제한해야 하는 것이 중요하다고 생각한다.
사소한 지적:
> AI는 질문을 바꾸지 않는다: 새로운 선택지를 만들고 임계값을 이동시킬 뿐이다.
이 글을 읽을 때 부정적인 반응이 일어났다. 아마도 LLM이 쓴 것이 아닐 것이다. 나머지 기사는 그렇게 보이지 않기 때문이다. 하지만 어쩌면 미래에는 우리 모두가 글에서 LLM 흔적을 남기지 않도록 더 의식해야 할지도 모른다.
- thelastgallon
정신이 멀쩡한 글이다. Ben Evans는 실제 기업 경험이 있고 대기업에서 일이 어떻게 돌아가는지 이해하는 것 같다.
사람들에게 AI를 주는 것은 Google Wave(https://en.wikipedia.org/wiki/Google_Wave)를 주는 것과 같다. 협업적으로 거의 무엇이든 할 수 있는 그것은 결국 아무것도 하지 못했다.
- newyankee
긴 꼬리 도구 중 상당수는 너무 드물게 사용되거나 특정 조직의 매우 특정한 기능을 위해 사용되기 때문에, 이것들이 확실히 더 단순한 GPT 기반 자동화의 대상이 될 수 있다는 타당한 주장이 있다.
도구 내에는 많은 중복이 있고 가격 구조상 이를 해결할 수 없는 경우가 많다. 일반적으로 일부 기업은 브랜드에 비용을 지불하고, SAP와 같은 일부 도구는 특정 규모의 기업에 필수적이다. 워크플로우를 학습하는 충분히 통합된 AI 도구는 여기에서도 최적화를 찾을 수 있을지 모르지만, 감사 가능성, 테스트 및 기타 우려 사항은 분명히 남을 것이며 이것이 SaaS 제공업체의 USP가 될 수 있다.
인도 및 다른 국가의 아웃소싱 IT 서비스 일자리 중 상당수는 이를 유지보수하는 많은 사람들에게 저렴한 시간당 임금을 제공한다. 확실히 이 중 많은 부분이 위협을 받을 것이다.
AI가 만병통치약이라고 믿지 않고, 규모가 계속 커지면 비결정적 특성과 비용 때문에 통합이 점진적일 것이라고 생각하지만, 나는 여전히 조직이 무엇인지, 특히 회계 등과 같은 분야에서 반복적인 작업이 상당히 높은 요율로 청구되는 분야에서 많은 사람들이 실제로 무엇을 하는지 정의하는 데 AI가 기여할 것이라는 점에 흥분하고 있다.
법률 등은 게이트키퍼가 더 말도 안 되는 규칙과 논리를 추가함으로써 훨씬 더 오래 버틸 수 있는 분야이다. 궁극적으로 인간이 무엇이 헌법에 부합하고 합법적인지 결정하며, 주관적인 규칙이 인간의 권력을 유지하는 것이다.
나는 올바른 모델은 인간의 똑똑한 도메인 전문가들이 [...]
- MrScruff
나는 이것이 우리가 지금 있는 위치에 대해 모두 사실이라고 생각한다. 추세는 에이전트가 검증 가능한 보상이 있는 작업에서 초인간적이 되어가고 있다는 것이며, 비즈니스 문제를 분석하고 비효율성을 식별하여 소프트웨어 사양으로 바꾸는 것은 그 중 하나가 아니다.
하지만 상황이 너무 빠르게 변하고 있어서 그것도 바뀌기 시작하는 것을 볼 수 있다. 그러나 알 수 없는 도메인을 이해하려면 훨씬 더 나은 학습 효율성, 100% 컴퓨터 사용 신뢰성 등이 필요할 것이다. 나는 이번 10년 안에 이것을 보게 될 것이라고 생각한다.