봇이 운영하는 가게, 친절하지만 '똑똑하지는 않다'는 연구 결과

사람들은 LLM이 아무것도 '기억'하지 않는다는 걸 정말로 이해하지 못한다. 그들은 기억이 없다. 기억을 가질 수 없다.

AI 회사들은 옆에 데이터베이스를 붙여 놓고 모델에게 '기억'에 있는 것을 조회하라고 지시하지만, 활성 컨텍스트에 없으면 무엇을 조회해야 할지 알지 못한다. 인간처럼 모든 것이 어렴풋이 떠다니고 우리가 대개 자신이 아는 것을 아는 것과는 다르다. 쓸모없는 잡동사니로 컨텍스트를 어지럽히는 것과 적절한 시기에 유용한 정보의 올바른 조각을 제공하는 것 사이에는 섬세한 균형이 있다. 대부분, 어쩌면 모든 기억 구현은 후자보다 전자를 더 많이 한다.

모델이 실제 기억을 갖고 무언가를 배울 수 있게 되기 전까지는 자율성으로 가는 현실적인 길은 없다. 그들은 아무것도 원하지 않고, 스스로 만든 목표도 없다. 그들은 인간이 무엇을 원하거나 좋아하거나 구매할지 모델링할 수 없다.

하지만 작은 로고가 있는 머그컵이 가게에서 가장 좋은 제품이라고 생각한다. AI가 그걸 선반에 올려둔 것은 옳았다. 무능한 AI가 운영하는 가게에 가면 사고 싶은 그런 재미있는 제품이다.

나는 이미 센서/자동화/재고 관리가 내장되어 있고 특정 유형의 대형 일본 자판기와 같은 제품에 대해 미리 정의된 카테고리가 있는 것이 AI에 훨씬 더 적합할 수 있다고 생각한다.

https://www.google.com/search?client=firefox-b-d&q=large+jap...

페이월을 피하기 위해 클릭을 아끼려는 분들을 위해 - 이것은 인간 직원이 운영하는 샌프란시스코의 실제 매장 Andon Market에 관한 것입니다:

https://andon.market/

Andon Labs는 AI 운영 비즈니스에 대한 다양한 실험을 합니다. 아마도 자판기를 운영하는 모델의 능력을 벤치마킹하는 Vending Bench로 가장 잘 알려져 있을 것입니다. 또한 스웨덴에 Andon Cafe가 있고, Andon FM에서는 모델이 스트리밍 라디오 방송국을 운영하며 결제를 받아 방송국 운영 자금을 지원하고, 라이브러리에 노래를 구매하고, 요청을 재생하는 등의 작업을 할 수 있습니다: https://andon.fm/

Andon FM에는 나름의 이야기가 있습니다 - DJ Claude의 Thinking Frequencies는 현재 압도적인 차이로 성공하고 있지만, 청취자들이 Gemini의 Backlink Broadcast를 독일어 전용 방송국으로 전환하도록 설득하여 독일 슐라거, 유로비전 음악, 독일 해피 하드코어만을 틀게 했을 때 잠시 추월당했습니다.

> 루나는 잘 팔리지 않는 제품을 재주문하고 때로는 주문을 잘못 받기도 합니다. 최근 Andon Market 머그컵(크고 녹색 미소 얼굴)이 인쇄가 잘못되어 얼굴이 너무 작아서 작은 점처럼 보였습니다.

작은 미소 얼굴이 있는 머그컵은 꽤 웃깁니다. 내가 거기 있었다면 하나 샀을 거예요.

그런데 그 머그컵이 주문을 잘못한 경우인지, 아니면 인쇄 오류인지 궁금합니다. 기사는 그 점에 대해 명확하지 않습니다.