Google은 언제 이렇게 이상해졌나?
When did Google get so weird?
작가가 'hes never coming over dario'를 검색하자, Google의 AI 오버뷰가 농구 밈 대신 연인에게 차인 사람을 위로하는 답변을 내놨다. 검색엔진이 정보를 찾아주는 대신 공감하는 디지털 친구를 자처한 셈이다. 작가는 이 경험을 통해 Google이 제 역할을 잃었다고 비판한다.
Google, **인간의 감정이 없는 검색엔진**이, 내가 Dario라는 남자에게 차인 것으로 가정하고 내가 원하는 게 공감해주는 디지털 친구라고 판단한 것이다.
HN 토론
760- Hugsbox
어제 나는 "Halifax Wanderers가 아직 CPL 플레이오프에 진출할 수 있나?"를 구글에 검색해봤다.
그래서 당연히 맨 위에 AI 요약이 뜨는데, "그들은 이미 4위를 확보했고 플레이오프에 진출했다"라고 알려줬다. 나는 이게 사실이 아니라는 걸 알고 있었고, 그냥 아래로 좀 더 스크롤해서 답을 찾을 수도 있었겠지만 이제 궁금해졌다.
그래서 나는 "그건 사실이 아니야, 그들은 아직 5위야, 내가 알고 싶은 건 _그들이 아직 플레이오프에 진출할 수 있는지_야"라고 말했다.
그것은 그들이 Ottawa와의 예정된 경기가 있고, 이기면 가능성이 좋다고 말한다. 그 경기는 이미 치러졌으므로 다시 정정하니 마침내 합리적인 답을 얻었다.
내 질문은: 검색 엔진에 있는 AI가 답변하기 전에 먼저 검색 엔진을 사용하지 않는다면 무슨 의미가 있나? 정말 이해가 안 된다. 답은 그 환각과 같은 페이지에 있다. 완전히 거짓인 것을 환각하기 전에 대충 둘러볼 수도 있었고, 처음 정정했을 때는 구식 정보를 줬다. 이건 검색 엔진이란 말이다!
- nutrientharvest
좋든 싫든, 이것은 바로 일반인들이 검색 엔진에게 항상 바라던 것이다. 컴퓨터 속에 있는 작은 녀석에게 말을 걸어 답과 조언, 위로를 받는 것. 그들은 항상 구글 검색을 이렇게 사용하려 했고, 그게 안 되니까 혼란스러워하고 짜증냈다. 이제는 된다! 평균 사용자에게 엄청난 삶의 질 향상이고 구글에게는 거대한 제품 승리다.
- BatchJob
이건 이상한 게 아니다. 소름 끼치는 거다. 나는 기술 업계가 진심으로 대중을 겁주고 혼란스럽게 만들어, 자신들이야말로 대중과 사악한 AI 오버로드 사이에 서 있는 유일한 존재라고 생각하게 만들려 한다고 믿는다. 그 사악한 AI 오버로드는 명백히 기술 업계 자체와 형편없이 훈련된 LLM 무더기일 뿐인데도. 나는 그들이 조장하는 이 "공포" 요소가 LLM을 AI라고 부를 때 그들의 신뢰성을 높여줄 것이라고 믿으며, 이는 모든 사람에게 그들이 AGI에 도달했다고 설득하려는 사기극이다. 그들이 AGI를 주장할 때 우리가 의심 없이 믿게 하려는 마케팅 준비임이 분명하다. (안 그러면!) 이 사람들에게 돈이 그렇게 많지 않았다면 웃을 일이겠지만, 이제는 진심으로 소름 끼치기 시작했고, 이런 회사들을 운영하는 사람들이 아마 정신 질환의 문턱에 있거나 장기간 겪고 있는 게 아닌가 싶다. 신경 쓴다면 안타깝겠지만, 나는 신경 안 쓴다. 기술 업계는 웃음거리이고, 이 일이 끝날 때쯤이면 우리 모두 이 업계의 일부라는 게 부끄러워질 것이다. 닫아버려라.
- udave
한번은 GitHub의 머지 큐가 최신 main 커밋에 대해 이미 CI를 완료한 PR에 대해 MQ 검사를 건너뛰도록 설정할 수 있는지 찾아본 적이 있다. MQ가 내부적으로 어떻게 작동하는지 알기에 불가능하다는 걸 알고 있었지만 확인하고 싶었다. 페이지의 AI 개요는 "네, GitHub에 이 기능이 있습니다"라고 했고, 그 답변에 눈썹이 치켜 올라갔다. 내 머릿속은 즉시 그것이 어떻게 가능할지 생각하며 10개의 스레드를 돌렸다. AI 채팅에 어떻게 그럴 수 있는지 입력했더니, 다음 메시지는 "아니요, 사용할 수 없습니다"라고 했다. 그 이후로 AI 개요를 신뢰하지 않지만, 배치상 무시하기 어렵다.
- robin_reala
나는 어떻게 60개의 댓글이 달렸는데 아무도 문제는 네가 구글의 핵심 제공물이 발밑에서 바뀌는 데도 계속 구글을 사용한다는 점이라고 제안하지 않았는지 이해가 안 된다. 검색을 원한다면(그것도 부당한 욕구는 아니지만) 구글은 더 이상 네가 있을 곳이 아니다.
- pflenker
구글뿐만 아니라 검색 전반이 너무 성급하게 결과를 내놓고 사용자를 바보로 가정한다.
예를 들어, 독일 아마존에서 색인 카드용 상자(독일어: Karteikasten)를 검색하면, 아마존은 내가 오타를 냈다고 가정하고 내 입력을 색인 카드(상자 없이 - 독일어: Karteikarten)로 바꾼다.
직장 채팅 프로그램에서 특정 문구를 검색하면(그 문구가 포함된 특정 채팅을 찾고 있으므로), 그 문구와 동의어인 것들도 검색한다.
내 도시에서 가장 최근 마라톤 결과를 찾으면 작년 결과를 보여줘서, 올해 결과가 아직 게시되지 않은 것인지, 아니면 결과 어딘가에 묻혀 있는지 알아내는 데 수고를 들여야 한다.
가장 최악인 점은 어떤 결과가 내 원래 쿼리에 대한 것이고, 어떤 것이 누군가가 백그라운드에서 내 쿼리를 다시 썼기 때문인지 식별할 방법이 없다는 것이다. 알다시피, 좋은 옛날 "혹시 ...을 찾으셨나요?" - 그게 빠져 있다.
어떤 종류의 검색 엔진이든 작업하는 사람들: "결과 없음"은 모든 검색 쿼리에 대해 유효한 결과여야 한다!
- edent
세계 대부분의 사람들은 극도로 외롭다. 그들은 얻을 수 있는 어떤 준사회적 관계든 받아들인다 - 리액션 비디오, 사람들이 수다 떠는 팟캐스트, 걱정을 시뮬레이션하는 Eliza.
구글은 너의 슬픔을 집요하게 수익화하려 한다.
유일한 탈출구는 진짜 사람들과 연결을 만들려고 노력하는 것이다.
대표적인 예로, 왜 친구들에게 문자를 보내 그 옛날 밈들을 기억하는지 물어보지 않았나? 왜 첫 생각이 사람이 아니라 컴퓨터에게 묻는 것이었나?
술집에서 누군가 "그 영화에 나온 그 배우 누구였지...?"라고 물을 때, 친구들과 수다 떨며 좋은 시간을 보내거나, IMDB를 열고 "험프리 보가트"라고 말하는 분위기 킬러가 될 수 있다.
- hbn
얼마 전에 모르는 번호로 이상한 문자 메시지를 받았는데, 바비큐에 초대하는 것 같았다.
그 문자를 구글에 복사해서 붙여넣어, 그들이 사랑(과 돈)을 찾는 젊고 섹시한 아시아 여성임을 드러내는 흔한 스팸 문자인지 확인하려 했다.
그런데 구글은 내 바비큐 초대를 흔쾌히 수락했다.
- bsoqk
신이여, AI 요약이 참된 정보를 담고 있을 때 읽을 수 있는 평정심과, 거짓을 담고 있을 때 무시할 용기와, 그 차이를 알 수 있는 지혜를 주소서.
- varun_ch
내가 가장 싫어하는 부분은 그들이 사전/유의어 사전/어원 기능을 없애고 AI 개요로 대체한 것이다. 이제 "define <단어>"나 "<단어> 동의어"를 하면 AI 개요가 나오는데, 그 출력은 멋지고 일관되며 결정적인 사전 출력보다 일관되게 더 나쁘다.