AI가 작가와 독자 사이의 신뢰를 파괴하고 있다

2110년, 두 명의 인간 글쓰기 거장이 치명적인 대결을 벌인다. 이집트 알렉산드리아에는 라이터스 스트리트가 있는데, 노련한 소설가와 신진 소설가 모두가 거리 카페에서 기타로 연주하는 반음계의 자체 발명 코드를 사용해 이야기를 타이핑하며, 관광객과 어쩔 수 없이—아니, 그다지 어쩔 수 없이도 아닌—목격하는 유비쿼터스 감시 기술 앞에서 쓴다. 다른 이들은 그저 이야기를 노래한다. 듣기 좋아하는 사람만을 위한 것은 아니다.

이탈리아 해안의 몬테크리스토에서는 베네딕토회가 섬을 완전히 장악했다. 그곳에는 인터넷이나 AI가 허용되지 않지만, 그들의 숙박 사업은 시간당 기계식 타자기를 대여한다. 한 유명 작가가 자신의 대작을 AI로 만들었다는 비난의 수치를 견디지 못하고 섬의 절벽에서 뛰어내린 적이 한 번 이상 있다.

세속의 대중에게 AI가 생산한 문학은 무료이고 풍부하다. 그러나 안목 있는 이들은 인간 두뇌의 산물로만 잉크를 찍은 수제 장정 책에 맛을 들였다.

인간의 예술을 모방하는 생성형 AI는 반(反)발명의 정의다. 발명이 인간 경험을 개선하는 새로운 혁신이라면, 반발명은 삶을 더 나쁘게 만드는 새로운 혁신이다.

이것은 생성형 AI가 해롭고 디지털 마약처럼 규제되기 시작해야 하는 여러 영역 중 하나일 뿐이다.

> Amazon은 이러한 [가짜] 책이 게시되는 것을 막기 위해 많은 시간과 노력을 쏟습니다,”라고 Authors Guild의 CEO인 Mary Rasenberger가 내게 말했다, “하지만 항상 따라잡기 게임입니다.”

정말 그럴까? 그들은 수수료를 떼가고, 사람들이 사기를 당하도록 내버려둘 유인이 있다.

> Amazon은 개인이 일주일에 최대 6권의 책을 업로드할 수 있게 하여 끝없는 변동을 허용한다.

그건 계정당 하루에 한 권(대략)이다. 어떤 인간 작가도 하루에 한 권의 책을 출판하지 않는다.[0]

디지털 콘텐츠의 기존 플랫폼들이 제출물의 조수 같은, 기하급수적 변화에 맞서 싸우는 데 seemingly 얼마나 적은 일을 해왔는지 흥미롭다.

나는 재미로 부업으로 Shopify 앱을 한 달 동안 개발했다. 몇 주 전에 출시했을 때, 나와 똑같은 일을 하는 동일한 이름의 앱이 일주일 전에 이미 승인되어 출시된 것을 발견했다.

공급이 (적어도) 열 배로 증가한 지금, 사람들은 유통이 어떻게 변할 것이라고 생각할까? X.com의 여론이 믿을 만하다면, 모든 것은 개인 브랜드에 달려 있다. 예전에는 그랬지만, 아마 80% 정도였을 것이다. 전통적인 발견은 이제 죽었을까?

[0] - 여기에 출판사 같은 조직이 포함된다면, 그건 충분히 이해한다. 하지만 현실적으로 우리는 실제 작가를 구별할 수 있어야 한다.

사기는 독자와 작가 사이의 신뢰에 있어 최악의 문제조차 아니다.

LLM은 '작가'가 독자가 읽을 수 있는 것보다 더 빠르게 산문을 생성할 수 있게 한다. 이것은 독자와 작가 사이의 계약에 근본적인 균열이다: 누군가가 한 편의 글을 소비하는 데 걸리는 시간이 아무리 길어도, 작가가 그것을 쓰는 데는 거의 확실히 더 오래 걸렸다. 산문이 형편없거나 전제가 끔찍하더라도, 작가는 그것에 실제 시간을 쏟을 가치가 있다고 생각했어야 했다.

나와 동료들은 작은 지침을 하나 시행했다. 즉, 글을 쓰는 데 청중이 읽을 것으로 예상하는 시간보다 더 많은 시간을 써야 한다는 것이다. 그보다 적게 쓰는 것은 무례한 일이다.

우리가 상당히 쉽게 증명할 수 있는 한 가지는 글을 쓰는 데 걸린 시간이 작가가 인간이라는 것과 양립 가능했고, 필체가 인간의 것이라는 점이다. 여전히 속일 수는 있지만, 훨씬 더 성가시고 인간이 걸릴 시간만큼은 걸릴 것이다.

나는 여기 댓글에서 튜링 테스트에 실패한 후, 재미로 이것을 하기 위해 Possibly Made by a Human을 썼다.

실제로 인간이 만든 것: https://possiblymadebyahuman.com/H1LfVy72BZ

2023년 이전의 글쓰기는 문화의 저배경 강철이다.