ИИ разрушает доверие между писателями и читателями

На дворе 2110 год, и две человеческие писательские силы сошлись в смертельной схватке. В Александрии, Египет, есть Улица Писателей, где и опытные, и начинающие романисты печатают истории в уличных кафе, используя собственные коды в хроматических ладах, которые они наигрывают на гитарах, перед туристами и вездесущей survtech, которая невольно — или не очень — становится свидетельницей. Другие просто поют свои истории. Не для слабонервных слушателей.

У берегов Италии, на Монтекристо, бенедиктинцы восстановили полный контроль над островом. Интернет и ИИ там запрещены, но их гостиничный бизнес сдает механические пишущие машинки в аренду почасово. Не раз знаменитый писатель прыгал со скал острова, не в силах вынести позора от обвинения в использовании ИИ для создания своего магнум опуса.

Для необразованных масс литература, созданная ИИ, бесплатна и изобильна. Однако взыскательные распробовали вкус к томам, переплетенным вручную и написанным исключительно чернилами человеческого мозга.

GenAI, имитирующий человеческое искусство, — это определение антиизобретения. Если изобретение — это новая инновация, которая улучшает что-то для человеческого опыта, то антиизобретение — это новая инновация, которая делает жизнь хуже.

Это лишь одна из нескольких областей, где GenAI нанес вред и должен начать регулироваться как цифровые наркотики.

> Amazon тратит много времени и усилий, пытаясь предотвратить публикацию этих [фальшивых] книг, — сказала мне Мэри Расенбергер, генеральный директор Authors Guild, — но это всегда игра в догонялки.

Неужели? Они берут свою долю; у них есть стимулы позволять людям обманывать.

> Amazon позволяет частным лицам загружать максимум шесть книг в неделю, что допускает бесконечную текучку.

Это книга в день (плюс-минус), на аккаунт. Ни один живой автор не публикует книгу в день.[0]

Мне интересно, как мало существующие платформы для цифрового контента, судя по всему, смогли сделать для борьбы с приливным, экспоненциальным сдвигом в подаче материалов.

Я только что потратил месяц на разработку приложения для Shopify, на стороне, ради удовольствия. Когда я запустил его пару недель назад, я обнаружил, что приложение, делающее то же самое, что и мое, с идентичным названием, также было одобрено и выпущено неделей ранее.

Как люди думают, изменится распространение теперь, когда предложение выросло (как минимум) в десять раз? Если верить консенсусу на X.com, все дело в личном бренде. Раньше это было так, но, возможно, на 80%. Умерло ли обычное обнаружение?

[0] - Если это включает организации, вроде издательств, то ладно. Но реалистично мы должны уметь отличать настоящих авторов.

Мошенничество — даже не самая большая проблема для доверия между читателями и писателями.

LLM позволяют «писателям» генерировать прозу быстрее, чем читатели могут ее прочитать. Это фундаментальный разрыв в сделке между читателями и писателями: сколько бы времени ни потребовалось кому-то на то, чтобы потребить кусок текста, почти наверняка автор потратил на его написание больше. Даже если проза отстой или посылка ужасна, автор должен был думать, что стоит вложить в это реальное время.

Мы с коллегами ввели небольшое правило: вы должны тратить на написание чего-либо больше времени, чем ожидаете, что аудитория потратит на чтение. Все меньшее — это неуважение.

Единственное, что мы можем доказать с разумной легкостью, — это то, что время, затраченное на написание, было совместимо с тем, что автор — человек, и что подпись письма принадлежит человеку. Вы все еще можете подделать это, но это гораздо более раздражает, и это займет у вас как минимум столько же времени, сколько ушло бы у человека.

Я написал Possibly Made by a Human просто ради забавы, чтобы сделать это, после того как провалил тест Тьюринга в комментарии здесь.

На самом деле сделано человеком: https://possiblymadebyahuman.com/H1LfVy72BZ

Написание до 2023 года — это низкофоновый металл культуры.