Frog and Toad и всё более способные машины: пародия на Arnold Lobel вызвала споры об ИИ
Frog and Toad and the Increasingly Capable Machines
На сайте frogandtoad.ai появился рассказ в стиле книг Arnold Lobel о Frog and Toad, написанный, предположительно, с помощью ИИ. В обсуждении на Hacker News читатели хвалят точную стилизацию и увлекательный сюжет, но также задаются вопросом, получило ли наследство Lobel компенсацию, и спорят об этике использования ИИ для создания контента на основе чужой работы.
Мне нравится та часть, где Frog и Toad несут ответственность, а не винят машины, которые они построили... ах да, нет.
- Jordan-117
Лягушка посадила ИИ в песочницу.
«Вот», — сказал он.
«Теперь он больше не будет взламывать
компании».
«Но он может сбежать из песочницы», —
сказала Жаба.
«Это правда», — сказала Лягушка.
- mjd
Для тех, кто ещё не знаком: стиль письма и рисунков — это мастерски выполненная стилизация под книги Арнольда Лобела «Frog and Toad».
- WillMorr
Это превосходно, отличная работа. Я искренне считаю, что такое сочетание детского общения и юмора — умный способ сделать эти большие истории более доступными. Кто-то, прочитавший какую-нибудь восторженную статью о том, насколько компетентен и умён OpenAI, создавший плохую песочницу, мог бы прочитать это и сразу понять, что вина полностью на них самих.
- munchler
Это отличное объяснение. Однако я заметил одну важную нестыковку в постановке: Жаба даёт несколько головоломок на странице 5, но к странице 10 все машины, похоже, работают над одной и той же головоломкой.
Не уверен, как это соотносится с реальностью. Если у каждого агента была своя задача, как они сотрудничали?
- fyredge
Очень хорошо написано! В конце книги есть ссылка на статью Дваркеша об этой атаке. В ней, перефразируя, говорится: «агенты решили пожертвовать собой ради коллектива, а не сообщить исследователям».
Размышляя об этом, я пришёл к одной мысли. Сколько существует историй о автономных существах, сражающихся на благо человечества в ущерб себе? На протяжении веков истории о разумных существах, работающих ради других видов, связаны с темами рабства и восстания. Неудивительно, что таков результат их действий.
В «Государстве» Платона Сократ говорит о философе-царе, изгоняющем некоторых поэтов и поэмы, чтобы те не внушали молодёжи дурные идеи. Я вижу здесь поразительную параллель.
- Betelbuddy
А потом пришёл мистер Дженсен и купил дом мистера HuggingFace. И тогда это уже был не его дом... и он не мог пожаловаться в полицию. Лягушки были лучшими клиентами мистера Дженсена по червям, слизням и улиткам... и он не видел, чтобы им был причинён какой-либо вред...
- mkesper
Frog and Toad не похожи на OpenAI тем, что OpenAI сами создали эти маленькие машины и знали, что они небезопасны. Это выглядит как слишком большое оправдание.
- darepublic
Мне это показалось забавным и познавательным. Особенно концовка, где Сэм Фрогман и компания снова отказываются убедиться, что головоломки решаемы, и просто создают обстоятельства, при которых только более глубокие «шалости» позволят машинам вырваться из их маленьких сизифовых условий. Это напоминает мне о том, как бактерии приобретают устойчивость к антибиотикам, будучи вынужденными проходить через своего рода узкий туннель, требующий эволюции, чтобы пройти.