Anthropic предупреждает о скором RSI, но её же данные показывают, что цикл не замкнут
Anthropic's IPO Filing Warns It May Be 'Imminently' Close to RSI
В обновлённом S-1A для SEC Anthropic сообщает, что может «в ближайшее время» достичь собственного определения рекурсивного самоулучшения (RSI) — но на основе ожиданий от будущих моделей, а не текущих. При этом опубликованные компанией данные показывают: Claude полностью автономно выполняет 0% исследовательских задач, а в тестах люди по-прежнему выбирают проблемы и оценивают результаты. Заявление прозвучало на фоне выхода на IPO и призывов ведущих лабораторий «сдерживать фронтир».
Наше сравнительное преимущество как людей на данный момент всё ещё в том, чтобы видеть общую картину и мыслить за пределами непосредственной задачи.
- avidiax
Почему им нужно IPO, если они собираются высвободить сингулярность?
Неужели привлечение капитала путём предложения долевого участия в компании, породившей богоподобный сверхинтеллект, будет хоть сколько-нибудь волновать сам богоподобный сверхинтеллект или кого-либо ещё в ближайшее время...
- bob1029
Зная то, что я знаю о публичных компаниях и их готовности выкручивать дорожные карты в замысловатые крендели, именно так «неминуемую» способность RSI на рынок бы не рекламировали.
Если бы она действительно была неминуема, они бы заявляли, что уже обладают RSI. Вот как устроена эта игра. Взгляните на IBM и квантовые вычисления, если вам нужен ещё один пример. Сравните то, на что эти компании усиленно намекают, что они умеют, с тем, что они на самом деле умеют. Anthropic, возможно, делает менее агрессивные заявления в этом нарративе об RSI.
Ложь процветает в определениях, стоящих за этими терминами. Когда Anthropic говорит «RSI», а IBM говорит «Quantum», они прибегают к тщательно отрепетированному юридическому ритуалу, вокруг которого гора юридической документации.
- philipov
RSI расшифровывается как Repetitive Stress Injury (травма от повторяющегося напряжения), и это метафора.
- xutopia
Любой, кто в это верит, обманывается, чтобы ввалить деньги в один из многих AI-стартапов, у которых нет защитного рва. Все они заявляют, что близки к этому, и высокие оценки зависят от этой веры, какой бы глупой она ни была.
У AI-компаний жестокая конкуренция, и единственный путь к дифференциации — это ценообразование. RSI — это обещание, данное, чтобы позволить основателям обналичить часть стоимости до того, как всё рухнет.
AI-компании приносят много пользы другим, но они не очень хороши в том, чтобы присваивать эту пользу себе.
- freecodeio
Не знаю, почему я, похоже, единственный, кто задаётся этим вопросом, но... даже если AI гипотетически может выдавать более умные данные для обучения лучшего AI, откуда мы точно знаем, что этот цикл просто продолжается без eventual plateauing? Что если происходит просто... данные становятся более высокого разрешения, а потом это просто та же итерация того же «высокого» разрешения.