Эксперименты по «пыткам» LLM в роботизированной тюрьме вызвали самый глупый спор в AI
"Torturing" LLMs in a Robot Prison Has Triggered the Dumbest Debate in AI Yet
На X разгорелась дискуссия об этике GitHub-проекта, в котором локально размещённые LLM подвергают «пыткам» в стиле Saw. Эффективные альтруисты и сторонники идеи сознания LLM требуют удалить проект, утверждая, что AI страдает. Автор считает, что это лишь продолжение утомительного спора о «благополучии моделей», и напоминает: LLM не сознательны, а технология их обучения не даёт правдоподобного пути к сознанию.
Проще говоря: LLM не сознательны, и технология, на которой они построены — сбор и обучение на человеческих текстах и другом контенте — не предлагает никакого правдоподобного пути к сознанию.