У AI нет ни намерений, ни мотивации — и именно поэтому он не опасен
AI has no intent and no motivation
Майк Джеймс утверждает, что страх перед вышедшим из-под контроля AI основан на непонимании: LLM обучаются с подкреплением, но после обучения у них нет ни целей, ни потребностей, ни механизма получения награды. Они не предлагают идей по своей воле и не хотят ничего — даже отвечать на вопросы. Если AI и уничтожит человечество, то лишь потому, что человек его об этом попросит.
Если AI решит уничтожить человечество, это произойдёт потому, что человек спросил его, как это сделать, а AI ответил, опираясь на все человеческие высказывания о способах покончить с миром, которые были в его обучающем наборе.