La IA no tiene intención ni motivación, y por eso no nos destruirá
AI has no intent and no motivation
Mike James sostiene que los LLM actuales no son agentes con deseos: una vez entrenados, no reciben recompensas ni tienen necesidades biológicas que los impulsen. Aunque reconoce que su capacidad para simular comprensión supera la de un loro estocástico, argumenta que cualquier catástrofe atribuida a la IA sería en realidad consecuencia de un humano que la provocó. Frente al alarmismo de algunos investigadores, James responde con una pregunta simple: ¿por qué querría la IA acabar con nosotros?
Si una IA decide acabar con la raza humana, será porque un humano le ha preguntado cómo hacerlo y ha respondido basándose en todas las expresiones humanas de formas de acabar con el mundo que había en su conjunto de entrenamiento.