Cómo una red neuronal aprende a leer una frase que nunca ha visto
An intuition for how neural nets can understand text
Cuatro momentos "ajá" para entender cómo las redes neuronales procesan el texto: una neurona que funciona como un if, el bag-of-words neuronal que aprende reglas en lugar de memorizar listas, los embeddings que dan a cada palabra su propio perfil de significado y los conceptos que emergen solos, como la neurona de sentimiento que OpenAI encontró en 2017 sin haberla pedido. Incluye vídeos breves, lecturas y ejercicios prácticos.
En 2017, OpenAI encontró una neurona que detecta si una reseña es positiva o negativa, y nadie se lo había pedido.