La necesidad

Los modelos de aprendizaje automático se benefician del aprendizaje por transferencia. En la visión artificial, las redes neuronales que se entrenan con grandes conjuntos de datos son útiles para inicializar modelos en otras tareas de visión. ¿Cómo podemos aprovechar la técnica del aprendizaje por transferencia para leer texto?

La idea

Supongamos que tienes una pregunta dentro de un ámbito muy específico y deseas obtener la mejor respuesta posible de un documento. ¿Qué pasa si pudiéramos leer miles de documentos y usar la IA para responder esa pregunta por medio de la inferencia y el mejor contexto?

La solución

Con una red neuronal denominada red de razonamiento (ReasoNet), los investigadores imitan el proceso de inferencia de los lectores humanos. Partiendo de una pregunta, ReasoNet examina un documento y se enfoca en diferentes partes hasta recibir una respuesta.

Detalles técnicos de Machine Reading

MRC requiere modelar interacciones complejas entre el contexto y la consulta. Al usar una nueva arquitectura de red neuronal denominada red de razonamiento (ReasoNet), los investigadores lograron imitar el proceso de inferencia de los lectores humanos.

Partiendo de una pregunta, ReasoNet lee un documento repetidamente, enfocándose cada vez en diferentes partes del documento hasta encontrar o formar una respuesta satisfactoria. Los investigadores de Microsoft lograron superar la paridad humana con el conjunto de datos SQuAD mediante un algoritmo de comprensión de lectura automática único denominado R-NET: comprensión de lectura automática con redes autoconcordantes. R-NET aplica un mecanismo de atención autoconcordante para refinar la representación haciendo concordar el pasaje consigo mismo, lo cual efectivamente codifica la información de todo el pasaje.

Cuando aplicamos estos algoritmos de MRC al libro The Future Computed de Brad Smith y Harry Shum, fue increíble ver que todas las preguntas interesantes que podíamos contestar. Podemos aplicarlo para resolver los desafíos de datos de las empresas y responder preguntas sobre sus ámbitos específicos.

Recursos:

Proyectos relacionados con Machine Reading

Explora más proyectos

Explora las posibilidades de la IA

Inicia tus propias innovaciones en IA con los recursos de aprendizaje y las soluciones de desarrollo de IA de Microsoft.