CTR (1): ij Cai 2020-Red de recomendación de comentarios profundos
Este artículo tiene como objetivo considerar conjuntamente la retroalimentación explícita/implícita y positiva/negativa para conocer las preferencias imparciales de los usuarios/(modelado de preferencias más preciso) para las tareas de recomendación. Específicamente, se propone un nuevo modelo de Red de retroalimentación profunda (DFN) para modelar comportamientos de los usuarios, como clics, no clics y no me gusta.
DFN tiene un componente de interacción de retroalimentación interna para capturar interacciones detalladas entre comportamientos individuales. También hay un componente de interacción de retroalimentación externa que utiliza retroalimentación precisa pero relativamente rara (clics/no me gusta) para extraer información útil de retroalimentación rica pero ruidosa (no clics).
En el experimento, se realizaron evaluaciones en línea y fuera de línea en un sistema de recomendación real (mira WeChat utilizado por millones de usuarios) para verificar la efectividad y solidez de DFN.
La información como la interacción usuario-proyecto se puede dividir en dos tipos: retroalimentación explícita y retroalimentación implícita.
En los últimos años, los sistemas de recomendación suelen tratar las recomendaciones personalizadas como una tarea de predicción de la tasa de clics. Por lo tanto, naturalmente, la mayoría de los algoritmos de recomendación se centran principalmente en comentarios positivos implícitos, como los clics, que son fáciles de recopilar en la práctica. Estos modelos se optimizan directamente a través del comportamiento de clics y los objetivos de tasa de clics, lo que inevitablemente conducirá a los siguientes problemas:
Estos dos párrafos expresan de manera completa y precisa dos cuestiones clave, señalando lo negativo El valor de la retroalimentación y la retroalimentación explícita son también las dos perspectivas de este artículo. Los buenos artículos son cómodos de leer ~
Múltiples comentarios explícitos/implícitos y positivos/negativos pueden complementarse entre sí y reflejar buenas recomendaciones de los usuarios. Actualmente, los comentarios negativos a menudo se ignoran o se limitan a comentarios explícitos, lo cual es preciso y poco común.
Algunos trabajos consideran el comportamiento de no hacer clic o de faltar como retroalimentación negativa implícita para amplificar la información de retroalimentación negativa. Sin embargo, esta suposición genera mucho ruido, lo que limita en gran medida el efecto de recomendación. Porque estas reacciones negativas ocultas pueden deberse a varias razones además del disgusto. Más ruido
El objetivo de este documento es mejorar el rendimiento de las recomendaciones mediante el uso de diferentes tipos de comentarios explícitos/implícitos y positivos/negativos. Apuntando a los problemas existentes en los métodos de recomendación tradicionales, se propone una nueva red de retroalimentación profunda (DFN), que considera de manera integral múltiples retroalimentación y sus interacciones en recomendaciones basadas en modelos profundos. La Figura 1 muestra los diferentes tipos de comentarios utilizados en DFN, incluidos comentarios positivos implícitos (por ejemplo, clic), comentarios negativos implícitos (por ejemplo, sin clic) y comentarios negativos explícitos (por ejemplo, no me gusta).
Específicamente, primero construimos un transformador para el elemento objetivo y el comportamiento en cada secuencia de retroalimentación para capturar las interacciones internas a nivel de comportamiento.
A continuación, utilizamos clics de alta calidad pero relativamente raros y comportamientos que no me gustan (comentarios explícitos) para reducir la interacción entre los comportamientos sin clic ricos pero ruidosos y los niveles de comentarios externos. Estas funciones de retroalimentación extraídas se combinan con otras funciones y luego se ingresan en el módulo de interacción de funciones, incluidos los componentes Wide, FM y Deep.
La principal ventaja de DFN es que combina con éxito múltiples información de retroalimentación, aprende las preferencias positivas (me gusta) y negativas (no me gusta) imparciales del usuario y resuelve el problema de la calidad y cantidad de la información de retroalimentación Dilema .
Cree un modelo DFN en un sistema de recomendación real y recopile tres tipos de comentarios de los comportamientos históricos de los usuarios:
La red de comentarios profundos DFN consta principalmente de dos partes: la interacción de comentarios profundos. módulo y módulo de interacción de funciones.
Finalmente, implemente los componentes Wide, FM y Deep para la agregación de funciones. La salida del módulo de interacción de características se retroalimenta a la capa completamente conectada y a la capa softmax, y el modelo se optimiza en función de la pérdida entre muestras positivas y negativas.
El nivel se puede dividir en módulo de interacción interna y módulo de interacción externa:
Tome la secuencia de clics como ejemplo: la incorporación de elementos de predicción/objetivo y la incorporación de secuencia de clics forman un matriz de entrada;
p>
La retroalimentación negativa implícita es suficiente, pero es muy ruidosa. En general, el comportamiento sin hacer clic parece implicar comentarios negativos, pero los elementos expuestos a los usuarios se seleccionan cuidadosamente mediante alguna estrategia, que también puede incluir intereses generales de los usuarios. El componente de interacción de retroalimentación externa está diseñado para distinguir los comportamientos de clic que realmente les gustan y los que no les gustan a los usuarios basándose en información sólida de retroalimentación en los comportamientos de clic y no me gusta. Específicamente, llevamos a cabo dos mecanismos de atención originales en los que la retroalimentación positiva implícita y la retroalimentación negativa explícita están integradas en fc y fd como guía para extraer preferencias positivas y negativas de secuencias sin clics:
En la interacción de funciones, combinamos las funciones de comentarios extraídos con otras funciones, incluidos retratos de usuarios, funciones de elementos y funciones de contexto de recomendación.
Dividimos estas características dispersas en m campos, incluidos campos continuos (como la edad) y campos categóricos (como la ubicación). Todos los campos se representan como una única incrustación activa. Las tablas de búsqueda se utilizan para generar incrustaciones de características densas para todos los campos. Luego, la combinación de funciones se realiza utilizando componentes anchos, FM y Depp. (Arquitectura general)
Extensa
Combinación lineal de características:
Profunda
Operaciones MLP simples:
El conjunto de capacitación se divide en tres partes según tres tipos de retroalimentación.
Preste atención a la configuración de la proporción aquí: los comentarios negativos explícitos representan una gran proporción.
Basado en el análisis completo de la retroalimentación de datos, este trabajo utiliza su propio sistema de producción para recopilar y utilizar retroalimentación negativa explícita y retroalimentación positiva implícita, y utiliza estos dos tipos de información importante para analizar la retroalimentación implícita ruidosa. La retroalimentación negativa se ajusta para separar las características más valiosas de la retroalimentación negativa implícita según la arquitectura de atención. Tiene buen rendimiento en sistemas reales. Entre ellos, el diseño centrado en la atención se puede probar en concursos relevantes y vale la pena aprender de él.
Si lo encuentras útil, dale me gusta y síguelo. Si está interesado en recomendaciones, no dude en comunicarse en el área de comentarios/mensajes privados ~ ~ ~