¿Cómo gestionar la seguridad en las operaciones de contenidos?

Con el vigoroso desarrollo de Internet y la mejora de los patrones de consumo de contenido, el contenido de las plataformas en línea está marcando el comienzo de una gran explosión. Ya sea que se base en los requisitos de las leyes y regulaciones, las responsabilidades sociales que deben asumir las empresas de Internet o las necesidades de las empresas de Internet de aumentar los usuarios y la reputación de sus propios productos, la seguridad del contenido se ha convertido en un vínculo que no se puede ignorar en el desarrollo de empresas o productos de Internet basados ​​en contenidos.

La seguridad del contenido se refiere a la seguridad de todo el contenido publicado por los usuarios en la plataforma, incluidos, entre otros, imágenes, texto, vídeos, voces, etc. La seguridad del contenido es una categoría de seguridad empresarial. También es una parte muy importante del sistema general de control de riesgos para productos basados ​​en contenidos.

Los problemas comunes de seguridad del contenido incluyen:

1. Contenido ilegal: incluido, entre otros, contenido relacionado con política, pornografía, violencia, etc. Este tipo de contenido a menudo conduce a la supervisión gubernamental. Tenga en cuenta que puede provocar la eliminación de la aplicación u otras situaciones más graves, que es una línea roja que la plataforma no puede tocar.

2. Contenido negativo: incluye, entre otros, connotaciones y contenido demasiado negativo. Este tipo de contenido puede causar fácilmente malestar y disgusto entre los usuarios. En el peor de los casos, puede provocar una amplia gama de opinión pública y. tener un impacto muy negativo en la reputación del producto. Los diferentes productos tienen diferentes enfoques en el control del contenido negativo en función de su propia ecología de contenido. Por ejemplo, para un producto de contenido que se centra en la relación entre celebridades y fanáticos, el control de calidad del contenido desfavorecido y desfavorecido por diferentes grupos de fanáticos es el foco del control de seguridad del contenido.

3. Contenido spam: generalmente se refiere a contenido que reduce la calidad de la plataforma. Por ejemplo, números, símbolos, anuncios, etc. sin sentido. Una vez que haya una gran cantidad de este tipo de contenido, causará una gran interferencia en la experiencia del usuario.

1. Auditoría del sistema

1) Texto:

Principalmente para filtrado de palabras clave. Puede identificar automáticamente contenidos políticos, pornográficos, publicitarios, insultos, trolling y otros contenidos que aparecen en el texto. Las palabras clave se pueden configurar dinámicamente según las necesidades comerciales. También puede configurar múltiples métodos de coincidencia: coincidencia exacta, coincidencia aproximada y coincidencia combinada.

2) Imágenes y vídeos:

Imágenes: se puede revisar el texto de la imagen, la calidad de la imagen, las marcas de agua de la imagen, las escenas de la imagen, los objetos, los personajes, las acciones, etc.

Video: la revisión de la pantalla es la misma que la imagen, excepto que la pantalla de video se interceptará primero y se revisará la pantalla capturada

3) Revisión de audio:

El contenido de audio se puede convertir en texto y también se puede reconocer el idioma y la huella de voz. También se puede reconocer la voz de quienes están relacionados con la pornografía.

2. Revisión manual

Cuando se requiere que la precisión de la revisión del contenido sea alta o no se pueden eliminar todos los riesgos mediante la revisión automática, se requiere un método de revisión automática + revisión humana. Generalmente desde una perspectiva de costos, el revisor humano es principalmente responsable de: 1) revisión del contenido que ha pasado la revisión de la máquina; 2) revisión del contenido identificado como sospechoso por la revisión de la máquina; 3) revisión de inspección de calidad del contenido revisado; Además, según las necesidades del negocio, el revisor humano también puede configurar varias rondas de revisión humana, y cada ronda de revisión humana implementa diferentes estándares de control de plataforma para maximizar la experiencia UGC. Por ejemplo, después de que el tráfico de contenido alcance un cierto umbral, se llevará a cabo otra ronda de revisión manual para garantizar la seguridad del contenido popular y al mismo tiempo controlar la capa de valor y el nivel de tonalidad de la plataforma.

En muchas empresas, la revisión del contenido la realizan departamentos colaborativos o empresas de terceros. La parte comercial tiene los siguientes puntos clave al realizar la gestión de seguridad del contenido:

1. Inventario Sea claro. sobre las necesidades de su propio negocio y comprenda los puntos clave

1) Comprenda claramente los tipos de riesgos que pueden existir en el negocio

2) Clasifique todo el proceso de contenido desde el online hasta la distribución

2. Establecer los objetivos que se deben alcanzar en la auditoría de seguridad

Es decir, ¿hasta qué punto necesitamos lograr la auditoría de seguridad? ¿Qué tan oportuna debe ser la revisión? ¿Cuál es la puntualidad y precisión de la revisión humana y la revisión mecánica? ¿Puede satisfacer las necesidades comerciales actuales?

3. Establezca un mecanismo de gestión de seguridad de contenido y haga un buen trabajo de iteración de políticas.

La estrategia debe iterarse constantemente: debido a las necesidades del entorno externo y del negocio actual. Durante el desarrollo, la política de seguridad de contenido no debe ser estática. No solo debe prestar atención periódicamente a las últimas políticas sobre seguridad de contenido, sino que también debe revisar periódicamente si su propia empresa tiene nuevas necesidades de seguridad de contenido e iterar constantemente las estrategias de seguridad.

La gestión de procesos debe realizarse en el lado de la auditoría de seguridad: especialmente las auditorías manuales, además de la necesidad de verificar la calidad de los resultados de los auditores en las primeras etapas de la ejecución de la tarea para garantizar la coherencia de la comprensión estándar. , también se requieren revisiones periódicas durante el proceso. Especialmente cuando los estándares de revisión están sesgados hacia los estándares de control ecológico (es decir, no son blancos o negros), inevitablemente habrá situaciones en las que los estándares se desvíen de la intención original después de un período de implementación. En el proceso de gestión de seguridad, el autor también encontró problemas como la inestabilidad del sistema operativo backend en el lado de la auditoría, lo que provocó ocasionalmente una puntualidad lenta de la auditoría, y un ancho de banda insuficiente del servidor, lo que provocó una cierta tasa de falla en la interfaz de auditoría de la máquina para mucho tiempo. Por lo tanto, ¡la gestión de procesos debe tomarse en serio!

4. Establecer un mecanismo de defensa antes, durante y después del incidente.

1) Antes del incidente: Necesidad diaria de llevar a cabo instrucciones gubernamentales y monitoreo continuo de eventos candentes negativos diarios, predecir riesgos y proporcionar una granularidad adecuada Intervención

2) Durante el incidente: monitorear los comentarios negativos sobre el contenido del usuario, descubrir problemas a tiempo y tratar el contenido relevante

3) Después: contactar a las partes involucradas , comuníquese con el departamento de relaciones públicas cuando sea necesario y responda rápidamente para evitar una mayor fermentación y optimice la estrategia de control de riesgos actual mediante la revisión de incidentes

1. Mida los propios indicadores de desarrollo de capacidades de seguridad

1) Mida las capacidades de revisión de la máquina: tasa de recuperación, tasa de lesiones accidentales, tasa de precisión

2) Medición de las capacidades de revisión humana: tasa de errores, tasa de lesiones accidentales, tasa de precisión

3) Medición de las capacidades del sistema: tasa de fallas de revisión, duración de la revisión

2 Indicadores actuales de riesgo de seguridad del contenido empresarial

1) Cantidad de comentarios de la opinión pública sobre el contenido del usuario

2) Aprobado de inspección de calidad. tasa de inspección del lado empresarial