Proponen una nueva forma de usar redes neuronales para trabajar con datos ruidosos de grandes dimensiones

Los matemáticos de la RUDN (Rusia) y la Universidad Libre de Berlín propusieron un nuevo enfoque para estudiar las distribuciones de probabilidad de los datos observados utilizando redes neuronales artificiales. El nuevo enfoque interactúa mejor con los llamados valores atípicos, con aquellos objetos de datos de entrada que se distinguen significativamente de la muestra general. El artículo fue publicado en la revista Artificial Intelligence.

La restauración de la distribución de probabilidad de los datos observados por redes neuronales artificiales es la parte más importante del aprendizaje automático. La distribución de probabilidad no solo nos permite predecir el comportamiento del sistema estudiado, sino también cuantificar la incertidumbre con la que se hacen los pronósticos. La principal dificultad es que, por regla general, solo se observan los datos en sí mismos, pero sus distribuciones de probabilidad en una forma exacta no están disponibles. Para resolver este problema, se utilizan métodos bayesianos y aproximados. Pero su uso aumenta la complejidad de la red neuronal y, en consecuencia, su entrenamiento. La combinación de métodos bayesianos con otros (por ejemplo, con el método delta) permite reducir la incertidumbre.

(Foto: RUDN)

Los matemáticos de la RUDN y la Universidad Libre de Berlín utilizaron pesos deterministas para redes neuronales, y los resultados de las redes codificaron la distribución de variables latentes para la distribución marginal (privada) deseada. Obtuvieron una fórmula que permite estimar correctamente la varianza de la distribución de los datos observados. Un análisis de la dinámica de aprendizaje de tales redes les permitió obtener una fórmula que estima correctamente la varianza de la distribución de los datos observados, a pesar de la presencia de valores atípicos en los datos. El modelo propuesto se probó con diferentes datos: sintético y real; sobre los datos que contienen emisiones y sobre aquellos de los cuales fueron eliminados previamente. El nuevo método permite restaurar las distribuciones de probabilidad con mayor precisión en comparación con otros métodos modernos. La precisión se estimó utilizando el método AUC (el área bajo de la curva es el área debajo del gráfico que permite estimar el error cuadrático medio de las predicciones según el tamaño de la muestra estimado por la red como "confiable"; cuanto mayor sea el puntaje AUC, mejores serán las predicciones). (Fuente: RUDN)