T4GRBF: función de base radial gaussiana de cuatro parámetros entrenable para perceptrón multicapa - Machacuay Vera, Javier Alejandro (2022)
En la presente tesis se propone una TAF (funciones de activación entrenables) paramétrica con base en la GRBF (función de base radial gaussiana) la cual se conforma por cuatro parámetros entrenables, la cual se ha denominado Trainable Four-Parameter Gaussian Radial Basis Function (T4GRBF). Dicha propuesta tiene el propósito de ser una opción de mejora a las AFs (Función de Activación) ya existentes y sus características, así como su implementación, se desarrollarán a lo largo del presente trabajo. Cabe resaltar que el alcance del trabajo se limita a la implementación de la T4GRBF en las NNs (Redes Neuronales) del tipo perceptrón multicapa (MLP); sin embargo, el trabajo desarrollado en la presente tesis es base para implementar la T4GRBF en otro tipo de redes como las NNs convolucionales y recurrentes. Esta función de activación es capaz de aprender curvaturas gaussianas durante el aprendizaje de la red neuronal, mediante el aprendizaje de cuatro parámetros que determinan la curvatura gaussiana. El objetivo de este aprendizaje es la mejora de la capacidad de la red neuronal para aprender relaciones no lineales, además de incrementar las posibilidades de encontrar las curvaturas gaussianas óptimas para determinar dichas relaciones. En primer lugar se proporcionan las ecuaciones utilizadas para una arquitectura de red neuronal del tipo perceptrón multicapa y se exponen algunos de los trabajos de investigación relacionados a propuestas de mejora de la función de activación. Seguidamente se presenta la propuesta, nombrada como T4GRBF, explicando sus características y ecuaciones de implementación. Finalmente, se ejecutan experimentos para evaluar el rendimiento de la propuesta, obteniendo resultados que se discuten para determinar las mejoras que la implementación de la T4GRBF implica en una red neuronal de este tipo. Se concluye que el trabajo propone la T4GRBF, la cual es una GRBF que cuenta con cuatro parámetros entrenables con el fin de incrementar la capacidad de aproximaciones no lineales de la NN, aumentando las posibilidades de encontrar la curvatura gaussiana óptima. Asimismo, se concluye que uno de los principales beneficios es el incremento de la probabilidad de encontrar la curvatura gaussiana óptima para determinar la relación no lineal entre la salida y entrada de la NN. Los potenciales inconvenientes son entrenamientos más largos para aprender no linealidades locales y un mayor de número de parámetros, para el modelo de NN en general.