Un investigador de la UNSa estudia cómo funcionan las redes neuronales y advierte sobre los riesgos de la inteligencia artificial

Desde la investigación universitaria, su equipo busca comprender los procesos internos de las redes neuronales y advierte sobre la importancia de promover un uso responsable de estas herramientas, especialmente durante las etapas de formación.

La inteligencia artificial (IA) se incorporó progresivamente a la vida cotidiana. Hoy permite responder consultas, producir textos y generar contenidos, entre otras posibilidades. Sin embargo, su creciente presencia también abre interrogantes sobre sus efectos en la educación, el pensamiento crítico y el futuro de la sociedad.

Para el Dr. Edgardo Javier Trenti, doctor en Ciencias y profesor adjunto a cargo de las asignaturas Teorías de la Computación I, II y III, la inteligencia artificial no es una tecnología nueva. Lo que cambió en los últimos años fue la aparición de modelos capaces de procesar y producir lenguaje, que hicieron más visibles sus posibilidades para el público general.

“Parece entendernos perfectamente y nos contesta de una manera coherente, aunque a veces no nos diga la verdad”, explicó. Para el investigador, esa capacidad resulta asombrosa, pero también obliga a reconocer las limitaciones de estos sistemas y a desarrollar criterios para utilizarlos de manera responsable.

En la Facultad de Ciencias Exactas de la Universidad Nacional de Salta (UNSa), Trenti integra un equipo de investigación que trabaja para comprender cómo las redes neuronales procesan y codifican la información. Una de las líneas de estudio se concentra en los llamados espacios latentes, estructuras matemáticas donde los modelos representan los datos que reciben durante su entrenamiento.

Como los sistemas de mayor escala requieren recursos informáticos que no siempre están disponibles, el grupo desarrolla sus investigaciones con imágenes pequeñas y redes neuronales más acotadas. Mediante técnicas métricas y geométricas, busca identificar qué partes de esas redes responden a determinados estímulos y de qué manera se organiza la información en su interior.

Para explicar este procedimiento, Trenti establece una comparación con el estudio del área de Broca, una región del cerebro vinculada con la producción del lenguaje. Así como la observación de una lesión permitió reconocer una función cerebral, en las redes neuronales es posible retirar pequeñas partes de su estructura, mediante técnicas conocidas como ablación, y analizar qué ocurre.

Otro de los ejes de preocupación del especialista es el impacto de estas herramientas durante la formación de niños y adolescentes. Si bien reconoce la responsabilidad individual en el tiempo y la manera de utilizar la tecnología, considera que también se necesita una respuesta institucional que permita establecer criterios de uso.

“Hay que tener mucho cuidado con el uso de inteligencia artificial en esa época de la vida de una persona”, advirtió, en referencia al período de desarrollo que comprende aproximadamente desde los 3 o 4 años hasta los 20. En ese sentido, planteó la necesidad de que el Estado convoque a distintas instituciones para debatir y elaborar protocolos, especialmente para el ámbito educativo.

El desafío, según explicó, no pasa únicamente por incorporar nuevas herramientas a las actividades cotidianas, sino por evitar que su utilización desplace capacidades fundamentales para el aprendizaje y la producción de conocimiento. Leer, interpretar, buscar información, construir argumentos y elaborar ideas propias son habilidades que requieren ejercitarse, incluso en un contexto atravesado por tecnologías capaces de ofrecer respuestas inmediatas.

Las advertencias también alcanzan a los desarrollos más avanzados. Trenti recordó los planteos de Geoffrey Hinton, uno de los referentes históricos de las redes neuronales, acerca de los posibles riesgos de sistemas capaces de mejorar sus propias capacidades. En particular, mencionó la automejora recursiva y el desarrollo de agentes de inteligencia artificial que reciben objetivos y pueden encontrar distintas maneras de cumplirlos.

A esto se suma la forma en que las plataformas digitales procesan los intereses y comportamientos de las personas para recomendar contenidos. “Lo preocupante es que todos nos hemos convertido en vectores en esos espacios latentes”, expresó. Con esa reflexión, señaló que todavía existen aspectos poco conocidos sobre cómo se representa y codifica la información de los usuarios y cuáles pueden ser las consecuencias de esos procesos.

Aunque reconoce el potencial de la inteligencia artificial y considera que su desarrollo continuará, el investigador sostiene que la velocidad de los avances debe estar acompañada por mayor conocimiento, responsabilidad y debate público. “Mientras no sepamos bien cómo está funcionando esto, estamos jugando con fuego”, sostuvo.

En ese escenario, el trabajo que se desarrolla desde la Universidad Nacional de Salta busca aportar conocimiento sobre los mecanismos internos de las redes neuronales. La investigación apunta a ir más allá de la utilización de estas herramientas: comprender cómo funcionan, identificar sus alcances y contribuir a que la sociedad participe de manera informada en las discusiones sobre su desarrollo y sus implicancias.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *