Informáticos detectan los puntos débiles de los algoritmos de aprendizaje automático
El aprendizaje automático es la mayor revolución de la informática en décadas. Gracias a los algoritmos de aprendizaje, los ordenadores pueden realizar proezas sensacionales incluso en tareas abstractas. Pero, al igual que los humanos, los ordenadores cometen errores en el proceso, y entender por qué un algoritmo de aprendizaje automático comete ciertos errores es uno de los retos clave de la informática moderna.
Aquí es donde entran Michael Hedderich y Jonas Fischer con su investigación. Han desarrollado un software capaz de detectar los puntos débiles de algoritmos de aprendizaje automático muy complejos y ayudar así a corregirlos.
Gracias a los algoritmos de aprendizaje automático, los ordenadores pueden realizar proezas asombrosas, incluso en ámbitos que antes sólo se atribuían a los humanos, como el lenguaje y las bellas artes. Estos métodos computacionales se basan en las llamadas redes neuronales artificiales. "Se trata de redes de funciones matemáticas que ponderan una entrada en función de ciertos parámetros personalizables y generan una salida a partir de ella", explica Michael Hedderich, investigador de las universidades de Saarland (Alemania) y Cornell (Estados Unidos). Estas funciones, llamadas neuronas, se conectan en serie y se entrenan con ayuda de datos, de modo que los ordenadores son capaces, por ejemplo, de filtrar los gatos en millones de fotos o de producir diálogos con personas de apariencia engañosamente real.
"Uno de los algoritmos de síntesis de texto más avanzados y actualmente más citados del mundo, el GPT-3 de OpenAI, procesa la entrada utilizando 175.000 millones de parámetros antes de emitir un resultado. Para un ser humano es casi imposible seguir este proceso y comprender dónde se producen los errores", afirma Jonas Fischer, que actualmente es investigador postdoctoral en la Universidad de Harvard. El estado anterior de la técnica consistía en analizar el resultado de un algoritmo de aprendizaje automático en busca de errores y enumerarlos uno por uno. A continuación, los expertos debían encontrar patrones en los conjuntos de datos, que podían contener fácilmente miles de entradas. En nuestro nuevo software 'PyPremise', utilizamos técnicas de minería de datos para buscar automáticamente patrones específicos en estos conjuntos de datos de errores y agruparlos al final en "categorías de errores" comprensibles. Así, en lugar de enumerar cada error individualmente, nuestro software es capaz de resumir los errores en un nivel más abstracto y hacer afirmaciones como: 'Su algoritmo ML tiene problemas con las formulaciones que contienen la pregunta 'Cuánto''. Esto se deduce de los resultados incorrectos en los casos X, Y y Z", explica Michael Hedderich.
Los investigadores de Saarbrücken probaron su software con conjuntos de datos sintéticos y reales. En el proceso, pudieron demostrar que su método se adapta a conjuntos de datos muy grandes con muchas propiedades diferentes de los puntos de datos individuales y ofrece resultados fiables. "La información así obtenida sobre los puntos débiles de un algoritmo de aprendizaje automático puede ser utilizada por los operadores para revisar sus datos de entrenamiento, por ejemplo, y corregir así los errores del sistema", explica Jonas Fischer. En principio, la herramienta informática desarrollada por los dos informáticos sólo se aplica a algoritmos del ámbito del procesamiento del lenguaje natural. Sin embargo, uno de sus objetivos es ampliar la herramienta para que pueda aplicarse también a otros ámbitos.
Michael Hedderich es informático y trabaja en la Universidad de Cornell y en el grupo de investigación "Sistemas de lenguaje hablado" del profesor de lingüística computacional Dietrich Klakow, de la Universidad del Sarre. Jonas Fischer se doctoró en la Universidad del Sarre el verano pasado, tras haber realizado su doctorado en el Instituto Max Planck de Informática bajo la supervisión del profesor Jilles Vreeken, del Centro Helmholtz de Seguridad de la Información CISPA. Jonas es ahora investigador postdoctoral en la Universidad de Harvard. Los investigadores presentaron por primera vez los fundamentos científicos del software en julio de 2022 en la "International Conference on Machine Learning (ICML)", una de las conferencias más importantes y prestigiosas del mundo en este campo en la que, por lo general, solo se acepta la presentación de una quinta parte de los trabajos científicos enviados.
Articulos Electrónica Relacionados
- Robot que facilita la telepres... La Universitat de Lleida (UdL) ha presentado esta un prototipo de Asistente Personal Robótico (APR), diseñado y desarrollado para facilitar la &ld...
- La estrategia a largo plazo ma... El mercado de CIs analógicos en 2015 creció un 2% hasta los 47.000 millones de dólares.Las ventas combinadas de productos de uso general an...
- Chip para salvaguardar los dat... Las aplicaciones de seguimiento de la salud pueden ayudar a las personas a controlar enfermedades crónicas o a mantenerse en forma sin más ayuda que un teléfono...
- El proyecto De-RISC de H2020 c... Tras un año de ejecución, De-RISC sigue abriéndose camino para impulsar futuras aplicaciones espaciales y aeronáuticas con tecnología hecha en Europa. Este pro...
- AIMPLAS inicia 12 nuevos proye... Recuperar y reciclar materias primas críticas (Critical Raw Material o CRM por sus siglas en inglés), tan valiosas y esenciales hoy en día para la producción de...
- El inversor de carburo de sili... Al igual que los Beatles en los años 60, Tesla ha logrado la hazaña de ser simultáneamente el mejor y el más popular en lo que hace. Según el informe de IDTechE...
- El coche del futuro, autónomo ... La industria del automóvil avanza de manera acelerada para conseguir un coche del futuro completamente conectado y autónomo. Elon Musk, consejero delegado de Te...
- Las nuevas tecnologías mejorar... AIMPLAS, el Instituto Tecnológico del Plástico, participa como coordinador en el proyecto AZMUD, cuyo consorcio está formado por ocho socios procedentes de cinc...
- Schneider Electric y Wärtsilä ... Schneider Electric y Wärtsilä han firmado un acuerdo de colaboración para crear una solución de energía sostenible ininterrumpida para alimentar las minas de li...
- El proyecto RECRITIC busca los... La problemática en cuanto a reciclabilidad de los residuos complejos, como las baterías de litio o las placas base, es clara y se complica cuando algunos de los...
- Proyecto europeo PowerizeD PowerizeD es un proyecto de desarrollo tecnológico que se centra en mejorar la forma de generar y transmitir energía mediante el uso de electrónica de potencia ...
- IDTechEx analiza las múltiples... Es fácil fabricar vehículos eléctricos con baterías de 1000 millas (el equivalente a 1600 kms), y el efecto en la aceptación del mercado será alto. Por ejemplo,...