Investigador de Goodfire sostiene que las redes neuronales "ya son transparentes"
Nick Cammarata, investigador de interpretabilidad mecanicista en Goodfire y exintegrante del equipo de OpenAI que desarrolló técnicas para explicar qué representan las neuronas de los modelos de lenguaje, publicó el 15 de octubre en la web de la compañía el artículo "Las redes neuronales ya son transparentes". Allí plantea que la IA es más comprensible de lo que se creía y cuestiona la explicación dominante de la polisemia neuronal basada en la superposición.
En 50 segundos
- Cammarata trabaja en interpretabilidad mecanicista en Goodfire y antes investigó en OpenAI cómo explicar lo que representan las neuronas de los modelos de lenguaje.
- Su artículo del 15 de octubre propone que las neuronas no mezclan conceptos al azar, sino que responden a patrones compartidos, como una forma en V presente en caras de gatos y frontales de coches.
- Sugiere que las redes actuales podrían ser más fáciles de interpretar que las primeras generaciones, por fallas de diseño y arquitectura y por herramientas de visualización imperfectas.
Leer la noticia completa en Xataka
IAResumen generado con inteligencia artificial a partir de una nota de Xataka. Puede contener errores: la fuente original manda.
Comentarios
Sé respetuoso. Los comentarios que reporten varias personas se ocultan hasta que los revise un moderador.
Para leer no necesitas cuenta; solo para comentar. Entras con un código que te llega al correo o con tu cuenta de Google. Mostramos solo el nombre que elijas; nunca tu correo.