- OpenAI estaría desarrollando un nuevo modelo de IA denominado Q*.
- El modelo habría sido capaz de resolver problemas matemáticos de nivel primaria por su cuenta.
- Pese a sus capacidades, los modelos como ChatGPT no pueden razonar y desarrollar nuevas ideas.
- ¡Síguenos en Instagram!
A medida que se asienta el polvo tras el caos de OpenAI, aún no sabemos por qué despidieron al CEO Sam Altman, pero informes sugieren que podría estar relacionado con un modelo de IA misterioso.
The Information reportó que un equipo liderado por el científico jefe de OpenAI, Ilya Sutskever, hizo un avance a principios de este año, lo que les permitió construir un nuevo modelo conocido como Q* (pronunciado «Q star»). Según los informes, el modelo podría resolver problemas matemáticos de nivel primaria.
Reuters informó que Q* provocó una tormenta interna, con varios miembros del personal escribiendo una carta a la junta directiva de OpenAI advirtiendo que este nuevo avance podría amenazar a la humanidad.
Se reportó que esta advertencia fue una de las razones por las que la junta decidió despedir a Sam Altman, quien regresó como CEO el miércoles después de días de agitación en la empresa.
Un pequeño gran logro de Q*
La capacidad de resolver problemas básicos de matemáticas puede no sonar tan impresionante, pero expertos en IA le dijeron a Business Insider que representaría un gran avance respecto a los modelos existentes, que tienen dificultades para generar fuera de los datos en los que fueron entrenados.
«Si tiene la capacidad de razonar lógicamente y pensar en conceptos abstractos, que es lo que realmente le cuesta en este momento, eso es un salto bastante tremendo», dijo Charles Higgins, cofundador de la startup de entrenamiento de IA Tromero y candidato a doctorado en seguridad de IA.
«Las matemáticas se tratan de razonar simbólicamente, diciendo, por ejemplo, ‘si X es más grande que Y y Y es más grande que Z, entonces X es más grande que Z’. Los modelos de lenguaje tradicionalmente batallan con eso porque no razonan lógicamente, simplemente tienen lo que son efectivamente intuiciones», añadió.
Sophia Kalanovska, cofundadora de Tromero y candidata a doctorado, dijo que el nombre de Q* sugería que probablemente fuera una combinación de dos técnicas de IA bien conocidas: Q-learning y la búsqueda A*.
La mezcla de dos modelos en Q* de OpenAI
Dijo que esto sugería que el nuevo modelo podría combinar las técnicas de aprendizaje profundo que alimentan a ChatGPT con reglas programadas por humanos.
Es un enfoque que podría ayudar a resolver el problema de las alucinaciones del chatbot.
«Creo que simbólicamente es muy importante. En un nivel práctico, no creo que vaya a acabar con el mundo», dijo Kalanovska. «A mi parecer, la razón por la que la gente cree que Q* llevará a la IA general (AGI) es porque, por lo que hemos escuchado hasta ahora, parece que combinará los dos lados del cerebro y será capaz de conocer algunas cosas por experiencia, al mismo tiempo que podrá razonar sobre hechos», añadió.
«Esto definitivamente es un paso más cerca de lo que consideramos inteligencia y es posible que lleve al modelo a ser capaz de tener nuevas ideas, lo cual no es el caso con ChatGPT».
La incapacidad para razonar y desarrollar nuevas ideas, en lugar de simplemente regurgitar información de sus datos de entrenamiento, se ve como una gran limitación de los modelos existentes, incluso por las personas que los desarrollan.
Q* y la capacidad de resolver problemas nuevos
El doctor Andrew Rogoyski, director del Instituto Surrey para una IA Centrada en las Personas, dijo a Business Insider que resolver problemas no vistos era un paso clave hacia la creación de la AGI.
«Si una IA puede resolver problemas nuevos, no simplemente regurgitar o remodelar conocimientos existentes, eso sería algo importante, incluso si las matemáticas son relativamente simples», añadió.
No todos estaban tan entusiasmados con el avance reportado. El experto en IA y crítico del aprendizaje profundo, Gary Marcus, expresó dudas sobre las capacidades informadas de Q* en una publicación en su Substack.
«Si tuviera un centavo por cada extrapolación como esa, ‘¡hoy funciona para estudiantes de primaria! el próximo año, ¡dominará el mundo!’, sería tan rico como Musk», escribió Marcus.
OpenAI no respondió de inmediato a una solicitud de comentarios de Business Insider, realizada fuera del horario laboral habitual.
TAMBIÉN LEE: La precuela de The Hunger Games termina con una nota sombría que puede confundirte si no leíste el libro
