OpenAI ha presentado ChatGPT, una inteligencia artificial de última generación capaz de responder a preguntas complejas y de conversar con ellas. Esta tecnología representa un avance significativo, ya que ha sido entrenada para comprender la intención de las preguntas humanas.
Los usuarios han quedado impresionados por la capacidad de ChatGPT para dar respuestas que imitan la calidad humana, lo que ha llevado a especular sobre su potencial para alterar radicalmente la forma en que interactuamos con los ordenadores y accedemos a la información.
¿Qué es ChatGPT?
ChatGPT es un sofisticado chatbot desarrollado por OpenAI que utiliza los últimos avances en tecnología de modelado del lenguaje. El modelo, basado en GPT-3.5, está diseñado para interactuar de forma conversacional y ofrecer respuestas de naturaleza muy humana.
Los grandes modelos lingüísticos, como ChatGPT, se entrenan para predecir la siguiente palabra de una serie analizando grandes cantidades de datos. ChatGPT se ha mejorado aún más mediante la aplicación del Aprendizaje por Refuerzo con Retroalimentación Humana (RLHF) para ayudar al modelo a aprender a entender y responder mejor a las peticiones humanas.
¿Quién creó ChatGPT?
OpenAI, la empresa de inteligencia artificial con sede en San Francisco que ha desarrollado ChatGPT, es bien conocida por sus otros notables modelos de IA, como DALL-E. La empresa, dirigida por su consejero delegado, Sam Altman, es una sociedad matriz sin ánimo de lucro de OpenAI LP, con ánimo de lucro, y cuenta con una asociación estratégica y una inversión de 1.000 millones de dólares de Microsoft.
La capacidad de los modelos lingüísticos para predecir la siguiente palabra de una frase ha mejorado mucho con el aumento de los datos utilizados para el entrenamiento. Por ejemplo, GPT-3, que es el predecesor de ChatGPT, tiene 175.000 millones de parámetros y se entrenó con 570 gigabytes de texto. Este aumento de escala ha permitido a los modelos realizar tareas para las que no se habían entrenado explícitamente, como la traducción de idiomas. Sin embargo, estos modelos siguen teniendo limitaciones a la hora de entender la intención de las peticiones humanas, que es donde entra en juego el entrenamiento adicional RLHF aplicado a ChatGPT para mejorar la capacidad del modelo de entender y responder a las peticiones humanas.
Grandes Modelos de Lenguaje
Los grandes modelos de lenguaje (LLM), como ChatGPT, son sistemas de IA muy avanzados que se entrenan con grandes cantidades de datos para predecir la siguiente palabra de una frase con notable precisión. Se ha observado que el aumento de la cantidad de datos utilizados para el entrenamiento mejora significativamente las capacidades de estos modelos.
GPT-3, predecesor de ChatGPT, es un ejemplo de LLM muy avanzado. Cuenta con 175.000 millones de parámetros y se entrenó con 570 gigabytes de texto. Esto contrasta con su predecesor, GPT-2, que tenía 1.500 millones de parámetros, lo que lo hace más de 100 veces más pequeño.
El aumento de escala altera drásticamente el comportamiento del modelo. GPT-3 puede realizar tareas para las que no ha sido explícitamente entrenado, como la traducción de idiomas, con un mínimo de ejemplos de entrenamiento. Esta capacidad era prácticamente inexistente en GPT-2. Además, en algunas tareas, GPT-3 supera a los modelos entrenados específicamente para resolverlas, aunque se queda corto en otras.
Los grandes modelos lingüísticos (LLM) tienen la capacidad de predecir la palabra o frase siguiente de una frase, de forma muy parecida a la función de autocompletar, pero a una escala mucho mayor. Esta capacidad permite a los LLM generar párrafos y páginas enteras de contenido. Sin embargo, es posible que estos modelos no siempre capten plenamente la intención que subyace a las solicitudes humanas, que es donde ChatGPT, en particular, tiene una ventaja.
ChatGPT utiliza el aprendizaje por refuerzo con retroalimentación humana (RLHF), que le ayuda a comprender y responder mejor a las peticiones humanas. Esta capa adicional de formación mejora el estado actual de la tecnología de modelado del lenguaje, lo que convierte a ChatGPT en un sistema de IA muy avanzado y eficaz.
¿Cómo se entrenó ChatGPT?
ChatGPT, un chatbot con un gran modelo lingüístico, fue desarrollado por OpenAI a través de un riguroso proceso de entrenamiento que utilizó grandes cantidades de datos de diversas fuentes, como código e información de Internet, incluidos los debates de Reddit. Este entrenamiento ayudó a ChatGPT a aprender a interactuar en forma de diálogo conversacional y a alcanzar un estilo de respuesta similar al humano.
Además del proceso de entrenamiento tradicional, ChatGPT se mejoró aún más mediante la aplicación del Aprendizaje por Refuerzo con Retroalimentación Humana (RLHF). Esta técnica consiste en entrenar el modelo con información humana, lo que ayuda a la IA a entender y responder mejor a las peticiones humanas. Este enfoque va más allá del simple entrenamiento del modelo para predecir la siguiente palabra de una frase, ya que ayuda al modelo a comprender la intención de las preguntas humanas.
Un trabajo de investigación de marzo de 2022, titulado «Training Language Models to Follow Instructions with Human Feedback», explica por qué se trata de un enfoque innovador: «Este trabajo está motivado por nuestro objetivo de aumentar el impacto positivo de los grandes modelos lingüísticos entrenándolos para que hagan lo que un conjunto determinado de humanos quiere que hagan».
Para mejorar aún más la comprensión del modelo de la intención humana y ofrecer respuestas útiles, veraces e inofensivas, los ingenieros contrataron a contratistas (etiquetadores) para que calificaran los resultados de los dos sistemas, GPT-3 y el nuevo InstructGPT (un «modelo hermano» de ChatGPT). Basándose en las puntuaciones, los investigadores llegaron a la conclusión de que los modelos InstructGPT muestran mejoras en veracidad respecto a GPT-3, y pequeñas mejoras en toxicidad respecto a GPT-3, pero no en sesgo.
Otro trabajo de investigación de febrero de 2022, titulado «Learning to Summarize from Human Feedback», explica cómo el equipo entrenó a la IA para predecir lo que preferían los humanos. Se dieron cuenta de que las métricas utilizadas para calificar los resultados de la IA de procesamiento del lenguaje natural daban como resultado máquinas que puntuaban bien en las métricas, pero no se alineaban con lo que esperaban los humanos. Así que diseñaron una solución para crear una IA que pudiera dar respuestas optimizadas a lo que los humanos preferían, entrenando a la IA utilizando conjuntos de datos de comparaciones humanas entre diferentes respuestas. Esto ayudó a la máquina a predecir mejor lo que los humanos consideraban respuestas satisfactorias.
¿Cuáles son las limitaciones de ChatGPT?
ChatGPT, un chatbot con un gran modelo lingüístico, es un sistema de IA avanzado, pero no está exento de limitaciones. Algunas de las limitaciones de ChatGPT son:
- Restricciones a la hora de proporcionar respuestas perjudiciales: Para garantizar la seguridad de los usuarios, ChatGPT está programado específicamente para evitar proporcionar respuestas tóxicas o dañinas a ciertos tipos de preguntas.
- La calidad de las respuestas varía con la calidad de las instrucciones: Una de las principales limitaciones de ChatGPT es que la calidad de la respuesta depende de la calidad de la entrada. En otras palabras, las instrucciones elaboradas por expertos generarán mejores respuestas.
- Respuestas incorrectas: Otra limitación es que, aunque ChatGPT está entrenado para dar respuestas que a los humanos les parezcan correctas, a veces puede dar respuestas incorrectas. Esto puede ser un problema, sobre todo cuando se trata de situaciones de alto riesgo, como en el caso del sitio web de preguntas y respuestas sobre codificación Stack Overflow, que se vio inundado de respuestas generadas por ChatGPT que parecían correctas, pero que en realidad eran incorrectas. Esto provocó una prohibición temporal de la tecnología.
Es importante señalar que OpenAI, los creadores de ChatGPT, son conscientes de estas limitaciones y han advertido a los usuarios sobre la posibilidad de que se generen respuestas incorrectas que parezcan correctas.
En el anuncio oficial de ChatGPT, OpenAI reconoce que la tecnología tiene ciertas limitaciones. En concreto, ChatGPT puede generar respuestas que parezcan plausibles pero que en realidad sean incorrectas o sin sentido. La empresa afirma que abordar este problema es complejo, ya que implica múltiples factores.
En primer lugar, durante el proceso de entrenamiento mediante aprendizaje por refuerzo (RL), no existe actualmente una fuente definitiva de verdad. En segundo lugar, entrenar al modelo para que sea más cauto puede hacer que rechace preguntas que puede responder correctamente. Y en tercer lugar, el entrenamiento supervisado puede inducir a error al modelo, ya que la respuesta ideal depende de lo que sabe el modelo, y no de lo que sabe el demostrador humano. OpenAI subraya que es consciente de estas limitaciones y trabaja continuamente para mejorar la tecnología.
¿ChatGPT es gratis?
ChatGPT está actualmente disponible de forma gratuita durante su periodo de investigación previa. El chatbot está abierto para que los usuarios lo prueben y den su opinión sobre las respuestas, con el objetivo de mejorar la capacidad de la IA para responder preguntas y aprender de sus errores.
OpenAI busca activamente comentarios sobre el chatbot, en particular sobre resultados problemáticos que podrían producirse en situaciones reales, así como comentarios que ayuden a descubrir y comprender nuevos riesgos y posibles mitigaciones. También han implementado un filtro de contenido externo y una interfaz de usuario que permite a los usuarios dar su opinión sobre falsos positivos/negativos.
Para animar al público a valorar las respuestas, OpenAI ha lanzado un concurso de comentarios con un premio de 500 dólares en créditos ChatGPT. Las participaciones pueden enviarse a través del formulario de comentarios enlazado en la interfaz de ChatGPT, y el concurso finaliza el 31 de diciembre de 2022 a las 11:59 PM PST.
¿Los modelos de lenguaje reemplazarán al buscador de Google?
Los avances en los grandes modelos lingüísticos han llevado a la creación de chatbots de IA que pueden mantener conversaciones casi indistinguibles de las interacciones humanas. LaMDA de Google es un ejemplo de ello, y un ingeniero de Google llegó a afirmar que era sensible.
Dado este nivel de sofisticación, no es difícil imaginar que empresas como OpenAI, Google o Microsoft puedan algún día sustituir los métodos de búsqueda tradicionales por chatbots de IA. Esto ha suscitado debates en la comunidad de marketing de búsquedas, y algunos incluso especulan con que ChatGPT podría convertirse en el próximo Google.
Aunque la tecnología aún tiene margen de mejora, no se puede descartar la posibilidad de un futuro híbrido de búsqueda y chatbot. Sin embargo, hay que tener en cuenta que la versión actual de ChatGPT puede requerir la compra de créditos para su uso en el futuro.
¿Cómo se puede utilizar ChatGPT?
ChatGPT es un modelo de lenguaje versátil que posee la capacidad de generar una amplia gama de contenido escrito, como código, poesía, canciones e incluso cuentos al estilo de un autor específico. Su habilidad para comprender y seguir instrucciones lo eleva de ser solo una fuente de información a una poderosa herramienta que puede utilizarse para realizar diversas tareas. Esto lo hace muy útil para escribir ensayos sobre una amplia gama de temas y generar esquemas para artículos o incluso novelas completas. Su capacidad para proporcionar respuestas escritas para una amplia gama de tareas es prácticamente ilimitada.
Conclusión
En conclusión, ChatGPT es un chatbot de IA avanzado desarrollado por OpenAI, capaz de ofrecer respuestas similares a las humanas a preguntas complejas y completar una amplia gama de tareas mediante texto escrito. Tiene el potencial de revolucionar la forma en que interactuamos con la tecnología y accedemos a la información. Aunque actualmente está disponible de forma gratuita durante una fase previa de investigación, se espera que el público tenga que comprar créditos para seguir utilizando la herramienta. El abrumador interés del público, con más de un millón de usuarios registrados en los primeros cinco días de su lanzamiento, demuestra el potencial de ChatGPT como herramienta valiosa y demandada en el futuro.
:)