En noviembre, la empresa de investigación OpenAI lanzó un bot llamado ChatGPT. Desde entonces, el bot se ha vuelto viral y se ha utilizado para escribir código, poesía e incluso una revisión arquitectónica del Museo Perot de Naturaleza y Ciencia.
ChatGPT compone todo, desde respuestas de una palabra hasta ensayos completos. Pero, ¿cómo funciona realmente? ¿Podrían sus respuestas escritas reemplazar las creaciones e ideas humanas? Esto es lo que debe saber, según científicos de la Universidad de Texas en Dallas.
1. ChatGPT es un “modelo de lenguaje grande”.
Nos encontramos con la inteligencia artificial todos los días. El Face ID de Apple utiliza el aprendizaje automático para confirmar que somos nosotros cuando desbloqueamos nuestros teléfonos; las aplicaciones de redes sociales personalizan nuestros feeds en función de lo que más nos gusta; y herramientas como Siri y Alexa responden a nuestras preguntas candentes.
ChatGPT es un tipo específico de inteligencia artificial llamado “modelo de lenguaje grande”, según Xinya Du, profesor asistente de informática en UTD. Ha sido entrenado en una gran cantidad de datos y texto, incluido el código y la información de Internet.
Si le preguntamos a ChatGPT qué palabra sigue a la frase “Cuatro veintenas y siete años…”, llena el espacio en blanco con la palabra que es más probable que vaya a continuación, según los datos con los que se ha entrenado.
Jessica Ouyang, profesora asistente de ciencias de la computación en UTD dijo:
“Es [predecir la siguiente palabra] a una escala tremendamente grande, con un vocabulario de textos conocidos tremendamente más grande de lo que un ser humano podría recordar”.
La tecnología que impulsa a ChatGPT no es nueva: es el producto de varios chatbots de OpenAI anteriores que datan de 2018, incluidos GPT, GPT-2 y GPT-3. ChatGPT está entrenado en un conjunto de datos aún más grande y se presenta en un sitio web fácil de usar, los cuales han ayudado a impulsar su popularidad en línea.
2. No puede ‘pensar’ por sí mismo.
Cuando se le preguntó “¿Cuánto es 2 más 2?” ChatGPT respondió rápidamente: “La suma de 2 y 2 es 4”.
Los científicos de UTD dijeron que ChatGPT no resuelve problemas matemáticos procesando números. En cambio, cuando se le hizo la pregunta anterior, el chatbot determinó la mejor manera de responder en función de lo que se dijo anteriormente sobre el tema. Ouyang dijo:
“Presumiblemente, en algún lugar de Internet, alguien ha escrito la secuencia, ‘¿Cuánto es dos más dos? Oh, son cuatro. Ya sea en algún tipo de chat, algún tipo de foro en línea, pregunta de Quora o algo así”.
Esto subraya una limitación clave de ChatGPT: es tan inteligente como los datos que recibe. El chatbot ha sido entrenado con datos de hasta 2021 y, aunque eso podría cambiar, tiene un “conocimiento limitado del mundo y los eventos” desde entonces, según el sitio web de OpenAI.
3. Puede ser útil.
ChatGPT genera sus respuestas una palabra a la vez, dijo Ouyang, y escanea las palabras que ya ha producido para decidir cuál es la siguiente. Esto permite que el chatbot produzca oraciones conversacionales que tengan sentido lógico.
Gopal Gupta, profesor de informática en UTD, dijo que ChatGPT puede ser útil para proyectos creativos como poemas o como ayuda para informes legales o correos electrónicos. El chatbot puede generar publicaciones formuladas o subtítulos para redes sociales y descripciones de productos.
Dale MacDonald, decano asociado de investigación y tecnologías creativas en UTD, dijo que podía ver que el chatbot se usaba para escribir textos publicitarios.
4. Comete errores.
ChatGPT produce respuestas basadas en una gran cantidad de datos, incluida información de Internet. Pero, por supuesto, no todo lo que hay en Internet es cierto.
Si le pedimos a ChatGPT que responda una pregunta científica, o incluso que escriba la introducción a un artículo científico, puede producir una respuesta. Pero Gupta dijo que es difícil verificar si la información es cierta. Los usuarios pueden pedirle a ChatGPT que cite sus fuentes, pero aun así puede producir atribuciones que pueden no ser precisas.
Las fuentes en línea también pueden estar sesgadas. Según el sitio web de OpenAI, si bien la empresa ha intentado hacer que ChatGPT rechace solicitudes inapropiadas, “a veces responderá a instrucciones dañinas o exhibirá un comportamiento sesgado”.
5. No es tan inteligente como los humanos.
Para que la inteligencia artificial sea tan inteligente como los humanos, dijo Gupta, debe poder razonar.
Como humanos, podemos tomar una decisión sin toda la información necesaria, dijo Gupta. Reproducir este fenómeno en una computadora no es poca cosa, y ChatGPT aún no lo ha logrado.
ChatGPT no es el primero de su tipo y probablemente no será el último. Si bien puede mantener una conversación o responder una pregunta, no “sabe” ni “siente” nada; todo lo que puede hacer es completar el espacio en blanco, palabra por palabra.
También puede comentar sobre sus propias limitaciones. Cuando se le pidió que terminara este artículo en una oración, ChatGPT respondió:
“Si bien ChatGPT puede generar resultados creativos y proporcionar respuestas a ciertas preguntas, sus limitaciones y el potencial de respuestas sesgadas e inexactas resaltan la necesidad de precaución al usar modelos de lenguaje de IA”.
