En su artículo para la BBC, Chris Vallance describe OpenAI, una empresa de investigación en inteligencia artificial cofundada por Elon Musk. La compañía ha lanzado recientemente un nuevo chatbot llamado ChatGPT, que en tan solo una semana desde su lanzamiento público ha atraído a más de un millón de usuarios.
A pesar de que el desarrollo de ChatGPT es un logro tecnológico notable, OpenAI reconoce rápidamente que el chatbot puede producir respuestas problemáticas y exhibir comportamientos sesgados. La compañía ha declarado que está “ansiosa por recopilar comentarios de los usuarios para ayudar en nuestro trabajo continuo para mejorar este sistema”.
ChatGPT es el último de una serie de AIs a los que OpenAI se refiere como GPTs, o Transformadores Pre-Entrenados Generativos, y fue desarrollado a través de conversaciones con entrenadores humanos que ajustaron una versión temprana del sistema.
A pesar de los impresionantes resultados iniciales, todavía existen riesgos involucrados en el uso de dicha tecnología. La advertencia de OpenAI sobre respuestas problemáticas y comportamientos sesgados son indicadores claros de que los chatbots, como ChatGPT, pueden ser propensos a cometer errores e incluso promover puntos de vista problemáticos. También pueden ser utilizados de manera inapropiada, como para hacer tareas o escribir informes.
Si está interesado en analizar textos, puede visitar GPT-Detective. Asimismo, si desea realizar un análisis a nivel de oración sobre el uso de GPT, puede visitar Document-Detective.
