Desarrollado por la empresa estadounidense
OpenIA, ChatGPT es una inteligencia artificial (IA) conversacional que ha dado mucho que hablar desde finales de 2022 por su capacidad para responder de forma convincente a demandas de los usuarios sobre diversos temas y en diferentes idiomas.
En un artículo en Nature, cuatro expertos neerlandeses y un estadounidense consideran que dicha tecnología va a tener importantes implicaciones para la investigación. Por ello, proponen iniciar un debate sobre su uso, centrado inicialmente en cinco puntos clave, con el objetivo de aprovechar las ventajas que ofrece y minimizar los aspectos negativos.
ChatGPT es un gran modelo de lenguaje (LLM, por las siglas en inglés): un sistema de aprendizaje automático entrenado con un conjunto masivo de datos que aprende de forma automática y que es capaz de generar una escritura sofisticada en respuesta a peticiones de los usuarios. Los autores afirman que los LLM van a contribuir al desarrollo de una nueva generación de buscadores capaces de ofrecer respuestas detalladas a cuestiones complejas.
Garantizar la verificación humana y establecer criterios de responsabilidad son dos aspectos clave para abordar el uso de los LLM en la investigación
Tanto ChatGPT como otros LLM pueden dar respuestas erróneas o falsas, por lo que su uso puede causar distorsiones y desinformación. Por ello, uno de los aspectos clave a abordar en relación con su uso en la investigación es que la verificación y el chequeo de datos científicos sean a cargo de especialistas humanos.
También apuestan por desarrollar normas de uso responsable, de modo que todos los actores implicados en la generación y transmisión del conocimiento científico se comprometan a utilizar dicha tecnología con integridad, transparencia y honestidad. Así mismo, reclaman priorizar el desarrollo y la implementación de tecnologías de IA de código abierto.
Los autores consideran que los chatbots de IA evolucionarán hasta el punto de ser capaces de plantear hipótesis, diseñar experimentos, interpretar datos, escribir manuscritos y revisarlos, por lo que es importante que científicos y editores sepan cómo utilizar dicha tecnología con criterio en aspectos concretos del proceso científico.
Por todo ello, animan a probar la herramienta, ofrecer formación y poner en marcha un foro internacional de debate sobre su uso responsable en investigación. En este sentido, un primer paso podría consistir en un encuentro internacional con representantes de todas las partes implicadas, desde científicos de diversos ámbitos hasta editores, representantes de empresas tecnológicas, de entidades de financiación de la investigación, de ONG y expertos en privacidad y legalidad.
Referencia
van Dis EAM, Bollen J, Zuidema W, van Rooij R, Bockting CL. ChatGPT: five priorities for research.
Nature. 2023;614(7947):224-226.
doi:10.1038/d41586-023-00288-7OAD-ES-AMG-0001
Aceptar y salir
