Inteligencia artificial en la escritura científica: oportunidades y desafíos en ciencias de la salud

Resumen

Este manuscrito explora los diferentes usos de la inteligencia artificial en la escritura científica, con un énfasis particular en ChatGPT. Desde su lanzamiento en noviembre de 2022, esta herramienta ha transformado la redacción académica, generando un debate polarizador en la comunidad científica en torno a sus ventajas y desventajas. Este trabajo repasa los beneficios del uso de ChatGPT, tales como su capacidad para mejorar la claridad y fluidez de los textos, superar el bloqueo del escritor y proporcionar asistencia en la revisión de textos, y explora las dificultades que pueden limitar su adopción, incluyendo preocupaciones sobre la precisión y el riesgo de sesgo de la información. Por último, reflexiona sobre las implicaciones éticas y prácticas del uso de ChatGPT en la escritura científica.

Introducción

La escritura científica es una forma de comunicación utilizada para la presentación y la difusión de los resultados de una investigación para la comunidad científica. Sus objetivos principales son transmitir información en el ámbito académico de manera efectiva, facilitar la replicación de estudios, y contribuir al avance del conocimiento. Para alcanzar estos objetivos, la escritura científica debe ser clara, precisa y estructurada, siguiendo un flujo lógico que facilite la comprensión del lector. Además, debe ser objetiva, sustentando con afirmaciones respaldadas por evidencia, evitando ambigüedades así como el uso de jergas, y manteniendo un estilo profesional y formal1.

Si bien no existe una definición única y simple, debido a que las herramientas de inteligencia artificial (IA) son capaces de realizar una amplia gama de tareas, la AI puede ser definida como un sistema artificial capaz de resolver tareas que requieren percepción, cognición, planificación, comunicación u otras acciones similares a las humanas, en condiciones variables e impredecibles, sin supervisión significativa2. Esta tecnología se basa en algoritmos y modelos de aprendizaje automático que permiten a los sistemas aprender de los datos y mejorar su desempeño con el tiempo3.

La IA ha transformado diversos campos, incluida la escritura científica. ChatGPT®, un modelo de lenguaje desarrollado por la empresa OpenAI, es una herramienta con múltiples aplicaciones para investigadores y académicos4. Desde su lanzamiento en noviembre de 2022, esta herramienta alcanzó los 100 millones de usuarios en tan sólo dos meses5, provocando una transformación en diversos sectores, entre ellos la escritura científica. En ciencias de la salud, este avance ha generado un debate polarizado en la comunidad científica acerca de sus ventajas y desventajas, reflejando preocupaciones sobre el impacto potencial de la IA en la integridad científica y la calidad de la investigación.

Usos de ChatGPT en la escritura científica ¿sí o no?

Si bien ChatGPT puede asistir a los autores en diversas etapas del proceso de escritura científica, su uso plantea tanto oportunidades como desafíos 6, 7. Este artículo explora tanto los aspectos negativos como los positivos del uso de ChatGPT en la escritura científica desde una perspectiva crítica y constructiva, fundamentada en una revisión narrativa de la evidencia disponible.

Superación del bloqueo del escritor

Uno de los desafíos que pueden enfrentar los autores durante la escritura científica es el bloqueo del escritor. En este contexto, ChatGPT puede actuar como un colaborador, proponiendo una lluvia de ideas y/o asistiendo en la organización del documento con la información proporcionada. Además, los autores pueden interactuar con el modelo para expandir sus ideas y recibir sugerencias novedosas en cuestión de segundos8. Este intercambio de ideas promueve un flujo de creatividad y ayuda a superar las barreras mentales que suelen surgir en las primeras instancias de redacción. Como resultado, el modelo podría generar varios borradores de los cuales los autores pueden inspirarse, identificando patrones y asociando información relevante. No obstante, es importante tener en cuenta que, ante el rápido avance de la tecnología, existe el riesgo de que ChatGPT sea utilizado de manera inapropiada, dando lugar a artículos que carezcan de rigor o validez científica, errores en las referencias, o falta de pensamiento crítico o contexto clínico9, que indudablemente debería ser aportado por el experto humano.

Asistencia en la escritura

Uno de los principales beneficios de ChatGPT radica en su capacidad como asistente de escritura4. Este modelo es capaz de generar textos coherentes, con un flujo adecuado y claro, cumpliendo con los estándares de la escritura científica. Además, se destaca por su habilidad para estructurar el contenido de manera lógica, lo que facilita la lectura y la comprensión del manuscrito10.

ChatGPT puede colaborar en la construcción de títulos y subtítulos, así como condensar información para generar resúmenes o acortar contenido para facilitar el cumplimiento de las normas de extensión (p. ej,: recuento máximo de palabras). Además, podría asistir en la construcción de las diferentes secciones de un manuscrito con formato IMRyD (Introducción, Métodos, Resultados y Discusión)11, 12.

Sin embargo, al emplear ChatGPT como asistente debemos conocer el fenómeno denominado ‘alucinación artificial’, término que se refiere a la capacidad de esta herramienta de producir respuestas que, aunque pueden sonar creíbles, son incorrectas o carecen de sentido13. Estos errores pueden deberse a una variedad de factores, como datos de entrenamiento insuficientes, suposiciones incorrectas generadas por el modelo o sesgos en los datos utilizados para entrenarlo.

ChatGPT también podría utilizarse como herramienta de recorte de texto o resumen. No obstante, este uso debe hacerse con cautela. Un estudio reciente documentó su ineficacia para respetar un número máximo de palabras14, y otro, que cumple con menos del 10% de los requisitos de las revistas para la publicación de resúmenes15. Sin embargo, es probable que exista cierta variabilidad en función de las instrucciones (conocidas como prompts), ya que estas influyen en la calidad y relevancia de las respuestas generadas por el modelo.

Por otro lado, es fundamental tener en cuenta que, aunque ChatGPT puede asistir en la generación de contenido durante la escritura científica, carece de comprensión contextual y no posee un sentido crítico del entorno. Un autor reportó que ChatGPT no conoce el significado de ciertas palabras (p. ej., sol, horizonte o mundo), ni puede contextualizarlas en forma adecuada16. Por lo tanto, aunque el uso de ChatGPT como asistente en la escritura puede ayudar a ahorrar de tiempo y aumentar la productividad, siempre necesita la supervisión y la validación del ser humano17.

Traducción de texto

ChatGPT puede ser utilizado como asistente en la traducción de textos. Además de corregir errores de ortografía, puntuación y gramática18, este modelo puede realizar traducciones con adaptaciones que permitan que el discurso suene natural y fluido, considerando las expresiones idiomáticas en lugar de limitarse a una traducción literal (o palabra por palabra), capturando el sentido y el significado del texto original. Esta aplicación resulta especialmente útil para autores cuya lengua materna no es el inglés, ya que facilita el proceso de traducción y puede contribuir a reducir las disparidades en la publicación científica y en el acceso al conocimiento en regiones hispanoparlantes17, 18, 19. Sin embargo, algunos estudios han señalado que, si bien ChatGPT tiene un buen desempeño en la traducción de idiomas de países europeos y de altos ingresos, su calidad de traducción es inferior en el caso de idiomas de países de menores ingresos o lenguas menos comunes20, 21, 22.

Parafraseo

El parafraseo y la ética están relacionados en el contexto de la escritura y la investigación, especialmente en lo que respecta a la propiedad intelectual y el reconocimiento de la fuente original. Por este motivo, una habilidad necesaria para la producción de textos científicos es la capacidad de parafrasear, es decir, reformular ideas de otros autores con nuevas palabras, pero siempre manteniendo el significado original. Se requiere de cierta destreza en el parafraseo para producir contenido científico sin incurrir en plagio, y ChatGPT puede ser utilizado para reformular y parafrasear algunas frases23. Sin embargo, con el uso de herramientas de IA (como ChatGPT) se está comenzando a observar cada vez más un tipo de plagio conocido como ‘parafragio’24. Este término refiere a la modificación de pasajes copiados de manera textual mediante el uso de sinónimos y a la reestructuración de oraciones y párrafos con el fin de eludir la detección por parte de los programas de software antiplagio25. Algunos estudios reportaron tasas de plagio de hasta el 45% en textos parafraseados por ChatGPT, lo que ha inducido preocupaciones sobre la autenticidad y la originalidad del contenido generado por esta herramienta26.

Gestión de referencias

Si bien ChatGPT puede sugerir referencias sobre un tema específico, o incluso formatearlas de acuerdo a los requisitos de diversas revistas académicas, es importante conocer sus limitaciones. En ciertas ocasiones, se observó que el modelo puede generar citas imprecisas o incluso ficticias. Una revisión panoramica sobre uso de ChatGPT en educación medica reveló que aproximadamente 12% de los estudios incluidos reportaron la generación de referencias falsas o inexactas27, lo que plantea un gran interrogante sobre la fiabilidad de esta función. Además, otro estudio encontró que solamente el 10% de las referencias producidas por ChatGPT fueron correctas28. Estas cifras subrayan la necesidad de que los autores ejerzan un escrutinio cuidadoso y validación de las referencias sugeridas por el modelo para asegurarse de que cumplan con los estándares académicos requeridos, o que se planteen no utilizar la herramienta para esta función específica. Así, si bien ChatGPT podría facilitar el proceso de gestión de referencias, su uso debe complementarse con la diligencia y el rigor propios de la investigación académica-científica.

Desafíos éticos en el uso de IA

Las cualidades de la IA también han suscitado otras controversias en el ámbito académico, relacionadas al debate sobre la ética de utilizar estas herramientas sin declararlo, o incluso la posibilidad de considerarlas como coautores del manuscrito. Si bien existe un consenso internacional en que la IA no puede poseer derechos de autor, las opiniones difieren respecto a su inclusión o no en la autoría29. La mayoría de las revistas científicas sostienen que la IA no cumple con los criterios de autoría, dado que no pueden asumir responsabilidades morales ni legales por sus producciones30, 31.

Otro punto de debate ético es el manejo de la información proporcionada por el usuario por parte de los modelos. Dado que ChatGPT podría hacer uso de los datos provistos sus usuarios para enriquecer la base de conocimiento de la IA, estos están obligados a ser cautelosos al compartir datos sensibles o personales. Esto es particularmente importante cuando se trabaja con información confidencial de pacientes, así como con hallazgos científicos preliminares (aún no publicados) y durante el proceso de revisión de pares (dado que las pautas éticas determinan que los revisores cumplan la responsabilidad de mantener la confidencialidad del manuscrito y no difundir la información no publicada)32.

Además, ha sido documentado que los contenidos generados por ChatGPT pueden estar expuestos a sesgos de diversa índole. Esto ocurre porque el modelo genera respuestas a partir de patrones y asociaciones estadísticas presentes en los datos utilizados para su entrenamiento32, 9. Con frecuencia esta información puede presentar sesgos en las respuestas, que varían desde aspectos culturales hasta político-ideológicos33.

Reflexiones finales

ChatGPT ofrece algunas capacidades prometedoras para colaborar con los autores en el proceso de escritura científica: (a) asistir a autores no nativos en el idioma inglés (mediante la traducción o la redacción), (b) mejorar la coherencia del texto, y (c) ayudar a superar el bloqueo del escritor. Estas lo convierten en una herramienta valiosa para los investigadores que buscan aumentar su productividad, mejorando la claridad del texto. Sin embargo, estos potenciales beneficios no están exentos de riesgos. La propensión de la herramienta a generar información inexacta, crear referencias falsas e introducir sesgos en el contenido plantea desafíos éticos y determina la necesidad de recomendaciones para su aplicación práctica. Además, las preocupaciones sobre la privacidad de los datos, la calidad de los resultados generados por la IA y el mal uso potencial de la herramienta (p. ej., para la producción de textos superficialmente alterados pero plagiados) complican aún más su integración a las prácticas académicas.

Aunque ChatGPT y otras herramientas de IA similares tienen el potencial de transformar la escritura científica, su uso debe abordarse con cautela. Los investigadores deben garantizar que la supervisión humana siga siendo central en el proceso de redacción, para salvaguardar la integridad, precisión y originalidad de las publicaciones académicas. El futuro de la IA en la investigación científica dependerá del desarrollo de directrices más estrictas y de mejoras en las funcionalidades de los modelos para mitigar los riesgos, maximizando los beneficios potenciales de la herramienta en forma simultánea.