Buenas prácticas para usar inteligencia artificial al escribir manuscritos científicos

La ciencia creativa depende de las buenas prácticas de uso de la herramienta

Autor/a: Jillian M. Buriak, Deji Akinwande, Natalie Artzi, et al Fuente: ACS Nano, 17, 5, 40914093 2023  Best Practices for Using AI When Writing Scientific Manuscripts

La llegada de herramientas de lenguaje impulsadas por inteligencia artificial (IA), como ChatGPT ha generado una explosión de interés a nivel mundial. Muchos investigadores científicos y universidades de todo el mundo han expresado su preocupación por el potencial de ChatGPT para transformar la comunicación científica antes de que hayamos tenido tiempo de considerar las ramificaciones de dicha herramienta o verificado que el texto que genera es realmente correcto.

La calidad humana de la estructura del texto producida por ChatGPT puede engañar a los lectores haciéndoles creer que es de origen humano. Ahora es evidente, sin embargo, que el texto generado puede estar plagado de errores, puede ser superficial y puede generar referencias e inferencias falsas. Más importante aún, ChatGPT a veces hace conexiones que no tienen sentido y son falsas.

Hemos preparado un breve resumen de algunas de las fortalezas y debilidades de ChatGPT (y futuros bots de lenguaje de IA) y concluimos con un conjunto de nuestras recomendaciones de mejores prácticas para los científicos al usar tales herramientas en cualquier etapa de su investigación, particularmente en la etapa de escritura del manuscrito. En su encarnación actual, ChatGPT es simplemente un bot de lenguaje eficiente que genera texto mediante conexiones lingüísticas. Es, en la actualidad, "solo una máquina gigante de autocompletar". Debe reconocerse que ChatGPT se basa en su base de datos y contenido existentes y, al momento de escribir este editorial, no incluye información publicada o publicada después de 2021, lo que restringe su utilidad cuando se aplica a la redacción de reseñas actualizadas, perspectivas e introducciones. Por lo tanto, para revisiones y perspectivas, ChatGPT es deficiente debido a su falta de capacidades analíticas que se espera que posean los científicos y las experiencias que nos informan.

La preocupación más importante es que estos bots de lenguaje de IA son incapaces de comprender nueva información, generar conocimientos o análisis profundos, lo que limitaría la discusión dentro de un artículo científico.

Si bien parecen estar bien formulados, los resultados son, sin embargo, superficiales, y una confianza excesiva en el resultado podría sofocar la creatividad en toda la empresa científica. Las herramientas de IA son adecuadas para regurgitar la sabiduría convencional, pero no para identificar o generar resultados únicos.

---

Recomendaciones para el uso de IA en comunicación científica Reconoce el uso de un bot de IA/GPT para preparar el manuscrito. Indique claramente qué partes del manuscrito utilizaron la salida del bot de lenguaje y proporcione indicaciones y preguntas y/o transcripción en la Información de apoyo.   Recuerde a sus coautores y a usted mismo que, en el mejor de los casos, el resultado del modelo GPT de chat es simplemente un borrador muy inicial. El resultado está incompleto, puede contener información incorrecta y cada oración y declaración debe considerarse de manera crítica. Comprobar, comprobar y volver a comprobar. Y luego…, verifique nuevamente.   No use texto palabra por palabra de ChatGPT. Estas no son sus palabras. Es posible que el bot también haya reutilizado texto de otras fuentes, lo que lleva a un plagio involuntario.   Cualquier cita recomendada por un chat/GPT de bot de IA debe verificarse con la literatura original, ya que se sabe que el bot genera citas erróneas.   No incluya ChatGPT, ni a ningún otro bot basado en IA como coautor. No puede generar nuevas ideas o componer una discusión basada en nuevos resultados, ya que ese es nuestro dominio propio como humanos. Es simplemente una herramienta, como muchos otros programas para ayudar con la formulación y redacción de manuscritos.   ChatGPT no se hace responsable de ninguna declaración o incumplimiento ético. Tal como está, todos los autores de un manuscrito comparten esa responsabilidad.   Y lo más importante, no permita que ChatGPT sofoque su creatividad y pensamiento profundo. ¡Úselo solo para expandir sus horizontes y generar nuevas ideas!