Científico de Stanford explora el potencial y las limitaciones de la investigación científica asistida por IA y la revisión por pares

Noticias de ME: 1 de abril (UTC+8). El científico informático de la Universidad de Stanford, James Zou, recientemente exploró las aplicaciones de los grandes modelos de lenguaje para ayudar a colegas científicos con la revisión por pares y acelerar el progreso de la investigación. Participó en un gran experimento aleatorio a gran escala que incluyó alrededor de 20k revisiones, para evaluar el impacto de la asistencia de la IA en la calidad de las evaluaciones. El estudio encontró que la IA se desempeña muy bien al detectar errores u inconsistencias objetivas y verificables (como datos que no coinciden o fórmulas incorrectas), pero tiene limitaciones al evaluar juicios subjetivos como la novedad o la importancia de un estudio; en algunos casos, incluso muestra una tendencia a halagar. Zou enfatizó que la IA debe apoyar y no reemplazar las decisiones humanas; los científicos deben responsabilizarse en última instancia de la investigación, y deben explicar de manera transparente el grado de participación de la IA. El experimento mostró que los comentarios de la IA mejoraron la calidad de las revisiones y el nivel de participación de los revisores. En el futuro, se planea celebrar más conferencias para regular la aplicación de la IA en la ciencia. (Fuente: InFoQ)