Các nhà khoa học tại Stanford khám phá tiềm năng và giới hạn của AI trong hỗ trợ nghiên cứu khoa học và đánh giá ngang hàng

Tin tức ME, ngày 1 tháng 4 (UTC+8), nhà khoa học máy tính James Zou của Đại học Stanford gần đây đã khám phá việc các mô hình ngôn ngữ lớn có thể hỗ trợ các đồng nghiệp trong quy trình phản biện học thuật và đẩy nhanh tiến độ nghiên cứu như thế nào. Ông tham gia một thí nghiệm ngẫu nhiên quy mô lớn liên quan đến khoảng 20.000 lượt phản biện để đánh giá tác động của việc hỗ trợ AI đối với chất lượng phản biện. Kết quả nghiên cứu cho thấy AI thể hiện rất tốt trong việc phát hiện các lỗi hoặc sự không nhất quán mang tính khách quan, có thể kiểm chứng (như dữ liệu không khớp, công thức sai), nhưng có những hạn chế trong các đánh giá mang tính chủ quan như việc xem xét tính mới lạ hoặc mức độ quan trọng của nghiên cứu, và đôi khi thậm chí có xu hướng nịnh bợ. Zou nhấn mạnh rằng AI nên hỗ trợ chứ không thay thế quyết định của con người; các nhà khoa học cần chịu trách nhiệm cuối cùng về nghiên cứu và phải minh bạch về mức độ AI tham gia. Thí nghiệm cho thấy phản hồi của AI giúp nâng cao chất lượng phản biện và mức độ tham gia của người phản biện. Trong tương lai, kế hoạch sẽ tổ chức thêm nhiều hội nghị hơn để chuẩn hóa việc ứng dụng AI trong khoa học. (Nguồn: InFoQ)