Các nhà khoa học tại Stanford khám phá tiềm năng và giới hạn của AI trong hỗ trợ nghiên cứu khoa học và đánh giá ngang hàng

Tin tức ME: Ngày 1 tháng 4 (UTC+8), nhà khoa học máy tính của Đại học Stanford, James Zou gần đây đã khám phá việc các mô hình ngôn ngữ lớn có thể hỗ trợ đồng nghiệp trong giới khoa học phản biện và đẩy nhanh tiến độ nghiên cứu như thế nào. Anh đã tham gia một thí nghiệm ngẫu nhiên quy mô lớn liên quan đến khoảng 20kài đánh giá để đánh giá tác động của việc hỗ trợ AI đối với chất lượng phản biện. Kết quả nghiên cứu cho thấy AI thể hiện tốt trong việc phát hiện các lỗi hoặc điểm không nhất quán mang tính khách quan, có thể kiểm chứng (như dữ liệu không khớp, lỗi trong công thức), nhưng lại có những hạn chế trong việc đưa ra các phán đoán mang tính chủ quan như đánh giá sự mới mẻ hay mức độ quan trọng của nghiên cứu, thậm chí đôi khi còn có xu hướng nịnh bợ. Zou nhấn mạnh rằng AI cần hỗ trợ chứ không thay thế quyết định của con người; các nhà khoa học phải chịu trách nhiệm cuối cùng về nghiên cứu và cần công khai mức độ tham gia của AI. Thí nghiệm cho thấy phản hồi từ AI giúp nâng cao chất lượng phản biện và mức độ tham gia của người phản biện. Trong tương lai, kế hoạch tổ chức thêm nhiều hội nghị để chuẩn hóa việc ứng dụng AI trong khoa học. (Nguồn: InFoQ)