Các nhà khoa học tại Stanford khám phá tiềm năng và giới hạn của AI trong hỗ trợ nghiên cứu khoa học và đánh giá ngang hàng

Tin tức từ ME. Ngày 1 tháng 4 (UTC+8), nhà khoa học máy tính của Đại học Stanford, James Zou, gần đây đã khám phá việc các mô hình ngôn ngữ lớn hỗ trợ các đồng nghiệp của giới khoa học trong việc phản biện và tăng tốc tiến trình nghiên cứu như thế nào. Ông tham gia một thử nghiệm ngẫu nhiên quy mô lớn liên quan đến khoảng 20.000 bản nhận xét nhằm đánh giá tác động của việc hỗ trợ AI đối với chất lượng phản biện. Nghiên cứu phát hiện rằng AI thể hiện rất tốt trong việc phát hiện các lỗi hoặc sự không nhất quán mang tính khách quan, có thể kiểm chứng (như dữ liệu không khớp, công thức sai), nhưng có những hạn chế khi đưa ra các phán đoán chủ quan như đánh giá tính mới lạ hay mức độ quan trọng của nghiên cứu, thậm chí đôi khi có xu hướng nịnh bợ. Zou nhấn mạnh rằng AI nên hỗ trợ chứ không thay thế quyết định của con người; các nhà khoa học cần chịu trách nhiệm cuối cùng cho nghiên cứu, và phải công khai mức độ tham gia của AI. Thử nghiệm cho thấy phản hồi từ AI giúp nâng cao chất lượng phản biện và mức độ tham gia của người phản biện. Kế hoạch trong tương lai là tổ chức thêm nhiều cuộc hội thảo để chuẩn hóa việc ứng dụng AI trong khoa học. (Nguồn: InFoQ)