Nghiên cứu của MIT và Đại học Queensland cho thấy nguy cơ 12% do AI hỗ trợ vũ khí sinh học có thể gây ra thảm họa vào năm 2030

Theo Axios, một nghiên cứu chung của MIT FutureTech và Đại học Queensland được công bố hôm nay cho thấy trong số 272 nhà nghiên cứu đánh giá 24 rủi ro từ AI, có xác suất 12% rằng năng lực AI có thể dẫn tới các kết cục thảm khốc—được định nghĩa là trên 1 triệu ca tử vong hoặc hơn 100Bỷ USD thiệt hại—trước năm 2030, trong khi vẫn áp dụng các biện pháp giảm thiểu hiện có. Xác suất này cũng tương ứng với vũ khí sử dụng AI và các hình thức gây hại quy mô lớn. Nếu không có biện pháp giảm thiểu, rủi ro này vượt quá 20%. Nghiên cứu xếp việc hỗ trợ bằng AI trong việc chế tạo vũ khí hóa học và sinh học vào nhóm các hạng mục có rủi ro cao nhất.

Nhiều lãnh đạo từ các công ty AI lớn cũng đã ban hành một bức thư công khai chung cảnh báo về rủi ro vũ khí sinh học do AI tạo ra, kêu gọi tăng cường kiểm toán năng lực của mô hình và các biện pháp an toàn, đặc biệt nhằm đối phó với khả năng lạm dụng các mô hình mã nguồn mở.