UNIDIR sắp ra mắt diễn đàn về AI quân sự, cảnh báo nguy cơ mất quyền kiểm soát

Viện Nghiên cứu Giải trừ Quân bị Liên Hợp Quốc (UNIDIR) thông báo ngày 20/10 rằng ngày 22/10 sẽ khởi động diễn đàn đa bên đầu tiên trong hệ thống Liên Hợp Quốc chuyên thảo luận về trí tuệ nhân tạo trong lĩnh vực quân sự, trong bối cảnh công nghệ này phát triển nhanh và làm dấy lên lo ngại về nguy cơ đối với con người.

AI đi sâu vào chiến trường, thời gian quyết định bị rút ngắn

Theo bài viết của phóng viên Ngô Thụy Xương trên Epoch Times tiếng Trung, Giám đốc UNIDIR Robin Geiss cảnh báo tại cuộc họp báo Liên Hợp Quốc hôm 20/10: “Chiến tranh máy móc đang từng bước tiến đến. Câu hỏi trước mắt chúng ta rất đơn giản: chúng ta có để máy móc xác định mục tiêu và giết con người hay không?”

Ông Geiss cho biết AI đang thâm nhập nhanh chóng và rộng khắp vào lĩnh vực quân sự, từ phân tích tình báo, nhận diện mục tiêu, thiết bị bay không người lái đến tấn công mạng và chiến tranh thông tin. Theo ông, chu kỳ ra quyết định đang bị nén xuống tốc độ của máy móc, khiến khoảng trống dành cho phán đoán của con người ngày càng hẹp, kể cả trong lĩnh vực hạt nhân.

Ông nhận định cuộc đua AI quân sự về bản chất là cuộc đua tốc độ, nhằm rút ngắn thời gian từ phát hiện mục tiêu đến khai hỏa. Hiện rất khó xác định còn bao lâu trước khi robot vượt khỏi sự kiểm soát của con người, cũng như ở thời điểm nào con người thực sự mất quyền kiểm soát. Theo ông, sự bất định đó chính là vấn đề cần giải quyết.

Ông cảnh báo hoạt động thiếu minh bạch của nhiều hệ thống AI làm tăng nguy cơ phán đoán sai và xung đột leo thang ngoài ý muốn. Khi công cụ AI ngày càng dễ tiếp cận, rào cản tiến hành những hoạt động quân sự phức tạp cũng giảm xuống, tạo khả năng để các chủ thể phi nhà nước thực hiện những hoạt động như vậy.

Ông Geiss cho biết trước đây các bên thường không muốn thảo luận về những giới hạn bảo đảm an toàn cho AI. Tuy nhiên, khi năng lực AI lan rộng và tác động sâu hơn, các bên ngày càng nhận ra nhân loại đang đứng trước ngã rẽ và cần hành động ngay, bao gồm trong lĩnh vực AI quân sự.

Diễn đàn tập trung vào ba hướng công việc

Trong bối cảnh đó, Trung tâm Xuất sắc về AI, Hòa bình và An ninh thuộc UNIDIR cùng Thụy Sĩ và Pakistan khởi xướng diễn đàn, tập hợp chính phủ các nước, doanh nghiệp, xã hội dân sự và giới học thuật. Theo bài nguồn, đây hiện là nền tảng đa bên duy nhất trong hệ thống Liên Hợp Quốc nghiên cứu AI từ góc độ hòa bình, an ninh quốc tế và quân sự. Trung tâm được thành lập tại Geneva vào tháng 6 năm nay.

Hướng thứ nhất là xây dựng “Khung hành vi có trách nhiệm của doanh nghiệp”. Ông Geiss cho rằng các quyết định trong quá trình thiết kế và phát triển của doanh nghiệp sẽ quyết định liệu năng lực quân sự ứng dụng AI có đáng tin cậy, có thể dự đoán và vận hành phù hợp với luật pháp quốc tế hay không.

Khung này sẽ đưa ra hướng dẫn thực tiễn, mang tính tự nguyện, dựa trên luật pháp quốc tế và các biện pháp bảo vệ nhân quyền. UNIDIR dự kiến tham vấn các công ty công nghệ quốc phòng, nhà phát triển phần mềm, nhà thầu phụ và nhà đầu tư trong tuần này.

Hướng thứ hai là biên soạn “Bảng thuật ngữ về an toàn AI”. Hiện các bên hiểu rất khác nhau về những khái niệm quan trọng như “tự chủ” và “an toàn”, gây trở ngại cho lòng tin và hợp tác, nên cần thống nhất định nghĩa trước.

Hướng thứ ba là ứng phó nguy cơ các nhóm vũ trang phi nhà nước lạm dụng AI. Ông Geiss cảnh báo các nhóm này đã sử dụng AI để hỗ trợ lập kế hoạch tác chiến, thực hiện hoạt động và bảo đảm hậu cần.

Theo Ngô Thụy Xương, Epoch Times tiếng Trung. Đối chiếu lịch ra mắt tại UNIDIR.