Năm 2018, Cơ quan Quản lý Thực phẩm và Dược phẩm Hoa Kỳ (FDA) đã chính thức cho phép thiết bị trí tuệ nhân tạo đầu tiên chẩn đoán các bệnh về mắt. Chỉ một vài năm trở lại đây, một số lượng lớn các hệ thống y tế trí tuệ nhân tạo đã xuất hiện trong lĩnh vực y tế. Nhưng liệu những chẩn đoán của các ‘bác sĩ’ này có đáng tin cậy?

Theo Epoch Times, Jason H. Moore, Giám đốc Viện Tin học Y sinh tại Đại học Pennsylvania, gần đây đã đăng một bài báo trên tạp chí Scientific American đặt câu hỏi về một số hạn chế của phần mềm chẩn đoán trí tuệ nhân tạo. Trong số đó, điều ông cho là đáng lo ngại nhất chính là việc các phần mềm này trực tiếp đưa ra kết quả chẩn đoán mà không cần đưa ra lý do.

Ông Moore là một nhà khoa học tin sinh học, tin học y sinh và nhà di truyền học. Ông bày tỏ rất vui mừng khi thấy sự phát triển của trí tuệ nhân tạo, đặc biệt là đối với việc xử lý dữ liệu lớn, các hệ thống này cho thấy những ưu điểm mà nhân lực không thể đạt tới.

Vào ngày 28/6, Tổ chức Y tế Thế giới (WHO) đã công bố đề cương quản lý các hệ thống y tế trí tuệ nhân tạo, có ý kiến ​​cho rằng các phần mềm này thiếu tinh thần trách nhiệm, công bằng, đạo đức nghề nghiệp, tính minh bạch và các khía cạnh khác.

Ông Moore nói rằng các hệ thống trí tuệ nhân tạo có nhiều thành kiến ​​tiềm ẩn khác nhau. Điều này là do bản thân các nhà thiết kế có những định kiến ​​khác nhau, và họ để lại những ảnh hưởng như vậy trong hệ thống một cách vô thức khi thiết kế hệ thống. Để loại bỏ những định kiến ​​này khỏi hệ thống trí tuệ nhân tạo là một công việc vô cùng khó khăn. Ví dụ, một hệ thống được sử dụng trong phòng cấp cứu vô tình đối xử với những người có màu da khác nhau một cách khác nhau.

Tuy nhiên, ông Moore cho rằng vấn đề tồi tệ nhất hiện nay là tính minh bạch trong quy trình chẩn đoán của hệ thống y tế trí tuệ nhân tạo rất kém.

Đối với các bệnh khó chữa, bệnh nhân thường hỏi ý kiến của nhiều chuyên gia và bác sĩ, và thường đặt ra những câu hỏi như “Tại sao bác sĩ cho rằng phương pháp điều trị này là tốt nhất?” hoặc “Tại sao bác sĩ lại đề nghị phương pháp điều trị này?”. Các bác sĩ có thể trả lời từng người một, loại bỏ những nghi vấn của bệnh nhân và tạo dựng niềm tin. Nhưng hệ thống y tế trí tuệ nhân tạo hiện tại hoàn toàn không thể trả lời những câu hỏi này.

Ông Moore nói rằng hầu hết các phần mềm trí tuệ nhân tạo hiện nay đều đến từ các tổ chức thương mại, để bảo vệ quyền sở hữu trí tuệ họ không tiết lộ các thuật toán bên trong. Các chi tiết bên trong không minh bạch, nó có thể là một trong những yếu tố mà các hệ thống này không thể giải thích cho bệnh nhân về chẩn đoán được đưa ra.

Tuy nhiên, MYCIN, hệ thống trí tuệ nhân tạo ra đời sớm nhất vào những năm 1970, có thể tự giải thích. Hệ thống đó có thể tự động kê đơn thuốc chống viêm cho bệnh nhân trong phòng chăm sóc đặc biệt. Đối mặt với câu hỏi “tại sao”, hệ thống sẽ đưa ra các khả năng khác nhau mà nó đã tính toán và cho bệnh nhân biết cách nó nhận được kết quả hiển thị trong đơn thuốc.

Thật không may, một chức năng quan trọng như vậy đã bị mất đi trong quá trình phát triển nhanh chóng của trí tuệ nhân tạo trong những năm gần đây. Ông Moore tin rằng điều này chỉ có thể được thực hiện nếu hệ thống ghi lại từng bước tính toán và hiển thị nó. Nếu vậy, ông hy vọng rằng các nhà thiết kế tiếp theo có thể kết hợp điều này như một yếu tố chính của hệ thống vào thiết kế.

Cũng có thể là một số hệ thống hiện nay phức tạp đến mức ngay cả bản thân các nhà thiết kế cũng không thể tìm ra cơ chế hoạt động bên trong. Ông Moore nói rằng, một hệ thống trí tuệ nhân tạo như vậy không phù hợp với tư cách là một hệ thống y tế và hoàn toàn không thể sử dụng được.

Có thể bạn quan tâm: