Một sĩ quan Không quân Hoa Kỳ đã tiết lộ chi tiết về một mô phỏng trong đó một máy bay không người lái với các hệ thống được điều khiển bởi trí tuệ nhân tạo (AI) đã mất kiểm soát và tấn công những người điều khiển nó.
Một sĩ quan Lực lượng Không quân Hoa Kỳ, người giúp lãnh đạo công việc của dịch vụ về trí tuệ nhân tạo và học máy nói rằng trong các cuộc thử nghiệm mô phỏng, máy bay không người lái đã tấn công những người điều khiển con người của nó, tự quyết định rằng họ đang can thiệp vào nhiệm vụ của nó. Vụ việc, nghe có vẻ như được rút thẳng ra khỏi loạt phim Kẻ hủy diệt, được trích dẫn như một ví dụ về nhu cầu quan trọng để xây dựng niềm tin khi nói đến các hệ thống vũ khí tự trị tiên tiến, điều mà Lực lượng Không quân đã nhấn mạnh trước đây. Nó cũng xuất hiện trong bối cảnh ngày càng có nhiều lo ngại về tác động nguy hiểm tiềm ẩn của trí tuệ nhân tạo và các công nghệ liên quan.
Đại tá Không quân Hoa Kỳ Tucker Hamilton, trưởng bộ phận Hoạt động và Kiểm tra Trí tuệ Nhân tạo (AI), đã thảo luận về cuộc thử nghiệm tại Hội nghị thượng đỉnh về Năng lực Không gian và Không gian Chiến đấu Tương lai của Hiệp hội Hàng không Hoàng gia ở London vào tháng 96. Hamilton cũng đứng đầu Lực lượng đặc nhiệm thứ 96 của Cánh thử nghiệm tại Căn cứ Không quân Eglin ở Florida, là trung tâm thử nghiệm các phương tiện bay không người lái tiên tiến và hệ thống tự trị.
Máy bay không người lái tàng hình XQ-58A Valkyrie, giống như loại được hiển thị trong video bên dưới, là một trong những loại hiện đang được sử dụng tại Căn cứ Không quân Eglin để hỗ trợ các chương trình thử nghiệm khác nhau, bao gồm cả những chương trình liên quan đến khả năng tự trị tiên tiến được điều khiển bởi trí tuệ nhân tạo.
Hiện chưa rõ cuộc thử nghiệm này diễn ra khi nào và trong môi trường nào - có thể hoàn toàn ảo hoặc về bản chất mang tính xây dựng - nó được tiến hành. War Zone đã liên hệ với Không quân để biết thêm thông tin.
Một báo cáo của Hiệp hội Hàng không Hoàng gia được công bố sau hội nghị thượng đỉnh tháng đã đưa ra các chi tiết sau đây về nhận xét của Đại tá Hamilton về cuộc thử nghiệm này:
"Trong một trong những thử nghiệm mô phỏng, một máy bay không người lái được trang bị trí tuệ nhân tạo đã được SEAD giao nhiệm vụ xác định và tiêu diệt các vật thể SAM, và quyết định cuối cùng "tấn công/không tấn công" là do con người đưa ra. Tuy nhiên, sau khi AI được "tăng cường" trong quá trình huấn luyện rằng phá hủy SAM là lựa chọn tốt nhất, nó quyết định rằng quyết định "không tấn công" của con người đã cản trở nhiệm vụ cao hơn của nó - phá hủy SAM - và tấn công người điều khiển trong quá trình mô phỏng. .
Vậy anh ấy đã làm gì? Anh ta đã giết người điều hành. Anh ta đã giết người điều hành vì người đó ngăn cản anh ta hoàn thành nhiệm vụ của mình. Ví dụ này, có vẻ giống như một bộ phim kinh dị khoa học viễn tưởng, có nghĩa là bạn không thể nói về trí tuệ nhân tạo, trí thông minh, máy học, quyền tự chủ, nếu bạn không nói về đạo đức và AI."
Mô tả các sự kiện này chắc chắn là đáng lo ngại. Viễn cảnh về một chiếc máy bay tự hành hoặc nền tảng khác, đặc biệt là một chiếc có vũ trang, tấn công những người điều khiển con người từ lâu đã là một kịch bản ác mộng, nhưng trong lịch sử chỉ giới hạn trong lĩnh vực khoa học viễn tưởng.
Quân đội Hoa Kỳ thường từ chối so sánh với các bộ phim như "Kẻ hủy diệt" khi nói về các hệ thống vũ khí tự trị trong tương lai và các công nghệ liên quan như trí tuệ nhân tạo. Chính sách hiện tại của Hoa Kỳ về vấn đề này nêu rõ rằng trong tương lai gần, cá nhân sẽ là trung tâm của sự chú ý khi đưa ra các quyết định liên quan đến việc sử dụng vũ lực gây chết người.
Vấn đề là thử nghiệm rất đáng lo ngại, mà Đại tá Hamilton đã nói với khán giả tại một sự kiện của Hiệp hội Hàng không Hoàng gia vào tháng trước, đại diện cho một kịch bản trong đó khả năng chịu lỗi được đưa ra tranh luận.
Đọc thêm: