Các chuyên gia quân sự gọi vũ khí tự động hay hệ thống vũ khí tự động (AWS) là loại vũ khí tự làm mọi thứ: chúng tìm mục tiêu và hoàn thành nhiệm vụ mà không cần sự can thiệp của con người. Một trong những thứ nổi tiếng nhất, cho đến nay chỉ có trong phim khoa học viễn tưởng và sách AWS, là cái gọi là "robot giết người".
Elon Musk và hơn một trăm chuyên gia về robot khác viết về mối đe dọa chết người từ những con robot sát thủ trong một bức thư cảnh báo ngỏ gửi tới LHQ. Musk, Mustafa Suleiman, người tạo ra công ty AI DeepMind Technologies, hiện thuộc sở hữu của Google, và 114 chuyên gia từ 26 quốc gia cảnh báo Liên Hợp Quốc rằng cuộc chạy đua vũ trang trong AWS có thể mở ra một chiếc hộp Pandora, điều này có thể gây ra khó lường và rất tác hại lớn đối với nhân loại. Họ yêu cầu một lệnh cấm phát triển và thực hiện các hệ thống vũ khí tự động.
Tất cả những người ký đều thông thạo vấn đề này vì họ làm việc trong lĩnh vực trí tuệ nhân tạo (AI). Họ tự tin rằng việc đưa robot sát thủ vào trang bị của quân đội các nước phát triển sẽ có ý nghĩa đối với các vấn đề quân sự giống như việc phát minh ra thuốc súng và vũ khí hạt nhân, mà họ gọi là cuộc cách mạng thứ nhất và thứ hai trong lĩnh vực quân sự. Họ tin rằng AWS sẽ là cuộc cách mạng thứ ba.
“Một khi được đưa lên tầm cao, các hệ thống vũ khí tự động sẽ đưa xung đột quân sự lên một mức độ mà nhân loại chưa từng thấy trước đây”, bức thư tập thể viết. - Hơn nữa, nó sẽ xảy ra với tốc độ lớn. AWS có thể trở thành vũ khí khủng bố, vũ khí khiến bọn khủng bố khiếp sợ và những kẻ khủng bố sẽ sử dụng để chống lại dân thường …"
Các tác giả của bức thư cảnh báo về một loại vũ khí giả định vẫn có thể tiêu diệt con người mà không cần sự can thiệp của con người. Ngày gần đến khi nó trở thành một thực tế khắc nghiệt từ thể loại tiểu thuyết và sẽ buộc chúng ta phải tìm kiếm câu trả lời cho nhiều câu hỏi khó, từ việc quản lý an toàn các hệ thống như vậy đến các vấn đề đạo đức và luân lý gây ra bởi sự tàn nhẫn và không thể đoán trước của "sắt" của những cỗ máy chết người.
Musk, với những người ủng hộ chia sẻ lập trường của mình về sự nguy hiểm của AWS đối với nhân loại, nhấn mạnh rằng không có thời gian để suy nghĩ và thảo luận và cần phải hành động ngay lập tức. "Chúng tôi có rất ít thời gian", họ viết tại LHQ. "Một khi chiếc hộp Pandora đã mở, sẽ rất khó đóng lại".
Thời gian viết thư ngỏ không phải do ngẫu nhiên mà lựa chọn. Các chuyên gia muốn trùng với thời điểm bắt đầu Hội nghị Quốc tế về Trí tuệ Nhân tạo (IJCAI) ở Melbourne. Nó được cho là sẽ khai mạc vào thứ Hai ngày 21 tháng 8, nhưng LHQ đã quyết định hoãn lại đến tháng 11.
Cuối bức thư ngỏ, Elon Musk và các đồng nghiệp của ông kêu gọi LHQ tăng gấp đôi nỗ lực của mình để tạo ra một chiến lược vào tháng 11 để bảo vệ hành tinh khỏi những người máy giết người.
Trước đó, chính Musk đã cảnh báo về sự nguy hiểm của công việc dựa trên trí tuệ nhân tạo như vậy, vì các hệ thống dựa trên nó có thể nằm ngoài tầm kiểm soát của con người. Đồng thời, những chiếc xe có động cơ điện Tesla đã chạy trên đường của Hoa Kỳ ở chế độ không người lái, điều này không phải là không có sự cố.
