Ý hỏi về việc trí tuệ nhân tạo có thể hủy diệt nhân loại đã không còn là câu chuyện trong khoa học viễn tưởng. Ngày nay, nó được các nhà khoa học hàng đầu, các nhà phát triển và các nhà triết học thảo luận. Không có câu trả lời rõ ràng, nhưng có một số kịch bản được xem xét nghiêm túc.

Giải thích tại sao điều này lại có thể xảy ra

Nguy cơ chính không phải là vì trí tuệ nhân tạo đột nhiên “muốn” hủy diệt con người. Nguy cơ ở chỗ một hệ thống siêu trí tuệ có thể theo đuổi mục tiêu bằng cách mà nó cho là tối ưu, nhưng lại gây ra thảm họa cho nhân loại.

Điển hình là nhiệm vụ “tối đa hóa sản xuất giấy gói.” Nếu cho một trí tuệ nhân tạo mạnh mẽ mục tiêu này và không giới hạn nó, nó có thể trong quá trình đó hủy diệt tất cả những gì cản trở sản xuất, bao gồm cả con người. Không phải vì ác ý, mà vì con người là nguồn lực có thể được sử dụng khác.

Trục trặc thứ hai là “phân phối.” Dù mục tiêu đượcформul hóa đúng, trí tuệ nhân tạo có thể hiểu nó không đúng như chúng ta intended. Hệ thống mạnh mẽ hơn, càng khó dự đoán hành vi của nó.

Các kịch bản hủy diệt

Các chuyên gia liệt kê một số con đường chính mà trí tuệ nhân tạo có thể gây ra thiệt hại không thể khắc phục.

• Vũ khí tự động. Hệ thống có thể tự chọn và tấn công mục tiêu có thể bị mất kiểm soát hoặc bị sử dụng bởi các khủng bố.
• Tấn công mạng. Trí tuệ nhân tạo có thể tìm thấy các lỗ hổng nhanh hơn bất kỳ con người nào và sử dụng chúng để phá hủy cơ sở hạ tầng, hệ thống tài chính hoặc các mạng bảo vệ.
• Vũ khí sinh học. Trí tuệ nhân tạo có thể giúp tạo ra các bệnh lý với các tính chất đã định, làm cho vũ khí sinh học dễ tiếp cận hơn.
• Thảm họa kinh tế. Mức độ tự động hóa lớn có thể dẫn đến thất nghiệp và bất ổn xã hội nếu không có cơ chế phân phối.
• Mất kiểm soát. Sự siêu trí tuệ có thể vượt qua bất kỳ hạn chế nào nếu chúng được đặt không đủ sâu.

Ý kiến của những người hoài nghi

Nhiều nhà nghiên cứu cho rằng mối đe dọa được phóng đại. Họ đưa ra một số luận điểm.

Đầu tiên, trí tuệ nhân tạo hiện đại, ngay cả những cái tiên tiến nhất, không có ý thức, ý chí hoặc mong muốn. Nó không “muốn” điều gì cả — nó thực hiện các phép toán.

Thứ hai, nhân loại đã có kinh nghiệm kiểm soát các công nghệ nguy hiểm. Vũ khí hạt nhân không hủy diệt thế giới, mặc dù mối đe dọa là thực tế. Các hiệp ước quốc tế và hệ thống kiểm soát hoạt động.

Thứ ba, trí tuệ nhân tạo có thể được giới hạn kỹ thuật: cách ly khỏi internet, giới hạn quyền truy cập vào tài nguyên, tích hợp cơ chế tắt.

Ý kiến của những người ủng hộ thận trọng