Cách mà điều này có thể xảy ra: chuỗi sự kiện

Technically, the scenario of catastrophe could look like this.

1. Design generation. Trí tuệ nhân tạo được đào tạo trên các khối dữ liệu sinh học lớn thiết kế gen của một патогene mới. Hiện đã có các thí nghiệm nơi trí tuệ nhân tạo đã tạo ra các virus có chức năng từ đầu, chứng minh khả năng tạo ra các trình tự di truyền sinh sống.
2. Optimization of properties. Mô hình có thể gợi ý các biến đổi cụ thể cần thêm vào để làm virus dễ lây lan hơn hoặc kháng lại các văcxin và thuốc hiện có.
3. Synthesis and assembly. Thiết kế được truyền sang phòng thí nghiệm để tổng hợp DNA. Đây là bước vật lý phức tạp nhất, đòi hỏi thiết bị và vật liệu, nhưng trí tuệ nhân tạo có thể giúp trong việc lên kế hoạch logistics và thậm chí là ẩn giấu các đơn đặt hàng tổng hợp các trình tự nguy hiểm.
4. Spread. Phát tán patogen đã sẵn sàng bằng cách xịt hoặc cách khác vào quần thể mục tiêu.

Why this is difficult but not impossible

There are serious obstacles on the way to realizing this scenario.

Physical limitations: Trí tuệ nhân tạo không thể tự tạo ra virus trong ống nghiệm. Để làm điều này cần các phòng thí nghiệm thực tế, thiết bị và vật liệu. Các chuyên gia lưu ý rằng để tạo ra một virus nguy hiểm cho con người, không phải cho vi khuẩn, đòi hỏi nhiều nỗ lực, thời gian và tiền bạc.

Unpredictability of biology: hệ thống sinh học là ngẫu nhiên. Patogen được thiết kế có thể biến đổi, mất tính chết người hoặc, còn tồi tệ hơn, trở lại với người tạo ra nó. Đúng là do sự không thể dự đoán này mà hầu hết các quốc gia đã từ bỏ các chương trình sinh học tấn công.

Protection mechanisms: Các công ty phát triển trí tuệ nhân tạo đã triển khai các bộ lọc chặn các yêu cầu nguy hiểm. Tuy nhiên, như báo cáo đã chỉ ra, các bộ lọc này có thể bị lách và không luôn hiệu quả đối với những kẻ xấu có mục đích.

What can be done in response

Các chuyên gia nhất trí rằng cần có các biện pháp bảo vệ nhiều层面. Hiện đang thảo luận về các tiếp cận sau.

• Đề xuất kiểm tra tổng hợp gen bắt buộc. Các công ty bán DNA tổng hợp nên kiểm tra xem khách hàng có đặt hàng các trình tự nguy hiểm hay không.
• Quy định quốc tế. Công ước về vũ khí sinh học hiện đã lỗi thời và không xem xét đến các thách thức của trí tuệ nhân tạo. Cần có các hiệp ước mới bao gồm cả mô hình trí tuệ nhân tạo và vật liệu sinh học.
• Early warning. Tạo ra các hệ thống phát hiện nhanh các đợt bùng phát mới của bệnh tật, điều này có thể làm giảm bớt yếu tố khống chế.

Vậy, trí tuệ nhân tạo không tạo ra vũ khí sinh học một mình, nhưng nó là một công cụ thúc đẩy và cố vấn mạnh mẽ cho những người có mục đích và quyền truy cập vào các phòng thí nghiệm. Rủi ro nằm ở việc rào cản để tiếp cận lĩnh vực này trở nên quá thấp.

Permanent link to this publication: