- Tham gia
- 5/10/17
- Bài viết
- 4,454
- Được thích
- 2,518
8204
#1
Bức thư ngỏ cảnh báo rằng các mô hình AI hiện đại với "trí thông minh" có thể đe dọa con người trong tương lai và có thể gây rủi ro cho xã hội của chúng ta. Việc thiếu khiểm soát phát triển AI để tham gia vào cuộc đua xem công ty nào mới phát triển AI mạnh nhất, tiên tiến nhất có thể dẫn đến việc AI quá thông minh không không còn đáng tin cậy.
"Các mô hình AI hiện đại đang trở nên cạnh tranh với con người trong các ngành nghề quan trọng và chúng ta phải tự hỏi: Liệu chúng ta có nên để máy móc tràn ngập các kênh thông tin của mình bằng tuyên truyền và sai sự thật? Chúng ta có nên tự động hóa tất cả các công việc, bao gồm cả những công việc quan trọng hay không? Chúng ta có nên phát triển những bộ óc phi nhân loại mà cuối cùng có thể đông hơn, thông minh hơn, lỗi thời và thay thế chúng ta không? Chúng ta có nên mạo hiểm mất kiểm soát nền văn minh của mình không? Những quyết định như vậy không nên được giao cho các nhà lãnh đạo công nghệ không được bầu chọn."
Bức thư nói rằng việc tạm dừng phải được công khai, bao gồm tất cả các yếu tố chính và có thể kiểm chứng được. Ở đây, chính phủ nên "thiết lập một lệnh cấm" nếu việc tạm dừng như vậy không được ban hành nhanh chóng. Tuy nhiên, bức thư làm rõ rằng những người ký không yêu cầu các công ty công nghệ tạm dừng phát triển AI nói chung mà chỉ đơn thuần là một bước lùi khỏi cuộc đua nguy hiểm để hướng tới các mô hình AI không thể đoán trước ngày càng có khả năng tấn công lại con người.
Bức thư cũng gợi ý rằng trong 6 tháng tạm ngưng các công ty công nghệ và các chuyên gia độc lập có thể hợp tác và tạo ra một "bộ giao thức an toàn dùng chung được kiểm toán nghiêm ngặt cho thiết kế và phát triển AI tiên tiến".
Theo Neowin
Xem thêm:
