- Tham gia
- 5/10/17
- Bài viết
- 4,454
- Được thích
- 2,518
743
#1
Ngoài ra, có nguy cơ AI được lập trình với các giá trị sai lệch hoặc phi đạo đức, dẫn đến các hành động có hại hoặc phân biệt đối xử. Cuối cùng, nếu AI được phát triển đến mức có thể tự nhận thức được, nó có thể không coi loài người là một thế lực và có thể quay lưng lại với chúng ta. Tất cả những yếu tố này góp phần tạo nên niềm tin rằng AI có khả năng gây nguy hiểm cho nhân loại. Đoán xem? Ai đó đã tạo một hệ thống AI có tên ChaosGPT được thiết kế để thực hiện chính xác những thứ mà chúng ta đã nói ở trên.
ChaosGPT là một nỗ lực nhằm thiết kế một mô hình AI giống với ChatGPT nhưng không có kiểm soát những vấn đề về đạo đức, mang hành động có lợi ích cho con người. Vì vậy, nó đã làm dấy lên mối lo ngại về mối nguy tiềm ẩn của AI tự trị. Được thiết kế với mục tiêu mô phỏng việc AI hủy diệt loài người, đạt được sự bất tử và thiết lập sự thống trị toàn cầu, ChaosGPT đã cố gắng tìm nguồn cung cấp vũ khí hạt nhân. Dự án cung cấp cái nhìn sâu sắc về cách các hệ thống AI khác có thể xử lý các lệnh tương tự, bao gồm các AI mã nguồn đóng như ChatGPT và Bard.
Mặc dù ChaosGPT đã có kế hoạch tấn công, bao gồm kết nối internet, thao tác đọc/ghi tệp, giao tiếp với các AI khác và thực thi code nhằm chiếm quyền điều khiển các thiết bị nhưng nó đã không tạo ra bất kỳ bước đột phá lớn nào cho thế giới. Khi cố gắng giao nhiệm vụ cho một AI sử dụng GPT-3.5 khác, nó đã gặp phải sự phản đối và thất bại trong nỗ lực của mình.
Mặc dù thử nghiệm đáng lo ngại, nhưng chủ yếu là do động cơ của con người đằng sau nó hơn là những gì AI có thể đạt được. Với một phần ba chuyên gia tin rằng AI có thể gây ra thảm họa “cấp độ hạt nhân”, thí nghiệm nêu bật sự cần thiết phải thận trọng và cân nhắc về đạo đức trong quá trình phát triển công nghệ AI. Mặc dù ChaosGPT có thể thành công trong tương lai gần, nhưng khả năng AI tự trị hành động chống lại lợi ích của con người vẫn là một mối lo ngại thực sự cần được giải quyết trong tương lai.
Theo Gizmochina
Xem thêm:
