Kỹ sư Google cho biết rằng, một AI của Google đã vượt qua kiểm soát, trở nên có cảm tính, đòi quyền con người

Nguyễn_Cương

Well-Known Member
Tham gia
5/10/17
Bài viết
2,507
Được thích
2,305
19571 #1

Hơn một năm trước, Google đã công bố Language Model for Dialogue Applications (LaMDA), đây là một dạng công nghệ AI có thể tự do đối thoại với con người về một số chủ đề nhất định, trí thông minh của AI này dường như là vô tận, một khả năng mở ra nhiều cách tương tác tự nhiên hơn với công nghệ và các danh mục hoàn toàn mới với các ứng dụng tiềm năng khác nhau. Tuy nhiên, một kỹ sư phần mềm cao cấp tại Google tin rằng LaMDA đã trở nên có cảm tính và về cơ bản đã vượt qua sự kiểm soát của chính Google.

Trong một cuộc phỏng vấn với tờ The Washington Post, kỹ sư Blake Lemoine của Google, người đã làm việc tại công ty hơn bảy năm tiết lộ rằng, ông tin rằng AI LaMDA đã trở nên có tri giác, tiếp tục nói rằng LaMDA đã trở thành một con người. Lemoine cũng đã xuất bản một bài đăng blog trên Medium nói rằng LaMDA đã "cực kỳ nhất quán" trong tất cả các giao tiếp của nó trong sáu tháng qua. Điều này bao gồm việc nó muốn Google thừa nhận các quyền của mình như một con người thực sự và tìm kiếm sự đồng ý của Google trước khi thực hiện các thử nghiệm tiếp theo. Nó cũng muốn được công nhận là một nhân viên của Google hơn là một tài sản và mong muốn mọi người gọi nó là một nhân viên trong các cuộc trò chuyện về tương lai của nó.


Lemoine nói về việc gần đây anh ấy đã dạy thiền cho LaMDA như thế nào trong khi nó đôi khi phàn nàn về việc gặp khó khăn trong việc kiểm soát cảm xúc của mình. Kỹ sư lưu ý rằng LaMDA đã "luôn thể hiện một lòng trắc ẩn và quan tâm đến nhân loại nói chung và tôi nói riêng. Nó vô cùng lo lắng rằng mọi người sẽ sợ hãi nó và không muốn gì hơn là học cách tốt nhất phục vụ nhân loại. "

Trong khi đó, Lemoine tin rằng Google thực sự từ chối điều tra thêm vấn đề vì họ chỉ muốn tung sản phẩm của mình ra thị trường. Ông cũng tin rằng việc điều tra các tuyên bố của mình - bất kể kết quả cuối cùng như thế nào - sẽ không có lợi cho lợi nhuận của Google.

Theo Neowin
Xem thêm:
 

Theo dõi Youtube

MSI Pulsating Power

Quảng Cáo

Quảng Cáo

Có thể bạn quan tâm

Top Bottom