Microsoft triển khai neural network với 135 tỷ parameter nhằm tăng độ chính xác của kết quả tìm kiến trên Bing

Chu Hiển Đạt

Học sinh ham ăn
Tham gia
1/1/15
Bài viết
1,711
Được thích
1,743
760 #1

Gần đây, trung tâm nghiên cứu của Microsoft đã triển khai một mạng lưới thần kinh nhân tạo (neural network). Mạng lưới này có đến 135 tỷ parameter - gần 'khủng' bằng GPT-3 - và được sử dụng để tăng độ chính xác, tin cậy của kết quả tìm kiếm trên máy chủ Bing.

Cụ thể, mạng lưới thần kinh nhân tạo mới của Microsoft này có tên gọi là MEB (Make Every Feature Binary), sở hữu đến 135 tỷ parameter và được thiết kế riêng để phân tích các truy vấn trên Bing và liên kết chúng đến những trang web có kết quả tương quan nhất.

Về Generative Pre-training Transformer 3 (GPT-3): đây là mô hình dự đoán ngôn ngữ thế hệ thứ 3 trong loạt GPT-n được tạo ra bởi OpenAI - phòng thí nghiệm trí tuệ nhân tạo đặt tại San Francisco, Hoa Kỳ. Điểm nổi bật của mô hình GPT-3 là có đến 175 tỷ parameter với khả năng tự động phục hồi sử dụng học sâu (deep learning) để tạo ra văn bản giống như con người.
CƠ CHẾ CẢI THIỆN KẾT QUẢ TÌM KIẾM CỦA MEB

Về cơ chế cải thiện độ tin cậy kết quả tìm kiếm, MEB ngăn chặn quá trình tổng hợp hoá quá mức (overgeneralisation) và cung cấp các kết quả có sắc thái hơn bằng cách suy xét hết tất cả các kết quả khả thi. Nhờ vậy, Bing có thể phủ hết 100% các kết quả tìm kiếm và học được một lượng dữ liệu lớn một cách liên tục từ quá trình ghi nhớ các kết quả đáng tin cậy.

  • Model structure của MEB. Source: Microsoft Research Blog

Thực tế mà nói, MEB làm tăng tỷ lệ nhấp trên Bing lên 2% và giảm 1% người dùng viết lại các truy vấn của họ vì họ không nhận được bất kỳ kết quả phù hợp nào. Ít hơn 1,5% người dùng cần nhấp vào nút “trang tiếp theo” có nghĩa là họ không tìm thấy những gì họ đang tìm kiếm trên trang đầu tiên.

Nếu có hứng thú và muốn tìm hiểu chuyên sâu hơn về MEB, bạn hoàn toàn có thể đọc tài liệu gốc do Microsoft đăng tải (tiếng Anh) tại đây:
Xem thêm:


Eugene | Techrum.vn
Via
MSPU, MS Research Blog
 

Theo dõi Youtube

Thành viên online

Không có thành viên trực tuyến lúc này

Quảng Cáo

Quảng Cáo

Có thể bạn quan tâm

Top Bottom