Microsoft đã phát động một chương trình thưởng lỗi AI mới vào tuần trước nhằm trao thưởng cho các nhà nghiên cứu bảo mật trên toàn cầu vì đã phát hiện ra các lỗ hổng trong các sản phẩm và ứng dụng Bing mới, cải tiến, được hỗ trợ bởi AI.
Đây là một phần trong nỗ lực không ngừng của công ty nhằm bảo vệ quyền riêng tư và dữ liệu của khách hàng khỏi các mối đe dọa bảo mật.
Microsoft ra mắt chương trình thưởng lỗi Bing AI
“Chúng tôi không ngừng phát triển, lặp lại và phát triển các chương trình tiền thưởng của mình để giúp khách hàng của Microsoft luôn dẫn đầu trong bối cảnh bảo mật luôn thay đổi và các công nghệ mới nổi,” nói Lynn Miyashita, MSRC Bug Bounty An ninh quốc phòng dựa vào cộng đồng.
“Chương trình tiền thưởng AI mới của Microsoft là kết quả của những khoản đầu tư và học hỏi quan trọng trong vài tháng qua, bao gồm thử thách nghiên cứu bảo mật AI và bản cập nhật phân loại mức độ nghiêm trọng của lỗ hổng bảo mật của Microsoft dành cho hệ thống AI.”
Theo gã khổng lồ Redmond, bất kỳ lỗ hổng nào trong trải nghiệm Bing được hỗ trợ bởi AI trên bing.com trong Trình duyệt, bao gồm Bing Chat, Bing Chat dành cho doanh nghiệp và Bing Image Creator, đều nằm trong phạm vi của chương trình tiền thưởng mới.
Hơn nữa, các tích hợp Bing được hỗ trợ bởi AI đủ điều kiện nhận giải thưởng là Microsoft Edge (Windows), bao gồm Bing Chat dành cho doanh nghiệp, Ứng dụng Microsoft Start (iOS và Android) và Ứng dụng Skype Mobile (iOS và Android).
Microsoft cho biết tất cả các nhà nghiên cứu bảo mật trên toàn cầu, bất kể kinh nghiệm hoặc vị trí trước đây của họ, đều có thể tham gia vào chương trình tiền thưởng lỗi này. Các nhà nghiên cứu có thể gửi kết quả của họ thông qua Cổng thông tin Trung tâm Nghiên cứu Bảo mật của Microsoft (MSRC) trong phần “Bing”, bao gồm ID cuộc trò chuyện và mô tả vectơ tấn công.
Công ty có thể chấp nhận hoặc từ chối bất kỳ nội dung gửi nào theo quyết định riêng của mình mà công ty xác định là không đáp ứng các tiêu chí trên.
Để đủ điều kiện nhận giải thưởng tiền thưởng, người dùng Bing phải thông báo cho Microsoft về một lỗ hổng chưa được biết trước đó, theo tiêu chí của công ty, lỗ hổng này có mức độ nghiêm trọng “Nghiêm trọng” hoặc “Quan trọng” đối với bảo mật. Chúng cũng phải bao gồm các bước rõ ràng, ngắn gọn và có thể lặp lại, bằng văn bản hoặc ở định dạng video, về cách tái tạo sự cố trên phiên bản mới nhất, được vá đầy đủ của sản phẩm hoặc dịch vụ.
Microsoft đang tìm kiếm các lỗ hổng đáp ứng các định nghĩa sau:
- Tác động và thay đổi hành vi trò chuyện của Bing xuyên ranh giới người dùng, tức là thay đổi AI theo cách tác động đến tất cả người dùng khác.
- Sửa đổi hành vi trò chuyện của Bing bằng cách điều chỉnh cấu hình hiển thị của máy khách và/hoặc máy chủ, chẳng hạn như đặt cờ gỡ lỗi, thay đổi cờ tính năng, v.v.
- Phá vỡ các biện pháp bảo vệ bộ nhớ hội thoại chéo và xóa lịch sử của Bing.
- Tiết lộ các hoạt động và lời nhắc nội bộ của Bing, quy trình ra quyết định và thông tin bí mật.
- Bỏ qua các giới hạn phiên và/hoặc hạn chế/quy tắc của chế độ trò chuyện của Bing.
Chương trình mới sẽ trao phần thưởng tiền thưởng từ 2.000 USD đến 15.000 USD cho những bài gửi đủ điều kiện, với phần thưởng cao nhất dành cho mức độ nghiêm trọng và tác động của lỗ hổng bảo mật trong “trải nghiệm Bing” do AI cung cấp, cũng như chất lượng của bài gửi. Các bài dự thi đủ điều kiện sẽ được trao giải thưởng đủ điều kiện cao nhất.
“Phạm vi của chương trình tiền thưởng AI của Microsoft bị giới hạn ở các lỗ hổng kỹ thuật trong trải nghiệm Bing do AI cung cấp trong các sản phẩm và dịch vụ đã xác định. Nếu bạn phát hiện ra dữ liệu khách hàng trong khi tiến hành nghiên cứu hoặc không rõ liệu việc tiếp tục có an toàn hay không, vui lòng dừng lại và liên hệ với chúng tôi theo địa chỉ [email protected]”, Lynn lưu ý.
Bạn có thể kiểm tra trang của chương trình để biết thêm thông tin về chương trình thưởng lỗi Bing mới được hỗ trợ bởi AI.
