Người duy trì mã nguồn mở cần bản vá lỗi, không phải báo cáo lỗi từ AI
Tác giả: Ban biên tập MocaOne · Đăng ngày
Bài viết do AI tổng hợp, biên tập bởi MocaOne. Xem chính sách nội dung
GitHub và Microsoft thử nghiệm hệ thống Codename MDASH nhằm chuyển đổi các phát hiện từ AI thành các báo cáo bảo mật riêng tư kèm bản vá lỗi cho mã nguồn mở.

Trí tuệ nhân tạo đã giúp việc tìm kiếm các lỗ hổng tiềm ẩn trở nên nhanh chóng và chi phí thấp. Tuy nhiên, việc khắc phục chúng vẫn cần sự phán đoán của con người, và trong mã nguồn mở, công việc đó thuộc về những người duy trì. Nhiều người trong số họ đã ngập chìm trong các phát hiện bảo mật do AI tạo ra, bao gồm các bản sao trùng lặp và các báo cáo hoàn toàn không phải là lỗ hổng. Một lần quét thô nữa sẽ không giúp ích gì cho họ. Bất kỳ ai hướng một mô hình mới vào một dự án nên hỏi những người duy trì dự án đó trước và mang theo các bản vá lỗi, chứ không chỉ các phát hiện.
Những người duy trì đang chịu áp lực lớn từ luồng báo cáo này. Như Christian Grobmeier, một người duy trì Log4j, đã phát biểu, AI bảo vệ mã nguồn mở phải giỏi hơn AI tấn công nó.
AI không nên làm tăng khối lượng công việc của những người duy trì. Vì vậy, cùng với những người duy trì, GitHub và Microsoft đã chạy một thử nghiệm chung: liệu AI có thể giúp những người duy trì phát hành các bản vá thay vì giao cho họ thêm nhiều phát hiện hơn?
GitHub và Microsoft đang sử dụng Codename MDASH, khung vận hành quét đa mô hình do Microsoft phát triển, để tìm và khắc phục các lỗ hổng bảo mật trong phần mềm mã nguồn mở được sử dụng rộng rãi, củng cố nền tảng mà phần lớn mã của thế giới được xây dựng trên đó.
Quá trình
Thử nghiệm của chúng tôi có hai mục tiêu: chỉ gửi những phát hiện quan trọng và không bao giờ gửi cho người duy trì một phát hiện chưa được xác minh. Dưới đây là cách thức hoạt động:
- Tìm kiếm. Codename MDASH, một hệ thống AI từ Microsoft Security, đã quét từng dự án bằng mô hình MAI Cyber của Microsoft và đề xuất các bản vá cho những gì nó tìm thấy.
- Lọc. Một tác nhân AI từ GitHub Security Lab, được xây dựng trên các kỹ năng Copilot được tinh chỉnh, đã loại bỏ các bản tính trùng lặp, kiểm tra tính hợp lệ và tập trung vào các lỗi có tác động cao, nhờ đó những người duy trì không bao giờ phải xem xét kết quả quét thô.
- Xác minh. Các nhà nghiên cứu từ Microsoft FORGE Lab đã kiểm tra thủ công mọi phát hiện còn lại.
- Báo cáo riêng tư. Các báo cáo đã đến tay những người duy trì thông qua tính năng báo cáo lỗ hổng riêng tư của GitHub, kèm theo bằng chứng khái niệm và bản vá lỗi được đề xuất.
- Khắc phục. Những người duy trì quyết định những gì cần khắc phục, cách khắc phục và thời điểm.
Các báo cáo và bản vá vẫn ở trên GitHub, nơi những người duy trì đã làm việc.
Kết quả: Codename MDASH, sử dụng mô hình MAI Cyber của Microsoft, đã gắn cờ hàng nghìn vấn đề có thể xảy ra trên sáu dự án. Sau khi được AI phân loại và xem xét thủ công bởi bảy nhà nghiên cứu của Microsoft FORGE Lab, những người duy trì đã nhận được 99 báo cáo riêng tư. Tính đến ngày 15/11, họ đã khắc phục 55 lỗi và 14 trong số các bản vá đó đã có trong một bản phát hành.
Các dự án tham gia
Sáu dự án đã tham gia, tất cả đều là cựu sinh viên của GitHub Secure Open Source Fund. Những người duy trì của họ đã đồng ý quét, nhận mọi báo cáo riêng tư, quyết định những gì cần khắc phục và chia sẻ những gì hiệu quả:
- AutoGPT, nền tảng tác nhân AI
- Caddy, máy chủ web
- Express, khung web cho Node.js
- FastMCP, khung xây dựng máy chủ MCP
- ImageMagick, phần mềm xử lý hình ảnh
- Netty, khung mạng cho Java
Những gì chúng tôi đã học được
Những bài học này đến từ những gì sáu dự án đã khắc phục và những gì những người duy trì của họ chọn chia sẻ. Sáu dự án là một mẫu nhỏ, vì vậy hãy xem chúng như những bài học ban đầu.
1. Bản vá quan trọng hơn các phát hiện
Khắc phục là nơi những người duy trì dành thời gian của họ. Vì vậy, mọi báo cáo đều đến nơi đã được kiểm tra, đi kèm với một bản vá được đề xuất để xem xét, điều chỉnh và hợp nhất. Những người duy trì bắt đầu từ một bản vá có phạm vi rõ ràng, không phải là một phát hiện thô.
Các bản vá đầu tiên được phát hành khoảng một tuần sau lần quét ban đầu. Những người duy trì Caddy đã khắc phục tất cả 22 báo cáo họ nhận được trong một tuần hoặc ít hơn. Những người duy trì đã sử dụng các bản vá được đề xuất, một số giữ nguyên như viết và một số có thay đổi.
Những người duy trì AutoGPT gần đây đã phát hành một bản kiểm tra mới và nó bị hỏng. Báo cáo đã đến ba ngày sau đó và chỉ ra đúng dòng. Họ đã đưa bản vá đi xa hơn bản vá được đề xuất, viết nó trong vòng một ngày và đưa nó vào sản xuất chưa đầy một tuần sau đó.
Việc tìm kiếm lỗ hổng không còn là nút thắt cổ chai của chúng tôi. Khắc phục chúng là phần khó khăn và điều đó phụ thuộc vào những người duy trì – theo nhà duy trì Netty.
2. Codename MDASH, cùng với sự xem xét của nhà nghiên cứu, đã cung cấp cho những người duy trì các phát hiện chất lượng cao cùng các bản vá
Những người duy trì nhận được một danh sách ngắn, không phải là một luồng tràn ngập. Những người duy trì Express cho biết các báo cáo đã loại bỏ tiếng ồn. Những người duy trì Caddy cho biết chúng nổi lên các lỗi mơ hồ và lấp đầy các khoảng trống mà các báo cáo trước đó đã bỏ sót. Đối với FastMCP, quá trình quét vượt ra ngoài những gì các máy quét AI đã cung cấp cho họ trước đây. ImageMagick, được duy trì bởi một nhóm gồm hai người, đã nhận được 22 báo cáo.
AI đã thực hiện tìm kiếm, các nhà nghiên cứu thực hiện kiểm tra và những người duy trì vẫn nắm quyền điều hành.
Một báo cáo của ImageMagick trông giống như một loại vấn đề mà những người duy trì đã thấy trước đây. Bản tóm tắt của nó cho thấy không phải vậy và chỉ ra chính xác các dòng mã. Họ đã có thể đẩy bản vá trong 15 phút.
Thông thường, một cố vấn bảo mật sẽ mất khoảng 30 phút đến 1 giờ trung bình để đọc, hiểu và tạo bản vá. Đó là một sự khác biệt lớn – theo nhà duy trì ImageMagick.
Codename MDASH đã có thể tìm thấy các lỗi bảo mật chưa biết, mơ hồ trong dự án của chúng tôi với các báo cáo ngắn gọn và nó lấp đầy các khoảng trống từ một số báo cáo trước đó chưa được chú ý – theo nhà duy trì Caddy.
3. Mã nguồn mở vẫn còn những khoảng trống cần thu hẹp
Thử nghiệm đã hoạt động vì mọi người đã thực hiện công việc cẩn thận ở mọi bước và công việc đó chưa thể mở rộng quy mô. Bảy nhà nghiên cứu đã dành khoảng hai ngày cho mỗi dự án để kiểm tra các phát hiện thủ công. Trong khi đó, các báo cáo chất lượng thấp vẫn tiếp tục đến tay những người duy trì mỗi ngày.
Đối với mã nguồn mở, các bản vá cần được gửi qua báo cáo lỗ hổng riêng tư. Những người duy trì cần chạy các bài kiểm tra CI/CD trên các bản sao riêng tư để xác minh các bản vá đó. Và để thu hẹp khoảng cách giữa bên phòng thủ và bên tấn công, những người duy trì cần quyền truy cập vào các mô hình có khả năng không gian mạng để xác minh bằng chứng khái niệm, trước và sau khi vá.
Việc quét Codename MDASH đã cung cấp những thông tin chi tiết duy nhất về tính bảo mật của dự án chúng tôi vượt ra ngoài những gì máy quét AI đã cung cấp cho chúng tôi trong quá khứ – theo nhà duy trì FastMCP.
Tại sao điều này quan trọng
Nếu bạn là người duy trì, cách tiếp cận này thay đổi chi phí của một báo cáo bảo mật. Một báo cáo riêng tư đã được kiểm tra đi kèm với một bản vá được đề xuất sẽ tốn ít thời gian của bạn hơn. Bạn không nên phải phân loại đầu ra của máy quét. Đó là công việc của người gửi.
Nếu bạn sử dụng AI để tìm lỗ hổng trong mã nguồn mở, phản hồi của những người duy trì chỉ ra tiêu chuẩn sau:
- Kiểm tra mọi phát hiện trước khi bạn gửi, dựa trên những gì dự án đã biết và mô hình đe dọa cũng như chính sách bảo mật của dự án đó.
- Báo cáo nó một cách riêng tư.
- Bao gồm một bản vá được đề xuất. Hãy để những người duy trì thiết lập nhịp độ.
Các tính năng ngày càng dễ dàng phát hành, nhưng trong tương lai, việc duy trì phần mềm có lẽ sẽ quy về việc ai quan tâm đủ để quản lý bảo mật – theo nhà duy trì AutoGPT.
Codename MDASH rất hữu ích trong việc cắt giảm tiếng ồn của các báo cáo lỗ hổng – theo nhà duy trì Express.
Những việc bạn có thể làm ngay hôm nay
Nếu bạn duy trì bất kỳ dự án mã nguồn mở nào, hãy bật tính năng báo cáo lỗ hổng riêng tư để các nhà nghiên cứu có thể báo cáo các vấn đề bảo mật cho bạn mà không cần công khai chúng. Nếu dự án của bạn ở trên GitHub, hãy bật các tính năng bảo mật cốt lõi trong khoảng hai phút bằng gh-secure.
Nếu bạn xây dựng dựa trên mã nguồn mở, hãy bật cảnh báo Dependabot để bạn biết khi nào phần phụ thuộc bạn đang sử dụng cần cập nhật bảo mật.
Nếu bạn gửi báo cáo lỗ hổng do AI tạo ra tới các dự án mã nguồn mở, hãy tuân thủ tiêu chuẩn trên trước khi bạn gửi.
Các kho lưu trữ sử dụng bảo mật mã GitHub có thể sử dụng tính năng tự động vá lỗi tác nhân để giúp tự động khắc phục các cảnh báo của họ với Copilot.
Điều gì sẽ xảy ra tiếp theo
Các bản vá, nơi những người duy trì đã làm việc. GitHub đang mang những bài học này vào báo cáo lỗ hổng riêng tư và các cố vấn bảo mật, nơi GitHub Security Lab đang đầu tư để giảm gánh nặng của các báo cáo chất lượng thấp đối với những người duy trì.
MAI Cyber 2. Hôm nay Microsoft đã công bố MAI Cyber 2. Thử nghiệm Codename MDASH đã chạy trên mô hình MAI Cyber trước đó. GitHub và Microsoft sẽ tiếp tục làm việc cùng nhau để giúp bảo mật mã nguồn mở.
Thu hẹp khoảng cách, bắt đầu với GitHub Secure Open Source Fund. Chúng tôi đang làm việc với Microsoft để mở rộng quy mô xem xét của nhà nghiên cứu mà không cắt giảm các bước. GitHub sẽ cung cấp cho mọi dự án cựu sinh viên các bản quét bảo mật AI, với các phát hiện được kiểm tra trước khi được báo cáo riêng tư. Cựu sinh viên cũng nhận được GitHub Copilot Max. Chúng tôi sẽ mang sự hỗ trợ này đến các phiên tương lai của Quỹ.
Mọi người ở hạ nguồn đều được hưởng lợi từ hệ thống này. Khi một người duy trì công bố cố vấn bảo mật trên GitHub và nó được xem xét cho GitHub Advisory Database, Dependabot có thể cảnh báo các kho lưu trữ phụ thuộc vào gói đó. Đó là ý tưởng đằng sau GitHub Secure Open Source Fund: nguồn lực hỗ trợ 216 dự án cho đến nay, với hơn 300 người duy trì khắc phục hơn 4.000 lỗ hổng trong phần mềm được tải xuống hơn 20 tỷ lần mỗi tháng.
Nguồn tin
Theo GitHub Blog (Copilot) — “Maintainers don’t need more AI bug reports. They need fixes.”, đăng 18/11/2026
Thẻ: bảo mật, mã nguồn mở, github, microsoft