Simon Willison Blog
Điểm AI 60/100

Hướng dẫn

Quản trị viên kernel.org: 14 nhân CPU chỉ để 'gánh' các bot cào dữ liệu vô tội vạ

(giờ Việt Nam)

Tóm tắt AI

Konstantin Ryabitsev tiết lộ kernel.org phải dành riêng 14 nhân CPU để xử lý việc render trang git sang HTML do các bot cào dữ liệu gây ra, tiêu tốn tài nguyên hơn cả các lượt truy cập hợp lệ.

Chính văn · Bản dịch AI

Ngày 7 tháng 9 năm 2026 - Link Blog

Creepy crawlies (via) Konstantin Ryabitsev thảo luận về việc "bức xạ nền" từ các trình thu thập dữ liệu (crawler) lạm dụng đã trở nên tồi tệ như thế nào dưới góc nhìn của git.kernel.org, kho lưu trữ Git chính thức của nhân Linux:

TL;DR: chúng tôi tiêu tốn nhiều chu kỳ CPU để hiển thị (render) các commit cho các trình thu thập dữ liệu hơn là cho tất cả các loại truy cập hợp lệ khác cộng lại, bao gồm cả git clone. Tại bất kỳ thời điểm nào, trên 5 nút phân tán theo địa lý, có 14 nhân CPU chỉ làm mỗi việc là hiển thị các git commit dưới dạng html.

Tôi rất lo lắng về điều này dưới góc độ của Datasette, nền tảng phục vụ một lượng lớn các trang web có thể thu thập dữ liệu.

hạ tầngweb-scrapingkỹ thuậtkernel.orgtối ưu hóa

Bài viết được AI dịch và tổng hợp tự động từ Simon Willison Blog. Liên kết bài gốc ở phía trên. Dữ liệu đồng bộ qua API công khai được ghi nguồn tại AI HOT (canonical) ↗. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.

Quản trị viên kernel.org: 14 nhân CPU chỉ để 'gánh' các bot cào dữ liệu vô tội vạ | AIHOT.vn