Nghiên cứu
Cấu trúc mHC trên DeepSeek-V4-Flash: Các luồng dư thừa có thực sự hiệu quả?
(giờ Việt Nam)
Tóm tắt AI
Nghiên cứu chỉ ra rằng các luồng dư (residual streams) trong kiến trúc mHC của DeepSeek-V4-Flash không được sử dụng đồng đều, với các tầng sâu gần như trở thành ma trận đơn vị, cho thấy sự lãng phí tài nguyên tính toán đáng kể.
Chính văn · Bản dịch AI
- DeepSeek phát hành mHC: "Cải tiến ma thuật" tầng cơ sở Transformer: Từ kết nối dư đến siêu kết nối ràng buộc đa tạp DeepSeek đã công bố bài báo "mHC: Manifold-Constrained Hyper-Connections" (Siêu kết nối ràng buộc đa tạp), một lần nữa gây ra nhiều thảo luận. Nếu như trước đó họ đã tung ra một chiếc "siêu xe" R1, thì thứ được nhắc đến lần này chính là... Chương Trình Dương
- Thuê 8 chiếc H100, anh ấy đã tái hiện thành công mHC của DeepSeek, kết quả còn bùng nổ hơn cả báo cáo chính thức Máy chủ biên dịch Machine Heart: Trong dịp Tết Dương lịch, mHC do DeepSeek công bố đã gây chấn động toàn bộ cộng đồng AI. Nói một cách đơn giản, mHC mà DeepSeek đề xuất thông qua việc thay đổi Transformer truyền thống... Machine Heart
- DeepSeek "siết eo" mô hình, Kimi để mô hình "ngoái nhìn lại" — Phổ cập từ con số 0: DeepSeek mHC && Kimi AttnRes, cuộc tiếp sức đổi mới tầng cơ sở của các đội ngũ mô hình lớn Trung Quốc đầu năm 2026 Đội ngũ DeepSeek đã lặng lẽ đăng tải một bài báo trên arXiv — mHC (Siêu kết nối ràng buộc đa tạp). Lương Văn Phong đích thân đứng tên, đây là lần đầu tiên kể từ khi kết nối dư (residual connection) ra đời năm 2015... Lục Du Tây
- Thực nghiệm 150B tokens đảo ngược! mHC của DeepSeek có lẽ hoàn toàn không cần ràng buộc "m" Sự giao lưu và tiến bộ giữa giới học thuật, ngành công nghiệp máy học và đông đảo người hâm mộ, đặc biệt là... kinh nghiệm tiên tiến từ DeepSeek mHC, đã tạo ra một kết luận thực nghiệm dở khóc dở cười... Thuật toán Máy học và Xử lý Ngôn ngữ Tự nhiên
- [[Báo cáo chọn lọc] DeepSeek mHC: Lắp "bộ ổn định số" cho mô hình lớn (kèm tải PDF)] Nhưng lại hy sinh đặc tính ánh xạ đồng nhất vốn có của kết nối dư, dẫn đến các vấn đề then chốt như huấn luyện không ổn định, chi phí bộ nhớ tăng vọt. Vì vậy, đội ngũ DeepSeek-AI đã đề xuất Manifold-... Mặc Mai Trí Tuệ Nhân Tạo
- Bàn luận về một phương án tăng tốc khả thi cho DeepSeek mHC: Khi ma trận nhỏ gặp phương pháp Newton Ngay đầu năm 2026, DeepSeek đã thu hút sự chú ý lớn với bài báo mHC [1]. Trong thiết kế kiến trúc học sâu, kết nối dư luôn là nền tảng hỗ trợ huấn luyện các mạng lưới sâu... Thống Kê Chi Đô
- Tiền cảnh chuyên sâu về DeepSeek V4: Khi "triết lý chậm" gặp gỡ sự đột phá công nghệ trong kỷ nguyên Agent Công nghệ then chốt giúp tiến hóa từ "chatbot" thành "Agent", cho phép mô hình: •... Giải mã chuyên sâu DeepSeek mHC: Khi hình học đa tạp gặp gỡ mạng dư - Tencent Cloud [6]... AI Tốc Thông Thế Giới
- Tạm biệt bức tường sức mạnh tính toán: DeepSeek mHC tái định hình sáng tạo kỹ thuật số như thế nào Việc đề xuất kiến trúc DeepSeek mHC đánh dấu giai đoạn mới của AI tạo sinh: từ việc chồng chất tham số đơn thuần sang tối ưu hóa cấu trúc. Thông qua việc giới thiệu ma trận ngẫu nhiên kép và cơ chế ràng buộc đa tạp,... Phòng thí nghiệm Sáng tạo Kỹ thuật số AIIT
- Musk kinh ngạc! DeepSeek và Kimi lần lượt ra tay, phá vỡ "quy luật ngầm" của Transformer! Tư duy vấn đề của DeepSeek là: Trọng số cố định liệu có quá cứng nhắc? Mỗi lớp đối với nó... Kết nối dư luôn nằm ở tầng dưới cùng, được coi là "cấu hình mặc định", không ai nghĩ rằng cần phải đụng vào... Quan Sơn Kỷ Vạn Lý
- Trước khi DeepSeek V4 ra mắt: Đọc lại 6 bài báo của Lương Văn Phong, tôi thấy những cột mốc "phản trực giác" DeepSeek V4, đã hứa hẹn cho mùa Tết mà? Kết quả là Tết đã qua, ngoài một bàn đầy đồ thừa... Chuyện này phải bắt đầu từ kết nối dư của Hà Khải Minh năm 2015 — đó là một "đường cao tốc một làn xe"... Viện Nghiên cứu Dữ liệu Lĩnh Điểu
Tìm thấy khoảng 126 kết quả
Bài viết được AI dịch và tổng hợp tự động từ Jiqizhixin. Liên kết bài gốc ở phía trên. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.