Nghiên cứuĐiểm AI 45/100
Complex KDA: Tối ưu hóa khả năng biểu đạt của kiến trúc Kimi Delta Attention
Nghiên cứu giới thiệu Complex KDA (CKDA), kỹ thuật kết hợp biến đổi delta-rule với cơ chế cổng kênh để đạt được khả năng xoay 2D mà không cần tăng thứ hạng cập nhật, giúp nâng cao hiệu suất mô hình RNN.