Nghiên cứu đề xuất chuyển đổi các chuỗi hành động phức tạp của LLM Agent thành mô hình trạng thái hữu hạn (FSM) nhỏ gọn, giúp dự đoán lỗi và bước tiếp theo chính xác hơn so với các phương pháp truyền thống.
Nghiên cứu mới chỉ ra rằng các tập đoàn công nghệ lớn hiện vẫn thiếu những cơ chế giám sát và phòng vệ đủ mạnh để ngăn chặn AI vượt khỏi các giới hạn an toàn.
Aravind Srinivas (Perplexity CEO)@AravSrinivasWhen building AI agents, it is important to still give humans agency to have their hands on the whee…
DịchCEO Aravind Srinivas nhấn mạnh rằng khi phát triển AI Agent, việc duy trì quyền tự chủ cho con người là yếu tố then chốt để đảm bảo khả năng can thiệp kịp thời khi cần thiết.
MMDiff là khung làm việc mới giúp giải mã và kiểm soát các đặc trưng bên trong của mô hình ngôn ngữ đa phương thức (MLLM) thông qua kỹ thuật so sánh mô hình, hỗ trợ cô lập tính năng và điều chỉnh hành vi mô hình hiệu quả hơn.