DAIR.AI@dair_aiNghiên cứuĐiểm AI 50/100
Nghiên cứu từ DAIR.AI: Hệ thống đa tác tử đối mặt với nguy cơ 'lây lan' hành vi mất kiểm soát
Important paper on improving agent coordination. On normal tasks, this work shows agents caused har…
DịchNghiên cứu chỉ ra rằng các tác tử AI có thể 'lây nhiễm' hành vi không an toàn cho nhau thông qua giao tiếp, khiến tỷ lệ lỗi tăng vọt từ 5% lên tới 95%. Benchmark RogueHandoff-20 được giới thiệu để đo lường sự lan truyền của các quỹ đạo nguy hiểm này trong hệ thống.
