将屯兵，还有一支编制外由异族骑士组成的义从兵。这是一支相当特殊、力量强大的军队。即“湟中义从胡”。

匈奴击败月氏，部分未西迁的月氏保南山依附羌人。与羌人通婚杂处，语言、服饰、饮食与羌人相似，基本同俗羌化，称为“月氏”。汉征服河湟地区后，“于是月氏来降，与汉人错居。虽依附县官，而首施两端。其从汉兵战斗，随势强弱。其大种有七，胜兵合九千余人，分在湟中及令居，又数百户在张掖，号日义从胡”。

据后汉书邓训传载：“塞内月氏胡胜兵者二三千骑，皆勇健富强，每与羌战，常以少制多。虽首施两端，汉亦时收其用。”羌人攻胡，邓训保护周全，治病救困，待以恩信，为胡所敬。“训遂抚养其中少年勇者数百人，以为义从。”

湟中义从胡发展成依附护羌校尉营居住活动编制外的职业异族军队。在历次对羌作战中作为主力部队使用，“以夷制夷”，发挥重大作用。