慕容孝隽抢先送来了几名天柱三部的生存者，伏允一问才知道，大军在炽热的沙漠中行走时，干燥的天气使得人疲乏不堪，突然发现在遥远的前方沙漠间，出现了一个湖，湖的两岸高耸着宫殿和寺院，于是快速朝前奔去。走过一个沙丘又一个沙丘，但湖泊、宫殿和寺院仍在遥远的地方，忽暗忽亮，忽隐忽现，最后消失得无影无踪。随后风沙大起，一直到了黑夜，行人不能睁眼，大军就失去了方向，这部分人是在第二天风沙停后，根据太阳的照射判断方向，走出沙漠的。

天亡我也，伏允心中一阵哀鸣，立即下令：“慕容孝隽断后，全军退往西平郡。”

大业四年六月，吐谷浑可汗伏允率部退入西平郡境内，遣使向大隋请降求救。隋炀帝杨广令左卫大将军宇文述兵屯西平临羌城，观王杨雄出浇河，以接应吐谷浑降众。伏允可汗见隋军强盛，惧不敢降，又率众西逃。宇文述遂引鹰扬郎将梁元礼、张峻、崔师等追之，在曼头城大败吐谷浑，杀其众三千余人，乘胜又攻占了赤水城。

伏允率众再次退守丘尼川，隋炀帝杨广亲征，分命内史元寿南屯金山，兵部尚书段文振北屯雪山，太仆卿杨义臣东屯琵琶峡，将军张寿西屯泥岭，四面围之。双方激战数日，吐谷浑不抵，伏允率数十骑逃逸，命名王梁屈葱打着伏允的旗号，屯兵车我真山；右屯卫大将军张定和出战，被梁屈葱斩于阵前，亚将柳武建随即接手大军，苦战一日，击破梁屈葱军，斩杀数百人，俘虏其王公、尚书、将军共二百多人。名王梁屈葱逃走后，仙头王马重率男女十余万人投降，献上牲畜三十万头。

左光禄大夫梁默、右翊卫将军李琼等奉命追击伏允，先后遇到慕容孝隽带来的援军，战死疆场。伏允率吐谷浑余部南奔鄂陵湖雪山，杨义臣率大军追杀，经大斗拔谷鱼贯而出，沿途山路隘险，风霰晦冥，部队失去联系的甚多，士卒冻死过半，最终无奈退军。不过吐谷浑东西四千里，南北两千里的疆域，此刻皆为隋朝所有，铁勒闻讯退兵，大隋在吐谷浑旧地设鄯善、且末、西海、河源四郡，发天下轻罪者徙居之。