王扶在臨汾病危，自知將死，召其侄王縱橫，囑咐後事。
縱橫跪地流涕，趙如霜侍立在側，亦傷感抹淚。王扶道：“吾三十舉孝廉，出仕漢朝，後朝廷見用，先任上黨太守，再領冀州牧，躋身地方重職。吾官至州牧，平生願已足。本立誌齊家治國，不負漢朝之命，不想卻逢中原紛亂，兵戈不休。吾領軍浴血奮戰十數載，仍然不能平定反叛。今心力將盡，而叛賊愈加猖獗，誠為平生大恨。吾自舉兵平亂以來，即將家室子女遷往長安，以示隨時為國盡忠也。今逢兵敗，我命將絕，賢侄英雄蓋世，足以建功立業，吾將大事托付於賢侄，今可領吾部下願以追隨之兵，前往並州投之，與並州共拒公孫國賊。吾之子女，皆資質平常，此生隻能為普通百姓，不可為官，吾死之後，如其難以生計，還望賢侄加以關照。”
縱橫即伏地而泣，不能出言，隻點頭領諾。
王扶囑咐完畢，長歎道：“悠悠蒼天，曷其有極！此前朝諸葛武侯，在五丈原軍中將歿之時所感歎也。吾今情景，與此類似，方知此恨痛徹肺腑。”直覺身體陣陣發涼，遂昏睡過去。至夜半，乃卒於臨汾軍中，時年63歲，順安二十年夏五月也。
王扶既卒，其侄王騰依其遺囑，不願為軍者，皆發糧餉旅費，令其還鄉，收編得王扶部軍隊萬餘人。為王扶發喪，葬之臨汾汾水之旁，申奏朝廷。
公孫霸麾軍又前往臨汾，夜晚駐軍途中，見一流星劃過夜空，墜入臨汾城方向，甚為驚疑，問馬翁為何寓意，馬翁道：“此乃將星隕落，王扶必然死矣。”公孫霸尚將信將疑。且命大軍駐紮，令騎哨探，回報臨汾仍然未見異常，城上軍士守備甚嚴。公孫霸疑惑，遂引大軍緩緩而行。又一日，即將到達臨汾城下，哨騎回報，仍然無異常，隻是城上旌旗刀槍甚多。公孫霸更加疑惑，遂領前部軍試探攻之，城上無所反應。遂令人登城看之，皆是假人手執旗幟刀槍，立在城上。於是公孫霸率軍入臨汾，問於城中居民，答道：“王扶已死，其侄王騰已經率其部投並州去了。”