任何一位偉大英明的皇帝，僅靠一人的聰明和智慧，也難免有失誤之處，因此，古人特別重視廣開言路，把大臣進諫和皇帝納諫看成是名君名臣的美德。忽必烈接觸漢文化以後，也注重廣開言路，集中眾人的聰明才智，共同治理國家。他用曆史上的名君為榜樣，注意接受大臣們的建議和意見，成為曆史上一個能納諫的有名帝王。
忽必烈即位伊始，麵臨的是一個曆經戰亂、百廢待興的局麵，一切都要從頭做起。他急於思治，特召見張雄飛和江孝卿說：“今任職者多非材，政事廢弛，譬之大廈將傾，非良工不能扶，卿輩能任此乎?”江孝卿聽了這話，搖搖頭謝稱“不敢當”。張雄飛則回答說：“古有禦史台，為天子耳目，凡政事得失，民間疾苦，皆得言；百官奸邪貪穢不職者，即糾劾之。如此，則紀綱舉，天下治矣。”
忽必烈聽後很高興，馬上創立禦史台，以前丞相塔察兒為禦史大夫、張雄飛為侍禦史。忽必烈特意對他們說：“卿等既為台官，職在直言，朕為汝君，苟所行未善，亦當極諫，況百官乎!汝宜知朕意。"
從此，忽必烈就將廣開言路，糾正缺失的任務交給了禦史台，以醫治中書省、樞密院左右兩手及諫阻皇帝缺失。繼而，忽必烈又立諸道按察司及肅政廉訪司等機構，以加強對地方的監察。
忽必烈曾經與李冶討論曆史和曆史人物，忽必烈問李冶，魏徵何如?李冶回答說：“魏徵忠言讜論，知無不言，以唐諍臣觀之，徵為第一。”忽必烈又問：“今之臣有如魏徵者乎?”李冶回答說：“今以側媚成風，欲求魏徵之賢，實難其人。”
李冶在明確指出，當時溜須拍馬、阿諛逢迎成風，難以尋找像唐朝魏徵那樣敢於犯顏直諫的人。竇默也曾向忽必烈指出：“君有過舉，臣當直言，都俞籲嘯，古之所尚。今則不然，君曰可臣亦以為可，君曰否臣亦以為否，非善政也。”忽必烈看不慣這種阿諛逢迎之風，下決心予以扭轉，真正打開言路，以便利國利民。