但是，韓信認為劉邦這支部隊軍容不整，軍令不齊，還需經過一番操練，方能出征。項羽的軍隊是百戰之師。要想依靠劉邦這支烏合之眾，戰勝項羽的精兵，還有很大的難度，所以韓信決定花一個月時間嚴格訓練。
第二天，韓信升帳閱兵，製定軍律，號令帳外。眾將士因他兵權在手，隻得遵守約束。韓信親自督操，口講指畫，如何排列陣勢，做到奇正相生、首尾相應，等等。曹參、周勃、樊噲等人雖屢經戰陣，卻從未學過兵法，對列陣作戰以及陣勢變化等，隻知其一，不知其二。如今得到韓信開導，方知韜略運用之妙，頓覺眼界豁然開朗，不由得對韓信刮目相看，不再認為韓信是個隻會發空議論的書生了。
漢軍經韓信操演後，不過半月時間，已是軍容齊整，壁壘一新。軍中將卒聽說指日東征，士氣大振，再也無人逃亡，但韓信還不放心，最令他擔心的那些將領，他們全部是劉邦的故舊親信，也許平時他們之間也有自己的矛盾，但聯合起來對付他卻是步調一致的。
韓信感到自己受到嚴密的監視，他任何一個細節行動都有人向劉邦報告，而且是壞話較多。他發現自己在軍中徹底地孤立，沒有班底，沒有親信，連侍衛人員都是劉邦由沛城帶出來的老人。
韓信還聽見有些將領在背後議論他，說他沒有一點功勞苦勞就當上大將，占盡了便宜。
於是，韓信決定首先建立自己的班底，他把劉邦軍隊中的淮陰人以及他的舊交，如孔聚、陳賀、傅寬、丁禮、楊喜、趙將夕、王耆、旅卿等召集攏來，開了一個秘密會議。韓信吩咐他們做自己的耳目，軍中有什麽動態，隨時向他反映。他還說，如果他的命令在軍中得不到貫徹，今後這支軍隊就沒有戰鬥力。服從命令是軍人的天職。軍隊隻能由一個人指揮，他是軍隊的首腦，全軍都得聽他的。“將在外，君命有所不受。”不能讓漢王劉邦及其參謀班子坐在家裏遙控這支軍隊，而他這個大將卻形同虛設。他必須有職有權，所以，他最近要采取措施，整頓部隊作風，在軍中建立自己的威信。