孫權稱吳王的時候，曾有人建議讓張昭當丞相，但孫權不買賬，任命資曆遠比張昭低的孫邵為相，孫邵因病去世後，孫權又讓顧雍出任丞相之職。張昭這個兩朝元老、東吳重臣終其一生始終與丞相之位無緣，晚年甚至一度辭了職，賦閑在家。
張昭的官場失意，應該說與他的性格有很大關係，他這個人心胸狹隘、氣量太小，因而不能服眾。
比如說，有一次孫權大宴群臣，讓諸葛恪為大家敬酒。諸葛恪依命向大臣們一一敬酒。敬到張昭時，張昭已醉推辭不喝，而諸葛恪依然再勸，張昭不悅道：“這哪裏是尊敬老人！”孫權故意給諸葛恪出難題，說：“看你能不能讓張公理屈辭窮把酒飲下，不然這杯酒就你喝了。”
於是，諸葛恪對張昭說：“過去師尚父九十歲，還能披堅執銳，領兵作戰，不言自己已老。現在，帶兵打仗，請您在後，而喝酒吃飯，請您在前，這怎麽能說是不敬老呢？”張昭無言以對，隻得把酒喝下，但從此就記恨上了諸葛恪。
又一天，孫權和諸葛恪、張昭等大臣在殿中議事，忽然一群鳥飛到殿前，這些鳥頭部均為白色。孫權不知道這是什麽鳥，就問諸葛恪：“你知道這鳥叫什麽名字嗎？”諸葛恪不假思索地回答：“這種鳥叫白頭翁。”諸臣中張昭年紀最大，又是一頭白發，他以為諸葛恪是在借機取笑自己，就對孫權說：“陛下，諸葛恪在騙人！從來沒有聽說過叫白頭翁的鳥。如果真有白頭翁，那是不是應該有白頭母呢？”
諸葛恪立刻反駁道：“鸚母這種鳥，大家一定都聽說過吧！如果依老將軍的話，那一定還有鸚父了，請問老將軍能打到這種鳥嗎？”張昭頓時無言以對。
因為氣量狹小，張昭很難與人搞好關係。甘寧自降吳以後，急於立功，於是請求征黃祖、取劉表，並自請任先鋒。孫權覺得可行，準備實施。張昭卻不同意，他說：“士兵畏懼膽小，如果軍隊真的行動，擔心會招致動亂。”甘寧不客氣地反駁：“國家將蕭何的丞相重任托付給你，你堅守職責而擔心戰亂，為什麽還仰慕效法古人呢？”孫權見二人爭執，就舉杯向甘寧勸酒，並說：“興霸，現今討伐的任務，如同這杯酒，就交給你了。你盡管主領趕快謀劃，如果保證打敗黃祖，那麽，憑你的功勞，又何必不滿意張長史說的話呢？”孫權雖然為二人解了圍，但明顯站到了甘寧一邊。後來孫權自率大軍征黃祖，甘寧為先鋒，果然大獲全勝，解決了孫策在世多年沒有解決的問題，雖吞並劉表未成，但解除了黃祖這一大心病，江東自此在孫權的控製之下。從這件小事就可以看出，實際上，東吳眾將不服張昭。