建元初，漢武帝召韓安國入朝，先是讓他擔任北地都尉，後來升為大司農，再後來擔任禦史大夫。
入朝後，韓安國說話、做事的畫風頓時大變。畢竟此一時彼一時，雖然同樣是運用三寸不爛之舌，但這時候的他再也不是那個人微言輕的韓安國了，若還與之前一樣，那就顯得太不搭，甚至是有點迂腐可笑了。比如在對待匈奴這件大事上，他不但一改過去“可憐巴巴”的樣子，還敢與其他大臣展開激烈辯論。
據《史記·韓長孺列傳》，建元六年（公元前135年），匈奴派人來請求和親，漢武帝讓大臣們討論。
大行令王恢主張廢除文、景兩朝實行了多年的和親政策，改為硬碰硬，或者幹脆主動對匈奴進行軍事打擊。因為根據文、景兩朝的情況來看，和親雖然暫時管用，但過不了幾年匈奴就會背棄盟約，所以“不如勿許，興兵擊之”。
韓安國立即表示反對：
千裏而戰，兵不獲利。今匈奴負戎馬之足，懷禽獸之心，遷徙鳥舉，難得而製也。得其地不足以為廣，有其眾不足以為強，自上古不屬為人。漢數千裏爭利，則人馬罷，虜以全製其敝。且強弩之極，矢不能穿魯縞；衝風之末，力不能漂鴻毛。非初不勁，末力衰也。擊之不便，不如和親。
他的大意是說，派軍隊到千裏之外去作戰，基本上沒有取勝的可能。如今正是匈奴兵強馬壯的時候，他們懷著禽獸般的異心來去如飛。他們是以逸待勞，咱們的軍隊即使能到達，也已是人疲馬乏，就好像強弩之末，連一匹最薄的白絹也射不穿，又好像從下往上刮的風，到最後連一根雁毛都吹不起來。如果咱們主動找上門去，等於是讓匈奴人利用他們的優勢對付我們的弱點，就像一個武藝高強的大漢麵對一個行將就木的重病老人，還沒動手就勝負已分了。這麽看來，發兵攻打實在是下下之策。如果不考慮這些客觀因素強行用兵，後果不堪設想。