隨著資本主義在世界的蔓延，在美國以農業為主的南方和以工業為主的北方之間關係不斷惡化，他們之間的衝突幾乎是不可避免的。而此時，英國新興的資本主義逐漸蔓延到美國。林肯就任總統以後，南北間因奴隸問題和關稅障礙的對立導致情勢更加惡化。1861年，美國爆發了南北戰爭。在這次戰爭中，以林肯為中心的北方軍廢止了美國曆史上長期存在的奴隸製度，所以這一戰爭又被稱為“奴隸解放戰爭”。戰爭期間，卡內基奉調為北方軍鐵路部隊的要員，加入了戰爭的行列。
那時候斯科特先生被任命為物資運輸的陸軍次官，卡內基奉命擔任他的助理，跟著他一起被派到華盛頓。當時卡內基的工作是負責軍用鐵路和軍用電信的管理和營運，同時將鐵路員工編入鐵路部隊，在戰爭初期，這是最重要的工作部門。
戰爭進行得如火如荼。一天，北方軍部隊搭乘火車在即將通過巴爾的摩時遭遇南方軍的襲擊，鐵路被破壞，通往華盛頓的交通被切斷了。卡內基立刻率領部下趕到現場展開修理工作，經過幾天不眠不休的搶修，火車終於能夠暢行無阻。卡內基就坐上第一列要開往首都華盛頓的火車車頭內，觀察前方的路況。突然，他發現兩旁的電線被人用木棒釘在地上，這一定是敵人為了幹擾電信搞的鬼。卡內基立刻命令停車，他跑下去想拿掉那些木棒。由於電線拉得太緊，當他拆木棒時電線突然向上彈了起來，猛地抽到他的臉上。卡內基被打得倒在地上，臉上流了很多血。經過緊急治療後，火車繼續前進，終於到達了華盛頓。這次，卡內基和幾天前在巴爾的摩遭到敵人襲擊而受傷的幾名士兵一樣，都為國家流了血，他感到十分光榮。
南北戰爭期間，南方軍頻頻攻擊賓夕法尼亞鐵路，木質橋梁被毀的事件層出不窮，卡內基時常要帶人修橋補路。在一次檢視被南方軍毀壞的一座大橋時，他成功征集了所有的渡船，將它們並列排放，以取代被毀壞的橋梁，進行橋梁修補作業。工廠完畢後，他突然想到：今後應該用鐵橋來代替木橋，繼續用木橋是不行了。