卡內基晚年一直致力於慈善事業。他出資創立了用來發展科學、文學和美術事業的卡內基協會，設立了關懷見義勇為英雄及其遺孤的“舍己救人基金”。不僅如此，他的仁慈之心惠及了社會各個階層的各類人群，卡內基是個熱愛和平的人，他還專門出資資助那些為世界和平作出貢獻的人。
在所有的行業當中，從事教育的人的身份雖然高，很受人尊敬，可是他們的待遇卻最低。當卡內基首次擔任大學的理事時，發現教授們的薪水少得可憐，簡直還比不上他公司的一個小職員。他們不敢奢望晚年時會有一點儲蓄，因此那些沒有設置退休製度的大學，對於一些已經老得不能再從事教育工作的教授，也隻有讓他們繼續留任現職。他們為培育下一代青年而奉獻一生，可獲得的報酬卻十分微薄，實在太不公平了。
出於對教育工作者的尊敬和同情，1905年6月，卡內基又創設了1500萬美元的教育基金，以保障各大學老教授退休後的生活。這是卡內基又一項重大捐獻。為了經營這筆基金，卡內基從美國各大學的校長中選出25人來擔任委員。卡內基對這個基金會倍感親切，因為接受這筆基金的大部分學者都是卡內基的親密老友，卡內基最了解他們為社會所貢獻的價值。基金會設立以後，卡內基收到無數受益學者或其遺孀們寄來的感謝信，這使他很感激也很感動，他把這些信全都妥善地留存下來，每當情緒沮喪或鬱悶時，他就把它們拿出來再看一遍，心情就會立刻開朗起來。
有一次，卡內基的一位住在鄧弗姆林的朋友在英國的評論雜誌上刊載了一篇報道：“大多數住在鄧弗姆林的窮人，都希望自己的子女接受大學教育，因此在日常生活中，都盡量省吃儉用，可是仍然無法湊足學費。”
卡內基讀了之後，馬上寄送附有利息的債券1000萬美元給他們。利息的一半是作為貧民子弟的學費，另一半則用來補貼大學改善設備。這一個基金會就此很快地被運作起來，它被命名為“蘇格蘭大學卡內基基金”。