赫爾巴特1776年5月4日出生於德國西北部小城奧爾登堡，是家裏的獨生子。
赫爾巴特的祖父是當地頗有聲望的醫生，還曾擔任當地文科中學的校長；父親曾經是律師，後來升為樞密院顧問官，母親美麗聰慧且具有深厚的文學修養。赫爾巴特少年時在語言和邏輯方麵已表現出一定的天賦，母親雖然對赫爾巴特十分疼愛，但她並沒有放鬆對兒子的教育和嚴格要求。她請了一位很有學問的家庭教師——沃爾夫學派的哲學家於爾岑，在母親和家庭教師的精心培養下，赫爾巴特接受了嚴格的德國古典教育，在數學、語言、邏輯和哲學等諸多方麵表現出色，並且多才多藝，學習了鋼琴、小提琴等四種樂器與譜曲，11歲已能登台演奏鋼琴。12歲那年，赫爾巴特進入奧爾登堡文科中學二年級學習，並在學校裏顯示出耀眼的才能。學校對他的評語是：“赫爾巴特始終以守秩序、有良好的操行、學習用功和頑強著稱，並且通過孜孜不倦的學習使他自己出色的天賦得到了發展與訓練。”③13歲時，他寫下了自己的第一篇哲學論文《論人類道德的自由》,16歲開始研究康德的思想，17歲時，他為畢業班的同學作了一場哲學方麵的報告，題目為“略論一個國家中道德興衰的一般原因”。這一報告受到了好評，並被刊登在當地一家地方雜誌上。在畢業時，他用拉丁語作了演講，對西塞羅與康德的至善觀念與實踐哲學原理作了分析比較，深受讚許。
赫爾巴特幼年曾不慎跌進沸水桶中並被灼傷，以致童年時期身體一直很虛弱，對各種劇烈的戶外活動更是極少涉足。為了不讓獨生子孤獨無伴，赫爾巴特的母親領養了一名比兒子小一歲的侄女。盡管如此，赫爾巴特的童年總體來說還是比較沉悶的。或許，正是這種沉悶的生活，給了這個孤獨者以無限的遐想空間和發展內心世界的機會。我們可以想象，身體羸弱的小赫爾巴特，靜靜地坐在窗後發呆。在這種狀態中，思維毫無局限地穿越一切障礙，銳利的眼睛不動聲色地從最細微的地方觀察這個世界還有他自己。在羸弱的身體裏麵，強大的精神得以爆發出一種異乎尋常的力量。19歲時赫爾巴特便熟讀了當時著名哲學家謝林和費希特的著作並提出疑義：他反對費希特所謂“自創自己世界”的觀念，認為人們本身不可能創造自己世界，而要依賴外在世界(如家長、教師等)的影響，才能形成自己的世界。顯然，此時他的思想已能深悉自己的心理過程，而且具有獨特的見解。