當然，基於對正確完成大量計算工作的要求，古代有很多類似神秘機械裝置的“計算機器”，諸如算盤、算籌、計算尺之類的單純性計算工具早已流傳於世界各地。除此之外，布萊斯·帕斯卡（1623—1662）和戈特弗裏德·威廉·萊布尼茨（1646—1716）等著名數學家也分別發明了滾輪式加法器和萊布尼茨乘法器等計算工具。
開發出現代計算機雛形的人是英國數學家查爾斯·巴貝奇（1791—1871）。當時為了計算船隻的航線，必須進行對數運算，可是對數表的誤差太大，甚至引發了部分船隻失事事件。因此，在1812年，年僅21歲的巴貝奇開始考慮能否用機器計算，以確保結果的正確性。
可惜他那台被命名為差分機的設備不僅結構過於複雜，而且設計多次變更。他的研究資金很快就用完了。巴貝奇不屈不撓地堅持了20年，最後不得不放棄差分機的研製工作。
1991年，為了紀念巴貝奇誕辰200周年，倫敦博物館製作了巴貝奇生前未能完成的差分機。最終的成品是一台寬3.4米、高2.1米，由4 000多個零部件構成的巨型設備。測試結果表明，這台機器能正確進行15位數的計算，從而證明了巴貝奇的設計絲毫無誤。
人類曆史上的首台電子計算機要等到1945年才問世，這台值得載入人類史冊的電子計算機被命名為ENIAC（電子數值積分計算機）。它的用途是計算彈道等，以為第二次世界大戰提供支持。不過，等它誕生的時候，第二次世界大戰已經結束了。
ENIAC由近1.8萬個真空管、7萬個電阻和1萬個電容組成，寬約30米、高約2.4米、厚度達到0.9米，是一個總重量達27噸的龐然大物。其中，最具革命性的設計是采用程序控製計算機，可以處理多個領域問題。從這一點來看，它可以稱得上是現代計算機的始祖。