古時候，有人認為漢字是黃帝的史官倉頡創造的，所以長期流傳著“倉頡造字”的說法，這種傳說是不可靠的。文字是人們用以記錄語言的符號和交流思想的工具，它隻有通過廣大群眾的長期社會實踐才能產生，單憑一個人的才能智慧是創造不了的。倉頡這個人，可能隻是古代整理文字的一個代表人物。
文字產生以前，我們祖先曾經用圖畫來幫助記事，後來，這種圖畫越畫越簡單，就逐漸地脫離了具體事物的描繪，變成一種抽象的符號——象形文字了。象形文字就是最原始的文字。
我國最古老的漢字是商周時代刻在龜甲、獸骨上的“甲骨文”和鑄在鍾、鼎等青銅器上的“鍾鼎文”（又叫作“金文”），其中有很多字就是象形文字。象形文字筆畫複雜，不便於書寫，在兩千七百多年前周宣王的時候，太史籀（zhòu）對甲骨文和鍾鼎文進行了一次整齊劃一的工作，製定了“大篆”。這種字體後來通行於秦國。保存到現在的“石鼓文”（刻在十麵像鼓一樣的石頭上的文字），就是秦國所使用的“大篆”。
春秋戰國時候，諸侯割據，政權分裂，漢字的寫法很不一致。秦滅六國以後，為便於政令的推行，在李斯的主持下，簡化了秦國的大篆，廢除了各國的異體字，漢字得到統一，人們把這種統一後的漢字叫作“小篆”。秦始皇曾用這種字體在很多地方刻石碑宣揚自己的“威德”，像“泰山刻石”和“琅琊（láng yá）台刻石”，就是秦朝的遺物。
漢字經過周秦的兩次改革，有了比較固定的寫法，奠定了今天方塊字的基礎。
小篆的筆勢是圓轉的，書寫起來比較麻煩，所以秦朝時候一般人寫字多使用平直的筆畫，這樣一來，又形成了一種新字體，程邈適應人們的需要，把這種字體加以整理，就成為“隸書”。隸書到漢朝時候，經過文人的加工，增添了筆畫的波捺，就顯得工整又美觀了。漢靈帝熹平年間（172—177），有人用這種字體把《尚書》《詩經》等書刻在四十多塊石碑上，供人們抄寫校對，成為有名的《熹平石經》。