廣義的散文要追溯於古希臘、羅馬時期，是隨著語言文字的產生和人們日常生活的交際自然而然地產生的。人們日常生活的活動、話語用非韻的文字記載下來，加以整理，便成了散文。在古希臘時期，主要文學形式為神話、史詩和戲劇，其中《伊利亞特》與《奧德賽》是歐洲古代最偉大的兩部史詩。在古羅馬時期，用拉丁文寫作的是公元前3世紀的最早的編年史作者赫米拉，他用散文的形式敘述了古羅馬的曆史。之後，雖然也湧現了很多的政治演講、哲學論著散文，但大都失傳了。其中，值得一提的是古羅馬的政治家、演說家和作家西塞羅（前106—前43），他將古羅馬散文中的演說辭推向了頂峰。
16世紀，隨著歐洲城市商品經濟的發展，資本主義生產關係在歐洲封建製度的內部逐漸形成，文化和思想上早已開始反映新興資產階級利益和要求的文藝複興運動在這一時期得到了進一步的發展，文藝複興運動應運而生。文藝複興是新型資產階級在思想文化領域反封建、反教會的偉大鬥爭，也是歐洲從封建社會向資本主義社會過渡的曆史轉折。經濟的發展、思想的解放都促進了文學藝術的複興與繁榮。在這一時期的作品，集中體現了人文主義思想：主張個性解放，反對中世紀的禁欲主義和宗教觀；提倡科學文化，反對蒙昧主義，擺脫教會對人們思想的束縛；肯定人權，反對神權，摒棄作為神學的和經院哲學基礎的一切權威和傳統教條；擁護中央集權，反對封建割據。其中，代表性作品有但丁的《神曲》、卜伽丘的《十日談》、馬基雅維利的《君主論》、拉伯雷的《巨人傳》等。
在文藝複興人文主義思潮的主要影響下，在散文創作領域順應潮流地興起了一種“私文學”，即用書信、日記、懺悔錄等形式，形成了一種較為隱晦的自我坦露和內省。其代表人物是法國的蒙田（1533—1592），他的散文主要是哲學隨筆，因其豐富的思想內涵而聞名於世，被譽為“思想的寶庫”。在他的作品中，加入了大量的描寫與剖析，使人讀起來有一種娓娓而談的親切之感，寧靜隨意的外表下流貫著親切，增加了作品的文學趣味。他的作品語言平易通俗，不假雕飾，在法國散文史上占有重要的地位，開創了隨筆式作品的先河。這種散文，需要將作者意誌的、情感的、觀察力的結晶融會貫通，籠統地熔鑄在暗示裏，讓細心的讀者去領會，去體悟，去揣摩，具有極大的藝術魅力。隨後，英國的培根（1561—1626）吸取了蒙田的藝術營養並加入了個人的獨創，將有關道德的問題結合個人的經驗和知識，發出忠言讜論，供有誌之士閱讀。他的文章思想成熟，言論深邃，富含哲理，對於英國散文的發展起到了良好的開拓作用。