陳三立生於1853年10月23日,年少博學,才識通敏,灑脫而不受世俗禮法約束。
1880年(光緒六年)隨父往河北分巡道今河南武陟縣。
1882年(光緒八年)入鄉試,因惡時文,自以散文體作答,主考陳寶琛賞識其才,破例錄爲舉人。1886年(光緒十二年)會試中式。返長沙,與王闓運等人結碧湖詩社。1889年(光緒十五年)參加殿試,中三甲四十五名進士,授吏部主事,旋棄職。侍父在湖北布政使任所,曾應張之洞邀,爲兩湖書院校閱試卷。其間應易順鼎邀,兩遊廬山南北。
1895年(光緒二十一年)甲午戰爭後,李鴻章赴日簽訂《馬關條約》,陳三立聞訊激憤異常,曾電張之洞:「籲請誅合肥以謝天下。」當時其父寶箴任湖南巡撫,推行新政,他往侍父側,襄與擘劃。在羅致人才、革新教育方面效力尤多。1898年戊戌政變時,因「招引奸邪」之罪被革職不用。後隨父返江西,居西山「青廬」。
1900年(光緒二十六年),陳三立移居南京,未幾喪父。家國之痛,陳三立更無心於仕途,於金陵青溪畔構屋十楹,號「散原精舍」。常與友人以詩、古文辭相遣,自謂「憑欄一片風雲氣,來做神州袖手人。」陳三立早年雖有「吏部詩名滿海內」之譽,但《散原精舍詩集》所收乃自此始。 此後雖不問政,爲社會興利仍極熱忱。
1903年(光緒二十九年)辦家學一所,又贊助柳詒徵創辦思益小學堂。讓出住宅作課堂,延聘外國教師,開設英語及數、理、化新課目;注重德、智、體、美全面發展;還廢除「八股文」和跪拜禮節,禁止死背課文及體罰學生,創新式學校的先例。
1905年(光緒三十一年)初,曾與李有芬創辦江西鐵路公司,並擬倡修南潯鐵路,惜因事未果。
1906年(光緒三十二年),湖南工商界追念陳寶箴父子推行新政,振興實業,奏請爲寶箴塑銅像,爲陳三立授宮職,被其斷然拒絕。同年夏,義寧州大荒,銅鼓雙坑饑民往宜豐天寶買糧,富商何大毛誣稱「匪徒搶劫」,並說「寧州遍地是匪」,挑起鬥毆,殺死雙坑饑民57人,雙坑人控訴不得上達,求助陳三立,陳主持正義,具陳上疏,終獲刑部詳察,嚴懲主犯及當地知縣,冤案大白。
1907年(光緒三十三年),袁世凱行君主立憲,委陳三立任參政議員,未肯就。
1926年(民國十五年),陳三立由杭州到上海寄寓三載。
1930年(民國十九年),陳三立倡議重修《廬山志》 ,委託吳宗慈專主。爲了使志書更爲完善一些,他還特別約請了著名學者李四光、胡先引等撰寫有關條目。另外,在具體的編修過程中,陳三立特別強調了修撰體例的問題,強調志例應尊重科學,志文因時代不同,允許文體有別,做到「舊從其舊,新從其新」。
1932年(民國二十一年)「一二八事變」中日軍侵佔上海閘北,陳三立居牯嶺,日夕不寧,於郵局訂閱航空滬報,每日閱讀。據說,當時的他曾於一晚做夢時喊出「殺日本人」之類的話語。憂國之心可見一斑。
1933年(民國二十二年),曾經的好友鄭孝胥投靠日本,輔佐溥儀建立僞滿政權,陳三立痛罵鄭「背叛中華,自圖功利」。在再版《散原精舍詩》時,忿然刪去鄭序,與之斷交。
1934年(民國二十三年),陳三立離開廬山寓居北平,目睹西山八大處遭八國聯軍破壞,連嘆「國恥」!
1937年(民國二十六年),盧溝橋事變爆發,他表示:「我決不逃難!」聞有人議論中國必敗,他怒斥:「呸!中國人豈狗彘耶?豈貼耳俯首,任人宰割?」北平、天津相繼淪陷。日軍欲招致陳三立,百般遊說,皆不應許。偵探日伺其門,陳三立怒,呼傭拿掃帚將其逐出。從此五日不食,憂憤而死,享年85歲。
1945年江西省政府1713次省務會議決定:將設在修水境內的贛西北臨時中學改爲省立散原中學,1948年遷葬杭州牌坊山。