年青時曾從師陳傅良。兩人是同鄉,志趣相投,且都負文名。一時「聲價喧踊,老舊莫敢齒列。」十八歲時,應禮部試,考取第一名。後幾次選拔,文皆過於師。
一回孝宗親自策士,擬將幼學列爲首選。廷對時,這位初生之犢卻說,「陛下資雖聰明而所存未大,志雖高遠而所趨未正,治雖精勤而大原不立。即位之始,冀太平旦暮至。奈何今十年,風俗日壞,將難扶持;紀綱日亂,將難整齊;人心益搖,將難收拾;吏慢兵驕,財匱民困,將難正救。」孝宗看罷四個「將難」對策,心中不悅,宰相虞允文尤惡之。幼學遂而下第,遣爲廣德軍教授。
過了幾年,當時執政薦他入朝,孝宗也答應,問「年幾何矣?何以名幼學?」參政施師點答,「孟子云,『幼而學之,壯而欲行之。』故幼學其名,行之其字」。孝宗佇思良久慨然道,「今壯矣,可行之已。」即授予敕令所刪定官。幼學入朝,適溫州大水,爲解百姓之困,上疏請求賑濟,朝廷從之。
光宗立,以太學錄召,改授武學博士。逾年升祕書省正字兼實錄院檢討官。又過數年,寧宗即位,幼學得器重擬要進擢。時宰相韓侂冑用事,爲排除異己,施行「僞學」之禁。蔡幼學與朱熹、陳博良、葉適等五十九人,盡入「僞學」查禁之列,「並令省部籍記姓名,與閒慢差遣。」幼學見京中朋類將散,自己也被羅織,便力求外補。遂而特除提舉福建常平,外放至福建。當時朱熹居建陽,幼學每事諮訪,又被御史劉德秀劾罷,任閒職凡八年。
嘉泰二年,「僞學」之禁漸弛,幼學起如黃州。旋又召爲吏部侍郎,再遷國子司業、宗正少卿,皆權中書舍人。中書舍人爲六房(吏、戶、禮、兵、刑、工)承辦文書和起草詔令官員,位較重。侂胄誅後,餘黨尚塞正路,幼學次第彈劾,竄黜尤衆,號稱職。嘉定間,幼學除龍圖閣待制、知泉州,旋又進福建路安撫使。在任關切民瘼,敢爲民請命。當時提舉司命令百姓以田高下藏新會子,若不如令,便要抄沒其資產。新會子是紙幣,因濫發而價值大跌,同時又不能作交納賦稅用。幼學憤然,「罔民而可,吾忍之乎!惟有去而已」。要求罷去這坑民之苛令。