蔡祐，字承先，祖先为陈留国人，后来徙居高平。他聪明敏捷，颇有道德。长大后臂力过人，宇文泰将他召至帐下当作亲信。宇文泰迁至夏州，任他为都督。侯莫陈悦害死贺拔岳，诸将迎接宇文泰。宇文泰准备出发，夏州官吏弥姐、元进等人暗中酝酿计谋，宇文泰知道了，便召集元进等人到府中议事，不久用眼色暗示 蔡祐。他立即到外面换上盔甲，握刀直接闯入，叱责元进并将他杀死，又将他的党羽全部处决。在座的人都惊恐颤栗。宇文泰于是与将领们设盟发誓，要同心诛杀侯莫陈悦。宇文泰因此很看重他，对他说：“我今天把你看作儿子，你要把我当成你的父亲。”他后来跟随宇文泰生擒窦泰，收复弘农，征战沙苑，都立有战功。
他又跟随宇文泰战于河桥。他下马与敌兵决斗，随从的人劝他骑上马以应付紧急情况，他发怒说：“丞相待我如亲生儿子，今天怎么能考虑自己的生命？”便率领身边的十多个人一齐大声呼喊，杀伤很多敌兵。敌人认为他们没有后援，将他们包围十多重。 蔡祐弯弓搭箭，四面抵抗。东魏军便组织起穿厚甲拿长刀的人直接进攻蔡祐。敌人离他只有三十步时，左右的人劝他射箭，他说“：我们的性命就在这一支箭上啊，怎么能虚发呢？”敌人距离他们只有十来步，他才将箭射出，射中敌兵的面部，敌兵倒下。 蔡祐便用长矛刺杀，东魏军队才退却，蔡祐也带着人马慢慢退去。这一战，西魏军队失利，宇文泰已经撤退。蔡祐到达弘农，晚上与宇文泰会面。宇文泰写给他一句话：“承先，你来了我就没有忧虑了！”宇文泰因为受惊，不能入睡，枕在 蔡祐的大腿上才安稳熟睡。他因立功晋爵为公，被授予京兆郡太守的官职。
东魏的高仲密献出北豫州降服，宇文泰率军接应他，与高欢的军队在邙山相遇。 蔡祐这时身穿明光闪亮的铁甲，所向披靡。齐军都说“：这是一只铁打的猛兽啊！”纷纷躲避他。宇文泰患病，他与晋公宇文护、贺兰祥等人侍候他。宇文泰去世， 蔡祐悲痛不已，因此生病。
周孝闵帝称帝，封蔡祐为少保。他与尉迟纲一起掌握禁军。这时闵帝信任司会李植等人，阴谋害死宇文护。他常哭泣着劝谏，闵帝听不进去。不久闵帝被废除。明帝没有即位前，与 蔡祐关系亲密，即位后，对他的礼遇更加厚重，授予他小司马的职务。御膳中若有不同寻常的山珍海味，必分一份赐给蔡祐，群臣宴会，他常被明帝单独留下来，有时到深夜，明帝才派人排列火炬，吹着胡笳将他送回府第。他不愿过分地蒙受殊遇，因而常常称病避开。至于儿女婚嫁，更不愿与权臣政要们相联结。朝廷命他为宜州刺史，没有上任，便去世了。
他少年时与同乡人李穆名望相等，二人常互相告诫说“：大丈夫应当建立功名，以博取富贵，怎么能长久地处于贫贱之中呢！”说完便都仰天大笑。后来两个人的作为都如自己所立下的志向一样。每次征战，他都冲在士卒前面。军队回来后，将领们都争夺功劳，他却从不自夸。宇文泰常感叹说“：承先自己不夸说功勋，我当替他叙说。”他生性节俭，得到的俸禄，都分给宗族里的人。去世时家里没有多余的钱财。