生平
大器晚成
柬之年轻时涉猎经书史籍，补缺为太学生。祭酒令狐德棻认为他是奇才，便以帝王的辅臣期待他。中进士后，起初调任清源县丞。
永昌元年（689年），朝廷以贤良科目召试，这时他七十多岁了。对答策问的一千余人，张柬之名列第一。授官监察御史，后累迁为凤阁舍人。
劝谏女皇
这时突厥首领默啜请以女儿和亲，武则天想让武延秀娶她。张柬之进言说：“自古从无天子娶异民族女子的事。”触犯了武则天旨意，被调出朝廷任合、蜀二州刺史。旧例，每年派兵五百驻守姚州，此地险恶有瘴气，到此即死。张柬之力陈其弊端说：“臣考证姚州，为古哀牢国，地处八荒域外，山险水恶。西汉时尚未与中国交往，汉武帝时唐蒙打通去夜郎、滇、笮的道路，哀牢却不归附。东汉光武末年，它才请求纳为属国，设永昌郡统辖它。征收它的盐、布、毡毯、毛织品以有利于中国。它西邻大秦，南接交趾，珍奇的贡物充足。刘备占据蜀地，军备不足，诸葛亮五月渡过泸水，征收其物产用以补充军备，派张伯歧去选取强壮士兵，以增强兵力。因此《蜀志》称诸葛亮南征以后，蜀国因而富足。前代王朝在此设郡，是因为有利。现今它的盐、布等赋税不上供，珍奇的贡物不入朝，戈戟等兵器不充实我朝军队，当地资财不献给天朝大国。朝廷却耗尽官府财物，驱使、率领百姓去受蛮夷役使，以致悲惨丧生。臣私心为陛下惋惜。
当年东汉使臣翻越博南山，渡过澜沧水，改设博南、哀牢两县。蜀地民众为此愁苦，出使者作歌道：‘越博南，过兰津，渡兰沧，为别人。’就是讽刺为贪图珍奇物产之利，而被蛮夷役使的事。汉朝得其利益，民众尚且唱出怨歌。如今却是损耗国家储备，开支、户税日益减缩，去让陛下的子民以身躯肥野草，尸骨不能归，使其老母幼子只能向千里之外哀号遥祭。朝廷无丝毫利益，而百姓却蒙受终身惨痛，臣私心为国家痛心。
往时诸葛亮攻下南中，就地任用其首领统辖，不设汉族官员，不留驻守士兵。他以为设官留兵有三难：设官势必汉人与土著民族杂居，将引起猜忌怨恨；留兵转运粮草，祸患将日益加重；日后突然反叛，劳民费财必然严重。因此粗立法规纲常，自然长久安定。臣以为诸葛亮的策略，确已尽笼络蛮夷的纲要。现今姚州的官吏，既无强固边防抑制外寇的意识，又无诸葛亮能擒能纵的本领。
只是苛索诈取，任意掠夺残害；煽动其首领，使之结成宗派；或卑躬巴结，向蛮夷献媚，行礼跪拜恭敬屈服，不再以为羞耻；或带领子弟门生，啸聚凶暴愚昧之徒，聚众赌博，一掷万金。总计逃亡在姚州的罪犯，户数超过二千，专门从事抢劫。同时，姚州本是龙朔年间武陵王主簿石子仁奏请设置的，此后长史李孝让、辛文协死在土著人众手里；诏令郎将赵武贵前去讨伐，士兵无一生还；又派将军李义聏继续前往征讨，郎将刘惠基战死，该州始被废止。臣私下认为诸葛亮的‘三难’之说，尽都应验。
垂拱年间，当地民族出身的郎将王善宝、昆州刺史爨乾福再度奏请在此设州，声称赋税自理，不从蜀郡另取。设州后，州掾李眣被蛮人杀害。延载年中，司马成琛又设泸南七镇，派蜀兵驻守，蜀郡方才乱了。
同时姚州都督府统辖的五十七个州内，都是极狡诈的流民。国家设置官员，是用以纠正民风防止作乱，然而无耻的官吏，腐败荒谬到如此地步。至今劫难祸患未止，恐怕惊国扰民的灾祸将日益滋长。应撤销姚州，让哀牢隶属巂州都督府，其首领、使臣逢年按时朝见天子，视同外邦；废除泸南诸镇，而在泸北设关驻防，不是朝廷使臣，不许与其交往；增加巂州驻军，选派清正贤良官员去统辖。臣下愚见以为这样有利。”
张柬之的奏议不被采纳。不久调他任荆州大都督府长史。
众人举荐
长安年间，武则天问狄仁杰：“从何处能得到一位奇士使用他？”狄仁杰说“：陛下若求文章、资历，现宰相李峤、苏味道足够了。难道是文士拘泥小节，不足以共成天下大业吗？”武则天说：“是的。”狄仁杰说：“荆州长史张柬之虽然年老，却是宰相之才。用他，他必定为国家尽心竭力。”武则天立即召请张柬之任洛州司马。
过了一阵，武则天又求才，狄仁杰说：“臣曾举荐张柬之，您没用他。”武则天说：“提拔他了。”狄仁杰说“：臣举荐宰相却任司马，这不是用才。”于是张柬之被授官为司刑少卿，迁升秋官侍郎。
其后姚崇出任灵武军使，即将启程，武则天诏另举荐宫外百官中可任宰相的人，姚崇说：“张柬之深沉稳重有谋略，能决断大事，他已年老，要赶快任用。”武后当天就召见他，授官同凤阁鸾台平章事，晋升凤阁侍郎。
神龙政变
神龙元年（705年）正月，武则天病得非常严重，麟台监张易之和春官侍郎张昌宗居宫中执政，张柬之、崔玄暐与中台右丞敬晖、司刑少卿桓彦范以及相王府司马袁恕己谋划杀掉张易之和张昌宗。张柬之问右羽林卫大将军李多祚说：“将军今日的荣华富贵，是谁给的？”李多祚流着眼泪回答说：“是高宗大帝给的。”张柬之说：：“现在大帝的儿子受到张易之和张昌宗这两个小子的威胁，难道将军不想报答大帝的恩德吗！”李多祚回答说：“只要对国家有利，我一切都听相公安排，不敢顾及自身以及妻儿的安危。”于是自己指天发誓，并且与张柬之、崔玄暐等人一同定下了铲除张易之和张昌宗的计谋。
当初，张柬之接替荆州都督府长史乡人杨元琰的职务，二人一同泛舟于长江之中，当小船漂到江心时，谈到了武则天以周代唐的事，杨元琰慷慨激昂，有救助大唐的志向。张柬之入朝作了宰相后，便推荐杨元琰担任右羽林将军，并且提醒他说：“您大概还记得我们当初在江心泛舟时所说的话吧？今天这项任命可不是随便给您的呀。”张柬之还任用了桓彦范、敬晖以及右散骑侍郎李湛，都让他们担任左、右羽林将军，把禁军交给他们指挥。这件事引起了张易之等人的怀疑和忧虑，张柬之于是又任用他的党羽武攸宜为右羽林大将军，张易之等人才放了心。
不久，姚崇从灵武回朝，张柬之和桓彦范交谈说：“大事就要成功了！”于是把商量好的计谋告诉姚崇。桓彦范将这事禀告了他的母亲，母亲勉励他说：“忠孝不能两全，应当先为国家大事着想，然后再考虑自家的小事。”当时太子李显都从北门入宫向武则天问安，桓彦范和敬晖前往拜见，秘密地把他们的计策告诉李显，李显允许他们这样去做。
癸卯（二十二日），张柬之、崔玄暐、桓彦范与左威卫将军薛思行等人率领左右羽林兵五百余人来到玄武门，派李多祚、李湛及内直郎、驸马都尉安阳人王同皎到东宫去迎接李显。李显有所怀疑，没有出来，王同皎说：“先帝把皇位传给殿下，殿下无故遭到幽禁废黜，皇天后土、士民百姓无不义愤填膺，已经有二十三年了。现在上天诱导人心。北门的羽林诸将与南牙朝臣得以同心协力，立志诛灭凶恶的小人，恢复李氏的江山社稷，希望殿下暂时到玄武门去以满足大家的期望。”李显回答说：“凶恶的小人的确应该翦除，但是天子圣体欠安，你们这样做能不使天子受惊吗！请诸位日后再图此事。”李谌说：“诸位将帅宰相为了国家不顾身家性命，殿下为什么非要让他们面临鼎镬的酷刑呢！请殿下亲自去制止他们好了。”李显这才出来。
王同皎将李显抱到马上，并陪同李显来到玄武门，斩断门栓进入宫中。此时武则天在迎仙宫，张柬之等人在迎仙宫的走廊里将张易之和张昌宗斩首，然后进至武则天居住的长生殿，在她周围环绕侍卫。武则天吃惊地坐起来，问道：“是谁作乱？”张柬之回答说：“张易之、张昌宗阴谋造反，臣等已奉太子的命令将他们杀掉了，因为担心可能会走漏消息，所以没有向您禀告。在皇宫禁地举兵诛杀逆贼，惊动天子，臣等罪该万死！”武则天看见李显也在人群之中，便对他说：“这件事是你让干的吗？这两个小子已经被诛杀了，你可以回到东宫里去了。”桓彦范上前说：“太子哪 能还回到东宫里去呢？当初天皇把心爱的太子托付给陛下，现在他年纪已大，却一直在东宫当太子，天意民心，早已思念李家。群臣不敢忘怀太宗、天皇的恩德，所以尊奉太子诛灭犯上作乱的逆臣。希望陛下将帝位传给太子，以顺从上天与下民的心愿！”李湛是李义府的儿子，武则天发现了他，对他说：“你也是杀死张易之的将军吗？我平时对你们父子不薄，想不到竟然有今天的变故！”李湛满面羞惭，无法回答。武则天又对崔玄暐说：“别的人都是经他人推荐之后提拔的，只有你是朕亲手提拔的，你怎么也在这里呢？”崔玄暐说：“我这样做正是为了报答陛下对我的大恩大德。”
接下来逮捕了张昌期、张同休、张昌仪等人，将他们全部处斩，并在神都天津桥的南边将上述人犯与张易之、张昌宗二人一道枭首示众。在这一天里，为防范突然事变的发生，袁恕己随从相王李旦统率南牙兵马，他们将韦承庆、房融及司礼卿崔神庆等逮捕下狱，这些人都是张易之的同党。先前，张昌仪新建起一幢非常豪华的宅第，规模比诸王及诸位公主的宅第还要宏大，有人晚上在他的门上写道：“一日的丝能织几日的薄纱？”张昌仪让人把字迹除掉，结果又被人写上，这种情况总共出现了六七次。张昌仪用笔在门上写道：“即使是只织一天，我也感到满足。”此后便没有再出现这种情况。
甲辰（二十三日），武则天颁下制书，决定由李显代行处理国政，大赦天下。任命袁恕己为凤阁侍郎、同平章事，派遣十位使者分别携带天子的玺书前往各州进行安抚工作。乙巳（二十四日），武则天将帝位传给李显。
忧愤而终
诛除张易之、张昌宗，张柬之首先设谋。论功提拔为天官尚书、同凤阁鸾台三品、汉阳郡王，封给实纳租税的食户五百户。不到半年，他以汉阳郡王加“特进”衔，免除治理政事。
不久，张柬之遭武则天的侄子武三思排挤，武三思以张等五大臣诬陷韦后为由，向李显中伤他们，李显于是下诏，同时免去他们的宰相职务。
张柬之失权后，愿回襄州养病，便任命他为襄州刺史。
启程前，李显为他赋祭路神，还下诏群臣到定鼎门外给他饯行。到襄州后，他以法纪对待下属，即使是亲朋旧故也不放纵宽免。适逢汉水暴涨侵及外城，张柬之就军营壁垒筑堤，遏制急流怒涛，全境依赖它防洪。他又恳切地辞去王爵，朝廷不准。不久遭贬，并流放到泷州，忧愁愤懑而死，享年八十二岁。
景云元年（710年），唐睿宗追赠张柬之为中书令，谥号文贞，授予他一个儿子官职。
开元六年，唐玄宗下诏张柬之配享中宗庙庭。唐德宗建中年间又追赠他为司徒。张柬之为人刚直不牵强附会，学术精深，有评议篇次的书文数十篇。
