其祖父唐邕曾任北齐尚书左仆射，其父唐鉴曾出任隋朝戎州刺史，与唐高祖李渊是老朋友，曾共同执掌禁卫，因此唐俭与李世民是世交，早年同在太原。唐俭爽直豪迈，不循规矩，但侍奉亲人以孝闻名。他见隋末政局渐乱，曾暗地劝说李家建立大计。李渊起兵时，授职为记室参军、渭北道元帅司马，随从平定京师，任职相国府记室，封为晋昌郡公。

唐武德二年（西元619年），进职为内史舍人，后迁任中书侍郎、散骑常侍。唐初之时，唐俭作为军使与永安王李孝基等人一起被刘武周俘获，在狱中从元君实口中得知独孤怀恩要造反。时独孤怀恩驻守蒲州，唐俭立即遣人揭发独孤怀恩谋反之罪。李世民击破刘武周之后，唐俭拜礼部尚书，授天策府长史，封莒国公，被特赐免死罪一次。贞观初年，唐太宗李世民一面派唐俭为使说降突厥，一面命李靖进军。李靖奇袭突厥成功，生擒颉利可汗，唐俭于乱军之中逃生，后授民部尚书，但因怠于政事而贬官。

唐高宗永徽初年，致仕于家，加特进。显庆元年（西元656年）病故，终年七十八岁，追赠开府仪同三司、并州都督，谥曰襄，陪葬昭陵。

忠纯不贰心护大唐
揭发叛贼临危救难
武德二年，吕崇茂占据夏县造反，与刘武周连兵。李渊下诏永安王李孝基、独孤怀恩、于筠率兵进讨，唐俭因出使到达军中，恰逢李孝基等人被刘武周擒获，唐俭一同也被抓。

起初，李渊元贞皇后的侄子独孤怀恩屯驻蒲州，暗地与其部将元君实共同谋反，此时却一起被刘武周抓获。元君实私下对唐俭说：“独孤尚书准备起兵背叛大唐，犹豫不发，故逢此难。这就是古人说的『当断不断、反受其乱』了。”不久，独孤怀恩逃归唐朝，李渊不知其变，仍下诏让他驻守蒲州。元君实说：“独孤怀恩脱难得归，仍旧戍守河东郡，真是王者不死啊！”唐俭虽身陷贼营，仍对唐朝忠心耿耿，他担心独孤怀恩叛唐作乱，密令其亲信刘世让归朝告发独孤怀恩的阴谋。

当时坚守蒲州的隋将王行本以蒲州城降唐，唐高祖李渊已乘船准备亲往蒲州与独孤怀恩相会，一起入州受降。船到中流时恰逢刘世让及时赶到，李渊大惊说：“岂非天命佑护啊！”下令立刻返回西岸，收捕谋反之徒，独孤怀恩畏罪自杀，上吊而死，其余党也全部被诛杀。高祖之行如果没有唐俭及时通告，很可能以皇帝之尊被独孤怀恩劫持，唐室有覆亡之危难，是唐俭的忠心拯救了大唐王朝。

不久刘武周战败，逃往突厥，唐俭封存府库财物、登记兵器铠甲，以等待秦王李世民接收。李渊嘉奖唐俭身受幽禁折辱而不忘朝廷，下诏恢复原职，仍任并州道安抚大使，允许他权宜行事，并将独孤怀恩的家产全都赐予唐俭。还京后授职礼部尚书、天策府长史、检校黄门侍郎，封为莒国公。仍旧任职为遂州都督，食绵州实封六百户，绘其图像于凌烟阁，以彰其功。

军使犯险助破突厥
进谏太宗罢猎养心
贞观初年（西元627年），唐俭出使突厥返回，唐太宗对唐俭说：“您看颉利可以攻取吗？”唐俭回答说：“依仗国家威灵，其事可望成功。”贞观四年（西元630年），唐俭乘驿车驰往突厥诱使他们归附，颉利表示同意，因而兵众弛懈，李靖不顾唐俭正在匈奴处为使，奇袭突厥，生擒颉利可汗，唐俭竟能趁乱脱身，贞观五年（西元631年），唐俭就任民部尚书。

有一次，他随从唐太宗在洛阳苑中射猎，一群野猪从林中冲出。太宗神勇如初，发四箭连杀四只大野猪，有只大公猪张著獠牙直冲御马，已至马镫，唐俭滚身下马上前搏击，太宗拔剑斩杀野猪，笑对唐俭说：“天策长史，你没见过我当上将击贼的样子吗？干嘛这样害怕？”唐俭回答：“汉祖以马上得天下，不以马上治天下。陛下以神武定四方，岂复逞雄心于一兽。”太宗纳谏，为之罢猎而归。

此后太宗下诏命其子唐善识娶豫章公主为妻。唐俭居官不留心事务，常与宾客纵酒为乐，曾因犯小法贬授光禄大夫。唐太宗评价他说：“唐俭言辞辩捷，善和解人；事朕三十年，遂无言及于献替。”永徽初年离休，加爵为特进。显庆元年（西元656年）去世，时年七十八岁，赠予开府仪同三司、并州都督，陪葬于昭陵，谥号“襄”。

唐俭下棋冒犯君威
千古一帝明镜高悬
有一次，唐俭与唐太宗下围棋，布局时，抢先占据了有利位置，这使得唐太宗大为生气，随即将唐俭贬为潭州的地方官。在余怒未息的情形下，又对尉迟敬德说：“唐俭不够尊重我，我想杀了他，你要替我作证，说出外面对他的指控。”尉迟敬德唯唯诺诺的答应了。到了次日当面对质时，尉迟敬德叩头说：“我实在没有听到外面对他的指控。”唐太宗连问了好几次，尉迟敬德都不改原先的说法，这让唐太宗非常恼火，气得将手中的玉板摔碎在地上，拍拍衣服进去了。过了相当长的一段时间，唐太宗命开席用餐，将三品以上的官员都请入座，席间唐太宗说：“敬德今天所为，有利、有益者各计三项：使得唐俭免于枉死，我免于枉杀，敬德免于曲从，这是三利；又使得我有改过的美名，唐俭有再生的幸运，敬德有忠直的声誉，这是三益。”讲完话后，并赏赐尉迟敬德一千缎布匹，群臣都高呼万岁。