陈遵，字孟公，是杜陵人。
祖父陈遂，字长子，汉宣帝在即位之前与陈遂有交情，曾一起下棋，陈遂多次输给汉宣帝。
到汉宣帝即位，起用陈遂，逐渐升至太原太守，于是赐给陈遂有印章封记的文书说“：皇上下诏太原太守：官尊禄厚，可以之偿还下棋时输给我的了。
你的妻子君宁当时作中人，知道下棋输时的情状。”陈遂于是拜谢，说道：“事情在元平元年(前74)赦令之前。”他被厚待到这种程度。
汉元帝时，征召陈遂为京兆尹，直到担任廷尉。
陈遵年幼时失去父亲，与张竦、伯松一起担任京兆史。
张竦博学多识，以谦洁自守。
而陈遵放纵不羁，品行虽然不同，但相互之间友好，汉哀帝末年一起知名，为后进人士之首。
他们一起进入公府，公府分曹治事的属吏一律都坐着破车赶着小马，不崇尚华美，而只有陈遵一人最喜欢车马衣服，门外车马交错。
另外每天必出去饮酒，公事多次废置。
西曹用以前的典章制度处罚他，侍曹就到官舍告知陈遵说“：陈卿因某事被处罚。”陈遵说“：满一百次就告诉我。”昔日的典章制度，有受处罚满一百次的便斥退，当受罚满一百次后，西曹就上告请求斥退陈遵。
大司徒马宫是优礼贤士的大儒生，又看重陈遵，对西曹说“：这人是度量阔达、不拘小节的人，怎么能用繁琐细密的法令斥责他呢？”于是推举陈遵力能治理三辅政务繁忙的县分，提拔担任郁夷县令。
过了很长时间，与扶风合不来，自己免职离开。
槐里大强盗赵朋、霍鸿等作乱，陈遵担任校尉，击攻朋、鸿有功，被封为嘉威侯。
陈遵住在长安城中，列侯近臣贵戚都认为他位尊而敬重他。
牧守在上任时，以及郡国豪杰到京城的，没有谁不相继到遵家来拜见他的。
陈遵喜欢喝酒，每次喝得很多，宾客满堂时，总是关上大门，将客人的车辖投入井中，即使有急事，客人最终也不能离开。
曾有一衙署的刺史奏事，顺便探望陈遵，刚好碰上陈遵正在喝酒，刺史非常为难，等陈遵大醉时，突然进去拜见陈遵的母亲，叩头告知遵母自己需上奏尚书定有期限的文书，不能久留，陈遵的母亲就让他从后阁出去。
陈遵经常醉酒，但公事也不废置。
陈遵身高八尺多，长头大鼻，外表很魁伟。
他约略懂得经传，文辞丰富。
他生性喜欢书法，给人的书信，主人都将其收藏把它作为一种荣耀。
他的请求没有谁敢拒绝，他所到之处，士大夫对他争相以礼相待，惟恐落后。
当时侯中有一个与陈遵同姓同字的人，每次到别人家，告知是陈孟公，在坐的人没有不震惊的，以后却发现不是的，于是人们给这人取了绰号叫“陈惊坐”。
王莽历来认为陈遵才能奇异，在位的人也大多称赞他，于是起用他担任河南太守。
上任后，就派遣从史，召请十位擅长书法的官吏到他跟前，书写私人信件感谢京城旧友。
陈遵凭靠几案，口授给书写官吏，而且不谈公事，写了几百封，亲疏各不相同，河南郡大惊。
几月后被免官。
起初，陈遵为河南太守，而他的弟弟陈级为荆州牧，在上任时，一起探望长安富人原淮阳王的舅家左氏，与他吃喝玩乐。
后来司直陈崇听说这件事，上奏弹劾“陈遵兄弟俩幸蒙皇恩超越等第，陈遵被封以侯爵，担任郡守，陈级为州牧奉命上任，都以推举正直明察邪曲、宣扬圣上教化作为自己的职责，他们反而不正身自慎。
起初陈遵刚被授官，便乘有屏蔽之车进入里巷，拜会寡妇左阿君，摆酒唱歌，陈遵起舞跳跃，倒在座位上。
天黑以后留宿在此，由侍婢搀扶睡觉。
陈遵知道饮酒宴食要有节度，按礼规不应进入寡妇家，但他却沉湎酒食，破坏男女伦常，辱没爵位，沾污印绶，其罪过不堪耳闻。
我请求将他们全部免官。”陈遵免官后，回到长安家中，宾客更多，吃喝自然同先前一样。
过了很长时间，又担任九江及河内都尉，总共三次担任郡守。
而张竦也官至丹阳太守，被封为淑德侯。
后来一起被免官，以列侯的身份回到长安。
张竦家贫，无宾客。
逐渐有些喜欢多事的人跟随他请他正疑问事，谈论经书而已。
而陈遵日夜喊叫，车马满门，宴请不断。
在这之前，黄门郎扬雄作《酒箴》来劝谏汉成帝，其内容为喝酒之人与法度之士的辩难，法度之士将他比作物件，说“：你好像汲水之瓶呵。
看瓶之所在，在井之边，身处高位而面临深渊，行动时常靠险危。
酒醪未入口，却藏水满怀，不能左右，为井绳所牵累。
一旦悬碍不得下，而为井蠶所击，则自身投入黄泉之中，骨肉为泥。
自以为是竟到如此田地，还不如鸱夷。
鸱夷与滑稽两种酒器，腹大如壶，整天装酒。
曾为国家宝器，载于天子属车，出入两宫，往来于公卿之家。
由此言之酒有什么罪过？”陈遵非常喜欢他，经常对张竦说：“我与你好像是这样啊。
你诵读经书，自身劳苦、自我约束，而不敢失误，可是我恣意放任，追随世俗，官爵功名，不比你少，但缺少独自一人行乐，想来这也不好呵！”张竦说：“人各有性格，谁好谁坏由自己裁决。
你想成为我也不能，我模仿你也只是失败。
虽然这样，但向我学习的人容易驾驭，仿效你的人却难以驾驭，我经常说这件事。”到王莽下台后，他们二人都客居池阳，张竦被贼兵所杀。
陈遵在更始年间到长安，大臣推荐他担任大司马护军，与归德侯刘竦一起出使匈奴。
单于想逼迫陈遵屈服，但陈遵陈述利害得失，曲直是非，使得单于认为陈遵是一个奇特的人才，将他放回。
正碰上更始政权垮台，陈遵停留在朔方，被贼兵击败，一时醉酒被杀。