谢迁，字于乔，余姚人。成化十年(1474)，乡试第一名。第二年考中进士，又是第一名。授修撰职，接着升任左庶子。
弘治元年(1488)春，宦官郭镛提出预选妃嫔以备六宫。谢迁上言道“：先帝陵墓未完工，理应等待。除服之期也不远了。陛下年轻，请等居丧期满后再慢慢地商议也不晚。”尚书周洪谟等也同谢迁意见一致，孝宗同意了。孝宗为太子时，谢迁已是讲官，到这时，参加日讲，致力于竭诚启发开导皇帝。日讲前天晚上，他必定衣冠整齐地练习背诵，到进讲时，对词的讲解详细准确，获得孝宗多次称赞。晋升为少詹事兼侍讲学士。
八年(1495)朝廷下诏书命谢迁同李东阳进入内阁参预机要事务。时逢谢迁居丧期间，他极力推辞，直到服满才接受任命。升任詹事兼任原来官职。皇太子前往封地，加封谢迁为太子太保、兵部尚书兼东阁大学士。他上疏鼓励太子亲贤远佞，勤于学习，力戒一味享乐，孝宗很赞赏。因为大同发生战事，满足不了供应，尚书马文升请求增加南方两税折合的银两。谢迁说“：先朝因为南方的赋税重，所以用折银的办法解决，假如又增加，恐怕百姓不堪忍受。况且富国在于节省费用，如果花费无节制，即使增加赋税又有什么用？”尚书倪岳也持反对意见，此议于是搁置下来。
孝宗晚年感慨地要治理弊政，而内府诸库及粮仓、马坊的宦官行奸枉法，不能深入追究。御马监、腾骧四卫勇士自以为禁军不隶属兵部，一律以空名领取粮饷，其弊尤为厉害。谢迁趁此机会向孝宗提出来，孝宗命令草拟旨文禁止。谢迁说“：虚言禁止无益，应该命官署收集弊端，详细地奏报朝廷。然后严格订立条约，违犯者必诛，那样积蠹可望除掉。”孝宗表示同意。
谢迁仪表英俊魁梧，秉性正直聪明。他与刘健、李东阳一同辅政，而谢迁处事敏捷，善于提出主张。时人为之有言道：“李公善于谋划、刘公善于决断、谢公尤其善于侃侃而谈。”天下人称谢迁为贤相。
武宗即位，又封他少傅兼太子太傅。几次进谏，武宗都不听。因天变无常，他极力要求辞官，武宗就安慰挽留他。后要求诛杀刘瑾不成功，于是与刘健一起辞官返乡，朝廷对他的赏赐等礼数都与刘健一样。而刘瑾对谢迁的怨恨不解。焦芳已经靠依附刘瑾进入内阁，也恨谢迁曾举荐王鏊、吴宽代替自己，没有举荐他，就直接从内宫取圣旨强制罢免谢迁的弟弟兵部主事谢迪，贬谢迁的儿子编修谢丕为民。
四年(1509)二月，因为浙江应诏所推荐的才德双全人士，余姚的周礼、徐子元、许龙，上虞的徐文彪都是谢迁的同乡，而草拟诏书的是刘健，刘瑾一伙想借此算成谢、刘二人的罪状。假传圣旨称余姚隐士为何这么多？此必定是徇私情而援引，将周礼等人关进诏狱，供词牵连到刘健、谢迁。刘瑾要逮捕二人，没收其家产，李东阳从中极力化解。焦芳在旁边厉声说：“纵使从轻宽恕，也应当取消原有身份。”圣旨下，同焦芳说的一样，周礼等都被罚戍边。尚书刘宇又弹劾刘、谢所辖两部门向上汇报失实，被判罪罚米，有的削去门籍。另外诏令从今后余姚人不得当选京官，并写成条文。这年十二月，言官根据刘瑾的意图，请求收回刘健、谢迁以及尚书马文升、刘大夏、韩文、许进等的诰命，下诏一并追还所赐的玉带衣物，同时被收回诰命的人有六百七十五人。当时，人们都为谢迁担心，而他与客人下围棋、赋诗镇定自若。刘瑾被诛，他恢复官职，后辞官退休。
世宗即位，遣使慰问谢迁，起用谢迪为参议，谢丕恢复翰林院的官职。谢迁于是派儿子谢正入朝致谢鼓励皇帝勤学、师法祖先、纳谏。世宗优容地下旨回复。嘉靖二年(1523)，又下诏命有关部门去慰问。六年，大学士费宏推举谢迁代替自己，杨一清想阻止张璁入选，也尽力推荐谢迁。世宗于是派遣官员送去自己亲手写的诏书到谢迁家启封宣旨，命巡抚、按官敦促他上路。谢迁时年七十九岁了，不得已接受任命。等到他到朝廷，而张璁已经进入内阁，杨一清因为官职高于谢迁而无意辅助他。谢迁任职数月后极力请求离去。世宗对待他更加优待，天寒免去上朝参拜，除夕日赐御制诗，有病时则派遣太医去为他治病，并赐药和食物，光禄送去酒食，道路上尽是派往谢迁家慰问的使者。谢迁终究在第二年三月辞官回家。十年在家去世，享年八十三岁。追赠太傅，谥号文正。
谢迪官至广东布政使。谢丕乡试第一名，弘治末年，考中进士，官至吏部左侍郎，追赠礼部尚书。