毛遂是战国时期薛国人，年轻时曾游至赵，为平原君赵胜的食客。在平原君门下三年寂寂无名，不为人知。赵孝成王九年（公元前257年），秦围邯郸，大军压境，赵危旦夕，赵王派平原君求救于楚，平原君决定在客中选二十名文武兼备者同往楚求救兵马。但一时选中十九，尚缺一人。此时，毛遂自告奋勇站出来自我推荐，身旁门客笑其自不量力。及至楚都，楚王傲慢，意不出兵，毛遂只身上殿，舌战楚王， 迫其出兵救赵。事后，众僚对其刮目相待，平原君更拜其上客。
毛遂老年，祈归故里薛城，以颐养天年，死后葬在薛城北门外。明版《滕县志》记载：“毛遂，薛人也。卒后葬于薛。”
毛遂自荐的故事，从古至今，妇孺老幼，人人皆知，据司马迁的《史记 平原君虞卿列传第十六》载：
公元前260年，赵王中了秦的反间之计，以只能纸上谈兵的赵括代替廉颇守卫赵国的重地长平，使得赵国四十万大军被困于长平，最后全部为秦将白起所坑杀，仅留二百余幼老者回赵都报信，赵国精锐随之丧失殆尽。后来，秦乘胜围攻赵都城邯郸。邯郸为之震惊，赵王急召国卿平原君商议退敌救国之策。平原君道：“为今之计，只有求救于诸侯。魏与在下有姻亲关系。关系素善，求之则发救兵。楚乃大国，且路途遥远，唯有以‘合纵’之策促其发兵，臣愿亲往。”赵王同意了。
平原君乃是战国四君子之一，此四君子皆以礼贤下士闻名于世。平原君有门客三千，毛遂位居其末。平原君回至赵府中，急招门客商议，言明使楚合纵之事，并欲选拔二十人随同，前往至楚。平原君道：“此次合纵定约之事，关系到邯郸得失，赵之存亡，关系甚大啊，故势在必得，必须成功。倘若和谈不能成功，则须以武力相威胁，迫使楚王歃血订盟。故所选二十人必是文武俱备之士。诸位皆是当今贤士，且事情紧急迫切，二十人便出自各位当中了。”然在三千人之中，多是能文者不能武，或能武者又不能文的单项人才，最后只选得文武双全者十九人，最后一人竟无从可得。平原君不禁慨叹道：“唉，想我赵胜相士养士数十年。门下宾客多达三千，不料挑选二十人竟如此的难啊！”
正值此际，毛遂于下座挺身而起，坚定的说道：“毛遂不才，愿同前往。”平原君见毛遂有些面生，又不曾听左右提起过毛遂的名字，便有意试探道：“先生居住在我赵胜的门下多久了？”毛遂答道：“已有三年，”平原君遂生轻视之意说：“贤士处于世间，恰似尖锥处于囊中，其锥尖锋芒也会露现出来，今先生居此已有三年，却未曾听左右提起过您，可见先生文不成、武不就，且出使楚国乃关系到赵国生死存亡之大计，先生恐怕不能胜任这个任务，还是留下来吧。” 毛遂并无退怯之意，立刻答道：“君子言之有理。贤士处世当展其才德，然欲逞才能须有表现的机会，君子以贤达仁义、礼贤下士闻名于世，然君子若没有赵公子的这个名分，地位怎么会显示出贤达呢？毛遂之所以未能展露出锋芒，是因为没有处在囊中的机会，否则，早已脱颖而出了，不单单是只露锋芒的问题。”平原君对毛遂的对答深感诧异，且事情紧急，没有再三斟酌的时间，便同意毛遂同往。其余十九人虽然听了毛遂刚才的一番言论，仍不以为意，都认为毛遂只不过徒逞口舌罢了，彼此目视，哈哈而笑。 十九人都认为自己学富五车，一路之上常是高谈阔论，毛遂不言则已，言必惊人，总能一语中的。到了楚国都城时，十九人都已被毛遂所折服。
到了楚国，平原君不敢怠慢，第二日一早，太阳刚刚升起，便上朝与楚考烈王商议合纵之事。楚王道：“合纵之事，当初先由赵国发起，后张仪游说各国，联盟未能牢固。当年先是（楚）怀王为纵约长，率诸侯伐秦而不克；后又由齐缗王为纵约长，而列国皆背信弃义，合纵又败。时至今日，各国皆以约纵为讳，六国合纵联盟只不过一盘散沙，无济于事。况且秦国今日之强六国皆不能敌，唯有诸国各自安保方为上策。再者，秦楚新近通好。楚若与赵合纵，岂不是背信弃义，自惹刀兵之苦，代赵受怨吗？合纵之事还是算了吧！”平原君从容对答，陈说利害，但楚王终因惧怕强秦，犹豫不决。
毛遂等二十人于朝下等候，眼见日上中天，约纵仍未成功。十九人便对毛遂道。“先生上。”毛遂亦不答话，按剑拾阶而上，昂首走上朝来。对平原君说：“合纵之事，只要言明利害，三言五语便可解决，却为何自日出谈至日中，仍未商定？”
楚王见有人竟敢按剑直闯朝堂，且出言不训，不觉怒起心头，但又不明此人底细，且慑于毛遂之威严，便转身先问平原君道：“此是何人？”平原君道：“此乃胜之门客毛遂。”
楚王便高声叱喝道：“大胆狂徒，本王与你家主人谈话会纵之事，岂有你说话之地，还不退下？”毛遂毫无惧色，按剑直前，说道：“合纵乃天下之事，天下人皆可议之，况在我家主人面前，你叱者何来？仗你人多势重罢了。然如今你我相距仅十步之遥，你的性命便握于毛遂手中，还逞得什么威风！当年商汤凭借七十里之地而王天下，周文王仅凭百里地，却使天下诸侯臣服，又有哪一个凭借了势众人多呢？”楚王脸色稍和，问道：“先生有何话说？”
毛遂道：“先前，楚西有黔中、巫郡，东有夏州、海阳，南有洞庭、苍梧、北有陉塞、郇阳，地方五千里，带甲百万，车千乘，骑万匹，此乃霸王之资，天下诸侯哪个能当？然一泱泱大国竟为一乳臭未干之竖子白起率区区之数万人连连挫败，一战丢鄢、邓等五城，郢都划为秦郡，再战而烧夷陵，三战则为秦兵毁先王之宗庙，辱没先人，此乃百世之仇怨，赵国都为之羞愧，可大王却偏安于一隅，但求苟安，不求报仇复地，怎对得起列祖列宗在天之灵呢？合纵之事，对楚实是有百益而无一害。想那秦国久存虎狼之心，并吞天下之意早已昭然若揭，赵亡，楚亦不会长久。想当年，苏秦首倡合纵，六国结为兄弟，致秦十五年不敢东进一步。今秦虽围邯郸年余，二十万精兵日夜进攻，却未能损邯郸毫厘。且魏素交好与赵，必遣救兵，若楚赵合纵成功，联合魏、韩，灭秦精锐于邯郸城下，乘势西进，则楚可报先仇，收复失地，重振楚威，如此百利而无一害之事却犹犹豫豫不能定夺，到底为了何故？”言罢，毛遂双手按定佩剑，怒目而视楚王。
楚王立刻连连称是，道：“就依先生，就依先生。”毛遂问：“主意拿定了吗？”楚王道：“定矣！定矣！”毛遂便呼楚王左右：“取鸡狗马血来！”左右取铜盘至。毛遂双手托住铜盘，跪献楚王道：“大王当献血为盟，正式合纵之约，大王先饮，我家主人次之，毛遂再次。”于是于朝堂之上歃血定盟，合纵事成。
毛遂左手托定铜盘，右手招呼朝下十九人道：“诸位就于朝下共同歃血吧！你们这些庸碌之辈，所谓‘因人成事’者，不就是这样吗？”
平原君回至赵国，感叹道：“我一向自以为能够识得天下贤士豪杰，不会看错怠慢一人。可毛先生居门下三年，竟未能识得其才。毛先生于楚朝堂之上，唇枪舌剑，豪气冲天，不独促成约纵，且不失赵之尊严，大长赵之威风，使赵重于九鼎之吕，毛先生以三寸之舌，而强于百万之师。胜再不敢以能相天下之士自居了。”遂待毛遂为上客。
唐代诗人周昙有《春秋战国门-毛遂》一诗：
不识囊中脱颖锥，功成方信有英奇。
平原门下三千客，得力何曾是素知？
清代滕县才子满秋石有《赋得毛生自荐》一诗：
秦寇邯郸急，平原欲定盟。备来同食客，自荐识毛生。
馀子徒观望，雄才独抗衡。名甘三载晦，功已两言成。
才短三千客，心轻百万兵。铜盘谁歃血，掉舌已长城。
毛遂墓原在津浦铁路官桥站老票房处，清末民初之际，修建津浦铁路时，迁葬官桥车站铁路西侧五十米处，现迁葬墓址尚存。1991年春官桥镇政府重修，墓碑由著名书法家王学仲先生题写“毛遂之墓”，并建毛遂墓园。
明万历十三年《滕志 ·人物传·毛遂》载：“战国毛遂者，薛人也。游于赵为平原君客，久之未有知名。秦围邯郸，赵使平原君求救，合纵于楚，约与食客门下有勇力文武备具者二十人偕。… …。遂以为上客。后卒，葬于薛。其冢今被废，内有石碣，始知为薛人。彼时孟尝好士，遂去孟尝而游于赵，何也？予观遂定从数语，凛凛英气，令人发指。彼固羞与鸡鸣狗盗伍也。”
该版志《古迹志 ·塚墓》又载“毛遂墓，在薛城北门外。”即毛遂死后葬在了薛城故里的北城门外。可以肯定，毛遂的原墓塚，在万历年间或者之前，就被掘开，并发现有铭“毛遂”字样的石碣，而不是在墓外所立。墓葬内的石碣，相当于墓志铭或圹志铭。
民国三十六年版的《续滕县志 卷一 通纪第三》记载：“宣统元年（公元1909年)十一月，毛遂墓在薛城北门外当铁路道，改造之。”一九六二年文物调查时，居民反映，当年修建津浦铁道时，原墓室建在车站票房，动工后墓被破坏。群众将其移至铁道西重新埋葬。当时墓前尚存旧碑二通，一通碑有：“万历二年……，毛……”字样；另一通碑有“拒敌佑民……毛遂墓”数字，为民国二年(公元1913年)豫××所立。
晚清年间，德国修铁路–原津浦铁路（现在的京沪铁路前身），被挪于铁路西侧的现在的位置。据传第一次挪葬的时候，发现了墓室有四字石刻：“遇铁即开”。迁葬后墓前立有石碑。（见《滕州史话》）
