崖山战役后，南宋宣告彻底灭亡。蒙古将领张弘范对文天祥说：“宋已亡，丞相要想尽忠也没有地方可尽了。就算是杀身成仁，也没有人把这事写进丹青。丞相如愿转为效力大元，一定会受到重用的!”文天祥含泪悲愤地说：“国亡而臣不能救，这已经是最大的罪过了，如何还敢怀有二心!”
张弘范没法，只得把文天祥押解回大都。
文天祥一心求死。活着已经没有意义，即使像上次一样能够逃脱，也不能重新起事，光复大宋。因为大宋已经覆灭，也没有任何赵氏子孙可供扶持。正如张弘范所说的，关于大宋的那一页书，已经翻过去了。摆在自己面前的只有一条路，就是死!
他想死在桑梓之地，让自己的灵魂能够永远守护着曾经是南宋的这一片山山水水。可是忽必烈已经下令，一定要把他解到大都。元军对他进行了严密的防范，他实在找不到可以自尽的工具，于是便开始绝食。
本来他以为饿七八天就能死掉的，没想到十天过去，故乡的土地早就过了，他仍然还没死。于是他决定不再绝食，让自己死得更加从容一些。
但是在半路上，又遇到庐陵人王炎午张贴了数十张《生祭文丞相文》，敦促文天祥舍身取义。王炎午曾经是太学生，国破家亡的时候，拿出全部家产跟随文天祥进临安勤王，文天祥对他很器重。但后来遇到父亲去世，母亲病危，他不得不离开部队回家侍亲。
王炎午的举动让文天祥大为震动，他又开始绝食，却又不得死。就这样，文天祥在一种残酷的自我折磨中，于元世祖至元十六年(1279年)十月到达大都。
忽必烈下令以上宾之礼优待文天祥，并不断派人劝降他。忽必烈之所以这么做，一半出于对文天祥的欣赏，另一半出于政治统治的考虑。文天祥是忠臣，是一种有高洁精神品质的符号，作为有远见卓识和宽阔胸怀的忽必烈来说，对文天祥的品格是相当认可的。这是一种英雄对英雄的惺惺相惜，尽管英雄来自敌国，也阻挡不了心中由衷的敬佩。
忽必烈也算得上是历史上杰出的开国君主。他虽然是蒙古人，但是由于在金莲川开幕府的时候，招募了大量的汉人知识分子，因此深受儒家文化的影响。同时，在他远征大理的时候，拜藏传佛教活佛八思巴为师，这使得他的眼见相当开阔，胸怀气度都与他的父兄祖辈有很大不同。在派人攻打南宋的时候，他就曾多次告诫部下不能随便杀人，要优待南宋的文人及士大夫。因此，南宋为数庞大的官员投降元朝，为他卖命，也并非完全因为怕死和慕念荣华而变节。由此看来，他对文天祥的厚爱和欣赏确实是真心诚意的。
当然，作为一个了不起政治家，如果能让文天祥投降，为他所用，对巩固新政权是相当重要的。他虽然用武力征服了南宋，但要能让南宋臣民驯服于元朝统治并非易事。文天祥是一种象征，是一种忠于旧王朝的形象代表，如果连文天祥这样的人也归附自己，那将极大地消磨那些蠢蠢欲动的反叛人士的意志，也可以因此表明自己的政权是得人心的。
最先来劝说文天祥的是留梦炎。留梦炎是在元军围攻临安的时候，偷偷离朝逃跑的，不久就投降了元朝。留梦炎和文天祥有很有相似之处，都曾中状元，都做到了宰相。但是品格操行却截然不同。这两人见面，注定是一段有趣的场面。
留梦炎对文天祥说：“今大宋已亡，天下尽归元朝。你一人苦苦坚持，有什么意思?草木尽管还是赵氏草木，日月却已是大汗的日月了!”文天祥穿着宋朝朝服，面南而坐，啐了留梦炎一口道：“您身为大宋重臣而卖国，身为衢州百姓而卖家，身为汉人而卖节，你有何面目和我说话!”
留梦炎满脸通红，呐呐地说：“我一番好意，你为什么血口喷人……”
文天祥再不理他，吟起他听说留梦炎投降后写的`一首《为或人赋》：“悠悠成败百年中，笑看柯山局未终。金马胜游成旧雨，铜驼遗恨付西风。黑头尔自夸江总，冷齿人能说褚公。龙首黄扉真一梦，梦回何面见江东。”
留梦炎后来被升为礼部尚书，甚至被升为宰相。但元人脱脱写《宋史》，却并没有给他一传。倒是拒不投降元朝的文天祥，被立传旌表。留梦炎在元朝做官，他的老家人却说：“两浙有留梦炎，两浙之羞也。”后来直到明代，凡是留姓的子孙参加科举考试，都要先声明自己非留梦炎后代，才有考试资格。
留梦炎劝降不成，忽必烈又派宋恭帝赵显来劝降。文天祥知道赵显的用意，不等他说话，就走到他面前，让他向南而站，自己面北跪下来。连连磕头道：“臣文天祥参见圣驾!圣驾请回!”说着放声大哭。一边哭一边哽咽着连声说“圣驾请回!”赵显始终插不上话，最后默默地来，还就默默地回去了。
可以感觉得到，文天祥的哭并不只是一种策略，应该是真哭。他历尽艰辛万苦，不惜牺牲个人生命所做的那一件事，无非就是要保住赵氏江山。可是现在自己还在努力着，赵家皇帝却已经投降了，自己的一腔心血不是白费了吗?忽必烈之所以派赵显来劝说文天祥，也是出于这种考虑。不过，深受儒家文化熏陶的文天祥，显然在忠君与爱国的问题上处理得非常恰当。孟子曰：“民为贵，君为轻，社稷次之。”当君和国发生矛盾的时候，文天祥理所当然地站在了国家这一边。
从另一个角度来说，如果文天祥还有一丝苟且之念，他大可以借恭帝来劝降的机会找一个下去的台阶。君要臣死，臣不得不死。既然如此，君要臣投降，臣也不得不降了。再说，赵氏家族都死的死，降的降，自己的坚持也完全没了意义，即便投降，也没有人指责自己的不是。文天祥不，他绝不假惺惺地做样子。他是纯粹而彻底的，他坚持的不再是具体的世俗情怀，而是一种伟大的信念。这种信念是超越了荣与耻，生与死的!
忽必烈不想放弃，他又派出自己的人去劝说。先是平章政事阿合马出马。阿合马趾高气扬地命令文天祥跪下，文天祥冷笑道：“南朝宰相见北朝宰相，岂能下跪!”阿合马奚落他道：“你既然是南朝宰相，何以至此?”文天祥骄傲地答道：“如果南朝早日用我为相，何以至此!”阿合马给文天祥带上手铐，把他关进土牢里，想用残酷的生活来折磨他，消磨他的意志。谁知这竟是一心求死的文天祥求之不得之事：死且不怕，还怕监禁!阿合马很是无趣，只得失败而退。
接着忽必烈又派另一个宰相孛罗来劝降。孛罗把文天祥从土牢中提出来，让士兵强按着他的头，使他下跪投降。文天祥坚决不从，叫道：“天下事有兴废，我忠于宋室，绝不屈服，自求速死!”孛罗想和他辩论一番，便说道：“你弃德祐皇帝，另立二王，如何是忠臣?”文天祥正色道：“德祐失国，另立二王，是为国家考虑，我如何不是忠臣?”孛罗又说：“你说为国家考虑，你另立二王，国家保住了吗?”文天祥说：“国家虽没能保住，但臣子尽心尽力是他的本分。国家既灭，臣子不该苟活。休得多言，惟求一死!”孛罗无言以对。
所有能派遣的人都用上了，还是不能让文天祥回心转意。但忽必烈仍然不想放弃。他又打出亲情牌。有一天，文天祥收到一封他长女柳娘的来信，才知道他的两个女儿在大都宫中为奴。文天祥一生育有二子六女，但在残酷的抗元斗争中死来只剩下两个。文天祥在低矮潮湿的土牢里读着女儿的信，肝肠寸断。他明白，这是元朝统治者向他暗示，只要投降，骨肉就能团聚，还能过上好日子。但是，他强忍痛苦，不给女儿回信，只给妹妹写信道：“人谁无妻儿骨肉之情，但今日事已至此，于义当死。可令柳女、环女好好做人，为父管不得。泪下哽咽，哽咽!”信送出去，他还忍不住心里痛苦之情，写了一首《得儿女消息》：
故国斜阳草自春，争元作相总成尘。
孔明已负金刀志，元亮犹怜典午身。
肮脏到头方是汉，娉婷更欲向何人。