再说董承自受密诏之后，日夜思量如何灭曹扶汉。恰此时曹操头风病发作，董承的盟友太医吉平，决定趁机下手。没想到家人将董承告发，密诏之情败露，吉平、董承等人被杀，汉献帝差点被废掉。曹操本就将刘备看作心腹大患，此时更有理由征讨刘备。于是发兵二十万，分五路杀向徐州。刘备势弱，向袁绍求援，袁绍借幼子生病，不肯发兵相救。玄德无奈，只好趁曹军初到之际劫寨，不料被曹操的伏兵大败，回不了徐州，只得单枪匹马去青州投奔袁绍。张飞也中计大败，逃退至芒砀山。曹操当晚夺取了小沛，随即合力攻打徐州，糜竺、简雍把守不住，只好弃城而逃。陈登将徐州献上。曹操大军进驻徐州城，安抚百姓后，又向下邳进军，下邳被团团围困，由于刘备的家眷都安置在下邳，关公拼死坚守。
这曹操一向喜欢招揽人才，有爱才惜才的美名。他知道关公勇猛非常，又十分忠义，很想将他拉拢过来，为自己效力。于是一面用计将关公诱出，不得靠近下邳，一边派张辽作说客前去劝降。
那关公被围困在土山，想冲去下邳又冲突不出。挨到天亮，整顿军马准备再下山冲突，却见一人跑马上山来，这人正是张辽。关公迎上去对张辽说：“文远是要来与我对敌吗？”张辽说：“不是，只是想起老朋友过去的情谊，现在特来相见。”于是将刀丢在地上，跳下马来与关公施礼，二人同坐于山顶。关公说：“文远你是来劝我投降的么？”张辽说：“不是。当初蒙兄长你救了我，我今天怎能不救兄长呢？”关公又说：“那么你是来帮助我的？”张辽说：“也不是。”关公不解：“既然不是来帮助我，来这里为何？”张辽说：“玄德不知是生是死，翼德也不知是死是活，昨天曹公已攻破下邳，丝毫没有伤害军兵，还派了人保护玄德的家眷，不许人惊扰。曹公能够这样体恤，弟弟我特地来报告给兄长。”关公发怒道：“你说这些不就是在劝我投降吗？我现在虽然身陷绝地，但视死如归。你赶快离开，我马上要下山迎战。”张辽笑着说：“兄长这样说，岂不被天下人耻笑？”关公说：“我为忠义而战死，怎么会被人耻笑？”张辽说：“兄长今日便死，其罪有三。”关公道：“你说说看，我有哪三条罪过？”张辽说：“当日刘使君与你结义之时，发誓同生共死，现在刘使君才刚刚失败，你就战死，倘若使君东山再起，需要你的帮助，却再也得不着了，这难道不是有负当年的盟誓？这是第一罪；刘使君将家眷交托给你，你今日战死，两夫人无所依托，辜负了使君的重托，这是第二罪；兄长你武艺超群，经史皆通，不考虑帮助使君匡扶汉室，只想着赴汤蹈火，表现出匹夫之勇，哪里称得上是忠义？这是第三罪。兄长有这三条罪，弟弟我不得不为你指出。”
关公沉吟了片刻，说道：“你既然指出了我的三条罪，那现在要我怎么做？”张辽说：“现在四面都是曹公的军兵，兄长如果不投降，只有死路一条；徒劳死去并无益处，不如暂且向曹公投降，再四处打听刘使君的音信，一旦知道他的去处，便立即去投奔他。这样一来，既可以保护二位夫人，又不违背桃园结义之盟约，还可以保全自身性命，以后为国家效力，这三点好处，兄长应该仔细考虑考虑啊。”关公说：“你说了三点好处，我也有三条约定，如果丞相能够应允，我马上卸下盔甲投降，如果不应允，我宁愿背负‘三罪’而死。”张辽说：“丞相为人宽宏大量，有什么事接纳不了？愿听听你所说的三件事。”关公说：“第一，我与刘皇叔发过誓，要共同匡扶汉室，如今我只投降于汉帝，不是投降于曹操；第二，两位夫人要按刘皇叔的俸禄供养，上下人等，都不能入内；第三，我一旦打听到刘皇叔的去向，不论千里万里，都会前去投奔。这三件事有一件不允，我都决不投降。希望文远赶快回来给我答复。”张辽答应下来，快马回奔见曹操。先说了降汉不降曹的第一事。曹操笑着说：“我本是汉丞相，汉即是我。这一点可以应允他。”张辽又说了第二事，曹操说：“我可以在刘皇叔的俸禄之上再加一倍拨给两位夫人。至于严禁内外嘛，这本是家法，更应如此。”张辽于是又说了关公所提的第三件事。曹操听闻，摇着头说：“他云长一旦打听到刘备的消息就前去投奔，那我养着他有什么用？这件事难以应允他。”张辽劝说道：“云长这样做，也不过是因为刘玄德待他恩情厚重罢了，丞相如果待他比刘玄德更深厚，还怕他不死心塌地地跟从吗？”曹操转念一想，觉得此话不假，便说：“文远说得是对的，我愿意依从他这三件事。”
张辽再去山上，将事回报关公。关公说：“虽然如此，请丞相暂且退军，容我进城去看过二位嫂嫂，告诉她们这件事，然后再投降。”张辽又回去告知曹操，曹操相信云长乃忠义之士，于是传令退军三十里。关公进入下邳城，见城中百姓都安好，心中放心不少。又来到府中见二位嫂嫂，将前事一一禀告。甘、糜两位夫人让关公自己做主，只是怕以后曹操不让他去寻皇叔。关公说：“嫂嫂放心，关某自有主张。”随即辞别二位，带了几十个军兵来见曹操。曹操亲自出辕门迎接。关公下马便叩拜曹操，曹操慌忙扶起他，说：“我一向仰慕云长是忠义之人，现在得你到我门下，我平生