宗泽到达后修缮城墙，疏浚皇池，整治器械，招募义勇，开始做固守不动的打算。他上奏说：“邢、洛、磁、越、相五州各屯精兵二万人，敌进攻一郡，则其余四郡都应援，这样一郡的兵力就经常保有十万人。”钦宗表示称赞，任命宗泽为河北义兵都总管。
随着金军的临近，磁州也日益危险了。赵构离开磁州，但他不知道要去哪里，有点流浪的感觉。在这最为危难的时候，相州刺史汪伯彦带着兵马来迎请他前往相州，这等于是伸手拉了赵构一把。赵构非常感激，从此对汪伯彦言听计从。
赵构到了相州之后，有一天，从东京汴梁城来了一个使者要见赵构，使者携带着一个蜡丸，里面装有钦宗皇帝的圣旨。原来钦宗皇帝知道赵构没有去金营，就任命赵构为天下兵马大元帅，让他招募军队起兵勤王。于是赵构就在相州建立元帅府招兵。没几天就招到一万多人。
不久钦宗的圣旨又来了，还是藏在蜡丸里，圣旨里说现在正在跟金国议和，先别着急勤王，缓一缓再说。宗泽等忠臣义愤填膺，说这个密旨是假的，不可能是皇帝的主意，得赶紧出兵。不过赵构明白，仅凭这一万多人去解汴梁之围，肯定是羊入虎口有去无回，也就是再搭上万把条性命罢了。一时间赵构没了主意，沉吟不语。这时汪伯彦对宗泽等人说，你们有什么证据说圣旨是假的？我们要依旨而行，既然皇上不让去，咱们就在这儿等着。这一等就等到了东京城破，等到了徽宗、钦宗被俘，等到北宋灭亡。
汴梁城中发生的事情，赵构在相州是知道的。这时群臣给赵构上表劝进，说他现在是赵室皇族仅存的正根，他必须当皇帝，这是他的权力，更是他的义务。
却说张邦昌僭位，群臣议请元佑皇后垂廉听政。朝廷割地请和，乃遣聂昌往河南路、耿南仲往河北路为割地使。聂昌与金虏至绛州，绛人杀之；耿南仲同虏使王汭至卫州，卫人杀王汭。耿南仲迳来投奔康王，康王本来不喜欢耿南仲，但其来奔就宽容他了。康王问他：“倘然金兵追来，如何处置？”耿南仲道：“主公可发令旨，召取各路兵马；张挂榜文，招集四方豪杰。人心思宋，自然闻风而至。”正在商议，忽报：“王元帅带兵三千前来保驾，未奉均旨不敢进见。”康王道：“快与孤家宣来！”军士到城外传旨。王渊来到堂上朝见，君臣大哭一番。康王命王渊坐了，问道：“卿家如何得知孤家在此？”王渊道：“臣于数日前梦一神人，自称东汉崔子玉，托梦叫臣到此保驾。不意主公果然在此。”正说间，又报：“有金陵张大元帅带兵五千前来保驾，在城外候旨。”康王道：“快宣进来！”张所朝见后奏道：“崔府君托梦叫臣保驾。不意王元帅已先到此。”两个又见了礼，各各赐坐。
康王看那王渊一表非凡；张所年已七十多岁，也是威风凛凛，好生欢喜，便问：“二卿，此处地方偏小，城低兵少，倘金兵到来，如何迎敌？”王渊道：“二帝北辕，国不可一日无君。臣愿主公驾回汴京明正大位，号召四方以图恢复。”张所道：“汴京已被金兵残破，奸臣张邦昌守在那里，其心不测，不宜轻往。”
汪伯彦对高宗说，张邦昌是金人扶持的迫不得已，没有什么值得怀疑的，应该趁早匡正帝位兴复赵宋。门下侍郎吕好问也送来蜡书，说高宗如果不谋自立的话，恐怕会有其他的人想当皇帝。初九，济州百姓说看见城中火光冲天，请求高宗在济州即皇帝位。
这天张邦昌上表请求赵构称帝，赵构没有答应。十五日，皇后亲手书写诏令告谕朝廷内外，要康王赵构即帝位。十六日，文武百官再次上表，还是没有答应。十八日，冯解等人到济州，文武百官第三次上表劝进，高宗答应代理处理军国事务。适逢宗泽来信说南京（今河南商丘）是太祖龙兴之地，距离四方位置适中，槽运又很容易。于是决定前往应天府（南京）。十九日，赵构命令宗泽率军分别驻扎长垣、韦城等县，用来防备发生意外事件。二十一日，高宗从济州出发，二十四日到达应天府，皇后下诏有关部门准备仪卫兵仗和车驾。二十六日张邦昌来到应天府，跪在地上痛哭请求处以死罪，高宗对他慰问抚恤。对所有效力伪朝的人都不问罪。
五月初一日，高宗登上高坛接受天命即位，改元建炎，大赦天下。礼仪完毕后痛哭，向远方徽、钦二帝谢罪。赵构遥尊在金国俘虏营里接受改造的兄长钦宗为“孝慈渊圣皇帝”，抛出这个类似太上皇的荣誉称号，不过是赵构的政治秀，对于在金国度日如年的赵桓来说毫无意义。
接着高宗发诏播告天下，召集四方兵马勤王。数日之间，赵鼎、田思中、李纲并各路节度使、各总兵俱来护驾勤王。又遣官往各路催取粮草。各路闻风渐渐起行，解送粮米接应。
却说当下来了一位壮士。只见他：
头戴大红结顶赤铜盔，身穿连环锁子黄金甲。走兽壶中箭比星，飞鱼袋内弓如月。真个英雄气象，盖世无双；人材出众，豪杰第一。
高宗见他英姿凛凛相貌堂堂，不由暗中喝采。因问道：“壮士乡贯、姓名？”壮士道：“离相州七十里汤阴人氏，姓岳名飞。闻康王开大元帅府，招募天下英雄，飞志图报效，不辞劳苦而来，所期有在，故愿投见。”高宗曰：“壮哉其志也！”又问：“贤士今来，欲得何职？”飞曰：“今胡马出入，中原播乱，飞当出将入相奠安华夏，扫开沙漠迎还二圣，取天下如反掌，救黎民于涂炭，此飞之素志也。”高宗听罢大惊，急下阶，以手携飞于坐上曰：“壮士未曾识面，今来为国出力，实天下社稷之幸也！我必重用阁下。”飞拜谢。高宗即命岳飞宗泽军中效力，分隶于名将王彦部下。
赵构在南京即位后，宗泽入朝相见，涕泪交流，提出复兴国家大计。当时他与李纲一同入朝对答，两人相见谈论国事，康慨流涕，李纲认为宗泽是一个奇人。赵构想留住宗泽，黄潜善等人进行阻碍。宗泽被任为龙图阁学士、知襄阳府。
当时金人提出割地的要求，宗泽上书说：“天下，是太祖、太宗的天下，陛下应当兢兢业业，思虑着将它传之万世，为何急忙同意割让河东、河西，还答应割弃陕州的蒲县和解县呢？自从金人再次入侵，朝廷未曾任命一将，派出一兵，只听到奸邪之臣，早进一言主张讲和，晚进一说请求盟好，终于导致徽钦二帝北去，宗社蒙受耻辱。臣以为陛下会赫然震怒，明令赏罚罢黜，以再造王室。陛下即位四十天了，没有听到有大号令，只见刑部指挥说：‘不得发布赦文到河东、河西、陕州的蒲县和解县。’这是压制天下忠义之气，而自绝于民。臣虽然愚钝怯弱，愿意亲冒失石，为诸将之先，能够捐躯报国也就满足了。”赵构看完宗泽的奏疏觉得很悲壮。宗泽被改任为知青州，当时他已经六十九岁了。
开封府长官职位空缺，李纲说安定和恢复旧都城，非宗泽不可。不久，宗泽改任知开封府。这时敌人仍留屯在黄河边上，战鼓之声，日夜可闻，可京城的战船全部废坏，士兵与百姓杂居，盗贼纵横，人心惶惶。宗泽一向威望高，到达开封后，他首先捕杀了几个盗贼。宗泽下令说：“盗贼，无论赃物多少，一律按军法处理。”自此盗贼平息，百姓得以安宁。
却说王彦驻军卫州新乡县的石门山，为集结金军所包围，因此谨慎出战。岳飞有些年少气盛，责备王彦胆怯：“二帝蒙尘，贼据河朔，臣子当开道以迎乘舆。今不速战，而更观望，岂真欲附贼耶！”率领部下擅自出战，攻占新乡县。金军抽调各路人马云集新乡，准备与宋军决战。王、岳军仅七千人，被金军围困，在突围中溃散了。岳飞率领部队南下东京，再次接受宗泽的领导。
不久岳飞犯法将被处刑，这时正碰上金人攻打汜水，宗泽将五百骑兵交给岳飞，让他立功赎罪。岳飞大败金人而回，宗泽于是升岳飞为统制，岳飞由此知名。
建炎二年（1128年）四月以后，天气开始炎热，金军撤退，宗泽准备北伐。王彦的八字军奉宗泽之命移屯滑州。五马山的首领马扩也前来东京留守司。宗泽和王彦、马扩等人共同制订了北伐计划。
宗泽先后上了二十多道奏章请求赵构回京，但每每被黄潜善等人阻碍，宗泽忧愤成疾，背上长毒疮。诸将入室问候病情，宗泽看着诸将说：“我因为徽、钦二帝遭受不幸，积愤成这样。你们如果能够消灭敌人，则我死而无恨了。”诸将都流着泪说：“怎敢不效力！”诸将出去后，宗泽叹息道：“出师未捷身先死，长使英雄泪满襟。”
建炎二年七月十二日（1128年7月29日），处于弥留之际的宗泽没有一句话谈及家事，言语中全在念念不忘北伐，连呼三声“渡河！渡河！渡河！”后溘然长辞，享年七十岁。开封官民闻知后都痛哭不已。后由儿子宗颖和爱将岳飞一起扶柩至镇江，与夫人陈氏合葬于镇江京岘山上。
宗泽所留下的遗书仍然主张赵构还都开封。朝廷追赠宗泽观文殿学士、通议大夫，谥号“忠简”。
相传，宗泽从抗金前线回到家乡后，经常买些猪肉请乡亲们腌制起来，再离开的时候带上作为军需食品，也可赠予朋友和部下。宗泽在金华民间被视为腌制火腿的祖师爷，火腿店和腌腿的作坊里都供奉着宗泽像，盛产火腿的金华、东阳、义乌、浦江、永康等县过去都属于金华府，“金华火腿”由此得名。
宗泽死后，杜充继任东京留守。其人“性残忍好杀，而短于谋略”，置宗泽生前的计划于不顾，北伐终告夭折。