绿林军与关中义军共灭王莽的时候，刘秀仍然很温顺，一步不离地在更始帝刘玄身边做有名无实的破虏大将军、武信侯，既不能入朝为政，也无法出朝作战。
王匡攻拔洛阳以后，刘玄决定迁都洛阳，这宛城也太小了，一点都不合咱的皇帝身份。不过洛阳城经过这次的战乱已经破败不堪，应该修葺修葺。有能耐的人总是容易被记起。他不觉就想到刘秀，还是应该让这兄弟做点事情吧，就以刘秀行司隶校尉，前去整修洛阳的宫殿官府。
司隶校尉初置于汉武帝征和四年，本用于加强京城治安，有一千二百人的军队。后来职权几多变迁，除了搞治安外，还是重要的监察高官，监察的范围主要是京城和三辅(京兆、左冯翊、右扶风)和河东、河南、河内、弘农七郡地区，监察的对象不限，上至王侯三公，甚至是皇后太后也敢说上一二，下至列卿郡守县令。权力很大。
不过，这时的刘秀还只是个“代司隶校尉（行司隶校尉）”，还不是正式的，而且他这个司隶校尉可以说是光杆司令，刘玄就只给了他这个空头称号，不给一兵一卒，任务也就是当个修理工，那你直接封我个将作大匠（职掌宫室、宗庙、陵寝等的土木营建）不就行了吗？况且刘玄也知道他的这些所谓手下都是绿林军的人，他们早就看不惯刘秀了，还想让这些人去给刘秀做手下，做你的春秋大梦吧。
对刘秀来说，这不要紧，有名号就行，自己的马仔还要可靠些。可是眼目下自己手边只有臧宫和祭遵两人，还要帮手才行。
臧宫，字君翁，颍川郡郏县（今河南郏县）人。年轻时曾为吏——本亭亭长，后来升为乡里的游徼（负责本乡巡查盗贼，相当于派出所所长）,绿林军起义时他也带着家丁宾客加入下江兵，被分配给刘秀当部下，这就改变了他的命运了。他作战非常勇敢，深得刘秀赏识，一直被刘秀带在身边。因战功卓著，明帝刘庄于永平三年（公元60年）在南宫云台阁将其列入“云台二十八将”之一。
祭遵，字弟孙，颍川郡颍阳（今河南许昌西南）人。这人家庭富裕，读了点书，所以性恭俭孝顺，但是骨子里还是恩怨分明，嫉恶如仇，胆儿大，有一次几个县吏见他像个读书人就欺负他，他回头就约了几个黑道弟兄灭了那厮。全县皆惊，说这小子平常看起来挺温顺的呀，原来这么暴力。刘秀带兵在昆阳大败王寻后，再破颍阳，祭遵这时是县吏，请求跟刘秀混。刘秀见此人仪表不凡，还识字，就收留了他作门下史（相当于私人秘书）。
他想到了两个可靠的马仔：冯异、王霸。
刘秀先是绕道去颍川，带上了还守在父城（今河南宝丰）县的冯异和苗萌。任命冯异为主簿、苗萌为从事。冯异又向刘秀推荐了铫期、叔寿、段建、左隆，刘秀把他们都署为掾史。又去颍阳，带上一直等候在此的王霸。
王霸字符伯，也是颍阳县人，跟祭遵是老乡，原做过本郡狱吏。当刘秀转战颖川、昆阳一带时，王霸便率宾客投靠刘秀。昆阳之战后王霸留在颖川。此时刘秀经过颖川，王霸便又带上宾客追随刘秀，刘秀欣然纳之。
刘秀带着臧宫、祭遵、冯异、铫期、王霸等来到洛阳。刘秀对汉朝典章制度非常熟悉，很快就让洛阳的宫殿府衙基本恢复了往日风采。然后他就率领部下亲自去迎接更始帝刘玄迁都洛阳。
更始帝大喜，遂率领同样兴奋地绿林众将士浩浩荡荡地向洛阳进发。
当时政权初建，由于战乱，物资缺乏，兵器、车马、仪仗、服饰，不但简陋破旧，并且式样杂陈，非常混乱。并且绿林军绝大多数都是土匪流民出身，没见过什么世面，哪里知道官府宫廷的礼仪？所以他们的队伍根本就没注意这些细节，居然还有人女人衣服、带破头巾的，看起来就跟叫花子过街一样。
但是当时的社会是非常看重礼仪的，就和当时看人首先看这人长相一样。你在那时候要是不注重礼仪仪表的话，是没法得到别人的认可的。
当时的京师三辅地区（指长安附近的京兆尹、左冯翊、右扶风三个地区）的吏民听说汉天子要在洛阳迁都，成群结队地跑到洛阳东郊来迎接更始帝，当他们见到这种情况的时候，不禁大失所望。不过他们随后就看到了大汉的希望——这就是队伍后面的刘秀及其部属。他们队伍整齐，衣甲鲜亮，旗仗合仪。大家皆啧啧称赞，更有老吏垂泪道：不图今日还能见汉官威仪。
刘秀与刘玄这以对比，孰优孰劣，一目了然。
定都洛阳以后，刘玄为了安定天下、巩固政权，主要做了三件事。
第一件事就是分派使者去各地巡行，劝慰原王莽委任的州牧、郡守归顺汉室，还称：凡是投降更始的官员就可以依旧保留原来的爵位和官位。大概的程序是：使者到某郡县，太守县令及其他地方官都带着自己的印信到使者那里报到，将印信交给使者，表示归顺汉室朝廷；然后使者就简单地讲几句客套话，登记造册，然后就将印信赐还他们，表示我更始朝廷重新任命你的官职。最后吃吃饭，聊聊天，当地新政权改造的问题就在这样轻松和谐的氛围解决了。
当然，还有的郡县地方官在战争中被杀造成当地的政权真空。对于这种情况，更始帝便派遣自己的人去接任：任光为信都（郡治今河北冀州市）太守，彭宠为渔阳（郡治渔阳县，今北京密云西南）太守，庞萌为冀州牧，王闳为琅玡（郡治今山东诸城）太守，邓晨为常山（治真定，即今河北正定）太守。
这个手段其实颇为高明：首先，当时更始的实力范围只包括荆州、长安、洛阳一带，通过宽大招安的方式，更始可以招降不少新莽太守，既而扩大地盘；其次，更始政府刚刚开始行政，要在全国一百多个郡、上千个县派上太守、县长是件很麻烦的事，通过招降、叙用新莽的太守、县长，更始可以暂时有效地做好地方上的管理。
虽然更始遣使巡行的办法很好，但是具体实施的时候却又碰上了一些麻烦，下面就看看三个例子。
扶凤人耿况是当时的上谷太守。更始使者来到上谷后，耿况积极合作，把太守的印信交给使者。当时的规矩是更始使者来到各郡县，有意投降的郡守、县长献上印信，表示投降，然后使者再把印信还给这位郡守或县长，表示继续录用，一切都是走个形式。但是耿况上缴了印信后，使者却迟迟不还印信。于是耿况的部下郡功曹寇恂看不过了，就带着兵去见使者，请求他交回印信。但是使者态度傲慢，不肯交还。寇恂便质问他：更始派使者巡行各郡，无非是想安定人心，各地的官员都等候加官进爵；但是使者如今收了印信却不归还，如此败坏朝廷的信誉，以后如何号令各郡呢？使者被问得哑口无言，但是仍然不拿出印信。寇恂知道不能再和他啰嗦了，于是让人把耿况请来，然后寇恂亲自从使者手上把印信抢过来，还给了耿况。使者见到门外的兵士，毕竟是人家的地盘嘛，无奈，只好封耿况为上谷太守。
更始的另一个使者宛人韩鸿则持节来到渔阳郡，并遇上了同乡人彭宠、吴汉。彭宠的父亲彭宏原本就是渔阳太守，后来被王莽杀死。彭宠后来随王邑镇压义军，结果知道了他弟弟也在义军当中，彭宠怕王邑知道此事后要杀他，便跑到他父亲在渔阳的旧部家躲难了。吴汉原本是宛城某个乡长，后来由于宾客犯法，于是避罪到渔阳，做起贩马的生意，来往于燕、蓟之间，和两地的豪士多有来往。由于彭宠的父亲原是渔阳太守，彭宠在当时有一定的关系和影响力，于是韩鸿封他为渔阳太守。而又有人对韩鸿说吴汉是奇才，于是韩鸿封吴汉为安乐令。
而在庐江的太守李宪恐怕还没等到更始的使者来到，就自称淮南王，和更始作起对来。
从以上三个例子可以看出在具体实施招降安抚的政策时，更始的使者或者怠慢地方官、造成地方对中央的不信任，或者任人唯亲，或者地方官根本不理睬更始政权。这些都暗示着刘玄以后的日子并不舒坦。
另外两件事则都和当时南阳的一个民谣有关：“谐不谐，在赤眉；得不得，在河北。”（此语出自范晔《后汉书·志十三·五行一》）于是刘玄下面要做的两件事就是招降以赤眉为代表的义军其余各部以及控制河北。
无疑，赤眉军是其余各部义军中最重要的一支。
在处理赤眉问题上，开始进行得很顺利。当时民心向汉，赤眉的头领樊崇等人也不例外。所以，当更始帝的使者说明来意之后，他就把大部队留在青、徐一带，然后就带领土匪骨干徐宣、杨音、谢禄、逄安，还有个刘姓宗室刘恭，来洛阳拜见刘玄。
刘玄见这些“贼寇”还很听话，就封樊崇等人为列侯，又不给具体的封邑。让樊崇等人成了有名无实的空头列侯。他以为这样就能轻易解决赤眉问题，其实他大错特错了，他既没有看穿樊崇等人的心思，也没有解决还留在青州徐州一带的赤眉军主力。
樊崇等人没有没有封上大官，连国邑都没有，就没有生活费，然后又听说大本营里有不少士兵都偷跑回家种地了，就带着他的骨干又跑回大本营。
在樊崇留在洛阳的这段期间内，刘玄没用手段控制住他，也没用钱财收买他，也没对赤眉的几百万大军采取行动，最后反而让樊崇跑回家去重新领导赤眉，这显出他在政治上的幼稚。
有一个人没跑，这就是宗室刘恭，刘玄封他为式侯，迁都长安后又拜为侍中。
还有两支义军问题也没能很好地解决。一是号称城头子路的爰曾，二是力子都，两支队伍力量都比较大，主要活动在今山东范围内，但都属于流寇性质。
爰曾，字子路，与刘诩共同起兵于卢城头，故称“城头子路”，有众二十余万。听闻汉帝立，二人商议，派使者到洛阳请降。刘玄封爰曾为东莱郡太守，刘诩为济南太守，皆行大将军事。但是不久，爰曾为部下所杀，其众推刘诩为主，刘玄无奈，只得封刘诩为助国侯，令他遣散义兵，去做你的济南太守吧。
力子都是东海郡（郡治今山东郯城），起兵于本乡，有众六七万，也派使者向刘玄请降，刘玄封他为徐州牧。不久，力子都也被部下所杀。部下又成为流寇，整日打家劫舍，杀人掠货。后来与其他流寇会于檀乡，于是被称为檀乡贼。在头领黄次仲的带领下又渡黄河到魏郡清河，与五校贼联合。建武二年，被吴汉击败而覆灭。
刘玄想到虽然很多地方已经归顺我朝，但是法令制度还是因循“新朝”，义军主要在南方（黄河以南）活动，所以对南方控制比较放心；但是绿林军基本没有到过黄河以北，在此地影响仅仅是名号上的，况且此地还有很多流寇活动。所以必须派亲信之人去河北，宣扬教化，复我汉制，控制河北。
考虑到使命的特殊，需刘姓宗室之人最佳，但是一时不知该派谁去，便众臣商议。
大司徒刘赐一方面因为坐着冤死的刘縯的位置心中有愧，另一方面也知道刘縯的弟弟刘秀才能治世，便对刘玄说：“诸家子独有文叔（刘秀字文叔）可用。”
朱鲔等绿林将领马上反对，害怕纵虎归山。
刘玄一听刘秀的名称，也犹豫起来。
刘赐再劝，说刘秀必无二心。
刘玄不决，说那明日再议不迟。
刘秀知道这或许是一个机会，却不知计从何出。
冯异献计到：现在丞相曹竟与其子尚书曹诩，父子二人是更始身边的红人，我们不如出点血去和他们交交朋友吧。
刘秀略一沉思，说那谁去呢。冯异说，我和曹诩是哥们儿，我去。
曹竟父子也很够哥们儿，当晚就去找刘玄说，刘秀是陛下的族弟，他对陛下肯定是忠心耿耿，他哥哥被你杀了，他毫无怨言，老老实实地替你办事；况且他也不敢反，因为他的家眷还在你手上呢。
刘玄耳根子也软，先前对刘秀的防备消失得无影无踪，第二天一早就宣布任命行大司马事，持节，镇慰河北。但是还是没有一兵一卒。
刘秀大喜，连忙带着冯异、祭遵、王霸、铫期、臧宫和他们各自的门客，西辞帝京，向河北进发。
有一个人跟上来了，朱祐，哥哥刘縯的老部下。刘秀很感动，拜为护军。
但是，大喜之余，刘秀又有些许担忧。他们在孟津登上渡船，浑浊的河水在船下奔腾，刘秀伫立船头，呼吸着带有水腥味的河风，回望洛阳，虑及河北，心中豪气陡生：樊笼已脱吾等必平复河北！
