刘秀听从了他的意见，命武威太守把从金城迁来的三千多客民全都放回原籍。马援又奏明朝廷，为他们安排官吏，修治城郭、建造工事，开导水利。鼓励人们发展农牧业生产，郡中百姓从此安居乐业。马援还派羌族豪强杨封说服塞外羌人，让他们与塞内羌族结好，共同开发边疆。另外，对武都地方背叛公孙述前来归附的氐人，马援以礼相待，奏明朝廷，恢复他们的侯王君长之位，赐给他们印绶，并撤回马成的军队。

　　建武十三年(37年)，武都参狼羌与塞外各部联合，杀死官吏，发动叛乱。马援率四千人前去征剿，行至氐道县境时，发现羌人占据了山头。马援命令部队选择适宜地方驻扎，断绝羌人的水源，控制草地，并以逸待劳。羌人水草乏绝，陷入困境，首领们带领几十万户逃往塞外，剩下的一万多人也全部投降。从此，陇右安定。

　　马援在陇西太守任上六年，恩威并施，使得陇西兵戈渐稀，人们也逐渐过上了和平安定的生活。一次，在靠近县城的地方，乡民们结伙械斗仇杀。人们误认为羌人要造反，惊慌失措，争先恐后涌入城来。狄道县县长闻变，赶到马援府门，请示关闭城门，整兵戒备。马援当时正与宾客饮酒，得此消息，大笑道：“烧羌怎敢再来进犯我。晓谕狄道长回去守舍，胆小怕死的，可躲到床下去。”不久，城中安定下来，才知是虚惊一场，大家愈发佩服马援。

　　建武十七年(41年)，马援被征入朝任虎贲中郎将。

　　上奏汉室

　　马援关心国事。遇到该说的话，从不隐饰回避。他在陇西时，发现币制混乱，使用不便，就上书给朝廷，提出应该像过去一样铸造五铢钱。朝廷把他的建议提交三府审议。三府奏明刘秀，认为马援的建议不可行，这事就搁置起来了。

　　后来，马援回朝，马上就去找回了自己的奏章。见奏章上批有十几条非难意见，便依据情理加以驳正解释，重新写成表章上奏。刘秀见他言之有理，采纳了他的意见，天下从此得益很多。

　　一平岭南

　　同年，维汜(曾蛊惑百姓，后被杀)的弟子李广纠集徒党，攻下皖城，杀皖侯刘闵，自称“南岳大师”。朝廷派谒者张宗率兵数千人讨伐，又被李广打败，于是派出马援。马援组织诸郡兵马一万余，击斩李广等人。

　　不久，交址女子征侧、征贰举兵造反，占领交址郡，九真、日南、合浦等地纷纷响应。征侧便在麊泠趁机自立为王，公开与东汉朝廷决裂。刘秀任命马援为伏波将军，扶乐侯刘隆为副将，率领楼船将军段志等南击交趾。部队到合浦时，段志去世，刘秀命马援兼领其军。于是，马援统军沿海开进，随山开路，长驱直入千余里。

　　建武十八年(42年)，马援率军到达浪泊，大破反军，斩首数千级，降者万余人。马援乘胜进击，在禁溪一带数败征侧，敌众四散奔逃。

　　建武十九年(43年)正月，马援斩杀征侧、征贰，传首洛阳。朝廷封马援为新息侯，食邑三千户。马援犒赏三军，大发感慨，三军将士齐呼万岁。

　　接着，马援率大小楼船两千多艘，战士两万多人，进击征侧余党都羊等，从无功一直打到巨风，斩俘五千多人，平定了岭南。马援见西于县辖地辽阔，有三万二千多户，边远地方离治所一千多里，管理不便，就上书刘秀，请求将西于分成封溪、望海二县。马援每到一处，都组织人力，为郡县修治城郭，并开渠引水，灌溉田地，便利百姓。马援还参照汉代法律，对越律进行了整理，修正了越律与汉律相互矛盾的地方，并向当地人申明，以便约束。从此之后，当地始终遵行马援所申法律，所谓“奉行马将军故事”。

　　建武二十年(44年)，马援率部胜利回京。刘秀赐马援兵车，朝见时位次九卿。

　　北击乌桓

　　马援回到京城一个多月，正值匈奴、乌桓进犯扶风，马援见三辅地区受到侵掠、皇家陵园不能保全，就自愿请求率兵出征，刘秀同意了。

　　建武二十一年(45年)，马援率领三千骑兵出高柳，先后巡行雁门、代郡、上谷等地。乌桓哨兵发现汉军到来，部众纷纷散去，马援无所得而还师。

　　二平岭南

　　马援曾经患病，而梁松前往看望，在床边向马援行礼，马援没有回礼。梁松走后，马援的儿子说：“梁松是陛下的女婿，贵重朝廷，公卿以下莫不害怕，大人为何独不搭理他?”马援说：“我是梁松父亲的朋友，就算他显贵，怎能失掉长幼的辈分呢?”梁松因此记恨马援。