哥哥很支持他，大哥马况鼓励他说：你会是大才，但要晚成。马援不依赖哥哥，而是小小年纪就去了边郡，以放牧为生。后来他发达了，管着几百户人家，有牛羊数千头，谷数万斛。他曾说：“丈夫为志，穷当益坚，老当益壮。”又说：人发了财，贵在能救助他人，否则就是“守钱虏”（守财奴）。
他散尽自己的钱财，分给弟兄朋友们，并且毫不惋惜。后来跻升高位，他常劝诫一些官员：“凡人为贵，当使能贱。”就是说，富贵日子能过，贫贱的日子也应当能过。王莽新朝末年，天下大乱，群雄并起。马援先是依附割据陇西的隗嚣，后见隗嚣难有作为，而刘秀宽宏大度，有汉高祖气度，乃脱离隗嚣，投奔刘秀。
刘秀征隗嚣时，召诸将讨论方略，诸将议论纷纷，多犹豫不决，认为帝王之师行动应当持重，不宜深入险阻。刘秀把马援召来，告诉他诸将的意见，马援力排众议，主张毫不迟疑地发起进攻。他说：隗嚣手下将帅已经离心离德，我军乘此机会发动攻击，有必胜的把握。
他又“聚米为山谷，指画形势”，即用米做成军用地形图（现在叫沙盘），指着它讲解山川地形、敌我形势及我军进攻路线。马援的方略为刘秀所采纳，军队发起进攻，把隗嚣的军队打得一败涂地。马援胸有韬略，常常参与军事决策。《后汉书》说：“（马援）又善兵策，帝常言‘伏波论兵，与我意合’，每有所谋，未尝不用。”
在军事上，光武帝对他言听计从，十分倚重。马援又先后率军平定西羌、远征交趾、出兵边塞、平乱武陵，为华夏版图的统一，为东汉政权的巩固，立下了赫赫战功。他62岁时，见朝廷军队在武陵（今属湖南）失利，向朝廷请求带兵出征。光武帝怜其年老，没有批准。马援对光武帝说：我还能披甲上马呢。
光武帝令人牵来一匹马，让马援试骑。马援敏捷地上了马，跨着马鞍回头望光武帝，一副自信的样子。光武帝笑着说：“矍铄哉，是翁也！”意思是说，这个老头精神真旺健，勇气可嘉。于是同意马援领兵远征。
哪知这次出兵很不顺利。因天气太热，加之水土不服，士兵多生病死去，军队几乎丧失了战斗力。马援也患了病，只得命士兵在山上凿洞，钻进山洞里躲避暑气。就是在这种严峻的形势下，军中还有人搞内斗。中郎将耿舒因在行军路线上跟马援意见相左，他的意见未被采纳，便对马援心怀不满，想借机报复。
