2004年，为了寻求更长期的发展，磨练演技，霍建华正式将工作重心转移至内地。同年4月接下第一部古装武侠剧《天下第一》，饰演痴情孤傲的“地字第一号”密探——归海一刀，并演唱主题曲《你的第一》。该剧是香港电影教父王晶年度力作，汇集李亚鹏、叶璇、黄圣依、高圆圆、郭晋安、张卫健、邓超等明星大腕，阵容算是空前绝后的经典力作。2005年该剧在内地播出后，“归海一刀”受到观众喜爱，霍建华凭此剧迅速走入内地观众的视线，并开始在内地走红，成为霍建华演艺事业的一个重要转折点。
2005年9月，出演都市偶像剧《屋顶上的绿宝石》，凭借此片中的表现获得新浪第三季电视男演员候选。霍建华本人表示，《屋》是自己演艺事业的分水岭，这部戏以及周念中这个角色给了自己很多，让自己十分难忘。
2006年5月出演功夫喜剧《武十郎》，是霍建华的第一部喜剧作品，也是霍建华与香港监制崔宝珠的第三次合作。剧中霍建华一改以往的荧屏形象，出演无厘头的李亚寿一角。
2007年6月参演由范冰冰首次担纲制片人并主演的民国苦情戏《胭脂雪》，当时编剧正是日后大名鼎鼎的于正。虽说是一部女人戏，但霍建华非但没有被盖过光华，反而凭借出色的表现与恰如其分的诠释，将悲情的夏云开演绎得入木三分。
