将士踊跃应命。明军趁夜攻城，都督佥事黄中，率敢死之士数千人，越重濠，缘城而上，指挥蔡福等人奋勇先登，大军万炬齐明，随后跟进，安南兵惊措之下，矢石竟不得发，纷纷败走城下。明军攻入城中，安南兵驱大象出阵，誓死拒战，激烈的巷战中，明军几呈不支。张辅“以画狮蒙马冲之，翼以神机火器。象皆反走，贼大溃。斩其帅二人”，明军追至伞圆山，尽焚缘江木栅，俘斩无算，终于攻克了坚固的多邦城。
12月，明军经激战，又克安南东西二都，安南吏民崩溃，各州县纷纷纳款于明军，张辅辑吏民，抚降附，分遣别将李彬、陈旭掠地，来归者日以万计。胡氏父子进退失据，乃悉焚宫室，亡命海中，继续与明军为敌。1407年，明军水陆并进，清远伯王友等率军渡过自注江，攻破筹江、困枚、万劫、普赖诸寨，斩首三万七千余级。安南将领胡杜聚集水师扼守天险盘滩江，张辅命降将陈封攻击，大败之，尽夺其舟，遂定东潮、谅江诸府州。明军主力追击至木丸江对岸下寨，胡一元之子胡澄以战船三百艘来战，明军迎头痛击，斩首万级，擒其将校百余人，溺死者无算，江水为赤。张辅在咸子关筑城，命都督柳升镇守。3月，安南军队残部搦战于富良江，张辅与沐晟夹岸迎战，柳升以水师横冲其阵，大败敌军，斩首数万级，因天旱水浅，安南兵纷纷弃舟逃走，明军追至时江水忽然大涨，遂乘胜急进，安南兵大多被歼。5月，明军追击至日南州奇罗海口，安南军队残部全军覆没，胡氏父子仅以数舟逃遁，明军在当地百姓协助下，擒获胡一元及其子胡澄，随后又擒胡汉苍和伪太子胡芮，全部槛送京师。
至此，明军出师仅一年，就大获全胜，消灭了篡位的胡氏政权，得府州四十八、县一百八十、户三百十二万。朱棣大为欣喜，群臣亦入贺曰：“黎贼父子违天逆命，今悉就擒，皆由圣德合天，神人助顺。”朱棣则说：“天地祖宗之灵，将士用命所致，朕何有焉。”为胜利冲昏头脑的明朝君臣，这时一改初衷，不再寻找所谓陈氏子孙之贤者，而是另谋在安南开设三司及郡县。6月1日，朱棣以平安南诏告天下，改安南为交趾布政使司，以吕毅为都指挥使，黄中为副，黄福为布政使兼按察使，并分设官吏，改置17府，自此安南正式成了明朝的一个行政区。张辅班师回京后，朱棣特于奉天殿赐宴，晋封张辅为英国公，岁禄三千石。
明军之所以能够顺利平定安南，主要是因为胡氏政权多行苛政、民心不附，朱棣应陈天平之请，吊民伐罪，救民于水火，又承诺复立陈氏子孙之贤者，这当然受到了安南人民的欢迎，亦不失为仗义之举，但得胜后自食其言，草率地决定将安南内属，却是明显的失策。纵观中国的历朝历代，安南虽曾多次成为中国属地，但自五代吴权以来，已独立成国，一旦直属中国管理，必然遭到安南各阶层人民的反抗，安南可谓从此进入多事之秋。
朱棣对胡氏父子十分宽容，只将他们二人及少数近臣关押，胡澄、胡芮等人皆获赦免，然而朱棣的安抚却没有使安南平静下来。1408年，张辅大军刚刚班师，以简定、邓悉、阮帅等人为代表的安南地方势力就起兵叛乱，攻击盘滩、咸子关，控扼三江府之交通，慈廉、威蛮、上洪、大堂、应平、石室等地安南民众纷纷响应，明朝驻军镇压不力，致使叛乱不断蔓延。简定起兵后，自称日南王，后为招揽人心，又立所谓陈氏后人陈季扩为大越皇帝，改元重光。陈季扩打着陈氏后人的招牌，得到安南人民支持。
最初，陈季扩曾以陈氏宗亲的名义派人到明朝讨封，不料因使臣无礼，触怒了朱棣而被杀。朱棣在张辅支持下坚持武力进讨的方针，调发云南、贵州、四川都指挥使司和成都三护卫军共四万人，由沐晟领征夷将军印，再征安南，不料这次战局却非常不利。12月，沐晟在生厥江与安南叛军激战，因轻敌遭到惨败，参赞军务的兵部尚书刘俊突围不成，自经而死，交趾都司吕毅、参政刘显等人皆战死，安南形势大乱。
1409年2月，朱棣迫不得已，再度启用张辅督师，发兵二十万与沐晟协同作战，这时的朱棣正准备北征蒙古，因此要求张辅必须尽快平定安南事态。
兵连祸结
“前度刘郎今又来”的张辅这时对安南形势已成竹在胸，他并不急于前进，而是在叱览山伐木造舟，“招谅江北诸避寇者复业”。待形势稳定后，张辅才率大军进至慈廉州，破喝门江，克广威州孔目栅，在咸子关击败安南军。安南乱军聚集战船六百余艘，退保江东南岸。张辅率领部将陈旭等以水师进攻，乘风纵火，大破其众，擒其将帅二百余人。追至太平海口，安南将阮景异又以战船三百艘迎战，复为明军所破。11月，张辅乘大胜余威，派指挥朱荣、蔡福等率步骑兵先进，自率舟师为后继，自黄江至神投海，会师于清化，再分道入磊江，屡败叛军，在美良山中活捉元凶简定，连同他的党羽一起送往京师，次年1月，张辅又削平其它各处变乱，斩首数千人，筑成京观以镇服安南人民。陈季扩退屯乂安，继续抵抗，张辅飞檄向朝廷告捷。当时明军第一次北征正好遇到重大挫折，同是“靖难”名将的淇国公丘福、武城侯王聪、同安侯火真、靖安侯王忠和安平侯李远率十万大军北征本雅失里，结果在胪朐河遭蒙古