樂行被公推為自衛軍總指揮。
皖省自衛軍下面又劃分為五個旗，張樂行自己為黃旗總首領，龔德樹為白旗總首領，侯偉為紅旗總首領，王貫三為黑旗總首領，韓萬為藍旗總首領。五旗之下又各設五邊，每邊有首領分統，各旗小的幾千人，大的幾萬人，全部人馬近十萬。
從一開始張樂行公佈的為各旗共同遵守的行軍紀律來看，這隻軍隊本身就不同於別的遊民軍隊：
一、兵到之處，汙淫婦女立斬。
二、強姦幼童立斬。
三、擄掠婦女幼童隱藏不獻者立斬。
四、不遵號令約束者斬。
五、小卒無理持械敢拒首領者斬。
六、臨陣時故意漏下，支吾打糧，私自下鄉找尋財物，淫人婦女者斬。
七、無號令私自打糧者斬。
八、對敵時私自逃走者斬。
九、起身聽三聲號炮齊集；未放炮而先行〔者〕斬，既放炮而後行者斬。
十、營中私自放火者斬。
十一、行路時故意下路者斬。
十二、行路各守分隊炮車，先行後行者杖四十。一、紮下營盤，外更、門更，排班輪流；有錯更者杖四十。
十三、營中無故傷人命者，一命一抵。