精兵簡政的組織工作隨之順利開展。1月15日，劉伯承和鄧小平頒發了《一二九帥關於實施精兵建設的命令》。同時，指示司令部下達了新的編制表。命令規定，要緊縮統率機關，減少指揮層級與重疊機構，充實戰鬥連隊；有計劃地抽出大批幹部及一部分優秀的老戰士與文化水平較高的新戰士，送考“抗大”及其附設的陸軍中學，長期學習，使其鍛鍊成有真才實學的、在戰略反攻時期稱職的幹部。
新編制表中，特地提出了精簡整編的主要原則：一、調整編制減縮機關，減少人員馬匹，認真充實戰鬥連隊，旅以上直屬隊與戰鬥部隊的比例應為一比七，團直屬隊與戰鬥人員為一比五；二、有計劃地抽調一批有相當能力的本地幹部到地方武裝與各級武委會，加強地方武裝建設，開展群眾游擊戰爭；三、經營生產事業，以安置老弱戰士和榮譽軍人從事學藝生產，半工半讀。
為了加強對精兵簡政工作的領導，劉伯承、鄧小平指示第一二九師和各軍區按級成立了整編委員會。各級整編委員會普遍展開了自上而下的思想動員，印發教材，召開座談會和開展個別談話，幫助幹部戰士解開思想疙瘩，教育他們認清精兵簡政對克服困難、積蓄力量、爭取勝利的意義。
從1月至5月，第一二九師進行了第一期精簡，僅僅3個多月的時間，第一二九師和各軍區的精簡整編工作就實現了預定的目標。在充實基層方面，按照編制表，正規軍的每個班達到了9人以上，每連編9個班。員額由原來的50餘人增加到100餘人。凡夠4個連的編為丙種團，夠6個連的編為兩營制的乙種團，夠9個連的編為3營制的甲種團。第一二九師在太行、太嶽兩區的部隊，共編成4個甲種團、7個乙種團、11個丙種團。保留了第三八五旅、新編第一旅、決死第一旅的番號。在充實人員的同時，還統一調配了武器。各戰鬥單位的槍支口徑較前統一，自動火器也較前集中。
在精簡機關方面，除抽出一批年輕力壯的戰士補入戰鬥連隊外，還採取了編並的辦法。師直從41個伙食單位減到19個。太行各分割槽和第三八五旅、新編第一旅共減少156個伙食單位。
5月以後，劉伯承、鄧小平根據北方局的統一部署，領導第一二九師進行了第二期精簡。重點是進一步整編機關，改變機關龐大不適應頻繁轉戰的狀況。太行軍區的旅和軍分割槽以上機關重新建立了集體辦公制度，繼續合併了一些性質相近的部門。作戰與訓練、偵察與情報、宣傳與教育、統戰與群眾，紛紛合二為一。這樣，一改過去領導機關層次多、會議多、公文繁縟的情形，使組織十分精幹，行動更加靈便。
冀南軍區處在平原鬥爭的特殊環境，精簡工作略與山區不同。根據平原游擊戰爭不便於大部隊集中行動，而適合於小部隊分散、靈活地機動的特點，劉伯承、鄧小平指示冀南軍區在精簡整編中，應堅持野戰兵團地方化的方針。
在整編中，妥善處理了編餘人員，保證了部隊的穩定和將來發展的需要。
太行、冀南兩區共調出幹部2000餘名，一部分派到地方武裝和區級以上武委會中，一部分送延安、抗大和陸軍中學深造。同時將660多名年老體弱的幹部交地方政府安置。太行、太嶽、冀南3個軍區共安排了6000餘名戰士退伍，家在根據地的即回原籍，不在根據地的則介紹到地方安家落戶。轉業和退伍軍人一般都轉到民兵、游擊隊等人民武裝組織，發揮作戰和訓練的骨幹作用。
軍隊的精兵帶動了地方簡政。晉冀魯豫區黨委、邊區政府根據民力負擔對政府脫產人民的限額，規定了簡政方案。精簡中，貫徹了多減上層，加強下層；調整幹部，加強領導幹部；多減事務人員，加強區對村的領導等原則。
對縣、區、村各級政權機構進行了調整或合併，減少了機關，精幹了人員，大大提高了工作效率。僅太行區在8月以前，縣級以上政府工作人員就減少了百分之十八，節省經費百分之三十八。
晉冀魯豫根據地和第一二九師系統的精兵簡政工作進行得普遍而徹底，取得了顯著成效。9月7日，毛澤東在為延安《解放日報》撰寫的社論《一個極其重要的政策》中，稱讚晉冀魯豫邊區“做出了精兵簡政的模範例子。”
在精兵簡政的同時，劉伯承、鄧小平與邊區政府負責人一起，領導根據地軍民積極開展了大生產運動。大生產運動，是中共中央為打破日偽頑的經濟封鎖，克服解放區嚴重的經濟、財政困難，而倡導的一項大規模的群眾性的迅速發展生產的運動。1942年底毛澤東發出的“發展經濟