並決定辦遊幹班，要中共派幹部去教游擊戰戰法。會後，周、葉就有關辦班的具體問題與國民黨方面達成協議，並向中共中央作了彙報。毛澤東同中央幾位負責人研究這一問題時表示贊成，說“去吧，講我們的一篇道理”，要葉劍英去那裡宣傳中共的抗日主張，傳授游擊戰戰術，並決定讓他帶一批得力幹部去南嶽參加主辦遊幹班。
在衡陽八路軍辦事處，葉劍英與周恩來反覆商量，決定抽調李濤、邊章伍等，立即著手從組織上、教學上進行準備工作。
南嶽遊擊幹部訓練班成立時，國民政府軍事委員會正式任命湯恩伯為主任，葉劍英為副主任。不久，改由蔣介石兼任訓練班主任，白崇禧、陳誠兼副主任，湯恩伯任教育長，葉劍英任副教育長。周恩來被聘為訓練班的國際問題講師。葉劍英接到通知後，率領中共方面參加辦班的教官、工作人員、武裝警衛班共30餘人前往南嶽報到。1939年2月15日訓練班舉行開學典禮，正式開課。
在日寇大舉侵華（9）
訓練班第一期學員招收了1046人，編為8個大隊，有教官和科室管理人員95人（其中少將52人）、八個大隊的長官52人（少將4人）。學制定為三個月。訓練科目中，軍事教育，以游擊戰的戰略、戰術及爆破技術為主；政治教育，以民眾運動及游擊戰、政治工作為主。葉劍英借鑑紅軍學校辦學的成功經驗，強調教育訓練要從抗戰的實際出發，嚴格要求。各門課程的教學大綱和講義教材，都由他直接審定。他還注意言傳身教，並告誡全體工作人員：“我們是共產黨員，每個人都是共產黨代表團的成員，我們的一言一行，都代表黨，不能給黨丟臉。”他還親自制定“工作六大注意”，即：堅定的立場，苦幹的作風，謙和的態度，簡樸的生活，虛心的學習，嚴肅的紀律，並書寫張貼在八路軍教官集體辦公的第一教官室的牆壁上，用以自勵和互勉。
經過一段訓練實踐，葉劍英於4月23日寫了《參加南嶽遊擊幹部訓練班工作情形報告》，派人送給在重慶的周恩來，並報中央。這個報告對訓練班的準備工作及具體組織情形作了詳盡的彙報。報告在教學方面有九大特點，然後對訓練班的作用、前景作了充分估計，寫道：“根據我們現在已有的材料看來，的確證明（國民黨方面）開辦遊訓班的動機是包含著兩方面的：一方面是真正為了開展敵後游擊戰的企圖。我們的結論是這次參加遊訓班的工作，由於我們有堅定的立場，誠懇的態度，一般的說是有收穫的，對統一戰線有利的。”
作為遊幹班主要領導人和首席教官，葉劍英不僅負責籌劃全盤教育工作，而且親自講授“游擊戰爭概論”這門主課。其他的幾位教官負責講授游擊戰術和游擊戰中的政治工作。葉劍英每週講兩次課，聽眾很多，有時達兩三千人。連國民黨第九戰區的一些軍官也慕名從長沙、衡山趕來聽課。當然，來聽課的人動機並不相同。據沈醉回憶，戴笠聽說葉劍英等在南嶽講課，很想把中共打游擊的一套辦法學過來，便設法派軍統臨澧特別班的兩個副大隊長到訓練班工作、聽課，當時來聽課的，甚至還有南嶽各寺廟的和尚。課堂容納不下時，就在外面廣場講大課。葉劍英上課時通常穿那套褪了色的軍裝，講得深入淺出，通俗易懂。他那精闢的見解，出色的口才，儒雅的風度，深深吸引住了所有在場的聽眾。
當時國際新聞社的一位戰地記者高詠，聽了葉劍英的講課後大為讚揚。他在一篇通訊中用一大段文字描繪了葉劍英在講授“游擊戰爭概論”一課時受到學員熱烈歡迎的情景：“在課堂上，游擊戰爭戰略家葉劍英先生的游擊戰爭概論一課，最為學員們所愛好，這一門課，在課堂規定是二十小時，佔全班軍事學科七分之一，每次聽課二小時，總會發生學生提延長時間的要求。每一次上課，都是肅穆的空氣統治著課堂，游擊戰爭的革命意義，游擊隊產生的客觀條件，游擊戰的運用，每一個單字，都在每一個聽眾的腦子裡爬過，也都在每一個聽眾的筆記簿上爬過。下課的號聲響了，聽眾還是不願意走，‘再講五分鐘好不好？’這樣的問題常常提出來，這些話語裡充滿了迫切的求知心與戰士的要求。”
遊幹班雖辦得順利，但也有矛盾鬥爭。國民黨當局在日本帝國主義誘降下，加緊籌劃反共分裂陰謀。湯恩伯的態度也隨之有所變化。訓練班中的頑固分子藉機尋釁，散佈流言，製造摩擦，暗中監視中共人員。他們不準學員個別接近中共人員，害怕被“赤化”。面對這種情況，葉劍英領導代表團全體成員對訓練班裡的國民黨頑固派分子進行了有理、有利、有節的鬥爭，爭