後，下設政務院的時候再一次邀請他到政務院中任職的時候，伍廷芳扭扭捏捏的婉拒一次後就在林長明的親自登門邀請下接受了任職，雖然還是個次長，但是總歸不是司法部，而是換成了外交部，這說出去也不算太丟臉。這任職了外交部次長之後伍廷芳也是想要做出一番成績了，免的讓其他人小看了，而在外交部中，他能夠插手並立下功勞的地方不多，因為現在大元帥府的對外關係主要集中在對美關係中，而對美關係事關國民軍的戰略利益，那是陳敬雲親自把握的，連林長明這個外交部總長都不能過問，都是陳敬雲親自和美國駐紮公使嘉樂恆等人談妥了大方向後，留下一些細節性問題讓外交部處理。但是對於其他國家方面的事務，陳敬雲就基本不插手了，基本放任外交部自己去處理。但是這也是因為現在其他國家都沒有和大元帥府取得太大的聯絡而已。
伍廷芳上任後就把自己的主要方向放在了尋求列國承認上，事實上他的確有些手段，和林長明一道和日‘本方面談判了幾次後，就成功的讓日‘本也緊隨美國之後承認大元帥府為內戰交戰團體，並宣佈中立。這中間固然是因為日‘本有這方面的心思，但是也少不了伍廷芳等外交部諸公的努力�