，還收編了皖系軍隊，把熱河、察哈爾、綏遠三個特區納入自己的統治範圍，由“東北王”一舉變成“滿蒙王”。
但由於直系佔據了新一屆北京政府的主導地位，張作霖和日本方面都對這一席之地不滿足。這位###中的新貴，當年8月13日在天津接見日本記者時表示：“今後要更努力於中日親善”。同年11月，張作霖派出於衝漢為特使赴日。行前，他在奉天接受日本記者團的採訪時強調：
我作為東三省巡閱使，向來和日本有密切的關係，深感中日友好的必要。為了取得日本政府的諒解，有親赴日本的必要。最近國務院參議於衝漢去日本的任務，主要是為了實現中日友好，親密無間地互相交換意見，以獲得日本政府的諒解。於衝漢的赴日，表面上是北京政府的代表，實為我個人的代表，其使命大部分是關於東三省的問題與日本政府進行交涉。
於衝漢此行在日本訪問了原敬首相、田中陸相、內田外相等。1921年5月17日，日本內閣會議決定：
對張作霖整頓、充實東三省的內政和軍備，並在此建立穩固的勢力基礎，帝國應予以直接和間接的援助。
援助掌握滿蒙實權的張作霖，以此來確保我國在滿蒙的特殊地位。
帝國一旦從西伯利亞撤兵，關於中東路問題、滿蒙政策、統治朝鮮和維持治安以及關於俄中、日俄間國境地區的防衛等等問題，須在中日之間達成協定者頗多，而我們在中國方面所面臨的對手當然是張作霖，帝國為達此目的，務使張對我懷有善意。在此意義上，帝國為使張在滿蒙建立穩固的基礎，給予援助，實為必要。
日本軍方也紛紛強調同樣的觀點。駐北京公使館武官東少將稱：
為了粉碎吳佩孚的野心和以吳佩孚為傀儡的英美的陰謀，支援張作霖是維持帝國的地位所必須採取的正當防衛手段。
關東軍參謀長福原少將稱：
美英與直系合作，驅逐日本在華勢力，使帝國喪失對華權威，因而從根本上動搖了我國對中國，特別是對滿蒙的政策，甚至達到不可挽救的地步。因此，對張要加以支援，至少也要採取維持其現在的勢力的方針。
1921年底美國召開華盛頓會議期間，日本策動張作霖親自入京，迫使靳雲鵬內閣辭職，組成以梁士詒為總理的親日內閣。梁士詒內閣一上臺，便同意購買膠濟路的款項向日本借貸，並允許將該路改為中日合辦，聘用日本人為車務長和會計長。
梁士詒內閣的親日賣國舉動，使得好不容易爭取回來的山東權益又變相流失，遭到直系和國民的強烈抨擊。張作霖出面為梁進行辯護，雙方論戰愈演愈烈，戰爭陰雲密佈。
1921年1月8日，張作霖讓町野武馬到日本駐華使館找小幡公使給予支援。10日，又派於衝漢去找關東軍貴至少將支援武器彈藥，並希望在奉軍出關時，日軍能維持滿洲的治安。14日，再派於衝漢訪問奉天總領事赤冢，要求日本政府提供炮彈10萬發、機槍200挺、子彈500萬發、步槍1萬支、子彈1000萬發。
於是，美國華盛頓會議剛剛落下帷幕，1922年4月29日至5月4日，直奉兩軍在長辛店、固安、馬廠等地爆發戰爭。由於當時日本被出兵西伯利亞所牽制，國際形勢又孤立，對奉軍的支援力度遠不如英美，結果奉軍大敗。
5月12日，張作霖在日本慫恿下於灤州宣佈獨立，自稱奉軍總司令，並發表對外宣言稱：“對於友邦人民生命財產力加保護，所有前清及民國時期所定各項條約一概承認。此後如有交涉事件，請徑行照會本總司令行轅。自本月一日起，未得本總司令允許者，概不承認。”
6月上旬，東三省議會又宣佈“聯省自治”，推舉張作霖為東三省保安總司令。
此後，日本大力支援張作霖在東北整頓充實軍事、政治和經濟實力，為重新爭奪###做準備。張作霖也增聘日本軍事顧問，設定陸軍整理處，推行所謂的“精兵主義”。
1922年10月，張作霖以100萬元向日方購進步槍2萬支和若干炮彈、炸彈、飛機。1923年2月，日本把從義大利購買的步槍萬支、炸彈800顆、大炮12尊轉賣給奉軍。8月，日方又將價值368萬元的萬件軍火運入奉天。
日本向張作霖輸送軍火的舉動備受關注，迫於國際壓力，日本外務大臣松井慶四郎指示駐京公使芳澤：“關於供給武器一事，因有列國關於禁止供給中國武器的協定，日本政府不能只限於考慮滿足張作霖的要求，莫如使其設立兵工廠以求自