到上海繼續談判。到達上海之後，李克農化名李震中，以十七路軍軍需主任的名義，建立駐滬辦事處。早年在上海從事特科工作的李克農，重回久別的大上海，自是如魚得水。李克農選擇繁華的福熙路，在多福裡21號設點。這個二層紅磚洋樓，一樓有電話接待上海客人，二樓的閣樓隱藏電臺與延安通訊，樓前樓後各有大門通向不同的街道，便於轉移。李克農又在上海找到毛澤東的弟弟毛澤民，這個中華蘇維埃共和國的銀行行長，正抱著共產國際支援中共的大批美元著急。李克農與毛澤民周密策劃，先將美元兌換成法幣，一部分由上海銀行匯給西安銀行，一部分由毛澤民等人親自攜帶乘坐火車運往西安。每次到西安，都由葉劍英親自帶車接站，突破國民黨特務的檢查。
1937年8月，國民黨與共產黨達成協議：紅軍改編為國民革命軍第八路軍，在若干城市設立八路軍辦事處。19日，八路軍參謀長葉劍英與童小鵬在南京籌建駐京辦事處，27日，處長李克農到職。辦事處的房子，由周恩來租用老師張伯苓的公館。9月初，中共代表博古到南京與國民黨談判，這個八路軍駐京辦事處實際也是中共駐京辦事處。此前西安的紅軍聯絡處，並未經由國民黨中央承認。這時的駐京辦事處，就成為第二次國內革命戰爭以來，中共駐國民黨統治區的第一個公開合法機構。
駐京辦事處的首要任務是解救獄中同志。國共正在合作，國民黨沒有理由繼續關押共產黨員，於是就給李克農出難題，要李克農開出名單來。國民黨特務機關以為共產黨不瞭解獄中情況，豈知，李克農早已透過地下關係掌握準確的名單。辦事處逐步提