1944年9 月赫爾利到達重慶後，立即同中國政府的官員和中國共產黨駐重慶的代表舉行會談。其後，他於11月7 日飛往延安同共產黨領袖毛澤東進行討論。這些會談的結果是在11月10日製定出五點協議草案，這個草案由赫爾利幫助起草，並由他作為證人在上面簽了字。這個擬議中的協議的主要內容是：建立一個由一切抗日政黨和政治團體組成的聯合政府取代現在的國民政府，同時建立一個由一切抗日軍隊的代表組成的新的軍事委員會。這是為了對中國的一切抗日力量實行統一領導，對中國的一切抗日力量平等分配從國外獲得的物資。
國民黨領導人拒絕接受這些條款。他們對赫爾利說，他在延安“受騙了”。他們提出了一個三點方案作為反建議，並在11月22日交給共產黨駐重慶代表周恩來將軍，由他在12月初將該建議帶回延安。中國政府的條件是：中共的軍隊於改編後併為國軍的二部分，在薪餉、供應方面取得與其他部隊同樣的待遇，並承認中國共產黨的合法地位；共產黨應擁護國民政府，共產黨的部隊應服從軍事委員會的指揮，軍事委員會可接受一些共產黨的軍事代表。
共產黨人立即拒絕了這些條件，並指出，在他們看來，進一步與重慶政府談判是沒有用的。同時，他們表示願意繼續同赫爾利和魏德邁將軍討論“我們未來軍事合作的具體問題，並繼續同延安的美軍觀察組取得密切聯絡。”既然重慶政府拒絕了由赫爾利協助制定的建議，共產黨顯然是希望美國直接給予武器和軍需方面的援助。
然而，赫爾利回覆說，根據他的理解，共產黨的五點建議是作為談判的基礎，並不是作為不可以降低的要求而提出的，國民黨政府的反建議也不是他們的定論。
所以，沒有必要中斷談判。他催促周恩來重返重慶，恢復185 會談。經過赫爾利同共產黨領導人毛澤東和周恩來之間進一步交換意見以後，共產黨領導人在12月28日通知赫爾利說，共產黨不願意就他們的建議進行“抽象的討論”。現在，他們又提出了四點初步的補充意見，要求轉達重慶政府。這些意見是：釋放政治犯；撤退包困邊區和襲擊新四軍的國民黨軍隊和華南反共縱隊；廢除一切限制人民自由的壓迫性法令；停止一切特務活動。
這時，赫爾利己被任命為駐華大使。1945年1 月7 日他答覆共產黨說，新的要求背離了“我們原來同意在一般原則上獲致協議後才談及特殊細目之程式。”同時，他不斷向蔣介石施加壓力，要他向共產黨作出讓步。到1 月20日，赫爾利終於能夠告訴共產黨，國民黨將會作出讓步。因此，周恩來於1 月24日口到了重慶，會談又恢復了。這時，政府方面在原來提出的三點方案之外又提出：在行政院之下附設一個由各黨派參加的類似戰時內閣的機構；由國民黨、共產黨和美國各派一名軍官組成一個三人委員會，就共產黨軍隊的改編、給養和裝備等問題向軍事委員會提出建議；委派一名美國軍官在對日戰爭期間擔任中共軍隊的直接指揮官，該指揮官應對委員長負責，保證政府頒行的軍事法令和非軍事法令在其所轄軍區的範圍內實施。
周恩來答覆說，這些建議使國民黨處於控制地位，而共產黨永遠不會同意把它的軍隊置於國民黨的指揮之下，共產黨只願在包括各黨派在內的聯合政府中才同國民黨合作。在這樣一個聯合政府成立之後，才有可能建立一個委員會改編所有的中國軍隊，而不僅僅是改編共產黨軍隊。
赫爾利繼續向不情願的委員長施加壓力，要他採取步驟組成一個聯合政府，蔣介石終於在2 月3 日同意邀186 請所有黨派的代表參加政治協商會議，考慮採取措施結束“訓政時期”、建立一個由各黨派參加的政府和統一全國武裝力量。然而，蔣介石向赫爾利表示，他認為共產黨的真正目的是想以他們的一黨統治來代替國民黨的統治；如果蘇聯參加對日作戰的話，共產黨希望獲得蘇聯支援以實現這一目的。
關於蘇聯參戰的問題，當時正在雅爾塔會議上進行最後的安排。在雅爾塔會談的過程中，斯大林說他不理解為什麼國民黨和共產黨不維持杭日統一戰線。蔣介石應該擔負抗日統一戰線的領導責任，但他需要有新的人在他周圍工作，而在中國共產黨中是有一些人材的。羅斯福總統回答說，赫爾利和魏德邁在促使國共兩黨的聯合方面，比他們的前任做得較為成功。他認為糾紛的主要原因是雙方領導人都不肯讓步。
2 月19日，赫爾利離開重慶，去華盛頓述職。他情緒很壞，非常生氣，因為他感到自己謀求和平的努力正遭到美