使是暫時的，也還是如同貝茨博士在一月十日所寫那封信裡說的那樣，它與日本軍的主力撤離南京有關。
二十三日以後，僅第十六師團留在南京，負責南京的警備任務，但事態有所緩和，時間很短。雖說是警備部隊，但這個師團也決不能說是模範部隊，這就是所以出現軍隊再度開始橫行不法的原因。因為他們和過去的佔領軍一樣，其中有很多劣質的軍官和士兵。單以警備隊司令官、師團長中島今朝吾中將為例，據說他就是殘暴的色情狂，是個性格反常的人。松井司令官將重大任務交給這位將軍，其措施也有問題。關於中島中將的問題，希參看第5節中《令人可怕的南京地區警備司令官》有關敘述。
正如馬吉牧師（？）在信中所提到的那樣，憲兵依然是無能為力的，但外國使館工作人員回到南京，這對難民來說是個好訊息。由於得到日本方面的許可，一月六日和八日，美國代表和英國、德國代表各三人分別到達南京（前引書，第四十二至四十三頁）。
抓“殘兵敗卒”和市民遇難
前面已經說過，在城外被集體屠殺的人們中間，不僅有被俘的軍官、士兵和難民，而且還包括許多佔領後在城內被抓去的殘兵敗卒和被誤認為是殘兵敗卒的一般市民。
在南京陷落前的十二月十二日那天，城內的中國軍隊崩潰，殘兵敗卒變成了日本方面所說的“便衣兵”。南京被佔領後，在南京逗留了三天的《紐約時報》記者德丁曾目睹中國兵的情況完全變了樣，對此，有如下描述。
一九三七年十二月十八日的報道，只是作了簡單的記述：
記者在星期日（十二日）傍晚驅車在市區內兜了一圈，當時看到一個部隊的全體人員脫下了軍裝，這種光景滑稽極了。許多士兵是在去下關的途中脫下軍裝的。有人走進小路里換上便衣。也有些士兵光著身子，然後穿上普通老百姓的衣服（前引書2，第二九○至二九一頁）。
翌年一月九日出版的報紙，有則更為詳細的訊息，內容是這樣的：
星期日傍晚，整個安全區都有中國軍人，多數人開始脫下了軍裝。他們有的從過路人那裡撿來了普通老百姓的便衣，有的請求把衣服讓給他們。
儘管如此，在沒有一個“普通老百姓”時，士兵們就脫下了軍裝，只穿一件襯衣。
武器也和軍裝一起被丟棄了，馬路上堆滿了手槍、手榴彈、刺刀、揹包、軍裝、軍靴和鋼盔。在下關門附近，丟棄的軍用品數量很多。從交通部門前到兩條馬路之間，像是丟棄垃圾的地方，堆積著卡車、炮、公共汽車、指揮官的專用車、運貨馬車、機槍和小型火器。在市區內，價值二百萬美元的最好的建築物深更半夜被焚燒，儲藏在裡面的彈藥連續爆炸了很長時間，這種情景真令人可怕。
建築物外面的垃圾山也著了火，一直燒到第二天很晚的時候。拉炮車的軍馬也被包圍在火焰之中，軍馬的悲鳴聲更使現場的情景悽慘萬狀。大火災封鎖了通向下關的主要馬路——中山路，小巷擁擠到了極點。
中國的軍隊好容易走到下關，他們無疑想乘上幾艘帆船，從沿江馬路出發， 渡過揚子江。但多數人由於恐慌而溺死在江裡（前引書2，第二九○至二九一頁）。
日本軍似乎認為，到佔領南京後第三天，這些殘兵敗卒還有二萬五千人。對此情況，東京朝日新聞社特派記者曾於十五日發出的電訊中報道過（見本書第七頁），十五日前留在南京的記者德丁也報道說：“日本軍自己公佈，在掃蕩南京的最初三天內逮捕了中國兵一萬五千名。當時，日本軍認為，在市區內還潛有二萬五千名士兵。”（前引書2，第二九一至二九二頁）
這種所謂“便衣兵”，照字面看來就是游擊隊。由於游擊隊不適用於陸戰法，所以也可以把他們交付審判後予以處決。然而，南京陷落後的所謂“便衣兵”，即便有他們的軍籍，也已不能說他們是兵了。因為他們已經喪失鬥志，丟掉武器，一面隱瞞自己的身份，一面混入國際委員會所管理的安全區內，要求保護。他們既無當游擊隊的思想，也無這種能力。所以，稱他們為便衣兵並不確切。儘管如此，日本軍把他們當作敵軍逮捕起來，這在戰爭法規上是容許的。但他們即使被檢舉，也是俘虜，對俘虜是不能殺害的。可是，日本軍不加審判，就把大半“便衣兵”視同一般俘虜進行屠殺。即使在陷落後的南京城內出現若干游擊隊活動的情況，那也不能把殘兵敗卒統統殺光。
在城內，游擊隊的活動相當厲害，也有一種傾向認為，這是所以發生大屠殺的原因之一。