他要不給，兩家就有一拼，咱們就躲過這一場災難。這樣，魏氏也決定給了。這樣，知伯就從韓氏卿族和魏氏卿族各要了一個很大的縣。這時候，知伯已經有點兒飄飄然了，很高興，胃口也就越來越大了。他就把目光盯向了趙氏卿族。趙氏在韓趙魏三家實力最強，雖然比不上知氏，但是弱不了多少。趙氏卿族的族長知道這個訊息後，就有心理準備了，知伯這次找趙氏要地，比找韓氏，魏氏更苛刻。韓氏，魏氏是要地，要哪塊沒講。找趙氏要地，指定了要哪兒。但是趙氏宗族的宗主趙襄子是個很有才華的人，也是一個很勇敢，很有魄力的人，他不願意給，斷然拒絕。而且趙襄子知道，他一旦拒絕，知氏一定要動武，所以他立即作備戰的準備，而知伯遭到拒絕後，立即就把韓康子和魏宣子找來，要三家聯手攻打趙氏。
趙襄子這時找他的一個家臣，叫張孟談，這也是一個很了不起的人。趙襄子問他，我們應當以哪一個地方作為我們和知伯對抗的根據地。張孟談就說，晉陽，就是今天山西的太原，最適合我們趙氏長期堅守，趙襄子就同意了這個意見，迅速派兵到晉陽。然後趙襄子帶領全族的人退到晉陽。晉陽的城牆非常堅固，糧草充足，但是看過以後，發現缺作戰使用的弓箭。首先沒有箭桿，其次沒有箭頭，沒有辦法制造那麼多箭。然後趙襄子就找張孟談，張孟談說當年建晉陽城的時候，已經做了一個準備，說晉陽城的宮殿，宮殿的牆，不像我們今天這樣砌起來的，是用荊棘和蘆葦立起來的。一根荊棘，蘆葦都有一丈多高，可以做箭桿。然後，張孟談說箭頭也不用發愁，晉陽城宮殿裡一根一根的柱子，柱子下面有一塊石頭，用來支撐柱子。這些石頭不是石頭，是用銅澆鑄起來的，把它們融化掉，就可以製造箭頭。這樣一來，問題就解決了，趙襄子守城的決心也就更大了。知伯領著韓氏，魏氏兩家圍攻晉陽，打了三個月，打不下來，知伯就派這三家的軍隊把晉陽圍上了，然後知伯就巡視晉陽城，他發現，晉陽城外有一條河，當時叫晉水，就是今天山西的汾河。知伯就想了一個辦法，要把晉水順著河道砌一個壩，讓水不能往下流。然後開一個渠，把水引著灌到晉陽城裡來，水淹晉陽。，史書記載這個大水有多高呢？離晉陽城的城牆只剩三板，三板是什麼意思呢？古人修建城牆，不是用磚制的，是用夯土夯出來的。用兩塊板夾住，中間填土，填到一定程度把土夯實，然後再填，這一層板修成了，再往上加高一層。這場大水離城牆的頂部只剩三板的距離，水勢非常大。水淹以後，知伯非常高興，就坐著車，替他趕車的是魏氏的宗主魏宣子，替他作警衛的是韓氏的宗主韓康子，帶著知伯去巡視。知伯看過以後得意忘形，說了一番話，他說我今天才知道，大水可以滅亡一個國家，而且我今天知道，我不但可以看到晉水淹沒晉陽，我還知道汾水可以淹沒安邑，絳水可以淹沒平陽。安邑和平陽都不是一般的城市，安邑是魏國的都城，平陽是韓國的都城，你想想，知伯的話什麼意思？他覺得韓國，魏國都城外面都有水，照樣可以引水把這兩個國家的都城淹了。這話一出口，只能說知伯已經得意忘形了。但是話說出來以後，可叫韓氏老大和魏氏老大心裡都一哆嗦，就知道知伯沒有懷好意，兩個人心裡都開始提防了。
結果這個水灌晉陽城整整淹了三年，城中到了什麼程度，人已經住到樹上了，鍋要吊起來才能做飯，趙襄子這個時候已經很難堅持了，所以又找張孟談商議。張孟談說，你讓我出城，去見一見韓氏和魏氏，趙襄子就同意了。張孟談就出來見了韓氏，魏氏的老大，就說，趙國肯定要滅亡了，大水淹了三年，但是一旦趙國滅亡，接下來就是韓國和魏國了。這話一下擊中了韓氏，魏氏兩家宗主的軟肋，知伯是不會罷休的，滅了趙國，接下來就要滅你們兩國。這兩家的宗主就說，我們也知道這個道理，但是我們害怕，我們商議好的計劃沒有執行就被知伯知道了，那我們就全完了。張孟談說，這不要緊，今天就我們三個商議，出你們兩個人之嘴，入我一人之耳，沒有第四個人知道，你們放心。然後，三家就商議好，就是這個時韓氏跟魏氏商議好，要和趙氏聯手了，不能讓趙氏滅了，這就叫唇亡齒寒，兔死狐悲。這樣一來，韓氏，魏氏就決定聯手共同對付知伯。張孟談回去就告訴了趙襄子，趙襄子當然非常高興，但是這個商議好的事情，還沒有執行的時候出了一點小岔子。就是張孟談，作為趙國的使者，又到知伯的大營中，到大營門口碰見了知氏家族的一個大夫，叫知果。知果看見張孟談以後，立即進去告訴知伯，說韓魏兩家馬上會背叛咱們，因為我們軍營門口看見了趙氏的家臣張孟談，這個人趾