曹军进至邺城，后方供应线大大拉长，就跟当初袁绍进兵官渡一样了。这也使后方运输的压力大增，持久战打的时间越长，压力越大，有可能就会出问题，为此，曹操决定暂不同袁尚硬拼，先把粮运安排妥当再说，在此之前，则以粮食不足为由，先退兵河南。
退兵的这段时间，不能让袁谭、袁尚哥俩闲着，得让他们继续互斗，而且最好还能把袁尚从邺城吸引过去，这样曹军再打回来的时候，可以抢在袁尚返回邺城之前，先行将邺城困住。
明知袁谭一开始就在和自己斗心眼，曹操始终不露声色，不但不打算与之闹翻，相反，还要继续结成同盟。
曹操随即派人去平原，替儿子曹整聘娶袁谭之女为妻。按照礼制，袁谭须为父亲服丧三年，三年内都不能举办喜事。曹操、袁尚对此都很清楚，但两人又都对此视而不见，曹操是出于谋略需要，而袁谭则是心里有鬼，怕曹操起疑，只能一口应允。
把这一切做完，曹操这才引军回河南，好象他北上折腾半天，就只为了给他的“盟友”袁谭解个围，再结个亲一样。
回到河南，曹操便积极准备，公元204年2月，他再次率大军北渡黄河，并于其间开凿了白沟运河。白沟是老黄河的河床，黄河改道后，业已干涸，曹操在此基础上进行了改扩，又筑堤引淇水注入，这样便可以用这条新运河来运送军粮了。
曹军再次北上，袁尚的第一反应不是针对曹军御敌，而是留下审配和部将苏由防守邺城，他亲自到平原攻打袁谭。很显然，曹操与袁谭的结亲刺激了他，让他认为这两人的同盟已经牢不可破，为防止被其夹击，不妨在邺城被曹军围攻前，先行将较弱的袁谭击破。
袁尚大大抵估了曹军的推进速度，乘袁尚前往平原，曹军直捣邺城，所部很快便到达洹水，距邺城已仅五十里。
攻城战的战术，一般可分为奇袭、强攻和长期围困。如果条件具备，奇袭是比较省事的一种打法。在前期准备中，曹操从袁尚内部着手，提前策反了苏由等人，当时就有里应外合、速战奇袭的计划。
见曹军将至，苏由欲按计划从内部进行策应，不料事泄，被主持防守的审配发现了。两人在城内打了起来，苏由不敌审配，只得出城直接与曹军会合。
奇袭不成，便进入了强攻模式。曹军起土山，架云梯，挖地道，搬出了既往攻城时用过的几乎所有技战术，但均未能奏效。
当时的很多谋士，并非想像中弱不禁风的书生，而是能文能武，必要时指挥三军亦不怯场，袁幕中的沮援、审配都是如此。比如曹军采用地道战，审配则采用反地道战，像官渡大战时的曹军那样，在城里挖掘濠沟，使得曹军无机可乘。
除了苏由外，审配副将冯礼也已被曹操秘密策反。守军在正式城门外，常常还会设置秘密出口，名为突门。冯礼偷偷地打开突门，放曹兵进来，谁知三百余曹兵刚刚入城，就被审配发觉了。为防止曹军渗入，守军对突门有紧急处置办法，他们当即从城头扔下大石头，大石头击中了突门的栅门，栅门随之关闭，城外的曹兵再也进不来了，冯礼和已进入城内的那三百余曹兵全部丧命。
进去了，一定还要出来
在奇效、强攻双双落空的情况下，长期围困也就是打持久战，成了曹军唯一的选择。
切断外援是长围久困的前提。袁尚任命的武安县长尹楷驻扎于毛城，用以保护上党至邺城的粮道，曹操留曹洪攻打邺城，亲自率兵进攻毛城，在击溃尹楷，成功阻道邺城粮道后，才回师邺城。除此之外，曹军还攻克了附近的邯郸。为其声威所慑，周围有的县开始主动投降，就连盘踞于冀州山区，一直在袁绍对峙的黑山军首领张燕，也派使者前来拜见曹操，请求派军协助曹操进攻袁氏兄弟，曹操自然求之不得，遂委任张燕为平北将军。
公元204年6月，曹操突然毁去了为攻击邺城所筑的土山、地道，代之而起的是环绕邺城四周，长达四十里的一条壕沟。壕沟开挖的时候很浅，似乎人都可以从上面飞身跃过一样，审配在城上看见了，不禁发笑，认为曹操用这种工事围城，徒求心安而已，其实无甚大用，于是也不出兵或设法予以阻止。
有一天夜里，曹操突然下令赶工深挖，壕沟被迅速挖成了深宽各达二丈的大沟，之后又掘开漳河，将河水灌入壕沟。原来在有意制造的假象背后，引水灌城才是曹操的真正目的，在曹操以往的战史中，此招曾先后被用于袁术、吕布，均收到了预期效果。