彭城等五县曾进行抵抗，屠城尤其残酷，当初洛阳、长安一带不少人为躲避战乱，跑来徐州安居，结果也都惨遭杀害。这些城邑一度曾是安乐之区，被人们当作是战乱时期的避风港，自此沦为一片废墟，平时就连一个行人都看不到了，宛若鬼城。
公元194年春，曹操由徐州返回甄城。也就在这个时候，他接到凶耗，得知父亲曹嵩竟已被陶谦部将张闿劫财害命。
当初曹操在己吾建军，同在己吾的父亲曹嵩清理了一下财产，在拿出一部分交给儿子练兵后，带上其余财产逃往了琅邪（这里的琅邪是指琅邪山，而非同名的琅邪郡，因其僻处海隅，为耳目所不及，故可避开董卓的搜捕）。
董卓死后，曹嵩已不用再担心因反叛者亲属的身份而受到牵连，但琅邪在徐州的管辖之下，身为徐州牧的陶谦不仅攻掠兖州，而且还是公孙瓒的同盟者。曹操怕父亲在那里不安全，且自己已在兖州站住了脚，便写信请曹嵩来兖州居住。兖州泰山郡与徐州接壤，曹操同时命泰山太守应劭率众到界上迎接。
曹嵩接信后，经过一番准备，把金银财物分装成一百多辆车，率领家人，浩浩荡荡地赶往儿子的任所。
曹嵩那年逃往琅邪时，正逢难民潮，无数难民往徐州境内涌，曹嵩一行不会显得特别惹眼，其间也没有遇到什么麻烦。如今前往兖州，目标就有些大了，不过在徐州境内赶路时，他们应该也很警惕，好在一路无事，终于走出徐州，进入了泰山郡内。
大家的精神放松下来，都觉得不用再急着赶路，可以先就地住宿休息一下了。也就在这个时候，张闿突然率骑兵对他们发动了袭击。
张闿乃为劫财害命而来。看来他是早就盯上曹家财富了，从曹嵩出发就尾随在后，但直到曹嵩进入兖州才实施突袭。
曹嵩一家果然毫无心理准备，他们把张闿当成了前来迎接他们的应劭，等到发现不妙时，再想逃已经来不及了。曹操的弟弟曹德首先被砍倒在门内，曹嵩带着爱妾逃跑，想从后墙的墙缝的洞口钻出去，但他的爱妾身材丰腴，珠圆玉润，怎么钻都钻不出去，曹嵩于是只好又带着她逃到厕所里藏了起来，但是两人很快就被张闿的兵搜出并杀害了。
这是一次灭门式屠戮，曹家除少数侥幸逃走者外，数十口人被杀，一百多车的财物也被抢劫一空。
张闿作案后即逃往淮南。事后有人说灭门案是张闿一人所为，陶谦并不知情，他只是未能约束好部下而已，但也有人说幕后主使其实就是陶谦。
不管主谋者是张闿自己也好，陶谦也罢，总之他们都没有把灭门案的性质和后果想得有多么严重。要不然，张闿就是再贪财，也没有必要冒着抛弃原有职位，今后还将持续遭到江湖追杀的风险，干出江洋大盗的勾当。陶谦知晓内情后，则更像个没事人一样，既未第一时间向曹操陪罪道歉，也没有采取类似于追缉凶手之类的行动。
当应劭赶到时，现场已只剩下一片惨状，应劭害怕被曹操怪罪，不敢再回原任，只得弃官转投袁绍去了。或许因为这个原因，事情早就发生了，但直到曹操返回甄城，才有人就此向他禀报。
实在是太过分了
直接行凶者已逃之夭夭，然而跑得了和尚跑不了庙。以曹操的性格，他一定会对此进行更凶狠更剧烈的报复，在他看来，既然家人是在徐州被杀掉的，这个地方的所有人包括陶谦，就必须为此付出代价！
经过几个月的休整和扩充军备，夏天一到，曹操就编组军队，二度攻击徐州。曹军进入徐州后，连拔五城，一直扫荡到琅邪、东海两郡，继而又回过头来直迫郯城。
这次曹操在战略上对郯城采取了彻底的包围战，他计划先逐步消灭郯城外围的陶军，用以孤立城内的主力。几次战役下来，陶谦也变得聪明了，基于对曹军野战能力的了解，他放弃纯野战的决胜方式，转而采取了攻守互为犄角的战术。
应该说，陶谦的战术基本没错，可大概是曹军在彭城会战时所表现出的那种凶猛气势和威力，以及第一次东征撤退前所进行的血腥屠杀，把徐州军民从上到下都给吓坏了，使得他们在具体组织战斗层面破绽百出。作为主帅，陶谦就只知道率主力躲在城墙坚固的郯城里面，与前卫城襄贲以及犄角部队缺乏有效配合。
陶谦的犄角部队由其部将曹豹与刘备组成，屯于郯城东郊，但曹刘联军和襄贲守军的力量都太弱，仅能用来消极防守郯城。曹操很快发现了陶谦布局上的企图以及实战中的弱点，他派曹仁在襄贲城外布阵，对陶谦和襄贲守军进行封锁，自己则亲率主力攻击曹刘联军。