東漢末年，黃巾羣起、天下大亂，董卓專權、漢室凌遲。在“討董聯盟”不歡而散之後，山東各個地方勢力轉而展開了激烈的兼併戰爭。獻帝初平三年（192年），曹操借“青州黃巾軍攻入兗州、州牧劉岱戰死”的機會，在濟北相鮑信與兗州衆官員的迎立下，成爲了兗州牧。此時，黃巾軍聲勢浩大，曹操和鮑信進兵討伐，鮑信力戰而死。曹操“設奇伏，晝夜會戰”，終於將黃巾軍擊敗，獲降卒三十餘萬，人口百餘萬。曹操收其精銳，組成軍隊，號“青州兵”。這些招降的黃巾軍士個個身經百戰，戰鬥力極強，至此曹操不但得到了兗州這塊屬於自己的地盤，而且麾下的軍隊也形成了很強的戰鬥力，成有較有實力的一路諸侯。
兼併之初，四海鼎沸，各地方勢力間實力接近、不相上下，出於各自利益的考慮，冀州的袁紹、兗州的曹操、荊州的劉表站在了一條戰線上，而幽州有實權的公孫瓚、寄居荊州境內的袁術和豫州的孫堅、徐州的陶謙站在了另一條線上，由此在山東地區形成了兩大戰略聯盟，天下大爭就此拉開。
此時，曹操控制的兗州和陶謙控制的徐州是相接境的，兗州可以吞併徐州，徐州也可以吞併兗州。兗州牧曹操和徐州牧陶謙自然也就成爲了一對死敵，只是礙於形勢，雙方並沒有爆發大規模的戰爭。之後的一件事情成爲了兗徐戰爭的導火索。初平四年（193年）秋，曹操的父親曹嵩在前往兗州曹操處的路上，爲護送的陶謙部將張闓所殺。憤怒的曹操向陶謙進行了復仇性的攻擊，一連攻陷十餘縣，進擊彭城。陶謙率主力迎戰，大敗，逃回郯縣（今山東郯城）固守。曹操軍糧將盡，撤圍回軍。次年二月，曹操再徵徐州，連破五城，略地至東海。陶謙受到曹操重創後，只得向盟友青州刺史田楷求救，田楷跟平原相劉備前往支援。劉備藉助這個機會便離開田楷，歸附陶謙。陶謙向東漢朝廷推薦劉備爲豫州刺史，駐屯小沛，作爲自己的屏藩。同年四月，曹操，命荀彧、程昱留守鄄城，自己親率大軍，再次對陶謙發動復仇攻擊，奪取地盤。大軍進逼琅邪郡、東海郡，所過之處大肆殺戮，一路上“雞犬亦盡，墟邑無復行人”，並在郯縣東郊，擊破劉備部隊。陶謙震恐，打算逃回丹陽郡。就在此時，曹操的摯友、陳留太守張邈背叛曹操，迎接呂布，曹操只好火速退兵。
呂布，字奉先，五原郡九原人，是當時的名將。《三國演義》“破關兵三英戰呂布”一回中，描寫其英武非常、神威天縱，虎牢關前關羽、張飛、劉備三人圍攻，也未能將其戰倒；後來爲了自己愛慕的貂蟬，與王允合力誅殺董卓，而“鳳儀亭呂布戲貂蟬”這個場景也與“楚霸王怒焚阿房宮”一併成爲了“衝冠一怒爲紅顏”的經典，貂蟬與呂布也變成了後世所羨慕的仙侶佳偶。但是，“演義”中“三英戰呂布”和“王允連環計”這兩段動人的故事都是子虛烏有的，不過呂布的英勇無敵、誅殺董卓卻是真有其事。《三國志》記載：呂布善弓馬騎射，膂力過人，作戰勇猛，特別善於率領騎兵，被喻爲“飛將”。在民間也有“人中呂布，馬中赤兔”一說。據正史記載，呂布因其勇武而被幷州刺史丁原任爲主簿，二人非常親近。董卓入主洛陽後，利用呂布的貪心以及丁原對呂布的信任，以重利爲誘餌通過呂布刺死丁原。董卓也非常喜歡呂布的才能，任命其爲騎都尉，不久再任他爲中郎將，封都亭侯。山東諸侯起兵討董之時，呂布也曾參戰，卻與將領胡軫不和而被孫堅所敗。董卓迫於外在的軍事壓力，只得脅迫獻帝遷都長安。王允、士孫瑞、楊瓚等密謀暗殺董卓，拉攏呂布，併合力殺掉了董卓。董卓死後，呂布因功任職奮武將軍，假節，儀比三司，進封溫侯，與王允同掌朝政。董卓死後兩個月，其舊部屬李傕和郭汜等本想解散部隊，歸隱田野，途中遇賈詡獻計，召集舊部，攻入京城，呂布戰敗，倉皇出逃。呂布先後投靠袁術、袁紹和張揚等人，均因自己爲人驕縱、反覆無常，而沒能取得對方的信任。幸而此時，張邈在說客的鼓動下主動迎接其入主兗州，呂布纔算是有了一片落腳之地。
呂布軍進入兗州是曹操生死存亡的一個重要關頭。當時，只有鄄城（今屬山東）和東郡的範（今山東範縣東南）、東阿（今山東陽谷東北）兩縣尚在曹操掌握之中，分別由荀彧、程昱和夏侯惇等堅守，形勢異常危急。如果曹操的兗州根本爲呂布所破，或者其回救而其主力軍隊被呂布殲滅，則曹操真的就要沒有立錐之地了。《三國志·魏武帝紀》記載，曹操從徐州趕回，聽說呂布屯於濮陽，認爲呂布“得一州，不能據東平，斷亢父、泰山之道乘險要我，而乃屯濮陽”是無能之舉，遂進軍圍攻濮陽。後世很多史評家均認爲呂布此舉是個敗着，其實細想起來倒也未必。呂布所統軍隊的精華是他的騎兵，利於開闊地的突擊作戰，而不適合在峽谷險山之間周旋；此外，兗州尚有三座大城沒能征服、荀彧、夏侯惇等絕非等閒之輩，若冒然出動主力據曹操於兗州之外，很可能會形成“你中有我、我中有你”的窘境，局勢反而難於控制，不如集中兵力以逸待勞，直接誘曹軍決戰，憑藉騎兵的優勢一舉擊破其主力，藉此平定兗州全境。史實上也是相似的，呂布軍與曹操軍合戰，呂布出動麾下騎兵直突曹軍。出乎曹操意料的是對手的騎兵非常精銳，在這些精銳騎兵的衝擊下青州兵的陣勢動搖了，曹操在這場戰鬥中也受了傷，幸得手下相救才能全身而退。這就是《三國演義》上大肆渲染的“濮陽城溫侯破曹操”一役。但是，曹操手下兵馬本來不弱，本人又是善能用兵的人，這一場敗仗到不至於使其一敗塗地。曹操回到大營後，自力勞軍，製備攻具，再次進攻濮陽，二軍相持了百餘日，蝗災大起，雙方停戰，曹操軍還鄄城。興平二年（195年）春，曹操整軍再戰呂布，在定陶擊敗呂布軍。五月，曹操向駐屯於鉅野的呂布軍薛蘭、李封部主動發動攻擊，呂布親往援救，但被曹操擊敗，斬薛蘭、李封，呂布退走。曹操駐軍乘氏，得知徐州牧陶謙去世，打算奪取徐州，等奪取到徐州之後，再回軍攻擊呂布。謀士荀彧阻止道：“昔日高祖保有關中，光武據守河內，以其作爲根本進而控制天下。如此則進可勝敵，退可休養，故而，雖有一時的困頓失敗，但最終完成了統一大業。將軍根本在於兗州，以‘起義兵、拯救山東’爲名在當地已經具有了相當的影響。而且黃河與濟水之間，是天下要衝，暫時殘破，卻仍可以自保，正是將軍的‘關中’‘河內’，不可不先尋求它的安定。而今，已擊破李封、薛蘭，如果派出一支特遣部隊，向東攻擊陳宮，陳宮必然不敢再起西進的念頭。然後，我們利用這個時間，動員所有軍民，收割熟麥，儲存糧秣，再發動一次大規模的攻擊，就可消滅呂布。之後，跟南方的揚州締結同盟，共同袁術，就可以控制淮河、泗水。如果不考慮呂布的威脅，即行向東攻擊徐州，陶謙雖死，但州府官員迫於我方壓力必將更加團結，內呼外應，一時見恐難平定。我軍後方留兵太多，前方便會感到不足；後方留兵太少，勢必徵召人民入伍，保護城寨，則百業停頓，民衆疲敝。一旦呂布乘虛而入，人心必然動搖。到時候，恐怕我們辛苦收復的城池又將丟失，將軍真就無家可歸了。天下事情常有取捨之抉擇，而抉擇的標準在於，選取重大的，放棄微小的；選取安全的，放棄危險的。觀察當前形勢，權衡利害，必須考慮兗州根本的穩固，纔可以實施。”曹操聽後深以爲然，就打消了這個念頭，並集中兵力與呂布會戰，於鉅野（今山東鉅野南）大破呂布軍，呂布逃往徐州投靠劉備。呂布與曹操的“兗州之爭”就此告一段落。
瞭解三國曆史的朋友都知道，陳留太守張邈是和曹操最有交情的人。曹操的起義兵討董卓，張邈是最先支持他的人，曹操入主兗州也得到了張邈的鼎力支持，而在第一次進攻徐州時操又將家小託付給張邈，那麼又是什麼原因導致張邈最終背叛了曹操呢？飛刀認爲主要有兩大原因：其一，早在聯合討董之時，袁紹既爲盟主，有驕矜色，張邈就曾正議指責袁紹。袁紹心中很不高興，並指使曹操殺掉張邈。而曹操並沒有聽從，爲此還得罪了袁紹。張邈知道此事後，非常感激曹操。但隨着曹操和袁紹聯盟關係的確立，出於征伐徐州的需要，二者關係更是越走越近。此時張邈與呂布的交往再次得罪袁紹，因此畏懼曹操爲了拉攏袁紹而將自己殺死，心不自安。其二，前任九江郡（安徽省壽縣）首陳留郡人邊讓，曾經諷刺抨擊曹操，曹操聽到後，惱羞成怒，誅殺了邊讓跟他的妻兒。沒想到邊讓這個人知名度很高，是當時名士的代表人物，在士大夫中影響甚大，他的死引起兗州士大夫的震恐與憤慨。曹操部屬陳宮也疑心可能步邊讓後塵，遂跟從事中郎許汜、王楷，以及張邈的弟弟張超等人遊說張邈背叛曹操。張邈本也屬於士大夫行列，對於曹操誅殺邊讓的行爲早就不滿，雙方一拍即合。正是公利和私心的不斷作祟，使得張邈最終背叛了自己的好友。
《三國志》的作者陳壽曾評價呂布“有虓虎之勇，而無英奇之略，輕狡反覆，唯利是視”，可見如此一個唯利是圖、毫無遠大目標的人，在亂世之中是很難真正有所作爲的，充其量也就是個攪局人。通過這次兗州危機，曹操也悟出了威脅自己在兗州統治的不是呂布，而是他本人和他的軍隊。東漢社會是有平民和士大夫組成的，在張邈和呂布的叛亂中這兩派勢力都沒能表現出太高忠誠度，甚至成爲了變亂的發起者（士大夫）。若想在這樣的社會中建立穩固的統治根基必須贏得二者的支持。因此，曹操吸取了教訓，對自己執政和治軍的策略進行了調整。首先，適當改變了對士大夫輕視的態度，對於狂妄的名士也都不在進行殺害，而是轉而採取其他方式加以解決（例如，假借劉表和黃祖之手除掉狂士禰衡）。其次，約束軍士、嚴明軍紀，始終以“官軍義兵”的身份出現，儘量做到不擾民、不枉殺。其三，申明法紀，獎懲公平，鼓勵生產，發展農耕。這三點重大的調整，使得曹操與公孫瓚、呂布等傳統軍閥勢力形成了鮮明的反差，在兗州地區形成了較爲贏得民衆支持的地方政權。正所謂：“天下洶洶、生靈塗炭，唯不嗜殺者得天下。”