但当时，董卓尚未抵达京城，何进就已经被宦官下手谋杀了。

同年九月，董卓入京，开始执掌朝政，把汉少帝废为弘农王，而改立其弟陈留王为汉献帝，又派人把弘农王母子毒死，自称太师，专擅朝政。

曹操见董卓倒行逆施，不愿与其合作，便在刺杀董卓失败后，改换姓名逃出洛阳。

曹操逃到陈留后，便“散家财，合义兵”，首倡义兵，并号召天下英雄共同讨伐董卓。

期间，有曹操的宗族曹仁、曹纯、曹洪、夏侯惇、夏侯渊等人前来投奔。

初平元年（190年）正月，袁术等人共推渤海太守袁绍为盟主，曹操任代理奋武将军，参加讨董军。

二月，被联军击败的董卓胁迫献帝迁都长安，甚至焚毁宫室，挖开王陵，劫掠人民，致使洛阳方圆二百里荒芜凋敝，再无人烟。

而关东联军惧怕董卓精锐的凉州军，便无人敢再向关西推进，全都屯兵在酸枣一带。

此时，曹操认为董卓焚烧宫室，劫迁天子，海内震动，应当趁机与之决战，遂独自引军西进。

曹操行至荥阳汴水，与董卓大将徐荣交锋，不敌，大败，士卒死伤大半，自己也被流矢所伤，幸得堂弟曹洪所救，因此幸免于难。

回到酸枣后，曹操建议诸军各据要地，再分兵西入武关，围困董卓，关东诸将不肯从。

关东诸军名为讨董，实则各怀鬼胎，意在伺机发展自己势力。

不久，诸军之间发生摩擦，相互火拼，联军至此解散。

初平二年（191年），曹操在东郡大败于毒、白绕、眭固、于扶罗等。

于是，袁绍表其为东郡太守。

初平三年（192年），青州黄巾军大获发展，连破青州、兖州治下的郡县，阵斩兖州刺史刘岱。

济北相鲍信等人便迎曹操出任兖州牧，曹操和鲍信联军进攻黄巾，鲍信战死。曹操设下埋伏，昼夜会战，终于将黄巾击败。