曹操回到陈留老家之后，散尽家财，然后又得到了当时陈留孝廉卫兹的大力资助，得以召集五千义士起兵反董，曹操也是历史上所记载的起兵反董第一人。
一开始曹操身边的追随者主要是他以前的亲朋好友，另外还有一些他的旧部以及其他人。像曹家是曹操的本家，包括曹仁、曹纯、曹洪等人都是曹操同一辈的从兄弟，而曹家和夏侯家是姻亲，夏侯惇、夏侯渊都是曹操的死党，乐进、史涣是曹操的旧部，任峻、枣祗则在曹操起兵时追随于他。
曹仁，字子孝，曹操的从弟（从祖弟）。年轻时爱好骑射，在董卓乱政之后，各路豪杰并起，曹仁也在淮河、泗水一带集结了上千青年，后来听到曹操的消息之后率队来追随曹操，被曹操任命为别部司马，行厉锋校尉之职。
曹纯，字子和，曹仁一母同胞的弟弟。曹仁和曹纯年少丧父，两人就此分家，根据《英雄记》记载历史上是由曹纯继承了其父曹炽的家业。所以曹纯家颇为殷富，家中僮仆、宾客有上百人之多，但曹纯年纪轻轻便能以纲纪持家，督御仆从，管理偌大家业而不失条理，因此乡里人都认为其很有才干。曹纯崇尚学问，尊敬学问渊博的儒士，因此很多儒士都来投靠他，使曹纯的名声为远近所称颂。
中平四年（187年），曹纯年未弱冠即进入朝廷担任黄门侍郎，年仅十八岁。两年后，董卓祸乱天下，曹纯于是跟随曹操到襄邑募兵，从此开始了追随曹操征战的戎马生涯，后来曹纯担任了曹军精锐虎豹骑的统帅。
曹洪，字子廉，他也是曹操的从弟。曹洪在历史上最出名的就是让马救曹一事，在曹操被徐荣打败后，曹操自己的战马都丢掉了，曹洪想把自己的马让给曹操，但曹操没接受，于是曹洪到：“天下可无洪，不可无君。”曹操这才接受。曹洪让马后，步行随曹操到了汴水边，水深流急，不能涉水过河，曹洪沿着河道搜寻，终于寻到一只渡船，于是和曹操一起得以渡河，返回到谯郡。
曹操在汴水惨败给徐荣后，被酸枣的诸侯们排挤，于是转而去扬州募兵，那时曹洪和扬州刺史陈温关系很好，陈温也为此给了很多的方便。历史上曹洪家里也是非常富有的，曹操就曾经过：“我家赀那得如子廉耶！（我家里的财产哪比得上子廉多啊！）”但曹洪为人并不大方，相反有气。
曹休，字文烈，是曹洪的亲侄子，曹操的后辈。天下大乱后，各大家族纷纷离京，回归乡里。曹休十多岁时丧父，他自己与一客人把父亲暂时安葬了，以后他带着母亲，渡江到了吴郡。曹休的祖父曹鼎曾经担任吴郡太守，曹休在太守官邸里，见到壁上挂着昔日太守即其祖父曹鼎的画像，遂下榻拜于地上涕泣不已，当时同坐的人都对曹休感到赞许和惋惜。
得知曹操举义兵讨伐叛董卓，他隐名埋姓辗转到了荆州，又从路北上，去见曹操。曹操得知曹休能够辗转行走千里来归，于是对部下：“这是我们家的千里驹呀！”遂让他与曹丕在一起，待他如亲骨肉。后来曹休常随曹操到处征伐，曹操让他行使虎豹骑宿卫的职权。
夏侯惇，字元让，西汉开国功臣夏侯婴的后代，是追随曹操最早的将领之一，在曹操讨伐黄巾军时乃至更早以前就已经开始追随曹操，勇猛善战，在曹操军里地位基本仅次于曹操本人。讨董联军组成后，曹操行使奋武将军，以夏侯惇为司马。
夏侯渊，字妙才，夏侯惇的族弟，他的夫人是曹操的妻子丁夫人的妹妹。曹操还未出仕时，曾因一件诉讼案将被治罪，夏侯渊为曹操替了重罪，曹操后来又设法营把他救了出来，他便因此免受刑罚。
在兖州、豫州大乱之际，夏侯渊因为家里贫瘠，没有足够的食物，于是他忍心放弃了自己的幼子，以保全自己已经死去弟弟的女儿。曹操起兵时，以夏侯渊为别部司马、骑都尉。
史涣，字公刘，沛国（治今安徽濉溪）人。少年时就已经有任侠之风。在曹操开始发迹的时候，史涣就以门客的身份跟从曹操，任中军校尉。此后史涣就一直随着曹操东征西讨，多立战功。
乐进，字文谦，阳平卫国（今山东莘县）人。在很早之前就已经追随曹操了，虽然乐进容貌短，但他本人非常有胆量。在曹操帐下效命时曾经被遣回老家募兵，募得了一千多人，归还后被曹操任命为升军假司马、陷陈都尉。
枣祗，东汉末年颍川阳翟（今河南省禹州市）人。他在投靠曹操以前就已经有了很大的名气，曹操在陈留起兵讨伐董卓时，枣祗与曹操共举义兵，他在归附曹操后，袁绍甚至派人多次对其礼辟，亦是对其十分的欣赏，但都被枣祗断然拒绝，曹操为此十分的感动。
任峻，字伯达，河南郡中牟县人。汉末董卓作乱，四方骚动，关东地区都受到震动，中牟县令杨原忧愁恐惧，打算弃官逃走，任峻劝他：“董卓带头叛乱，天下人没有不怨恨的。然而却没有人倡议讨伐他，人们并不是没有讨伐他的愿望，而是迫于形势不敢发动。您如果能发出倡议，一定会有响应的。”
杨原问：“该怎么办呢？”任峻：“现在关东有十多个县，能打仗的人不少于一万，如果您暂时行使河南尹的权力，集中起来调遣，没有办不成的事。”杨原听从了任峻的计策，任命他为主簿。任峻便替杨原发布有关代理河南尹的文告，让各县坚守自己的领地，于是便发兵征讨董卓。正赶上曹操从关中起兵，进入中牟县界，当地人不知道该跟随谁，只有任峻与同郡的张奋商议，率全郡归顺曹操。
任峻另外又召集自己宗族、宾客以及家丁一共几百人，情愿跟随曹操。曹操非常高兴，上表请求任命任峻为骑都尉，并将自己的堂妹嫁给他，对他十分亲信。
历史上曹操在起兵之后是得到了自己亲属的大力帮助，他军队里最初的骨干也都是自己的一些亲戚朋友，这也最终是曹操军的中坚力量。