熹平三年（174年），二十歲的曹操被舉為孝廉，入京都洛陽為郎。不久，被任命為洛陽北部尉。自此，曹操踏上了仕途，開始了他的政治生涯。
東漢末年的首都為洛陽，洛陽城共分四部，設四部尉，各自負責一個區域。
洛陽為東漢都城，是皇親貴戚聚居之地，很難治理。曹操一到職，就申明禁令、嚴肅法紀，狀態立刻與年少荒唐的他有了巨大的不同。一般來說，平時混吃等死沒出息的紈絝子弟是不堪大用的，但是曹操不一樣，一上任便幹得風生水起、有模有樣。“初到任，即設五色棒十餘條於縣之四門，有犯禁者，不避豪貴，皆責之。”
東漢時期，出於安全角度考慮，洛陽城晚上有宵禁的規矩。不僅有宵禁的規矩，從四個城門進入洛陽城的人都要受到檢查——最早安檢的由來。在古時檢查往往是比較鬆懈的，但是曹操不同，新官上任三把火，他一到崗就定了死規矩：“誰都不要想蒙混過關，查到一個打一個，而且不管你官職多高、家境多好，隻要在我這兒犯錯了，照罰不誤”。
皇帝寵幸的宦官蹇碩的叔父蹇圖違禁夜行，曹操毫不留情，將蹇圖用五色棒處死。於是，“京師斂跡，無敢犯者”。但是曹操也因此得罪了蹇碩等一些當朝權貴，礙於其父曹嵩的關係，他被明升暗降，調至遠離洛陽的頓丘（今河南清豐），任頓丘令。這一年，曹操二十三歲。多年後曹操給其子曹植的一封書信《戒子植》寫道：“吾昔為頓丘令，年二十三，思此時所行，無悔於今。今汝年亦二十三矣，可不勉歟！”
光和元年（178年），曹操因堂妹夫濦強侯宋奇被宦官誅殺，受到牽連，被免去官職。其後，他在洛陽無事可做，回到家鄉譙縣閑居。
拋開曹操的家境身份不談，就一到任便瞪起眼珠子認真工作的二十歲青年來說，曹操也是一個有抱負有理想，對於自己的事業努力拚搏、積極工作的人。從這個層麵上來看，曹操這與眾不同的行事風格和做事不苟的態度，也最終幫助他成就了大業。