回到洛陽之後，黃明遠以不適應京中為相一事，請求辭去宰相之任，外放為官。黃明遠向天子明言感覺自己在京中，無所施展，實在困頓，希望哪怕為一地太守，安定地方，也好過在京中蹉跎時間。
一國首相，任相不過幾個月便要離職，這時前所未有的事情。
楊廣聞之先是震怒，便將黃明遠狠狠地訓斥了一番。黃明遠跪在楊廣面前，聲淚俱下的敘述了自己在京中的蹉跎，直言自己還欠缺為相的能力，請求天子讓他出外再闖蕩一番。
楊廣終究與黃明遠如父如子，也沒有責罰黃明遠，後來更似乎理解了黃明遠的心思。的確這宰相讓他架空的成了閑人，當的也沒什麼意思。
不過楊廣思慮再三，終究沒同意黃明遠罷相的想法。黃明遠在大隋身份特殊，且剛任首相一兩個月，若是罷之，豈不是兒戲，也容易影響到楊佶。
不過楊廣也知道黃明遠志不在洛陽，若是強留之，反而影響君臣關系。楊廣最後下令以黃明遠首相之職，留守長安，總攬關中、關北、隴右、河西、劍南、漢中等地政務。
對于黃明遠來說，雖然在長安也是有諸多掣肘，但自己也能放開一定的手腳進行施展，至少比在洛陽無所事事要好得多。
不過長安是關隴世家的大本營，甚至是黃明遠敵人的大本營，因此勢必成不了自己日後的根據地，甚至還會出現無數的非難與攻訐。不過黃明遠這些年以少勝多的仗打了太多，各種險境早就遭遇了無數，因此在敵人月復心中活動，黃明遠第一感覺反倒還挺刺激的。
大業三年十一月初，黃明遠帶著家人返回了長安，主政關中。
黃明遠主政關中，無異于一場大地震爆發。朝野內外皆是議論紛紛，有言黃明遠被天子厭棄的，有言天子在為齊王鏟除絆腳石，有言天子要對付關隴世家‧‧‧‧‧‧各種議論不絕。
黃明遠倒是不以為意，任他八面來風，我自巋然不動。
關中不少的大家族在于家、李渾等人的糾結下，對黃明遠滿是敵視，準備嚴陣以待。其中又以時任京兆丞的竇誼對黃明遠最是敵視，準備給黃明遠一個下馬威。
不過竇誼也有自己的底氣。竇誼是太傅上柱國鄧國公竇熾之子，家世顯赫，地位崇高，雖然官職不高，但作為關隴世家的老牌二代，無論名氣還是地位都大的很。
竇誼之前一直在外地為官，並未和黃明遠有過接觸，因此對于黃明遠的豪橫頗不以為然。
當初北周八柱國十二大將軍二十四儀同的時候，盡是一群**盈朝，他們這些二代、三代子弟什麼沒見識過，還能怕了一個來自關東的豎子。尤其是竇家最有上升勢頭的前幽州總管陳國公竇抗因涉案漢王楊諒構逆而被天子除名，竇誼認為這件事與黃明遠有莫大關系，因此更將黃明遠視為眼中釘、肉中刺。
黃明遠到任之後，竇誼身為黃明遠的直接下屬，故意對黃明遠的命令視而不見，還處處找機會給黃明遠制造麻煩。
黃明遠自從擔任宰相之後，居移氣，養移體，早就沒有之前在邊疆時的莽撞殺氣了，因此對于竇誼如小孩子一般的耍鬧脾氣，倒是不以為然。黃明遠與竇誼的弟弟竇威關系不錯，所以倒也不跟竇誼一般見識。
不過黃明遠放竇誼一馬，但竇誼卻不以為然，還以為黃明遠畏懼于他。他這二桿子勁上來，更是想狠狠削一削黃明遠的面子。
這一日黃明遠主動宴請竇誼，希望雙方能夠化干戈為玉帛，黃明遠也沒有功夫天天應對這熊孩子。但黃明遠在府上久候不至，竇誼直到日上三竿，才姍姍來遲。黃明遠強忍著怒氣開宴，而竇誼在宴會之上又大放厥詞，傲氣十足，對待黃明遠，頗有一種對待晚輩的教訓姿態。
竇誼在黃明遠的宴會上過足了嘴癮，大搖大擺地回家去了，只留下在府上慪氣的黃明遠。
黃明遠看著陸陸續續離開的眾人，有些頗為無奈地對陳遠說道︰「仲長，這才過了多長時間，難道他們真的以為黃明遠變得好欺負了，果然好人難當啊。」
次日，黃明遠便準備對竇誼動手。
當時竇誼為京兆丞，黃明遠命竇誼監管百姓繳納糧食。竇誼本就是世家公子，浪蕩浮華，對此破不以為然。
沒想到糧食繳納入庫之後，黃明遠親自去查看糧食情況。果然糧食收的良莠不齊，黃明遠便以瀆職的罪名，命人鞭打竇誼。
竇誼沒想到黃明遠真敢對他動手，因此破口大罵。
黃明遠讓雄闊海抄起鞭子便對著竇誼狠狠地抽去，抽的竇誼皮開肉綻，頭破血流。後來眾人勸阻，竇誼才乃免。
眾人本以為此事便如此了，黃明遠卻強令還沒有傷好的竇誼繼續監管百姓繳納糧食，並宣言如果在糧食里發現一點米糠一顆秕子，就加以處罰。果不其然，竇誼難以完成此事，每日都挨到黃明遠的毒打。每次鞭打雖然不到十下，但一天里有時要打好幾次。
後來竇誼忍受不了，情緒爆發，竟然選擇棄職不干，再也不受黃明遠的驅使。
此事正和黃明遠之意，果然黃明遠見竇誼棄職，便下令以瀆職的罪名將竇誼逮捕下獄，禁止給他食物。竇誼餓得受不了，抽出衣服里的綿絮，和著水吞咽下去。
這時候眼看黃明遠要弄死竇誼，竇家人也坐不住了。
竇家人知道黃明遠的性格，若是真的將黃明遠激怒，怕是會直接處死竇誼。因此竇威親自出馬，向黃明遠請罪。
竇威是竇家少有的人才，又曾擔任過黃明遠在左武衛的長史，因此黃明遠給了竇威一個面子，放出了竇誼。
而此時的竇誼已經被折騰的丟了半條命。
竇家人眼看竇誼的慘狀，雖然怨恨，但卻沒有人敢報復。至于關中其他家族的族老們，眼看竇誼都落到這般田地，也是心有戚戚。他們心知再是有資格，若是黃明遠不在意，也會失了面皮，因此更沒人敢直接給黃明遠對著干了。
處理了竇誼為代表的關隴反對派，黃明遠的工作倒是順暢了許多。