يزيد، خالد را مأمور كرد به جزیره رود و هشام بن عبدالملک، برادر و ولیعهد يزيد، را قانع كند از ولایتعهدی خود به سود پسرخلیفه دست بردارد. البته او محرمانه به هشام اطمينان داد كه او می‌‌تواند يزيد را قانع كند از اين اندیشه بگذرد و چنين نيز كرد. هشام اين لطف خالد را فراموش نكرد و در آغاز خلافتش وى را امیر عراق كرد.
در دوران امارت خالد بر عراق، مُغیرةبنسعید، از نخستين غالیان، با عده اندكى بر ضد امویانقیام كرد كه به شكست انجاميد و خالد وى را به دار آويخت و یارانش را سوزاند
برايش کلیسایی در كنار دارالاماره ساخت و دستور داد مؤذناناذان نگويند تا مسيحيان ناقوس خود را بنوازند و به اصرار مادرش به حاکمبصره دستور داد، براى مسيحيان آن شهر كليسايى بسازد
اهل ذمه را متصدى امور و بر مسلمانان مسلط كرد و از آنان خواست مسلمانان را تحقیر و به آنان توهین كنند و کنیزانی را كه مسلمان شده بودند بخرند و تصرف نمايند.
فسق و فجور و کفر وليد كه قصد داشت در مراسم حج سال ۱۲۵ روى پشتبامکعبهمیگساری كند، باعث شد تا گروهى از جوانانیمنی قصد جانش را كنند و از خالد كه حاضر به همدستی با آنان نشده بود، خواستند رازشان را فاش نسازد، خالد در عين حالىكه توطئه جوانان يمنى يا نام آنان را ذكر نكرد، از خلیفه خواست به دليل اينكه جانش در خطر است، از اين سفرچشمپوشی كند، خليفه از اينكه خالد حاضر نشد نام آن افراد را فاش كند، خشمگین شد و کینه‌اش را در دل گرفت.
سرانجام، وليد پس از چند ماه خوددارى از ديدن خالد، او را فراخواند و از وى اموال عراق را كه بالغ بر پنجاه میلیوندرهم بود، مطالبه كرد و خواست كه او پسرش يزيد را تحويل دهد و چون خالد امتناع ورزيد، دستور داد او را شکنجه و زندانى كنند و سپس در مقابل پنجاه ميليون درهم، وى را به یوسف بن عمر ثقفی تحويل داد.
