يزيد، خالد را مأمور كرد به جزيره رود و هشام بن عبدالملك، برادر و وليعهد يزيد، را قانع كند از ولايتعهدى خود به سود پسرخليفه دست بردارد. البته او محرمانه به هشام اطمينان داد كه او میتواند يزيد را قانع كند از اين انديشه بگذرد و چنين نيز كرد. هشام اين لطف خالد را فراموش نكرد و در آغاز خلافتش وى را امير عراق كرد.
در دوران امارت خالد بر عراق، مُغيرةبن سعيد، از نخستين غاليان، با عده اندكى بر ضد امويانقيام كرد كه به شكست انجاميد و خالد وى را به دار آويخت و يارانش را سوزاند
برايش كليسايى در كنار دارالاماره ساخت و دستور داد مؤذناناذان نگويند تا مسيحيان ناقوس خود را بنوازند و به اصرار مادرش به حاكمبصره دستور داد، براى مسيحيان آن شهر كليسايى بسازد
اهل ذمه را متصدى امور و بر مسلمانان مسلط كرد و از آنان خواست مسلمانان را تحقير و به آنان توهين كنند و كنيزانى را كه مسلمان شده بودند بخرند و تصرف نمايند.
فسق و فجور و كفر وليد كه قصد داشت در مراسم حج سال ۱۲۵ روى پشتبامكعبهميگسارى كند، باعث شد تا گروهى از جوانانيمنى قصد جانش را كنند و از خالد كه حاضر به همدستى با آنان نشده بود، خواستند رازشان را فاش نسازد، خالد در عين حالىكه توطئه جوانان يمنى يا نام آنان را ذكر نكرد، از خليفه خواست به دليل اينكه جانش در خطر است، از اين سفرچشمپوشى كند، خليفه از اينكه خالد حاضر نشد نام آن افراد را فاش كند، خشمگين شد و كينهاش را در دل گرفت.
سرانجام، وليد پس از چند ماه خوددارى از ديدن خالد، او را فراخواند و از وى اموال عراق را كه بالغ بر پنجاه ميليوندرهم بود، مطالبه كرد و خواست كه او پسرش يزيد را تحويل دهد و چون خالد امتناع ورزيد، دستور داد او را شكنجه و زندانى كنند و سپس در مقابل پنجاه ميليون درهم، وى را به يوسف بن عمر ثقفى تحويل داد.