يزيد، خالد را مأمور كرد به جزیره رود و هشام بن عبدالملک، برادر و ولیعهد يزيد، را قانع كند از ولایتعهدی خود به سود پسرخلیفه دست بردارد. البته او محرمانه به هشام اطمينان داد كه او میتواند يزيد را قانع كند از اين اندیشه بگذرد و چنين نيز كرد. هشام اين لطف خالد را فراموش نكرد و در آغاز خلافتش وى را امیر عراق كرد.
در دوران امارت خالد بر عراق، مُغیرةبن سعید، از نخستين غالیان، با عده اندكى بر ضد امویانقیام كرد كه به شكست انجاميد و خالد وى را به دار آويخت و یارانش را سوزاند
برايش کلیساییدر كنار دارالاماره ساخت و دستور داد مؤذناناذان نگويند تا مسيحيان ناقوس خود را بنوازند و به اصرار مادرش به حاکمبصره دستور داد، براى مسيحيان آن شهر كليسايى بسازد
اهل ذمه را متصدى امور و بر مسلمانان مسلط كرد و از آنان خواست مسلمانان را تحقیر و به آنان توهین كنند و کنیزانی را كه مسلمان شده بودند بخرند و تصرف نمايند.
سرانجام، وليد پس از چند ماه خوددارى از ديدن خالد، او را فراخواند و از وى اموال عراق را كه بالغ بر پنجاه میلیوندرهم بود، مطالبه كرد و خواست كه او پسرش يزيد را تحويل دهد و چون خالد امتناع ورزيد، دستور داد او را شکنجه و زندانى كنند و سپس در مقابل پنجاه ميليون درهم، وى را به یوسف بن عمر ثقفی تحويل داد.