Sementara kariernya di pemerintahan dimulai ketika ia menjadi Staf Ahli Bidang Analisis Kebijaksanaan Badan Perencanaan Pembangunan Nasional (Bappenas) pada 1994-1995. Lalu pada 1998, ia bergabung menjadi anggota Tim Asistensi Menteri Keuangan Bidang Keuangan dan Moneter, Departemen Keuangan RI.

Namun, sebelum mendapatkan penugasan menteri di Indonesia, Sri Mulyani sempat terpilih menjadi Direktur Eksekutif Dana Moneter Internasional (IMF) mewakili 12 negara di Asia Tenggara pada 2002. Baru dua tahun setelahnya, tepatnya pada 21 Oktober 2004, dia diberikan amanat di Kabinet Indonesia Bersatu pemerintahan Susilo Bambang Yudhoyono (SBY) menjadi Menteri Negara Perencanaan Pembangunan Nasional/Kepala Bappenas.

Berselang satu tahun kemudian, Sri Mulyani dipindahkan menjadi Menteri Keuangan menggantikan Jusuf Anwar karena perombakan kabinet oleh SBY. Ia bertahan dengan jabatan ini hingga Mei 2010.

Selama menjabat sebagai Menteri Keuangan di era SBY, Sri Mulyani mencetak banyak prestasi. Reformasi Kementerian Keuangan, menurunkan biaya pinjaman, hingga pengelolaan utang yang dilakukannya mengantarkan dia menjadi penerima anugerah Menteri Keuangan terbaik pada 2006, di mana salah satunya diberikan oleh Euromoney dan yang lainnya diberikan oleh Emerging Markets Forum untuk lingkup Asia.

Ia juga terpilih menjadi wanita paling berpengaruh ke-23 di dunia versi majalah Forbes tahun 2008 serta wanita paling berpengaruh ke-2 di Indonesia versi majalah Globe Asia bulan Oktober 2007.

Kapasitasnya itu memancing amanat baru dari SBY untuk menjadi Pelaksana Tugas Menteri Koordinator Bidang Perekonomian lantaran Boediono dilantik sebagai Gubernur Bank Indonesia (BI).

Setelah mengakhiri masa jabatan sebagai Menteri Keuangan pemerintahan SBY, Sri Mulyani berkarier di tingkat internasional lantaran diangkat menjadi Direktur Pelaksana Bank Dunia. Dia adalah orang Indonesia pertama yang memegang posisi ini.