もとは无邪志国造（牟邪志、无謝志とも）と胸刺国造と知々夫国造という3つの国造が存在したが、6世紀の埼玉県行田市を本拠地とする武蔵国造の乱の後、これらの国造の領域を合し7世紀に武蔵国が成立したとされる。大化元年（645年）に難波宮で大化の改新が行われ穂積咋などが東国国司に任じられ（武蔵国司も参照）、また持統天皇4年（690年）、朝廷は新羅からの亡命者で帰化した韓奈末許満ら12名を武蔵国に移した。大宝3年（703年）には、引田祖父が武蔵国守に任じられた。慶雲5年（708年）には、秩父郡で和銅（精錬の必要の無い自然銅）が発見されたため、朝廷は慶事としてこの年を「和銅」と改元した。和銅3年（710年）頃に、武蔵国造の乱で献上された多氷屯倉内の現在の東京都府中市に国府が置かれた。これは、比較的早くから屯倉が設置され、また交通・産業上の重要度を次第に増し始めた南部の玉川中流域に面する点でも選ばれたと考えられる。