Perusopetuksen yhtenäisyys on tavoite, jota kohti on edetty peruskoulun syntyvaiheista lähtien. Peruskoulu edusti 1970-luvun alussa valtavaa murrosta yhteiskunnallisessa ja koulutuspoliittisessa ajattelussa. Silloin luovuttiin rinnakkaiskoulujärjestelmästä, joka oli perustunut ajatuksiin lasten erilaisesta koulutettavuudesta ja siitä seuranneeseen varhaiseen jaotteluun koulutettavaan ja ei- koulutettavaan ryhmään. Nyt rakennettiin uusi koulu sen perusajatuksen varaan, että koulutus on kaikkien lasten ja nuorten perusoikeus ja että niin yksilö kuin yhteiskuntakin hyötyy siitä, että kaikilla on tasa-arvoinen mahdollisuus sivistää itseään.
Rinnakkaiskoulujärjestelmän sisältämä erottelu jäi aluksi tasokursseina peruskoulun sisään ja siitä eroon pääseminen kesti noin kymmenen vuotta. Alimmalla tasokurssilla olevilla ei ollut mahdollisuutta jatkaa opintojaan peruskoulun jälkeen, ja paljon inhimillistä potentiaalia jäi käyttämättä. 1980-luvun puolivälissä tasokursseista luovuttiin ja kehiteltiin uudenlaisia, joustavia tapoja käyttää tuntikehystä tehokkaisiin opetusjärjestelyihin ja opetuksen eriyttämiseen. Mahdollisuudet paikallisiin, entistä joustavampiin ratkaisuihin lisääntyivät 1990-luvun alkupuolella, kun opetuksen järjestämiseen liittyvää päätösvaltaa delegoitiin kunnille ja kouluille. Kunta- ja koulukohtaiset opetussuunnitelmat velvoittivat miettimään entistä tarkemmin, miten opetus järjestetään niin, että paikalliset tarpeet ja mahdollisuudet otetaan hyvin huomioon.
1990-luvun alussa luovuttiin myös oppikirjojen tarkastamisesta. Koulutuksen keskushallinto luotti entistä enemmän opetuksen järjestäjien ja opettajien harkintakykyyn valikoida markkinoilta sopivimmat oppimateriaalit. Samaan aikaan luovuttiin opetuksen tarkastusmenettelystä. Opetuksen tavoitteiden toteutumista alettiin seurata systemaattisesti kansallisilla oppimistulosarvioinneilla.
Perusopetusta säätelevä lainsäädäntö uusittiin perusteellisesti 1990-luvun lopulla. Keskeisenä johtoajatuksena oli vahvistaa edelleen peruskoulun yhtenäisyyttä. Lakien uudistamistyössä hyödynnettiin 1990-luvun puolivälin jälkeen toteutettua peruskoulun sisällön ja rakenteen kehittämiskokeilua. Vuonna 1999 voimaan tulleet perusopetuslaki ja asetus, vuonna 2001 voimaan tullut asetus perusopetuksen tavoitteista ja tuntijaosta sekä niiden varaan vastikään laaditut ja 16.1.2004 vahvistetut perusopetuksen opetussuunnitelman perusteet ovat nyt luoneet säädökselliset edellytykset perusopetuksen yhtenäisyydelle.