Sejarah sistem pengajian teknikal dan vokasional negara bermula dengan penubuhan Sekolah Teknik Treacher di Kuala Lumpur untuk melatih juruteknik Jabatan Keretapi dan Jabatan Kerja Raya pada tahun 1906. Sejak tarikh itu, pendidikan teknikal dan vokasional negara melalui beberapa fasa perubahan dan perkembangan seiring dengan kemajuan teknologi pada masa tersebut. Pendidikan teknikal dan vokasional telah bermula seawal tahun 1926 dengan penubuhan Sekolah Ketukangan yang pertama dan telah berkembang seiring dengan kemajuan teknologi bagi memenuhi keperluan sumber tenaga kerja.
Pada tahun 1964, Bahagian Pendidikan Teknikal dan Vokasional (BPTV), Kementerian Pelajaran Malaysia telah ditubuhkan dan dipertanggungjawab untuk mempromosikan pendidikan teknikal dan vokasional. Bahagian ini seterusnya diberi status jabatan dan dinamakan Jabatan Pendidikan Teknikal (JPTek) pada tahun 1995. Selain merangka polisi, jabatan baru ini juga bertanggungjawab menentukan halatuju pendidikan teknikal dan vokasional selaras dengan program pengindustrian dan modernisasi negara. Satu badan khusus telah ditubuhkan bertanggungjawab dalam mengurus politeknik iaitu Bahagian Pengurusan Politeknik.
Pendidikan Politeknik mula diperkenalkan di Malaysia melalui Pelan Colombo pada tahun 1969 dengan penubuhan politeknik pertama iaitu Politeknik Ungku Omar, Ipoh. Ini dikukuhkan lagi melalui satu resolusi yang telah dipersetujui oleh Jemaah Kabinet dalam Pelan Perlaksanaan Pendidikan (1979) dan Pelan Industri Kebangsaan pada tahun 1985 – 1995. Keputusan Jawatankuasa Kabinet mengenai latihan (1991) sekali lagi memberi ruang kepada penambahan bilangan politeknik dan penawaran program-program sijil dan diploma bagi memenuhi permintaan tenaga separa profesional dalam bidang kejuruteraan, teknologi, rekabentuk dan komunikasi visual, perdagangan dan hospitaliti.
Perubahan struktur kabinet kerajaan Malaysia pada tahun 2004 telah mengubah pengurusan politeknik daripada Kementerian Pelajaran Malaysia ke kementerian baru iaitu Kementerian Pengajian Tinggi di mana pengoperasian dan pengurusan politeknik diletakkan di bawah Jabatan Pengajian Politeknik dan Kolej Komuniti (JPPKK) yang ditubuhkan pada Tahun 2005. Bermula 1 September 2007, Bahagian Pengurusan Politeknik dikenali sebagai Sektor Pengurusan Politeknik dan diketuai oleh Timbalan Ketua Pengarah (Pengurusan Politeknik), Tn Hj Mokhlis bin Jaafar.