Sejarah Kolej Kemahiran Johor bermula semenjak pengambilan Pusat Latihan Kemahiran (PLK) di bawah Jabatan Kebajikan Masyarakat oleh Kumpulan Pendidikan YPJ pada tahun 1997. Kumpulan Pendidikan YPJ (KPYPJ) adalah sebuah institusi latihan di bawah Kerajaan Negeri Johor yang bertanggungjawab mengurustadbir perlaksanaan aktiviti latihan kemahiran untuk 4 buah Kolej Komuniti YPJ yang terletak di negeri Johor.

Fungsi utama KPYPJ dan Kolej Komuniti YPJ ialah melaksanakan kursus kemahiran di peringkat sijil dan diploma dalam pelbagai bidang bagi meningkatkan kemahiran belia lepasan sekolah sebagai persediaan merebut peluang pekerjaan yang ditawarkan oleh industri.

Pada 4 Ogos 2015 dan 10 Julai 2017, mesyuarat Ahli Lembaga Pengarah KPYPJ yang dipengerusikan oleh YAB Dato’Mohamed Khaled bin Nordin, Menteri Besar Johor telah memutuskan dan bersetuju untuk menukar nama Kolej Komuniti YPJ kepada nama baru iaitu Kolej Kemahiran Johor serta menggunapakai logo korporat yang baru. Selain mewujudkan jenama baru, perubahan nama ini ialah bagi mengelakkan kekeliruan masyarakat dengan fungsi Kolej Komuniti milik Kementerian Pendidikan Malaysia.