SMK Negeri 36 Jakarta dirintis sekitar bulan November tahun 1968. Pada  waktu itu  didirikan Sekolah Teknik Negeri 12 (ST N 12) Perkapalan yang merupakan pindahan dari Sekolah Teknik (ST) Budi Utomo yang berkedudukan di Jakarta Pusat. Adapun kronologisnya  sebagai berikut:

Tahun 1968 s.d. 1976

Sekolah ini masih bernama ST Negeri 12 Perkapalan dengan Bpk. Kuswaya, B.Sc sebagai Kepala Sekolah.

Tahun 1976 s.d. 1977

Pada tahun tersebut, seluruh ST Negeri se-Indonesia dilikuidasi, dan ST Negeri 12 Perkapalan Jakarta diintegrasikan  ke SMP Negeri 50 dalam rangka persiapan menjadi Sekolah Teknologi Menengah (STM)

Tahun 1977 S.D. 1978

Diintegrasikannya SMP Negeri 50 menjadi STM Fider School 12 (cabang STM Negeri 3 Jakarta).

Tahun 1978 s.d. 1979

Secara resmi berdirilah STM Negeri 9 dengan Program Keahlian : Mesin Produksi (MP). Berikut ini adalah kepala-kepala sekolah yang pernah menjabat menjadi kepala sekolah STM Negeri 9 Jakarta:

a. Tahun 1979 s.d. 1990    : Bpk. Samsudin, B.Sc

b. Tahun 1990 s.d. 1992    : Bpk. Drs. Binsar Situmorang

c. Tahun 1992 s.d. 1995    : Bpk. Drs. Amin Suhartono

d. Tahun 1995 s.d. 1996    : Bpk. Drs. M. Khusen.

Pada periode ini tepatnya awal tahun pelajaran 1995/1996 dibuka Program Keahlian Mekanik Otomotif (MO), sehingga STM Negeri 9, memiliki 2 (dua) Program Keahlian yaitu: Mesin Produksi (MP) dan Mekanik Otomotif (MO). Pada tanggal 22 Juni 1996, berdasarkan Keputusan Menteri Pendidikan dan Kebudayaan (Mendikbud), STM Negeri 9 berubah nama menjadi SMK Negeri 36 Jakarta.

e. Tahun 1996 s.d. 2001    : Bpk. Ismet Inonu (almarhum)

Tahun 1997, Program Mesin Produksi ditutup menjadi 1 Program Keahlian Mekanik Otomotif (MO). Pada tahun 1999, SMK Negeri 36 Jakarta ditunjuk untuk membuka program keahlian yang  bernuansa kelautan, yaitu program: Nautika Kapal Perikanan Ikan (NKPI) karena lokasi sekolah yang berdekatan dengan laut.

f. Tahun 2001 s.d. 2005      : Bpk. Drs. Budiono

Pada periode ini, 2 (dua) program keahlian kembali dibuka yaitu: Teknik Kapal Penangkapan Ikan (TKPI), dan Budi Daya Perairan (BP)/Agrobisnis Perikanan (AP), sehingga SMK Negeri 36 Jakarta sudah memiliki 4 (empat) Program Keahlian, yaitu: Nautika Kapal Penangkapan Ikan (NKPI), Mekanik Otomotif (MO), Teknik Kapal Penangkapan Ikan (TKPI), dan Budi Daya Perairan (BP).

g. Tahun 2005 s.d. 2009    : Bpk. Drs. Hasoloan Pakpahan, MPE.

Pada periode ini, SMK Negeri 36 kembali membuka beberapa program keahlian sehingga sekarang ada 7 (tujuh) program keahlian, yaitu: Nautika Kapal Penangkapan Ikan (NKPI), Mekanik Otomotif (MO), Teknik Kapal Penangkapan Ikan (TKPI),  Budi Daya Perairan (BP)/ Agrobisnis perikanan (AP). Mesin Produksi (MP), TeknikKomputer Jaringan (TKJ) dan Teknik Alat Berat (TAB).

h. Tahun 2009 s.d.2011       : Drs. Dedi Dwitagama, M.M, M. Si

i.  Tahun 2011 s.d. sekarang: H. Asari, M.Si