Pada Tahun 1877 sudah dicetuskan peraturan perundang undangan yang terkait dengan karantina (tumbuhan), yakni Ordonansi 19 Desember 1877 (Staatsblad No.262) tentang larangan pemasukan tanaman kopi dan biji kopi dari Srilanka.

Pada tahun 1914 sebagai tindak lanjut dari Ordonansi 28 Januari 1914 (Staatsblad No.161) penyelenggaraan kegiatan perkarantinaan secara institusional di Indonesia secara nyata baru dimulai oleh sebuah organisasi pemerintah bernama Instituut voor Plantenzekten en Cultures (Balai Penyelidikan Penyakit Tanaman dan Budidaya)

Pada tahun 1930 pelaksanaan kegiatan operasional karantina di pelabuhan-pelabuhan diawasi secara sentral oleh Direktur Balai Penyelidikan Penyakit Tanaman dan Budidaya, serta ditetapkan seorang pegawai Balai yang kemudian diberi pangkat sebagai Plantenziektenkundigeambtenaar (pegawai ahli penyakit tanaman)

Pada tahun 1939 Dinas karantina tumbuh-tumbuhan (Planttenquarantine Diest) menjadi salah satu dari 3 seksi dari Balai Penyelidikan Penyakit Tanaman (Instituut voor Plantenziekten)

Pada tahun 1957 dengan Keptusan Menteri Pertanian, dinas tersebut ditingkatkan statusnya menjadi Bagian.

Pada tahun 1961 BPHT diganti namanya menjadi LPHT (Lembaga Penelitian Hama dan Penyakit Tanaman) yang merupakan salah satu dari 28 lembaga penelitian dibawah Jawatan Penelitian Pertanian.

Tahun 1966 dalam reorganisasi dinas karantina tumbuhan tidak lagi ditampung dalam organisasi Lembaga Pusat Penelitian Pertanian (LP3) yang merupakan penjelmaan LPHT. Kemudian Karantina menjadi salah satu Bagian di dalam Biro Hubungan Luar Negeri Sekretariat Jenderal Departemen Pertanian.

Pada tahun 1969, status organisasi karantina tumbuhan diubah kembali dengan ditetapkannya Direktorat Karntina Tumbuh-tumbuhan yang secara operasional berada dibawah Menteri Pertanian dan secara administratif dibawah Sekretariat Jenderal. Dengan status Direktorat tersebut, status organisasi karantina tumbuhan meningkat dari eselon III menjadi eselon II.

Pada tahun 1974, organisasi karantina diintegrasikan dalam wadah Pusat Karantina Pertanian dibawah Badan Penelitian dan Pengembangan Pertanian.

Tahun 1980 berdasarkan Keputusan Menteri Pertanian No. 453 dan No. 861 tahun 1980, organisasi Pusat Karantina Pertanian (yang notabene baru diisi karatina tumbuhan ex Direktorat Karantina Tumbuhan), mempunyai rentang kendali manajemen yang luas. Pusat Karantina Pertanian pada masa itu terdiri dari 5 Balai (eselon III), 14 Stasiun (eselon IV), 38 Pos (eselon V)dan 105 Wilayah Kerja (non structural)yang tersebar diseluruh Indonesia.

Pada tahun 1983 Pusat Karantina Pertanian dialihkan kembali dari Badan Litbang Pertanian ke Sekretariat Jenderal dengan pembinaan operasional langsung dibawah Menteri Pertanian . Namun kali ini kedua unsur karantina (hewan dan tumbuhan) benar-benar diintegrasikan.

Pada tahun 1985 Direktorat Jenderal Peternakan menyerahkan pembinaan unit karantina hewan, sedangkan Badan Litbang Pertanian menyerhkan pembinaan unit karantina tumbuhan, masing-masing kepada Sekretariat Jenderal Departemen Pertanian.

Pada tahun 2001 terbentuklah Badan Karantina Pertanian, Organisasi eselon I di Departemen Pertanian melalui Keppres No. 58 Tahun 2001.

Pada  tahun  2002  berdasarkan keputusan Menteri Pertanian Nomor : 501/Kpts/OT.210/8/2002 tentang Organisasi dan tata kerja Balai dan Stasiun Karantina

Pada  tahun 2008 berdasarkan Peraturan Menteri Pertanian Nomor : 22/Permentan/OT.140/4/2008 tentang Organisasi dan  tata kerja unit pelaksana teknis karantina pertanian  maka bergabung SKH Kelas II Merak dan  SKP Kelas II Merak menjadi Balai Karantina Pertanian Kelas II Cilegon.