Rumah Sakit Pelabuhan Jakarta pada awalnya berasal dari PHC (Port Health Centre) yang didirikan pada tahun 1968 oleh PN Pelabuhan yang berlokasi di Jalan Sunter II Tanjung Priok dengan tujuan untuk pelayanan kesehatan pegawai dan keluarganya.

Pada tahun 1972 dengan Surat Keputusan Direktur Jenderal Perhubungan Laut No.BK.4/1/11 tanggal 20 Desember 1971 Rumah Sakit Pelayaran yang berlokasi di Jalan Enggano No.10 Tanjung Priok digabungkan dan menjadi salah satu unit dari PHC.

Sejak saat itu kegiatan PHC semakin meningkat dan pada tahun 1977 PHC Tanjung Priok melakukan pengembangan dengan membangun gedung yang lebih luas +/- 11.000 m2 yang berlokasi di jalan Kramat Jaya Kelurahan Tugu Utara Jakarta Utara. Pada tanggal 20 Mei 1978 diresmikan oleh Direktur Jenderal Perhubungan Laut dengan nama "Rumah Sakit Pelabuhan Tanjung Priok".

Pada tahun 1984 PN Pelabuhan berubah status menjadi Perum (Perusahaan Umum) Pelabuhan II dan nama RS Pelabuhan Tanjung Priok ikut dirubah menjadi "Rumah Sakit Perum Perlabuhan II". Status Rumah Sakit masih merupakan unit operasional dari Perum Pelabuhan II dengan fungsi meningkatkan derajat kesehatan pegawai dan keluarga pegawai Perum Pelabuhan II dan pelayanan kesehatan bagi masyarakat umum.

Dalam upaya meningkatkan pemasaran kepada masyarakat umum dan menghilangkan kesan bahwa Rumah Sakit ini hanya melayani pegawai Perum Pelabuhan II, maka pada tanggal 15 Desember 1986 Rumah Sakit Perum Pelabuhan II diubah nama menjadi "Rumah Sakit Tugu Perum Pelabuhan II".

Pada tanggal 1 Desember 1992 Perum Pelabuhan II beralih status menjadi PT.(Persero) Pelabuhan Indonesia II dan dalam perkembangannya Manajemen menetapkan bahwa Rumah Sakit yang ada dalam lingkungan PT.(Persero) Pelabuhan Indoensia II dipisahkan dari Perusahaan Induknya agar bisa mandiri dan berkembang secara profesional, maka berdasarkan keputusan RUPS PT.(Persero) Pelabuhan Indonesia II tahun 1998 dan akta Notaris Ny.Nelly Elsye Tahamata No.2 tahun 1999 secara resmi berdirilah PT.Rumah Sakit Pelabuhan dan nama Rumah Sakit Tugu Perum Pelabuhan II diubah menjadi "Rumah Sakit Pelabuhan Jakarta" yang merupakan salah satu Rumah Sakit dibawah PT.Rumah Sakit Pelabuhan.

Sejak saat itu sosialisasi kepada masyarakat umum terus ditingkatkan, sehingga kunjungan pasien umum terus meningkat secara signifikan dan Rumah Sakit Pelabuhan Jakarta telah dikenal oleh masyarakat luas dan merupakan salah satu Rumah Sakit yang menjadi tujuan bagi masyarakat sekitar untuk berobat.