Justo después del asentamiento, los fundadores de Charlestown designaron el terreno, más tarde conocido como el cementerio de Phipps Street, como el lugar de entierro de la ciudad. Originalmente, el sitio estaba bordeado al sur y al oeste por llanuras pantanosas, y un estuario del río Charles llegaba a la parte trasera de la colina. Años de relleno de tierras y actividades de renovación urbana han alterado drásticamente el paisaje que rodea este sitio.

Entre los primeros entierros se encuentran soldados que lucharon en la Guerra del Rey Felipe. Además de la ciudadanía en general, muchos de los que contribuyeron al crecimiento de nuestra nación también están enterrados aquí, incluyendo:

• John Harvard, cuya biblioteca de 300 volúmenes fue donada para fundar una universidad en Cambridge.
• Nathaniel Gorham, firmante de la Constitución y presidente del Congreso Continental, y
• Thomas Beecher, uno de los primeros colonos de la Colonia de la Bahía de Massachusetts, y
• miembros de algunas de las familias más influyentes de Charlestown, entre ellas los Frothingham, los Hurd, los Harvard, los Phipps, los Russell y los Hunnewell.

En el siglo XIX, muchos de los cementerios más antiguos de Boston fueron sometidos a importantes "campañas de reordenación", esfuerzos que consistieron en alinear las lápidas en hileras y colocar las piedras de cabecera y de pies en la misma dirección. Estas campañas se llevaron a cabo en un esfuerzo por cumplir con las creencias del siglo XIX sobre la embellecimiento de los espacios abiertos.

El cementerio de Phipps Street es muy singular porque las lápidas se han mantenido en su configuración original. Otra característica muy singular es que las familias de Charlestown fueron enterradas en pequeños lotes rectangulares.