1969年8月下旬，79歲高齡的胡志明病情惡化。儘管中國醫療組全力搶救，遺憾的是，在第4個醫療組的專機剛飛到廣西上空，就得知胡志明已於當天上午9時47分停止了呼吸。結果，飛機不得不掉頭返回北京。9月2日是越南的國慶日。鑑於當時越南的抗美救國鬥爭正處於關鍵時刻，越南政府爲防國內局勢動盪，決定將胡志明逝世的時間改爲9月3日，並定於9月9日爲胡志明舉行國葬。對於胡志明的逝世，中國人民與越南人民一樣，感到無比悲痛。

胡志明死前留下遺言，要求將他火化。但是新領導人未遵從他要求火葬的遺囑，而是決定仿照列寧墓爲他建造陵墓，胡志明的屍體由蘇聯專家進行了防腐處理，當時蘇聯專家攜帶醫療設備到越南爲他進行屍體防腐後，放入水晶棺。他的遺體被保存下來，供後人瞻仰。

爲了躲避美國飛機的狂轟濫炸，越南方面最初在距離河內30公里的一個熱帶叢林中修建了一個臨時陵墓，並把胡志明的水晶棺藏在地下。

不久後，越南發現美軍在距陵墓2公里的地方投下傘兵，以尋找被越南空軍擊落的飛行員，於是決定迅速將陵墓轉移到一個山洞裏，併爲此專門修了一條山路。

爲了確保轉移工作的絕對安全，越南方面每修完一段山路，就讓運送水晶棺的裝甲車走過一段，然後立即將這段山路毀掉，再修下一段。

就這樣，水晶棺被祕密保存在這個山洞裏，1975年8月29日，胡志明陵墓落成，顛沛流離6年之後，胡志明的水晶棺才被正式移入陵墓。

爲了使胡志明遺體保存得盡善盡美，越南專家們付出了大量的心血。在整容方面，他們對遺體的每根鬍鬚、每根頭髮，都精心保護，精心梳理；在做皮下注射前，對每一針從哪個方向刺入，他們都要進行仔細斟酌，務求達到最佳效果。

如今，40多年過去了，胡志明的遺體一直被保存在水晶棺內，每天都有成千上萬名越南人懷着崇敬的心情去看望他們的領袖。