Le terrain s'étendant derrière le Palais Royal fut cédé en 1889 pour y permettre la construction d'une résidence privée pour le Prince héritier Constantin, qui cette année-là épousa la Princesse Sophie de Hohenzollern. Après l'achèvement du Palais, en 1897, et l'ouverture de la rue Hérode Atticus, les terres qui entouraient la Résidence du Prince héritier furent aménagées en un grand jardin décoratif. Il semblerait que cette tâche ait été confiée au cabinet technique d'Ernst Ziller. En revanche la sélection des plantes a dû être assurée par un spécialiste grec, compte tenu du fait que la plupart des plantes appartiennent à la flore grecque.

Dès le début, le jardin fut partagé en deux grandes parties en raison de la dénivellation assez accentuée du terrain. La partie surélevée avait été réservée à la construction de l'édifice.

La conception consistant à situer le jardin devant la façade avant du bâtiment se retrouve dans d'autres constructions néoclassiques datant de la même époque (comme notamment l'Académie, l'Université, la Bibliothèque nationale). Le jardin suit un tracé assez strictement géométrique, de style français, agrémenté de parterres de gazon symétriques et d’îlots de plantes à floraison saisonnière. L'austérité de l'ensemble, côté rue Hérode Atticus, est adoucie par la présence de platanes séculaires, de tilleuls, de palmiers et de cyprès.

La plus grande partie du jardin est située au niveau le plus bas, auquel mène un large escalier de marbre. Ici aussi, le principe de symétrie a été respecté: le point de référence central est une longue allée bordée de hauts cyprès qui débouche sur l’étang et le pavillon de verdure. De part et d'autre de cette allée s’étendent des tapis de gazon, des terrasses en gradins, des îlots d'arbres et d'arbustes et des parterres de fleurs. Embrassant l'ensemble du jardin, de hautes rangées d'arbres accotées aux grilles assurent le nécessaire isolement par rapport aux rues adjacentes.

La composition botanique du Jardin est globalement assez riche: elle comprend près de 140 espèces et variétés différentes de plantes ornementales, d’arbres et d'arbustes, de plantes grimpantes et autres. Certaines de ces plantes sont rares. Parmi les arbres du Jardin, nombreux sont ceux qui sont âgés de plus d'un siècle, tels notamment les cyprès.

Depuis sa conception initiale, à la fin du dix-neuvième siècle, et jusqu'aux lendemains de la dictature, le Jardin du Palais fut conservé sans modifications majeures. Certains changements intervinrent après 1974, le plus important d'entre eux ayant été sans conteste l'ajout du large escalier de marbre qui facilite l'accès à la partie inférieure du Jardin.

C'est dans ce cadre frais et coloré que, tous les ans, le 24 juillet, en mémoire au rétablissement de la démocratie en 1974, le Président de la République reçoit la classe dirigeante politique, militaire et spirituelle du pays, ainsi que des représentants de la presse, de diverses organisations et de toutes les forces vives du pays.