Η ανάθεση της ανεγέρσεως των Ανακτόρων στον Γερμανό αρχιτέκτονα Ερνέστο Τσίλλερ είχε ως όρο το σχεδιασμό ενός κτιρίου, το οποίο δεν θα ήταν μεγαλοπρεπές, ούτε κατά τα πρότυπα των ευρωπαϊκών ανακτόρων. Τα ανάκτορα έπρεπε να συγγενεύουν μορφολογικά με τις μεγαλοαστικές κατοικίες της εποχής και να εκπροσωπούν την άρχουσα κοινωνική τάξη της χώρας. Φαίνεται ότι ο Γεώργιος Α΄ ήταν αυτός που έδωσε τις κατευθυντήριες οδηγίες.

Πρόκειται για ένα τριόροφο νεοκλασικό κτίριο, με λιτή και αυστηρή πρόσοψη που ακολουθεί τους νόμους της συμμετρίας. Το κύριο σώμα πλαισιώνεται από δύο πτέρυγες που προεξέχουν ελαφρά. Στο δεύτερο όροφο μία σειρά από διπλά παράθυρα αφήνουν ενδιάμεσα κενά όπου διακρίνονται ανάγλυφα εραλδικά σύμβολα, παραστάσεις των τεσσάρων εποχών, τα μονογράμματα Κ και Σ (Κωνσταντίνος και Σοφία) καθώς και πρόσωπα της ελληνικής μυθολογίας. Στη στέψη του κτιρίου ο Τσίλλερ έχει τοποθετήσει αγάλματα. Όλες οι όψεις του κτιρίου είναι απλές. Μοναδική προεξοχή αποτελεί το ιωνικό πρόπυλο της κυρίας εισόδου προς την οδό Ηρώδου του Αττικού.

Τόσο στην πρόσοψη όσο και στην κάτοψη το ανάκτορο του Διαδόχου παρουσιάζει σημαντικές ομοιότητες με τα σχέδια του Θ. Χάνσεν για τα Ανάκτορα του Πειραιά που δεν πραγματοποιήθηκαν ποτέ. Ο Ερνέστος Τσίλλερ υπήρξε συνεργάτης φίλος και θαυμαστής του διάσημου αρχιτέκτονα Θεόφιλου Χάνσεν, από το έργο του οποίου ήταν λογικό να επηρεασθεί.