Die Gemäldegalerie hat ihren Ursprung im 16. und 17. Jahrhundert und erreichte bereits Ende des 18. Jahrhunderts im Wesentlichen ihre heutige Gestalt.

Sammlerpersönlichkeiten des Hauses Habsburg wie Erzherzog Ferdinand II. (1529–1595), Kaiser Rudolf II. (1552–1612) und Erzherzog Leopold Wilhelm (1614–1662) haben ihren Charakter maßgeblich geprägt. Erst im
18. Jahrhundert kam es zu einer Zentralisierung der diversen Sammlungsbestände und einer Neuaufstellung in der Wiener Stallburg. 1781 übersiedelten die Gemälde ins Schloss Belvedere, und ihre neuartige, systematische Präsentation gilt als wichtiger Moment in der Geschichte des modernen Kunstmuseums. Seit diesem Zeitpunkt ist die Gemäldegalerie öffentlich zugänglich. 1891 schließlich wird die Gemäldegalerie ebenso wie die anderen kaiserlichen Sammlungen ins neu gebaute Kunsthistorische Museum an der Wiener Ringstraße transferiert.