Das Museum geht zurück auf die erste öffentliche Kunstsammlung in Dessau: die Gemäldegalerie der 1793 begründeten Amalienstiftung. Sie präsentierte deutsche und niederländische Gemälde, welche die Prinzessin Henriette Amalie von Anhalt-Dessau (1720–1793) zusammengetragen hatte. 1927 nutzte der Freistaat Anhalt die Sammlung als Grundstock zur Etablierung eines zentralen Landesmuseums für Kunst. Hierfür wurden Gemälde und Grafiken aus den ehemaligen herzoglichen Sammlungen erworben. In der Folge kaufte das Museum auch zeitgenössische Kunst an. Bis heute wird sein Profil jedoch durch die deutschen und niederländischen Gemälde, Zeichnungen und Druckgrafiken aus fürstlich-anhaltischen Sammlungen bestimmt. Als Schwerpunkte lassen sich die Kunst der Reformationszeit, des Barock und der Goethe-Zeit benennen. Darunter befinden sich Hauptwerke von Lucas Cranach dem Älteren und von Johann Friedrich August Tischbein, der einst als Hofmaler des Fürsten Leopold Friedrich Franz in Dessau wirkte. In der Graphischen Sammlung, welche im Rahmen von Sonderausstellungen präsentiert wird, befinden sich Zeichnungen von Meistern wie Albrecht Dürer und Wassily Kandinsky.
Die Gemäldegalerie der Amalienstiftung befand sich ursprünglich in einem bis heute erhaltenen barocken Palais in der Dessauer Innenstadt. Mit der Gründung der Anhaltischen Gemäldegalerie zog sie 1927 in das Palais Reina an der Dessauer Kavalierstraße, welches im 2. Weltkrieg zerstört wurde. Seit 1959 befindet sich die Sammlung der Anhaltischen Gemäldegalerie im Schloss Georgium im gleichnamigen Landschaftspark unweit des historischen Bauhausgebäudes und des Dessauer Hauptbahnhofs.