Fils de Rodolphe II l’Ancien et d’Agnès Hohenstaufen. À la mort de Rodolphe II l’Ancien en 1232, les possessions des Habsbourg sont partagées entre ses 2 fils. L’aîné, Albert, hérite des domaines d’Alsace et d’Argovie ainsi que du titre de comte de Habsbourg. Son frère Rodolphe III reçoit les territoires d’Allemagne du Sud, fondant ainsi la branche des Habsbourg-Laufenbourg.
Cette branche cadette, qui s’éteignit au début du 15ème siècle et rejoignit alors la branche aînée, allait se rallier au parti guelfe tandis qu’Albert le Sage continua à servir fidèlement les Hohenstaufen. Il meurt en 1239 lors de la croisade dirigée par Thibaut 1er de Navarre.