Fils de Frédéric de Luxembourg, seigneur de Gleiberg et d’Ermentrude, dame de Gleiberg, et petit-fils de Sigefroy, comte de Luxembourg. En tant que fils cadet, il avait peu de perspectives d’avoir une position très élevée. Il épousa en premières noces Gerberge, fille d’Eustache 1er comte de Boulogne
Gothelon 1er, duc de Basse et de Haute Lotharingie, de la maison d’Ardennes, mourut en 1044. Si Godefroy II succéda à son père en Haute Lotharingie, la situation de la Basse Lotharingie et moins claire. Godefroy II, irrité de ne pas avoir aussi reçu la Basse Lotharingie, se révolta en 1046.
Vaincu la Haute Lotharingie lui fut retirée et confiée à Adalbert d’Alsace, mais Godefroy continua la lutte. Pour défendre sa position en Lotharingie, l’empereur nomma alors un cousin de la maison d’Ardennes à la tête du duché de Basse Lotharingie. Ce fut Frédéric de Luxembourg. Il se remaria vers 1055 à Ida, qui semble être fille de Bernard II, duc de Saxe.
Grâce à l’aide de son frère Adalbéron III, évêque de Metz, il réussit à s’imposer dans son nouveau duché et dut lutter contre Godefroy qui n’avait pas renoncé. Il fut toujours fidèle à l’empereur, mais ne réussit pas à empêcher le début du morcellement de la Basse Lotharingie.
Il mourut alors qu’il était en guerre contre l’archevêque de Cologne. Ida se remaria avec Albert III, comte de Namur. L’empereur Henri IV, donna la Basse Lotharingie à Godefroy II le Barbu.