في عام 1987 كان مرافقا عسكريا للرئيس الأسبق معاوية ولد سيد أحمد الطايع، قبل أن يطاح في انقلاب عسكري عام 2005، لعب فيه ولد الشيخ الغزواني دورا محوريا لكنه آثر البقاء في الظل أمام بروز اسم صديقه محمد ولد عبد العزيز.
بعد انقلاب 2005 تولى ولد الشيخ الغزواني إدارة الأمن الوطني، وكان عضوا في المجلس العسكري للعدالة والديمقراطية الذي أدار البلاد، وقاد فترة انتقالية أسفرت عن انتخاب سيدي محمد ولد الشيخ عبد الله، كأول رئيس مدني في تاريخ البلاد.
عينه ولد الشيخ عبد الله قائدا للأركان الوطنية عام 2008، لكن سرعان ما ساءت العلاقة بين الرئيس المنتخب وأصدقائه العسكريين وفي مقدمتهم ولد عبد العزيز وولد الشيخ الغزواني، لتنتهي الأمور بانقلاب عسكري قاده الرجلان في أغسطس من عام 2008.
وتولى ولد الشيخ الغزواني رئاسة الأركان عام 2009، ثم تولى بعد ذلك القيادة العامة للجيوش 2013.
ومع نهاية المأمورية الرئاسية الثانية والأخيرة لمحمد ولد عبد العزيز، كان ولد الشيخ الغزواني قد نال حقه في التقاعد، فتم تعيينه في شهر أكتوبر الماضي وزيرا للدفاع، معلنا عن نهاية الخدمة العسكرية وبداية مرحلة جديدة.
دعمت الأغلبية البرلمانية والحزب الحاكم ترشيحه للرئاسة، فيما ساندته أحزاب وشخصيات معارضة، ورأى فيه أنصاره "مرشحا للإجماع الوطني"، حتى نجح في حسم الانتخابات الرئاسية من الجولة الأولى.