En 1944, Nelson Mandela adhère au Congrès national africain (ANC), membre de l’Internationale socialiste. Largement inspiré par les idées légalistes du promoteur de l’émancipation des Noirs américains, Booker T. Washington, l’ANC entreprend d’informer la communauté noire sud-africaine sur ses droits ou ce qui en restait.
Avec la ligue de la jeunesse, la Youth League, l’ANC prend un tournant qui lui permet d’avoir une action efficace lors des grandes manifestations de mineurs en 1946 et 1949. Mandela est élu secrétaire général de la ligue en 1947 puis président peu après. En 1949, l’ANC adopte le programme d’action de la Youth League qui réclame « la fin de la domination blanche ».
Bien que président de l’ANC, Nelson Mandela participe au lancement en juin 1952 d’une action de désobéissance civile civile de grande envergure à la manière du Mahatma Ghandi, la « défiance campaign », où il anime des cohortes de manifestants descendus en masse dans la rue. La campagne culmine en octobre, contre la ségrégation légalisée et en particulier contre le port obligatoire des laissez-passer imposé aux Noirs. Tout un arsenal de loi sur la « sécurité publique » verrouille l’état d’urgence qui autorise l’apartheid à gouverner par décrets. Condamné à neuf mois de prison avec sursis, le charismatique Mandela est interdit de réunion et assigné à résidence à Johannesburg. Il en profite pour mettre au point le « Plan M » qui organise l’ANC en cellules clandestines.
Car, entre temps, le Parti national (PN), au pouvoir à Pretoria depuis 1948, a instauré l’apartheid en idéologie et en programme de gouvernement.
Le 5 décembre 1956, Nelson Mandela est arrêté avec Walter Sisulu, Oliver Tambo, Albert Luthuli (prix Nobel de la paix 1960) et des dizaines de dirigeants du mouvement anti-apartheid. Ils sont accusés de comploter contre l’Etat au sein d’une organisation internationale d’inspiration communiste. En mars 1961, le plus long procès de l’histoire judiciaire sud-africaine s’achève sur un non-lieu général.
Après le massacre de Sharpeville en 1960, l’ANC et le Congrès panafricain sont interdits. Mandela abandonne alors la stratégie non-violente de l’ANC et fonde une organisation militaire, Umkhonto we Sizwe.
En 1962, il est condamné à cinq ans de travaux forcés et, en 1963, il est inculpé avec d’autres leaders, de sabotage, trahison et complot. Mandela assure lui-même sa défense en une longue plaidoirie où il fait en même temps le procès de l’apartheid. « J’ai lutté contre la domination blanche et contre la domination noire. J’ai défendu l’idéal d’une société démocratique et libre dans laquelle tous les individus vivraient ensemble en harmonie et bénéficieraient de chances égales. C’est un idéal pour lequel j’espère vivre et que j’espère voir se réaliser. C’est un idéal pour lequel, s’il le faut, je suis prêt à mourir », A l’issue de ce procès, il est condamné en 1964, avec sept autres militants, à la prison à vie.
En 1990, après 26 ans de prison de détention pour raisons politiques (ce qui est un record), le président F.W. de Klerk supprime l’interdiction de l’ANC et libère Mandela, qui est élu président de l’ANC en 1991.
À la suite des premières élections multiraciales du 27 avril 1994, remportées largement par l’ANC, Nelson Mandela est élu Président de la république d’Afrique du Sud et forme le premier gouvernement multiracial du pays, en l’occurrence un gouvernement d’union nationale entre l’ANC, le Parti National et le parti zoulou Inkhata. Il prononce un discours d’investiture historique.
En 1999, c’est Thabo Mbeki qui lui succède à la présidence de la république. Nelson Mandela reste cependant une voix écoutée au niveau international. Il s’est notamment investi dans la lutte contre le SIDA en Afrique.