ANC grundades som ett direkt svar på vad man ansåg vara orättvisor mot svarta sydafrikaner från deras vita, huvudsakligen afrikanska regering. ANC hade sitt ursprung i ett uttalande av Pixley ka Isaka Seme som 1911 sade att man skulle glömma alla tidigare skillnader mellan afrikaner och förena sig i en nationell organisation. ANC bildades året därpå, den 8 januari 1912.
Regeringen i den nybildade Sydafrikanska unionen inledde ett systematiskt förtryck av svarta människor i Sydafrika. 1913 utfärdades lagen om ursprungsbefolkningens mark (Natives' Land Act). Effekten av dessa lagar var att tvinga många icke-vita från sina gårdar till städerna för att arbeta och att begränsa deras rörlighet inom Sydafrika. År 1919 ledde ANC en kampanj mot passen, och 1929 stödde ANC en militant gruvarbetarstrejk.
ANC blev vilande i mitten av 1920-talet. Under denna tid representerades svarta människor också av Industrial and Commercial Workers' Union och det en gång enbart vita kommunistpartiet. År 1927 föreslog J.T. Gumende (ANC:s ordförande) ett samarbete med kommunisterna i ett försök att återuppliva organisationen, men han röstades bort från makten på 1930-talet. Detta ledde till att ANC i stort sett blev ineffektivt och inaktivt, fram till mitten av 1940-talet då ANC omformades till en massrörelse.
ANC svarade militärt på attacker mot svarta sydafrikaners rättigheter och uppmanade till strejker, bojkotter och trots. Detta ledde till en senare Defiance Campaign på 1950-talet, en massrörelse för motstånd mot Sydafrika under apartheid. Regeringen försökte stoppa ANC genom att förbjuda partiledare och införa nya lagar för att stoppa ANC, men dessa åtgärder misslyckades.
1955 antog Folkkongressen officiellt Frihetsstadgan, som fastställde de grundläggande principerna för den sydafrikanska kongressalliansen, som bestod av Afrikanska nationalkongressen och dess allierade South African Indian Congress, South African Congress of Democrats och Coloured People's Congress. Regeringen hävdade att detta var ett kommunistiskt dokument och därför arresterades ledare för ANC och kongressen. 1960 inträffade Sharpeville-massakern, där 69 personer dödades när polisen öppnade eld mot anti-apartheiddemonstranter.
Så småningom anslöt sig vita till kampen mot apartheid, vilket ledde till att många svarta supremacister bröt sig ur ANC.
Umkhonto we Sizwe
Umkhonto we Sizwe (eller MK), som översatts som "Nationens spjut", var ANC:s militära gren. Delvis som ett svar på Sharpeville-massakern 1960 ansåg enskilda medlemmar av ANC att våld var nödvändigt eftersom fredliga passiva protester hade misslyckats. Det fanns en betydande del av ANC som därför använde sig av våld för att uppnå sina mål. En betydande del av ANC:s ledning höll med om att detta våld var nödvändigt för att bekämpa den ökande motreaktionen från regeringen.
Vissa ANC-medlemmar var upprörda över MK:s agerande och vägrade att acceptera att våld var nödvändigt för att få slut på apartheid, men dessa personer blev en minoritet när militanta ledare som Nelson Mandela vann stor popularitet. Många anser att deras handlingar är kriminella, men MK menade att våldet var berättigat av målet att få slut på apartheid. Vissa medlemmar av MK begick terroristhandlingar för att uppnå sina mål, och MK var ansvarig för dödsfall bland både civila och militärer. I samarbete med Sydafrikas kommunistparti grundades MK 1961.