V roce 1955 byl zatčen a spolu se svými spolupracovníky obviněn z vlastizrady. Soud ho ale nakonec osvobodil. Mandela byl zpočátku stoupencem praktikování nenásilného odporu proti vládní politice apartheidu. Jeho názor se ovšem změnil v roce 1960, kdy byl na shromáždění v Sharpeville zastřelen neozbrojený demonstrant.