A. Philip Randolph był organizatorem pracy i jednym z najbardziej wpływowych strategów politycznych XX wieku. Jego wiara w zdolność zorganizowanej pracy do przeciwdziałania dyskryminacji pracowników i jego umiejętności w planowaniu pokojowych protestów pomogły uzyskać postęp w zatrudnieniu dla Afroamerykanów.
w 1925 roku Randolph założył Bractwo śpiących tragarzy samochodowych (BSCP)., Randolph zapewnił sobie członkostwo w Amerykańskiej Federacji Pracy z ramienia BSCP, czyniąc ją pierwszym czarnoskórym związkiem zawodowym w Stanach Zjednoczonych. Opierając się na jego wysiłkach zorganizowanej pracy, Randolph współpracował z Bayardem Rustinem, aby opracować bez przemocy strategie protestu przeciwko dyskryminacji w przemyśle obronnym i siłach zbrojnych. W 1941 roku planowali marsz na Waszyngton, aby zaprotestować przeciwko dyskryminacji w przemyśle obronnym. Planowany Marsz zmusił prezydenta Franklina D. Roosevelta do wydania dekretu wykonawczego znoszącego dyskryminację w przemyśle obronnym., W 1947 roku Randolph planował kolejny marsz na Waszyngton, aby zaprotestować przeciwko segregacji w wojsku. Po raz kolejny proponowany Marsz wywarł polityczną presję na rząd, a w 1948 roku prezydent Harry Truman wydał rozkaz wykonawczy kończący segregację w wojsku.
w latach 50., Randolph nauczył innych przywódców praw obywatelskich, jak wykorzystywać protesty bez przemocy, aby przeciwstawić się dyskryminacji rasowej. Randolph był głównym organizatorem marszu na Waszyngton w 1963 roku i był jednym z przywódców, którzy spotkali się z prezydentem Johnem F. Kennedym po marszu., W 1964 roku Randolph otrzymał Prezydencki Medal Wolności za swoje wysiłki i założył A. Philip Randolph Institute w Waszyngtonie, organizację mającą na celu badanie ubóstwa.
A. Philip Randolph zmarł w łóżku w swoim domu w Nowym Jorku 16 maja 1979 roku, w wieku 90 lat.