A. Philip Randolph war ein Arbeits-Organisator und einer der einflussreichsten politischen Strategen des zwanzigsten Jahrhunderts. Sein Glaube an die Fähigkeit der organisierten Arbeit, der Diskriminierung von Arbeitskräften entgegenzuwirken, und seine Fähigkeit, gewaltfreie Proteste zu planen, trugen dazu bei, die Beschäftigung für Afroamerikaner zu verbessern.
1925 gründete Randolph die Bruderschaft der Schlafwagenträger (BSCP)., Randolph sicherte sich die Mitgliedschaft in der American Federation of Labor für die BSCP, so dass es die erste schwarze Gewerkschaft in den Vereinigten Staaten. Aufbauend auf seinen Bemühungen mit organisierter Arbeit arbeitete Randolph mit Bayard Rustin zusammen, um gewaltfreie Strategien zu entwickeln, um gegen Diskriminierung in der Verteidigungsindustrie und den Streitkräften zu protestieren. 1941 planten sie einen Marsch nach Washington, DC, um gegen Diskriminierung in der Verteidigungsindustrie zu protestieren. Der vorgeschlagene Marsch drängte Präsident Franklin D. Roosevelt unter Druck, eine Executive Order zur Abschaffung der Diskriminierung in der Verteidigungsindustrie zu erlassen., Im Jahr 1947 plante Randolph einen weiteren Marsch nach Washington, um gegen die Segregation im Militär zu protestieren. Erneut übte der vorgeschlagene Marsch politischen Druck auf die Regierung aus, und 1948 erließ Präsident Harry S. Truman einen Exekutivbefehl, der die Segregation im Militär beendete.
In den 1950er Jahren brachte Randolph anderen Bürgerrechtlern bei, wie man gewaltfreie Proteste gegen Rassendiskriminierung einsetzt. Randolph war ein Hauptorganisator des 1963 March on Washington und gehörte zu den Führern, die sich nach dem Marsch mit Präsident John F. Kennedy trafen., 1964 erhielt Randolph für seine Bemühungen die Presidential Medal of Freedom und gründete das A. Philip Randolph Institute in Washington, D. C., eine Organisation, die sich mit Armut befasst.
Randolph, der an einer Krankheit litt, trat 1968 als Präsident der BSCP zurück und zog sich aus dem öffentlichen Leben zurück. A. Philip Randolph starb am 16.Mai 1979 im Alter von 90 Jahren im Bett in seinem Haus in New York City.