Carl Andre nasce a Quincy, Massachusetts, Stati Uniti, il 16 settembre 1935. Studia alla Phillips Academy di Andover con Patrick Morgan nel 1951-53 e poi, per un breve periodo, al Kenyon College, Gambier, Ohio. Nel 1954 si reca in Inghilterra e in Francia. L'anno seguente si arruola nell'esercito, in North Carolina.

Nel 1957 si trasferisce a New York, dove lavora come redattore in una casa editrice. In questo periodo inizia a lavorare a sculture in legno che ricordano Constantin Brancusi e anche le tele nere dell'amico Frank Stella. Andre diventa uno dei maggiori esponenti del Minimalismo, che si forma nei primi primi anni sessanta. Oltre a dedicarsi alla scultura, compone poesie seguendo la tradizione del Concretismo e presentando le parole sulle pagine come fossero disegni. Nel 1960-64 lavora come macchinista sui treni merci della Pennsylvania Railroad in New Jersey. La sua prima personale è organizzata nel 1965 alla Tibor de Nagy Gallery di New York.

Durante gli anni settanta prepara numerose installazioni di grandi dimensioni, come Blocks and Stones (1973) per il Portland Center for the Visual Arts in Oregon, e opere all'aperto, come Stone Field Sculpture (1977) ad Hartford, Connecticut. Tra le numerose retrospettive si ricordano quelle organizzate al Museo Solomon R. Guggenheim, New York, nel 1970; al Laguna Gloria Art Museum, Austin, Texas, nel 1978; allo Stedelijk Van Abbemuseum, Eindhoven, nel 1987; al Museum of Modern Art, Oxford, nel 1996; al Musée Cantini, Marsiglia, nel 1997; all'Open Air Museum Middelheim, Anversa, nel 2001; alla Kunsthalle di Basilea nel 2005. Carl Andre muore a New York il 24 gennaio 2024.