Rosemarie Heber Koczÿ nasce nei pressi di Recklinghausen, in Germania, nel 1939. Vittima delle persecuzioni naziste, nel 1942 viene deportata assieme alla famiglia prima nel campo di concentramento di Traunstein, vicino a Dachau, e poi ad Ottenhausen, nei pressi di Saarbruken, dove rimane fino al 1945. Al termine della guerra trascorre un periodo dai nonni e in seguito viene mandata in orfanotrofio, dov'è costretta a lavorare per quindici ore al giorno. All’inizio degli anni cinquanta, in seguito alla morte della madre, dalla quale era stata separata, si ammala gravemente; rifiuta il cibo e per un periodo di tre anni, in uno stato di virtuale autismo, smette praticamente di parlare. Preoccupate per la sua salute, gli istitutori dell'orfanotrofio, che fino ad allora avevano osteggiato l’inclinazione alla pittura della giovane, acconsentono a farle seguire dei corsi di acquerello.

Lasciato l’orfanotrofio all’età di vent’anni, torna a vivere con il nonno, che la spinge a trasferirsi a Ginevra, aiutandola economicamente e trovandole un lavoro come domestica. Nel tempo libero si concentra sull’arte, esercitandosi nel disegno, facendo ritratti e copiando i quadri di El Greco dai libri presi in prestito dalla biblioteca. All’età di ventidue anni si iscrive alla École des Arts Décoratifs dove impara diverse tecniche artistiche, tra le quali la tessitura degli arazzi, grazie ai quali diventa nota in seguito. Il desiderio di comunicare la tragica esperienza vissuta nei campi di concentramento trova però una più efficace espressione nei disegni a inchiostro che comincia a realizzare, in parallelo agli arazzi, a partire dal 1975; alcuni vengono poi acquistati da Michel Thevoz per la Collection de l’Art Brut di Losanna.

Nel 1984 Koczÿ si stabilisce negli Stati Uniti, vicino a New York, e l’anno seguente le sue opere sono scelte da Jean Dubuffet per la mostra inaugurale del Neue Invention, una sezione della Collection de l’Art Brut di Losanna. Il riconoscimento e l’inclusione della sua opera nei canoni della cosiddetta outsider art, non ne diminuiscono lo scopo principale: rendere giustizia alle vittime della Shoah preservandone la memoria, al di là di ogni estetismo. Trasferitasi negli Stati uniti, insegna nel suo studio a Croton-on-Hudson, New York, e ottiene la cittadinanza statunitense nel 1989. L’artista, alla quale il Museum De Stadshof di Zwolle, in Olanda, dedica una personale nel 1997, muore il 12 dicembre 2007.