O’Connor blev udpeget til USA’s højesteret som den første kvinde nogensinde i 1981 af Ronald Reagan. O’Connor var også den første kvinde til at være leder af et af senaterne i delstaterne, en position hun blev valgt til i Arizonas senat i 1969.
O’Connor sad som dommer i Højesteret i 24 år indtil 2006, hvor hun frivilligt trådte tilbage for at tage sig af sin syge mand. Siden O’Connor er der blevet valgt fem kvinder yderligere til højesteret, og i dag er fire ud af de ni dommere kvinder.
Gennem sine år i højesteret skrev hun mange mindeværdige afgørelser og var den afgørende stemme i mange sager. Hun huskes dog nok bedst for som konservativ dommer at have været med til at opretholde kvinders ret til abort i 1992. I en tæt 5-4 afgørelse i sagen Planned Parenthood v. Casey (1992), hvor flere dommere gerne ville omgøre resultatet fra Roe v. Wade, stod O’Connor fast på kvinders ret til selv at vælge.
I 2018 trak O’Connor sig fra rampelyset, efter at have fået konstateret demens. Hun skrev i den forbindelse et åbent brev til nationen:
“How fortunate I feel to be an American and to have been presented with the remarkable opportunities available to the citizens of our county […] As a young cowgirl from the Arizona desert, I never could have imagined that one day I would become the first woman justice on the US Supreme Court […] I hope that I have inspired young people about civic engagement and helped pave the pathway for women who may have faced obstacles pursuing their careers”
O’Connor blev 93 år, og efterlader sig tre sønner og seks børnebørn.