Wells wuchs in einer armen Umgebung auf. In ihrer Kindheit erkrankte sie an Meningitis, als Folge derer sie zeitweilig blind und taub wurde, sowohl Seh- als auch Hörkraft kehrten jedoch wieder. Sie sang dann im Chor ihrer Schule und trat später in verschiedenen Clubs und bei Talentwettbewerben auf. 1959 lernte sie den Motown-Angestellten Robert Bateman kennen und bot ihm einen Song namens Bye Bye Baby an, den sie für Jackie Wilson geschrieben hatte. Bateman machte es möglich, dass Wells ihren Song Berry Gordy vorsingen konnte, was ihr schließlich einen Plattenvertrag einbrachte. Bye Bye Baby wurde 1961 Wells’ erste Hit-Single.

Die Folgesingle I Don’t Want to Take a Chance konnte an den Erfolg von Bye Bye Baby anknüpfen, doch Strange Love floppte. Gordy beschloss daraufhin, Smokey Robinson zu Wells’ Songwriter und Produzenten zu machen. Daraus gingen 1962 zunächst die Top-10-Singles The One Who Really Loves You, You Beat Me to the Punch und Two Lovers hervor und schließlich wurde auch das Album The One Who Really Loves You veröffentlicht, das es ebenfalls in die Top 10 schaffte und damit bis dahin Motowns bestverkauftes Album war.

1963 folgten insgesamt vier Top-40-Hits: Laughing Boy, What’s So Easy for Two Is So Hard for One, Your Old Standby (ursprünglich als Rückseite von What Love Has Joined Together veröffentlicht) und You Lost the Sweetest Boy. Das Jahr 1964 begann mit der Veröffentlichung von My Guy, das bald die Beatles von der Spitze der Pop-Charts verdrängte. Es sollte Wells’ größter Hit werden. Später im Jahr nahm sie zusammen mit Marvin Gaye die Songs Once upon a Time und What’s the Matter with You, Baby auf, die beide in die Top 20 kamen, und tourte mit den Beatles durch Großbritannien. Als Folge dessen nahm sie auch das Album Love Songs to the Beatles auf, auf dem verschiedene Beatles-Cover zu hören waren. Es stellte sich als Flop heraus.

Danach blieben die größeren Erfolge aus und Wells verließ Motown, um stattdessen bei 20th Century Fox zu unterschreiben. Weiterhin hielt sich der kommerzielle Erfolg in Grenzen und Mitte 1965 verabschiedete sie sich auch dort wieder. Ihre erste Single für Atco, Dear Lover, schaffte es immerhin in die Top 10 der R&B-Charts, später folgten noch zwei kleine Hits bei Jubilee Records. 1970 heiratete Wells Cecil Womack, den Bruder von Bobby Womack, und zog sich aus der Musikszene zurück.

Sie machte in den 1970ern dann noch ein paar Aufnahmen für Reprise und trennte sich 1977 von Womack. Anfang der 1980er Jahre erlebte sie mit dem Produzenten Wayne Henderson ein kurzes Comeback, als ihr Song Gigolo einen Platz 13 in den Disco-Charts erreichte, und begann wieder zu touren. 1983 veröffentlichte Wells das Album The Old, the New and the Best of Mary Wells.

1991 reichte Wells eine millionenschwere Klage gegen Motown ein, weil sie der Meinung war, dass sie beim Verlassen der Plattenfirma im Jahr 1964 keine Tantiemen erhalten habe und dass ihre Songs nicht so promotet wurden, wie es nötig gewesen sei. Motown legte den Rechtsstreit schließlich bei, indem sie Wells eine sechsstellige Summe zahlte.

Bereits 1990 wurde bei Wells Kehlkopfkrebs diagnostiziert, was sich negativ auf ihre Stimme auswirkte und sie veranlasste, das Touren aufzugeben. Ihre Erkrankung führte sie auf jahrelanges Rauchen zurück. Ein Jahr später sprach Wells vor dem US-Kongress, um die staatliche Finanzierung der Krebsforschung zu fördern: „Ich bin heute hier, um Sie zu ermutigen, den Glauben zu bewahren. Ich kann Sie nicht mit meiner ganzen Stimme anfeuern, aber ich kann Sie ermutigen, und ich bete, Sie mit meinem ganzen Herzen und meiner Seele und meinem Flüstern zu motivieren.“ Im Juli 1992 erlag Wells ihrem Krebsleiden mit 49 Jahren in Los Angeles, nachdem eine Lungenentzündung sie zusätzlich geschwächt hatte.