1892 geboren, begann sie erst sehr spät ihre Filmkarriere. Als Studentin bekam sie einen Platz im Londoner Old Vic, 1925 gab sie dann ihr Bühnendebüt. 1933 kam sie nach London, wo sie im West End-Theater einige Male erschien. 1936 startete dann im Alter von 44 Jahren endgültig ihre Filmkarriere, die bis in die späten Sechzigerjahre reichte, wobei sie immer weiter auf der Bühne stand. Sie übernahm die Rolle der Miss Butterby in "Dusty Ermine".
Im Sommer 1941 wurde "Geisterkomödie" auf einer Londoner Bühne unter Regisseur Noel Coward aufgeführt. Rutherford spielte die Rolle der Madame Arcati, die sie 1946 auch in der Film-Adaption übernahm. Doch in bester Erinnerung hat man sie als kleine alte Agatha-Christie-Detektivin Miss Marple, insgesamt stand sie zwischen 1961 und 1964 in vier Christie-Verfilmungen vor der Kamera ("16 Uhr 50 ab Paddington", "Vier Frauen und ein Mord", "Der Wachsblumenstrauß" und "Mörder ahoi").
Für ihren Auftritt in "Hotel International" (1963) gewann sie sogar einen Oscar und einen Golden Globe als beste Nebendarstellerin. 1967 ein Höhepunkt in ihrer Karriere: Sie bekommt vom britischen Königshaus den Titel "Dame" verliehen. Verheiratet war Rutherford mit dem Schauspieler Stringer Davis, mit dem sie auch in vielen Filmen zusammenarbeitete. Eines ihrer Adoptivkinder ist der Schriftsteller Gordon Langley Hall, der sich 1968 einer Geschlechtsumwandlung unterzog und später eine Rutherford-Biographie unter dem Namen Dawn Langley Hall schrieb. Margaret Rutherford selbst schrieb eine Autobiographie, bevor sie 1972 in Buckinghamshire starb.
Weitere Filme mit Margaret Rutherford: "Das doppelte College" (1950), "Die kleinste Schau der Welt", "Ein Alligator namens Daisy" (beide 1957), "Junger Mann aus gutem Hause" (1959), "General Pfeifendeckel" (1960), "Auch die Kleinen wollen nach oben" (1962), "Die Morde des Herrn ABC" (1964), "Falstaff" (1965), "Die Gräfin von Hongkong" (1967).