Medizinisch gilt von Graefe als eigentlicher Begründer des Fachgebiets Augenheilkunde (Ophtalmologie). 1866 wird er, selber Sohn eines Augenarzts, Direktor der augenärztlichen Abteilung der Charité in Berlin. Er erfindet die Iridektomie zur Behandlung des grünen Stars (Glaukom), verschiedene weitere Fachbegriffe tragen seinen Namen, das Graefe-Syndrom, der Graefe-Fleck oder der Graefe-Reflex. Seine Operationskunst ist legendär, seine Schaffenskraft immens.

Graefe studierte Medizin, Mathematik, Physik und Chemie in Berlin. Seine Dissertation verfasste er 1847 noch auf Lateinisch. Danach war er Assistenzarzt in Prag, wo er begann, sich ganz der Augenheilkunde zu widmen.

Er lernte weiter in Paris, Wien und London und kehrte 1852 nach Berlin zurück, wo er sich habilitierte und eine private Augenklinik mit 120 Betten eröffnete, die sowohl in der Praxis wie auch in der Forschung alsbald Weltruhm genoss. Bei der Behandlung war Graefe ausserordentlich sozial eingestellt, da er keinen Unterschied hinsichtlich der sozialen Schichten machte – nicht zuletzt deshalb nannte ihn sein Schüler Julius Hirschberg in einem Nachruf einen „Apostel der leidenden Menschheit".

Zwei Jahre später, 1854, gründete er mit dem „Archiv für Ophthalmologie" die erste augenärztliche Fachzeitschrift. 1866 wurde Graefe Direktor der augenärztlichen Abteilung der Charité und war besonders erfolgreich bei der Behandlung des Grünen Stars und des Schielens (Strabismus). Mehr als 10.000 Augenoperationen soll er durchgeführt haben. Verschiedene Fachbegriffe tragen den Namen des Mediziners, wie beispielsweise das „Graefe-Syndrom", der „Graefe-Fleck" oder der „Graefe-Reflex". Auch die konsequente Anwendung des von Helmholtz entwickelten Augenspiegels geht auf Graefe zurück.

1851 kommt Albrecht von Graefe zum erstenmal nach Heiden, der junge Berliner Arzt hat Tuberkulose und will vom Höhenklima profitieren. Ab 1860 lässt er sich jeweils in den Sommermonaten in Heiden nieder, operiert im «Freihof», regt den Bau eines neuen Kurhotels an, weil seine Kunst so viele Patienten anzieht, dass die Hotelkapazitäten rasch nicht mehr genügen. Molkenkur und Augenmedizin verhelfen dem Ort zum Aufschwung, der bis heute im Dorf sichtbar ist.

von Graefe stirbt 1870 erst 42jährig an einer Lungentuberkulose.