Nach dem Abschluss des Medizinstudiums 1853 an der Sorbonne mit einer Doktorarbeit über verschiedene Formen des Gelenkrheumatismus arbeitete Charcot zunächst als Inhaber einer Privatpraxis und ab 1848 als Krankenhausarzt an der Salpêtrière, wo er 1862 Chefarzt wurde. 1872 wurde er ordentlicher Professor für pathologische Anatomie an der Universität Paris, wo er zahlreiche Arbeiten zur Anatomie und Pathologie des Nervensystems veröffentlichte. 1882 wurde für Charcot der weltweit erste Lehrstuhl für Krankheiten des Nervensystems am Hôpital de la Salpêtrière in Paris errichtet.
1883 wurde Charcot in die Académie des sciences aufgenommen. 1888 bis 1889 publizierte er seine berühmten Leçons du mardi, in denen er vor einem internationalen Auditorium von Ärzten, Journalisten und Schriftstellern klinische Fälle demonstriert hatte.
Kaum ein anderer Wissenschaftler des 19. Jahrhunderts hat die Entwicklung der Neurologie so nachhaltig beeinflusst wie Charcot. In der 2. Hälfte des 19. Jahrhunderts gelangen ihm bedeutende Erkenntnisse auf fast allen Gebieten der Neurologie. So beschrieb er als erster die amyotrophe Lateralsklerose und die neurogene Arthropathie. Außerdem grenzte er die Multiple Sklerose und die Parkinson-Krankheit als eigenständige Krankheitsbilder voneinander ab.
Am 7. Juni 1884 kam es auf Vermittlung von Charcots Assistenten Raymond Combret, einem Mitglied der Theosophischen Gesellschaft in Paris, zu einem Treffen mit Henry Steel Olcott von der Theosophical Society in der Salpêtrière. In seinen späteren Jahren führte Charcot vorwiegend psychopathologische Studien über die Hysterie durch. Seine Ergebnisse wurden zwar teilweise später revidiert, hatten aber großen Einfluss auf die Entwicklung der Psychiatrie und auf die Psychoanalyse seines Schülers Sigmund Freud. Es war Charcots klinischer Einsatz der Hypnose bei dem Versuch, eine organische Ursache für die Hysterie herauszufinden, die Freuds Interesse an den psychischen Ursachen der Neurosen weckte.
Freud studierte ab August 1885 bei Charcot an der Salpêtrière. Während er später erfolgreich seine Schöpfung, die Psychoanalyse, als unabhängige Wissenschaft etablierte, wird oft vergessen, dass diese mit dem Studium der Hypnose bei Charcot begann. Andere Forschungen Charcots zu veränderten Bewusstseinszuständen, die durch hypnotische Trance verursacht wurden, brachten weitere Disziplinen hervor, die weniger mit dem materialistischen Zeitgeist konform gingen als diejenige Freuds. Freud übersetzte zwei Bücher Charcots und versah diese mit kritischen Anmerkungen.
Charcot war Repräsentant der herrschenden Wissenschaft des 19. Jahrhunderts, die sich mit der Hypnose abgefunden hatte, und war bemüht, eine neurophysiologische Erklärung für die von ihm beobachteten Symptome zu finden. Er suchte eine rein materialistische Erklärung, mit der Personen, die sich leicht hypnotisieren ließen, als psychisch krank angesehen werden konnten, und mit der man die aufeinander folgenden Hypnosestadien streng klassifizieren konnte. Erst 1884 wurden seine Hypothesen von Hippolyte Bernheim und Ambroise-Auguste Liébeault in Frage gestellt, die die Theorie aufstellten, wonach der hypnotische Zustand durch Suggestion hervorgebracht werde, was in Liébeaults medizinischer Praxis schließlich bewiesen werden konnte. Es stellt sich heraus, dass Charcots Glaube, die Hypnose habe krankheitsbedingte Ursachen, daher rührte, dass er an der Salpêtrière zufällig überwiegend mit Hysterikern arbeitete. Charcot gestand seine Niederlage einige Monate vor seinem Tod ein, indem er in einem Artikel verlauten ließ, dass Hysteriker prinzipiell leicht der Suggestion unterliegen.
Charcot starb nach 1893 bei einem Angina-pectoris-Anfall.
Jean-Martin Charcot sammelte als seit der Jugend künstlerisch begabter und an Kunst interessierter Arzt historische Darstellungen der Hysterie. Außerdem führte er die Fotografie als Methode der klinischen Dokumentation zum einen und als didaktische Methode im Unterricht (Projektion von Diapositiven) zum anderen ein.
Charcots Arbeiten werden von Axel Munthe in Das Buch von San Michele eingehend beschrieben. Auch in Henri F. Ellenbergers Standardwerk Die Entdeckung des Unbewußten: Geschichte und Entwicklung der dynamischen Psychiatrie von den Anfängen bis zu Janet, Freud, Adler und Jung findet sich eine ausführliche Darstellung Charcots.
Weitere berühmte Schüler Charcots waren Georges Gilles de la Tourette, Joseph Babinski, Gheorghe Marinescu, Pierre Janet und Charles-Joseph Bouchard.