Efter att ha tagit examen i medicin vid Sorbonne 1853 med en doktorsavhandling om olika former av ledgångsreumatism arbetade Charcot först som ägare till en privatpraktik och från 1848 som sjukhusläkare vid Salpêtrière, där han blev överläkare 1862. År 1872 blev han professor i patologisk anatomi vid universitetet i Paris, där han publicerade många verk om nervsystemets anatomi och patologi. År 1882 inrättades världens första professur för sjukdomar i nervsystemet för Charcot vid Hôpital de la Salpêtrière i Paris.
1883 blev Charcot invald i Académie des sciences. Mellan 1888 och 1889 publicerade han sina berömda Leçons du mardi, där han demonstrerade kliniska fall inför ett internationellt auditorium av läkare, journalister och författare.
Ingen annan 1800-talsforskare hade ett så bestående inflytande på neurologins utveckling som Charcot. Under andra hälften av 1800-talet gjorde han viktiga upptäckter inom nästan alla områden av neurologin. Han var den förste som beskrev amyotrofisk lateralskleros och neurogen artropati. Han skiljde också multipel skleros och Parkinsons sjukdom från varandra som oberoende sjukdomsbilder.
Den 7 juni 1884 ägde genom förmedling av Charcots assistent Raymond Combret, medlem av Teosofiska sällskapet i Paris, ett möte rum med Henry Steel Olcott från Teosofiska sällskapet på Salpêtrière. Under sina senare år utförde Charcot huvudsakligen psykopatologiska studier om hysteri. Även om vissa av hans resultat senare reviderades, hade de ett stort inflytande på psykiatrins utveckling och på hans elev Sigmund Freuds psykoanalys. Det var Charcots kliniska användning av hypnos i ett försök att hitta en organisk orsak till hysteri som väckte Freuds intresse för de psykologiska orsakerna till neuroser.
Freud studerade med Charcot på Salpêtrière från augusti 1885. Även om han senare framgångsrikt etablerade sin skapelse, psykoanalysen, som en självständig vetenskap, glömmer man ofta bort att den började med Charcots studier av hypnos. Charcots forskning om förändrade medvetandetillstånd som orsakas av hypnotisk trance gav upphov till andra discipliner som var mindre i samklang med tidens materialistiska anda än Freuds. Freud översatte två av Charcots böcker och försåg dem med kritiska kommentarer.
Charcot var representant för 1800-talets dominerande vetenskap, som hade kommit till rätta med hypnosen, och var angelägen om att hitta en neurofysiologisk förklaring till de symtom han observerade. Han sökte en rent materialistisk förklaring som gjorde det möjligt att betrakta personer som lätt kunde hypnotiseras som psykiskt sjuka och som gjorde det möjligt att strikt klassificera hypnosens olika stadier. Det var inte förrän 1884 som hans hypoteser ifrågasattes av Hippolyte Bernheim och Ambroise-Auguste Liébeault, som hävdade att det hypnotiska tillståndet framkallades av suggestion, vilket så småningom bevisades i Liébeaults medicinska praktik. Det visar sig att Charcots övertygelse om att hypnosen hade patologiska orsaker berodde på att han råkade arbeta främst med hysteriker på Salpêtrière. Charcot erkände sitt nederlag några månader före sin död genom att i en artikel förklara att hysteriker i princip var lätta att låta sig påverkas.
Charcot dog efter 1893 av ett angina pectoris-anfall.
Jean-Martin Charcot, som var en konstnärligt begåvad och konstintresserad läkare sedan ungdomen, samlade in historiska framställningar av hysteri. Han introducerade också fotografi som en metod för klinisk dokumentation å ena sidan och som en didaktisk metod i undervisningen (projicering av diabilder) å andra sidan.
Charcots verk beskrivs i detalj av Axel Munthe i The Book of San Michele. Det finns också en detaljerad redogörelse för Charcot i Henri F. Ellenbergers standardverk The Discovery of the Unconscious: History and Development of Dynamic Psychiatry from its Beginnings to Janet, Freud, Adler and Jung.
Andra kända elever till Charcot var Georges Gilles de la Tourette, Joseph Babinski, Gheorghe Marinescu, Pierre Janet och Charles-Joseph Bouchard.