Jacques Austerlitz, główny bohater książki, jest historykiem architektury, który spotyka i zaprzyjaźnia się z samotnym narratorem w Antwerpii w latach sześćdziesiątych. Stopniowo poznajemy historię jego życia. Przybył do Wielkiej Brytanii latem 1939 roku jako niemowlę uchodźca na kindertransporcie z Czechosłowacji zagrożonej przez nazistów hitlerowskich. Został adoptowany przez starszego walijskiego kaznodzieję nonkonformistycznego i jego chorą żonę, a dzieciństwo spędził w pobliżu Bala, Gwynedd, zanim zaczął uczęszczać do małej szkoły publicznej. Jego przybrani rodzice zmarli, a Austerlitz dowiedział się czegoś o swoim pochodzeniu. Po szkole uczęszczał do Oriel College, Oxford i stał się naukowcem, który jest przyciągany do, i rozpoczął swoje badania w badaniu architektury europejskiej. Po załamaniu nerwowym Austerlitz odwiedził Pragę, gdzie spotkał bliską przyjaciółkę swoich zaginionych rodziców, Verę, która często opiekowała się „Jacquotem” podczas nieobecności rodziców. W rozmowie z nią powracają wspomnienia, w tym francuskie i czeskie zwroty, których go nauczyła. Starsza pani opowiada mu o losach jego matki, aktorki i śpiewaczki operowej, która została deportowana do obozu koncentracyjnego w Theresienstadt. Z Pragi Austerlitz udaje się do Theriesenstadt, a po powrocie do Anglii pociągiem, po emocjonalnie trudnej podróży przez Niemcy, udaje mu się zdobyć 14-minutową kompilację wideo z najważniejszymi wydarzeniami z Theresienstadt. Ein Dokumentarfilm aus dem jüdischen Siedlungsgebiet, nazistowski film propagandowy z 1944 roku, w którym, jak mu się wydaje, rozpoznaje swoją matkę. Vera jednak odrzuca kobietę z dokumentu. Zamiast tego potwierdza tożsamość matki Austerlitza na fotografii anonimowej aktorki, którą Austerlitz znalazł w praskim archiwum teatralnym.
Powieść przenosi się do współczesnego Paryża, gdzie Austerlitz szuka wszelkich pozostałych dowodów na temat losu ojca. Spotyka się z narratorem i opowiada mu o swoim pierwszym pobycie w Paryżu, w 1959 roku, kiedy przeszedł pierwsze załamanie nerwowe i trafił do szpitala; Marie de Verneuil, młoda Francuzka, z którą zapoznał się w bibliotece, pomaga mu wrócić do zdrowia. Sebald bada sposób, w jaki zbiory dokumentów, takie jak Bibliothèque nationale de France, czyli Biblioteka Narodowa Francji, więżą wspomnienia. W trakcie powieści czytelnik zostaje oprowadzony po zaginionej cywilizacji europejskiej: świecie fortec, dworców kolejowych, obozów koncentracyjnych i bibliotek.