Jacques Austerlitz, il personaggio principale del libro, è uno storico dell’architettura che incontra e fa amicizia con il narratore solitario ad Anversa negli anni ’60. Gradualmente arriviamo a capire la storia della sua vita. Arrivò in Gran Bretagna nell’estate del 1939 come un bambino rifugiato su un kindertransport da una Cecoslovacchia minacciata dai nazisti di Hitler. Fu adottato da un anziano predicatore gallese non conformista e dalla sua moglie malaticcia, e trascorse la sua infanzia vicino a Bala, Gwynedd, prima di frequentare una scuola pubblica minore. I suoi genitori adottivi morirono, e Austerlitz apprese qualcosa del suo background. Dopo la scuola frequentò l’Oriel College di Oxford e divenne un accademico che è attratto dallo studio dell’architettura europea e iniziò le sue ricerche in questo campo. Dopo un esaurimento nervoso, Austerlitz visita Praga, dove incontra una cara amica dei suoi genitori scomparsi, Vera, che spesso si prende cura di “Jacquot” quando i suoi genitori sono assenti. Mentre parla con lei, i ricordi ritornano, comprese le espressioni francesi e ceche che lei gli ha insegnato. L’anziana signora gli racconta il destino di sua madre, un’attrice e cantante d’opera che fu deportata nel campo di concentramento di Theresienstadt. Da Praga, Austerlitz si reca a Theriesenstadt, e dopo essere tornato in Inghilterra in treno, con un viaggio emotivamente difficile attraverso la Germania, riesce a ottenere una compilation video di 14 minuti di momenti salienti di Theresienstadt. Ein Dokumentarfilm aus dem jüdischen Siedlungsgebiet, il film di propaganda nazista del 1944, in cui crede di riconoscere sua madre. Vera, tuttavia, respinge la donna del documentario. Invece, conferma l’identità della madre di Austerlitz in una fotografia di un’attrice anonima che Austerlitz ha trovato negli archivi teatrali di Praga.
Il romanzo si sposta nella Parigi contemporanea mentre Austerlitz cerca ogni altra prova sulla sorte di suo padre. Si incontra con il narratore e gli racconta del suo primo soggiorno a Parigi, nel 1959, quando ebbe il suo primo esaurimento nervoso e fu ricoverato in ospedale; Marie de Verneuil, una giovane donna francese che aveva conosciuto in biblioteca, lo aiuta a rimettersi in sesto. Sebald esplora i modi in cui le collezioni di documenti, come la Bibliothèque nationale de France o Biblioteca Nazionale di Francia, seppelliscono i ricordi. Nel corso del romanzo il lettore viene condotto in una visita guidata di una civiltà europea perduta: un mondo di fortezze, stazioni ferroviarie, campi di concentramento e biblioteche.