Jacques Austerlitzは本書の主人公である建築史家で、1960年代のアントワープで孤独な語り手と出会い、親交を深める。 徐々に彼の生い立ちが分かってくる。 1939年夏、ヒトラー・ナチスの脅威にさらされたチェコスロバキアから、幼い難民としてキンダートランスポートで英国にやってきたのである。 ウェールズの老牧師と病弱な妻の養子となり、グウィネド州バラ近郊で幼少期を過ごし、マイナーなパブリックスクールに通う。 養父母は亡くなり、アウステルリッツは自分の生い立ちを知ることになる。 学校卒業後、オックスフォードのオリエル・カレッジに入学し、ヨーロッパ建築の研究に惹かれ、研究を始める学者となる。 神経衰弱の後、プラハを訪れたアウステルリッツは、そこで亡き両親の親友ヴェラに出会い、両親が留守の間、しばしば「ジャコ」の面倒を見てもらった。 彼女が教えてくれたフランス語やチェコ語の表現など、話をするうちに記憶がよみがえってくる。 その老婦人は、女優でオペラ歌手だった母がテレジアンシュタット強制収容所に送られたことを告げる。 プラハからテレージエンシュタットに向かったアウステルリッツは、ドイツを経由して列車でイギリスに戻り、感情的になりながら、テレージエンシュタットのハイライトをまとめた14分のビデオを手に入れることに成功する。 1944年のナチスのプロパガンダ映画『Ein Dokumentarfilm aus dem jüdischen Siedlungsgebiet』で、彼は自分の母親を認識したと思い込む。 しかし、ヴェラは、このドキュメンタリーの女性を否定する。
小説は現代のパリに移り、アウステルリッツは父の運命について残された証拠を探し求める。 彼は語り手と会い、1959年に初めてパリに滞在し、初めて神経衰弱に陥って入院したこと、図書館で知り合った若いフランス人女性マリー・ド・ヴェルヌイユが彼を健康な状態に戻すために看護してくれたことを話す。 セバルトは、フランス国立図書館のような記録のコレクションが、どのように記憶を封じ込めるかを探っている。 小説の中で読者は、要塞、鉄道駅、強制収容所、図書館といった失われたヨーロッパ文明の世界を案内される。