ولد أوستر في مدينة نيو آرك في ولاية نيوجيرسي الأمريكية، لإبوان يهوديان من الطبقة الوسطى، وذوي أصول بولندية، كويني وصموئيل أوستر. وهو ابن العم الأكبر للكاتب الصحفي المحافظ لورانس أوستر نشأ أوستر في منطقة جنوب أورنج, نيوجيرسي و نيوآرك وتخرج من ثانوية كولومبيا في مابلوود.
