جیلیارد در حالی‌که والدینش با کشتی از بورگاندی فرانسه به آمریکا مهاجرت می‌کردند در ۱۹ آوریل ۱۸۳۶ در دریا زاده شد. والدینش پروتستان و پدرش یک کفاش بود. آگوستوس در حوالی لویزویل اوهایو رشد و در مدارس محلی تحصیل کرد.
در ۱۸۸۶ جیلیارد راهی نیویورک شد و در آنجا شروع به‌کار برای یک شرکت نساجی کرد که پارچه‌های فاستونی تولید می‌کرد. چند سال بعد این کمپانی ورشکسته شد و جیلیارد شرکتی با نام خود در ۱۸۹۴ تاسیس کرد. این شرکت منسوجات پشمی، ابریشمی و پنبه‌ای را توزیع می‌کرد.
جیلیارد توانست بازرگانی موفق و ثروتمند شود و در بانکداری، راه‌آهن و بیمه شروع به سرمایه‌گذاری کرد. وی در تاکسیدو پارک نیویورک اقامت گزید؛ جایی‌که صاحب کاخی بزرگ بود. وی همچنین خانه‌ای در ساحل غربی منهتن داشت. جیلیارد که از حامیان موزه هنر متروپلیتن و موزه تاریخ طبیعی آمریکا بود نزدیک به سه دهه یعنی از ۱۸۹۲ تا زمان مرگش ریاست اپرای متروپلیتن را بر عهده داشت.
جیلیارد در ۱۸۷۷ با هلن‌مارسلوس کاسیت ازدواج کرد. این زوج فرزندی نداشتند. جیلیارد در ۲۵ آوریل ۱۹۱۹ در سن ۸۳سالگی در خانه شخصی خود در نیویورک درگذشت.
جیلیارد میراث خود را به بیمارستان‌ها، موزه‌ها و سایر موسسات خیریه تخصیص داد اما بیشتر دارایی‌های وی که پنج میلیون دلار بود به توسعه موسیقی در ایالات‌متحده تخصیص یافت و در ۱۹۲۰ بنیاد جیلیارد ایجاد شد.
در ۱۹۲۴ آموزشگاه عالی جیلیارد تاسیس شد تا دانش‌آموزان مستعد در عرصه موسیقی را جذب کند. در ۱۹۲۶ این آموزشگاه با انستیتو هنرهای موسیقایی نیویورک ادغام شد.
