از دست‌دادن پدر در پنج سالگی تاثیر بسزایی در روحیه وی گذاشت. مدتی با پدربزرگش زندگی و کار می‌کرد. سپس در قهوه‌خانه حاج اسماعیل کریم آبادی (در خیابان بوذرجمهری) شروع به‌کار کرد. در این مدت توانست ۲۰تومان پس‌انداز کند. او با این پول و کمک برخی از آشنایان، قهوه‌خانه کوچکی در بازار بزازها (جنب مدرسه عبدالله خان) باز کرد. به گفته شمشیری، این دوران مصادف با جنگ‌جهانی اول و قحطی سال۱۲۹۶ بود. او در همین زمان به بیماری مالاریا مبتلا شد و دکانش را به وثیقه گذاشت. کاسب جوانمردی به‌نام محمدحسین صالحی، ۳۰تومان به وی قرض داد تا مغازه را از وثیقه آزاد و بار دیگر شروع به‌کار کند. شمشیری درباره آن دوران می‌گوید: «بسیاری از شب‌ها در قهوه‌خانه خوابیدم تا بتوانم سحرگاهان آن را آماده پذیرایی از مشتریان سازم.» او سحرخیز بود؛ ساعت چهار صبح از خواب بیدار می‌شد و تا ساعت ۱۰شب کار می‌کرد. با تلاش و پشتکار، پس از چند سال، سرمایه‌ای فراهم کرد و قهوه‌خانه بزرگتری در جلوی مسجد‌امام و پس از آن قهوه‌خانه دیگری در سبزه‌میدان خریداری کرد.
او در این دوران با نهایت سادگی زندگی می‌کرد؛ فردی مقتصد بود و بیشتر درآمدش را صرف توسعه کسب‌وکار خود می‌کرد. او با سستی و تنبلی، سخت مخالف بود. مردی خودساخته و با اراده بود و اعتمادبه‌نفس زیادی داشت. معتقد بود که در زندگی هیچ‌گاه نباید مأیوس شد، بلکه برای توفیق در کار باید باثبات قدم و عزم راسخ کوشید. شمشیری بین سال‌های ۱۳۱۵ و ۱۳۲۰ دست به ابتکار تازه‌ای زد؛ در این زمان سازمان اوقاف بخشی از املاک خود را در تهران و حومه اجاره می‌داد. وی چندین ملک وقفی را (که دارای یخچال طبیعی بود) اجاره کرد و با حسن تدبیر در اداره این زمین‌ها، درآمدش را چند برابر افزایش داد. در سال۱۳۲۰، قهوه‌خانه‌اش را به چلوکبابی تبدیل کرد. بعد از شهریور ۱۳۲۰، یخچال طبیعی اکبرآباد دولاب را با سرمایه همکاران و دوستانش خریداری کرد و از آن طریق به یک فعالیت اقتصادی پرسود روی‌آورد.
کامیابی‌های زندگی، افزایش درآمد و بالا رفتن موقعیت اقتصادی، تفاوتی در گفتار و کردار وی پدید نیاورد، بلکه وی همواره از ایام سختی و فقر خود یاد می‌کرد. در این سال‌ها او سفری به اروپا داشت و از تعدادی کشورهای اروپایی بازدید کرد. در انتخابات دوره چهاردهم و شانزدهم مجلس شورای ملی، با تمام وجود از مصدق و یارانش پشتیبانی کرد. هنگامی که در مجلس هفدهم از سوی دربار خواستند دکتر سید‌حسن امامی را در برابر کاندیدای جبهه ملی به ریاست مجلس انتخاب کنند، شمشیری به‌اتفاق تعدادی از دوستانش مثل کریم آبادی و حسن فرهنگی به منزل امامی رفت. او از قبل به دلیل موقوفات مسجد‌امام، با امامی آشنا بود. شمشیری در این دیدار به امامی گفت: «من تحصیلاتی ندارم ولی شما که استاد دانشگاه هستید به تو می‌گویم ریاست مجلس توطئه است و می‌خواهند آبرویت را ببرند.»
پیش‌بینی شمشیری درست بود و امامی پس از ۳۶ روز در ۱۶ مرداد ۱۳۳۱ از ریاست مجلس کنار گذاشته شد. محمدحسن شمشیری، حاج نوروزعلی و ابوالقاسم لباس‌چی، حسن قاسمیه، اسماعیل و ابراهیم کریم‌آبادی، محمدحسین راسخ افشار، احمد حریری، ابوالقاسم عظیمی و محمود مانیان از بنیان‌گذاران جامعه بازرگانان، اصناف و پیشه وران تهران بودند و در جنبش ملی‌شدن نفت از نهضت ملی حمایت می‌کردند. جامعه بازرگانان پس از کودتای ۲۸ مرداد ۱۳۳۲، در ۱۶ مهر، اولین اعتصاب بازار را در اعتراض به زندانی‌شدن مصدق شکل دادند. اعتراضی که به‌دستگیری شمشیری، مانیان و ۱۵نفر دیگر و تبعید آن دو منجر شد. شمشیری از شهریور ۱۳۲۰ در امور خیریه و کمک به نیازمندان مشارکت فعال داشت؛ در عین‌حال او از تظاهر به‌عمل خیر پرهیز می‌کرد. او در این‌باره می‌گفت: «آسایش من موقعی است که دیگران را راحت و آسوده ببینم.»
در ۱۷ اردیبهشت۱۳۳۰ مصدق به‌عنوان نخست‌وزیر روی کار آمد. این حوادث مصادف با ترور رزم‌آرا در اسفند۱۳۲۹ توسط فدائیان‌اسلام و دستگیری آنها بود. به دلیل نقش فدائیان در پیروزی نهضت ملی، نیروهای مذهبی و تا حدی افکار عمومی برای آزادی آنها به دولت فشار می‌آوردند. برای آزادی ۶ نفر از زندانیان حکم وثیقه ۳۰۰هزار‌تومان (هر نفر پنجاه‌هزار تومان) صادر شد. فدائیان اسلام به سراغ ابراهیم کریم آبادی رفتند و او هم دست به دامان محمدحسن شمشیری شد که اسطوره‌ای در سخاوت و کمک به افراد بود. شمشیری، کریم‌آبادی و مهدی عراقی به شعبه بازرسی رفتند. شمشیری سند املاکش را گرو گذاشت تا زندانی‌ها آزاد شوند، اما کمیسیون تشدید مجازات وزارت کشور، به دلیل اقدامات و محکومیت جدید فدائیان، از آزادی آنها خودداری کرد.
