وفي كتاب "الزهد" لابن المبارك أن سيدنا عمر بن الخطاب رضي الله عنه لما قدم الشام تلقاه الأمراء والعظماء، فقال: أين أخي أبو عبيدة؟ فقالوا: يأتيك الآن، فجاء على ناقة مخطومة بحبل، فسلَّم عليه ثم قال للناس: انصرفوا عنا، فسار معه حتى أتى منزله، فلم يَرَ في بيته إلا سيفه وترسه ورحله، فقال له عمر: لو اتخذت متاعًا، فقال: إن هذا سيُبَلّغُنا المقيل.
وفي رواية أبي داود في سننه أن سيدنا عمر بن الخطاب رضي الله عنه قال له: غَيَّرَتنا الدنيا كُلَّنا غيرك يا أبا عُبيدة.
وروي عن مالك بن أنس أن سيدنا عمر بن الخطاب رضي الله عنه أرسل إلى أبي عبيدة بأربعة ءالاف وأربعمائة دينار وقال للرسول : انظر ما يصنع بها فقسَّمها أبو عبيدة بين الناس. ثم أرسل عمر بن الخطاب رضي الله عنه بمثلها إلى معاذ بن جبل فقسَّمها بين الناس، إلا شيئًا قالت له امرأته: نحتاج إليه، فلما أخبر الرسول عمر بن الخطاب رضي الله عنه قال: الحمد لله الذي جعل في الإسلام من يصنع هذا.