بدأ الشهيد محمود الريفي مسيرته الرياضية في الساحات الشعبية والمدارس والمساجد، ثم لعب في فريق نادي المشتل الرياضي وكان من اللاعبين الأساسيين للنادي، ثم انتقل بعد ذلك إلى صفوف الفريق الأول في نادي خدمات الشاطئ، ثم انتقل للدفاع عن فانيلة "العميد" غزة الرياضي في مركز خط الوسط والارتكاز.

علّى نجم الشهيد محمود الريفي كلاعب مميز في قطاع غزة، حيث انتقل للعب في صفوف نادي هلال غزة ثم نادي التفاح الرياضي، واستمرت مسيرته الرياضية بعد انتقاله لنادي الجلاء الرياضي ككابتن للفريق، وساهم بصعود النادي والفريق إلى الدرجة الممتازة.