גבאי החל את הקריירה שלו בקבוצת הילדים של בני יהודה תל אביב בגיל 6 כקיצוני ימני, שם התגלה כישרונו. בגיל 19 אמור היה לעלות לבוגרים של בני יהודה, אך מאמן בני יהודה דאז, ניצן שירזי, החליט להשאיל אותו לשנה וחצי להפועל מרמורק מהליגה הארצית. במרמורק הציג יכולת גבוהה עם 10 בישולים ו-15 שערים. בתום תקופת ההשאלה שוחרר מבני יהודה וחתם, בקיץ 2006, בהפועל בני לוד לארבע שנים. בלוד עבר לשחק בעמדת המגן הימני וצבר 157 הופעות. ב-2010 הסתיים חוזהו בלוד וגבאי עבר לעירוני קריית שמונה לשנתיים על תקן מגן מחליף לברק בכר. בתחילת העונה נפצע בכר, ולכן קיבל גבאי מקום בהרכב של רן בן שמעון. עד מהרה הפך לשחקן חשוב במערך של הקבוצה, שסיימה את העונה במקום החמישי ואף זכתה בגביע הטוטו. בעונתו השנייה בקריית שמונה סייע לה לזכות בפעם השנייה ברציפות בגביע הטוטו, ובתום העונה זכה עם הקבוצה באליפות הראשונה בתולדותיה. יכולתו הטובה של גבאי הובילה לזימון בכורה לנבחרת ישראל, על ידי המאמן אלי גוטמן, לצד אדריאן רוצ'ט, שיר צדק, דני עמוס ואיתן טיבי. את הופעת הבכורה שלו בנבחרת ערך גבאי ב-29 בפברואר 2010, במשחק ידידות מול נבחרת אוקראינה באצטדיון המושבה. ב-11 ביוני 2013 חתם גבאי בקבוצת מכבי חיפה לארבע עונות. ב-25 ביולי 2013 ערך את הופעת הבכורה שלו בקבוצה, בניצחון 0-8 על חזר לנקראן במסגרת מוקדמות הליגה האירופית.