שוער, נרכש בגיל 22 מהפועל פתח-תקווה. גדל באילת ומאמנו שם, שלמה אלימלך, המליץ כשהיה בן 17, למאמן נבחרת הנוער, שלמה שרף לבחון את השוער הצעיר בעל הנתונים הנפלאים, גבוה, ידיים ארוכות ותגובות מהירות. המרחק לא הרתיע את רפי שהגיע לאימוני הנבחרת בטיסות על חשבון ההתאחדות לכדורגל, כשהוא בכלל משמש שוער רביעי, אחרי גבי אלבז ממכבי תל אביב, מיקי דהאן ממכבי חיפה ויוסי מצא משמשון. אחרי ארבעה אימונים בנבחרת, הגיע מזכיר הפועל פתח-תקווה, אורי קרני , לאצטדיון ודיבר איתו. המאמן שרף אמור היה להתמנות למאמן הפועל תל-אביב וביקשו להמתין כדי שיוכל לקחתו עמו. גם הפועל באר-שבע נכנסה לתמונה. מה שהכריע את הכף הייתה מכונית סובארו מודל 82` שהקפיצה את רפי לשערה של הפועל פתח-תקווה בגיל 17. מאמנו, אברהם גרנט לקח על עצמו סיכון גדול, כששיחרר את רוני ג`רבי המנוסה והציב בשער טירון שלא שיחק מעולם בליגה גבוהה יותר מאשר הליגה הרביעית. בתחילה ספג שערים רבים באשמתו ואלמלא האשראי שקיבל מגרנט, היה מוחלף. רפי כהן נכנס לתלם, צבר ביטחון ובשנת 1992 זכה עם הפועל פתח-תקווה בגביע המדינה, כשהוא בין גיבורי הניצחון על מכבי תל אביב. במקביל הפך למחליפו של בוני גינצבורג בסגל הנבחרת. במכבי חיפה נחת בעונה הגדולה שלה (93/94). לצד משחקים גדולים, היו לו מספר "נפילות", בעיקר בבלימת כדורים חופשיים מטווחים של 20-25 מ`. את משחקיו הגדולים הציג בזירה הבינלאומית בה הצליחה מכבי חיפה. הגדול מכולם, על אדמת איטליה. חיפה הגיעה בפיגור 1:0 ממשחק הבית שלה מול פארמה בגביע אירופה למחזיקות גביע. היא הדהימה את האיטלקים בביתם, כאשר הוליכה 0:1 וכפתה עליהם הארכה. הגורם העיקרי לכך היה השוער הישראלי, שהצליח בדקה ה- 75 להדוף פנדל בזינוק אקרובטי. בהמשך נכנעה חיפה בדו-קרב בעיטות עונשין. משחק נוסף שרפי כהן יזכור, הוא הגומלין מול טורפדו מוסקבה (1993). ביום המשחק אמור היה השוער להינשא לבחירת ליבו. הוא לא ויתר על המשחק, גילה יכולת מעולה שעזרה לחיפה לנצח ולעלות לשלב שמינית ?גמר גביע אירופה ומיד עם השריקה לסיום, נחת במרכז אצטדיון קריית-אליעזר מסוק, שהסיעו, לקול תשואות אלפי הצופים, לאולם בו התקיימה החתונה. לרוע מזלו של רפי כהן, מחלקת הנוער של מכבי חיפה הוציאה מתוכה שוערים מצוינים. לאחד מהם, שגיא שטראוס, נכנע רפי כהן רק לשבועיים, כאשר שבר את אצבע ידו במשחק נגד הפועל תל-אביב (1994), אולם בעורפו נשף ניר דוידוביץ שסומן כשוער העתיד של מכבי חיפה. רפי כהן, העדין והביישן, העדיף לא להילחם על מקומו ובעצה אחת, מהלך נדיר לכשעצמו, שיתף את מחליפו בלבטיו והודיע לו שהוא מעדיף לעזוב. אחרי משא ומתן ממושך, הועבר להפועל חיפה לעונה אחת, אחר כך לבני יהודה ולמכבי תל-אביב ובסופו של הסבב נמכר לקבוצה ממנה הגיע למכבי חיפה, הפועל פתח-תקווה.

(יצחק הברמן)