כרמל בלשון התנ"ך הוא מקום ירוק ופורח, כך למשל במיכה פרק ז' ובשיר השירים פרק ז' ועוד (ובהקשר אחר זה סוג של חיטה). מוכר לנו ישוב בשם כרמל המצוי בדרום אחר חברון (נבל הכרמלי, שמואל א' פרק כה), אך המוכר מכולם הוא רכס הכרמל שיורד אל הים התיכון (ירמיהו פרק מו' ): "חַי אָנִי, נְאֻם הַמֶּלֶךְ ה' צְבָאוֹת שְׁמו, כִּי כְּתָבוֹר בֶּהָרִים, וּכְכַרְמֶל בַּיָּם יָבוֹא".

רכס זה מכונה גם בשם "ההר הירוק" על שם שהצומח שבו נותר ירוק בכל ימות השנה ואינו משיר את עליו בשלכת.

אליהו הנביא עשה על רכס זה את מעשה המבחן שלו מול נביאי הבעל והאשרה של איזבל אשת אחאב (מלכים א' פרק יח'), ועל כן הוא מכונה בפי המוסלמים "הירוק" (=אל חדר).

צורת רכס הכרמל היא משולש, בקודקוד הדרומי רמת הנדיב, במזרחי יקנעם ובצפון מערבי העיר חיפה. שם גם נמצאת מערה שמכונה "מערת אליהו".

יש לדעת שבתנ"ך כלל לא מוזכר שאליהו נכנס למערה כלשהיא בהיותו בכרמל. הסתתרותו במערה (מלכים א' פרק יט') נעשתה בהר חורב הלא הוא סיני. הקשר בין הר סיני לכרמל מופיע דוקא כניגוד (במדרש המפורסם בראשית רבה פרשה צט, מתאר את ריב ההרים על מי מהם יתן הקב"ה את התורה).

באשר למקום המזבח שהקים אליהו בכרמל (מלכים א' פרק יח'), הגיונית בהחלט המסורת הנוצרית המציינת זאת באזור המזרחי הקרוי "מוחרקה", שהרי מיד לאחר ירידת האש על מזבחו של אליהו הנביא, מוריד הוא את נביאי השקר אל הקישון לשוחטם שם על המים. אילו היה זה באזור חיפה, כי אז נשאלת השאלה מדוע לא הורידם הימה אלא לקחם למרחק כה רב.

הרקע למעשה אליהו הוא הרעב בארץ ישראל, אחרי תום המאבק עולה אליהו לראש הכרמל וצופה מתי יבוא הגשם (שם סוף פרק יח'). מערת אליהו נמצאת בתחתית ההר, ואינה מתאימה להגדרה "ראש הכרמל" או למקום שממנו נצפים ענני הגשם.

אם כך ואם כך, דומה כי לא ניתן למצוא בתנ"ך כל קשר בין אליהו הנביא למערה זו.

מאידך, המסורת המצביעה על זיקה בין המערה לאליהו הנביא הינה עתיקת יומין. כתובות שנמצאו על גבי קירות המערה מתוארכות לתקופה הביזנטית היא תקופת התלמוד (324-638 לספירה) ביניהם השם גרמנוס המתפרש כשמו של חייל רומאי, גם בנימין מטודלה שביקר בארץ בשנת 1175 מציין אותה, כך גם תלמיד האור החיים הקדוש מספר שביקר בה עם רבו, וכך הוא כותב: "וכשנכנסנו שם, נחה עלינו רוח אלוקים, וראינו בנפשנו הארה גדולה עד למאוד, והיא היא המערה שאמרו עליה בגמ' מעולם לא זזה שכינה משם".

הגמרא אותה הוא מצטט מופיעה בבבלי (מסכת מגילה דף יט:): "ואמר רבי חייא בר אבא א"ר יוחנן: אלמלי נשתייר במערה שעמד בה משה ואליהו כמלא נקב מחט סדקית לא היו יכולין לעמוד מפני האורה, שנאמר (שמות פרק לג) "כי לא יראני האדם וחי". דא עקא שכבר שם אומר רש"י: "מערה שעמד בה משה – כשעבר הקב"ה לפניו, שנאמר "ושמתיך בנקבת הצור", ואליהו אף הוא עמד באותה מערה…".

תלמיד האור החיים הקדוש מזכיר גם את המערה הפנימית שבתוך המערה, ומספר שישן בה בליל ובמוצאי יום הכיפורים.

כך או כך, גם אם הקשר בין אליהו הנביא, אינו ברור. יתר על כן, המקום אינו מופיע ברשימת המקומות בהן נעשה נס לישראל (בבלי מסכת ברכות דף נד. ובשו"ע אורח חיים סימן רי"ח), וכלל לא מובן מה ענין יש להתפלל דוקא בו. אך בכל אופן נתקבל המקום במסורת היהודית כמקום תפילה, ולא רק במסורת היהודית, אלא גם המוסלמים ואחריהם הנוצרים והדרוזים עלו אליו לרגל, משל היה זה בבחינת "כי ביתי בית תפילה יקרא לכל העמים".

הנוצרים שניסו להיאחז במערה הונסו ע"י המוסלמים, ואח"כ שבו הנה והונסו ע"י השלטונות העות'מאנים עד שהעבירו את המרכז שלהם אל ראש ההר שממעל למערת אליהו, למקום המכונה "סטלה מאריס" (=כוכב הים). המוסלמים בנו סביב המערה מתחם גדול הכולל חדרי לינה ואוכל לטובת העולים לרגל, מתחם זה שהיה בבעלות הוואקף הוחרם ע"י מדינת ישראל ומנוהל כיום ע"י המשרד לעניני דתות והמרכז הארצי לפיתוח מקומות קדושים שבמשרד התיירות. כשהמיוחד בו הוא עובדת היותו מקום התכנסות לבני כל הדתות בלי שישמע קול פרץ וצווחה, ממש אחרית הימים.

כאמור, הנוצרים הקימו מרכז דתי בראש ההר שמעל המערה. הבריטים הקימו במקום תחנת ראדאר, תחנה זו פוצצה ע"י אנשי המרי העברי (איחוד ארגוני המחתרת) בשל היותו כלי ששימש לגילוי ספינות המעפילים. כיום שוכן במקום חיל הים הישראלי.

בצלע ההר שבין מערת אליהו לסטלה מאריס, ניתן לראות שביל מדרגות שהן חצובות בסלע ובורות מים.

מתחת למערה ומעט דרומה, על כביש החוף, נמצאים חורבות העיר שיקמונה. בכוון צפון, ברחוב אל-עתיקה הצמוד לנמל, נמצאו מערות קבורה יהודיות מתקופת הבית השני. כיום עובר עליהן גשר קטן ועליו מסילת הברזל.

דרומה יותר, בכניסה הדרומית לעיר, שכן הכפר הנכרי-ביזנטי "קסטרא" עליו קורא המדרש (איכה רבה פרשה א'): "צוה ה' ליעקב סביביו צריו. כגון חלמיש לנוה, סוסיתא לטבריה, קסטרא לחיפה, יריחו לנוערן, לוד לאונו…"