במקום בו שוכן כיום תל גמזו היתה נקודת ישוב במהלך ההיסטוריה. מקום בשם זה מוזכר בתנ"ך בספר דברי הימים ב' – פרק כ"ח פס' י"ח – "וּפְלִשְׁתִּים פָּשְׁטוּ, בְּעָרֵי הַשְּׁפֵלָה וְהַנֶּגֶב לִיהוּדָה, וַיִּלְכְּדוּ אֶת בֵּית-שֶׁמֶשׁ וְאֶת אַיָּלוֹן וְאֶת-הַגְּדֵרוֹת וְאֶת שׂוֹכוֹ וּבְנוֹתֶיהָ וְאֶת תִּמְנָה וּבְנוֹתֶיהָ, וְאֶת גִּמְזוֹ וְאֶת בְּנֹתֶיהָ; וַיֵּשְׁבוּ שָׁם"  ולפי שמות הערים הנוספות המוזכרות ליד המקום אנו מבינים שמדובר במקום יישוב באיזור השפלה.

בהמשך היה במקום ישוב ערבי ששימר את השם – ג'ימזו – שחלק משרידי מבניו ובית הקברות שלו נמצאים בשטח