פעילותו בהסתדרות הכללית ומועצת פועלי יפו
לאחר עלייתו לארץ בשנת 1920 פעל צבי לבון, כהמשך טבעי לפעילותו בחו"ל, לאגד את הפועלים השכירים מאנשי העלייה השלישית. באותה עת היו רבים מהם כמעט חסרי כל ושכרם הדל היה על בסיס עבודות יומיות מזדמנות. בשנת 1920 הוא נמנה על מייסדי ההסתדרות הכללית ולאחר מכן הקים והנהיג את "מועצת פועלי יפו" (תל אביב נחשבה אז לפרבר של יפו). בין השאר יזם את הקמת מטבחי הפועלים שסיפקו ארוחה חמה במחיר סמלי, והקמת מאהלים וצריפים שהעניקו קורת גג ראשונית לחסרי בית.
בימי מאורעות הדמים של 1921 שימשו מטבחי הפועלים מקום מחסה לפליטים יהודים רבים שנמלטו מיפו.

לאחר מאורעות 1921 הורחבה תל אביב כך שנכללו בה שכונות הספר היהודיות של יפו ורבים מפליטי הפרעות עברו להשתכן בה. מועצת פועלי יפו הפכה להיות מועצת פועלי תל אביב וצבי לבון המשיך לעמוד בראשה. אחד ממפעליה הבולטים של מועצת הפועלים היה הקמת רשת הצרכניות השיתופית קו-אופ.

פעילותו במועצת עיריית תל אביב
תל אביב של ראשית שנות העשרים הייתה קהילה סגורה של בעלי בתים: רק חברי האגודה, כמה מאות במספר, יכלו להשתתף בבחירות. לצידם התיישבו פועלים רבים בצריפים ובאוהלים. לפועלים אלו לא הייתה זכות בחירה, והם לא נהנו משירותים מינימליים. צבי לבון נבחר לייצג את דיירי הצריפים, והוביל את המאבק לשינוי דמותה של תל אביב משכונת גנים לאמידים בלבד לעיר של כלל תושביה. בעקבות מאבקו נערכו בשנת 1923 הבחירות הראשונות למועצת עירית תל אביב, וצבי לבון נבחר אליה כראש סיעת הפועלים. הוא התמיד בשירותו במועצה עד לשנת 1955.

כחבר מועצת עיריית תל אביב התפרסם במדיניות "הדלת הפתוחה" שלו, באפשרו קבלת קהל בביתו הפרטי מחוץ לשעות העבודה המקובלות: תושבים מכל שכבות הציבור היו צובאים על פתחו עד שעות הלילה כדי שיסייע להם בנושאי פרנסה, דיור וחינוך. בניגוד למקובל אז, הוא לא היפלה על רקע שיוך מפלגתי, וסיפק לאנשים קשי יום ועולים חדשים כתובת עוקפת בירוקרטיה. בפרט היה קשוב לתושבי שכונות המצוקה בדרום תל אביב. פינה חמה היתה שמורה בליבו לבני העדה התימנית, למודת העוני והמחסור אשר סבלה מקיפוח קשה, והוא פעל לבניית שיכונים ולהשגת תמיכות כספיות עבור בני העדה.