חלוקת בקשות למאזני עומסים חיצוניים של אפליקציות

במסמך הזה נסביר איך מאזני עומסים חיצוניים של אפליקציות (ALB) מטפלים בחיבורים, מנתבים תנועה ושומרים על זיקה לסשן (session affinity).

איך פועלים החיבורים

מאזני עומסים חיצוניים של אפליקציות (ALB) ב-Google Cloud– גלובליים ואזוריים – מייעלים את הניתוב באמצעות שרתי proxy מבוזרים (GFE) או רשתות משנה שמנוהלות על ידי Envoy. הם כוללים הגדרות זמן קצוב לתפוגה, סיום TLS ואבטחה מובנית, ומאפשרים להעביר אפליקציות באופן תואם וניתן להרחבה ברחבי העולם או באזורים ספציפיים.

חיבורים של מאזן עומסים גלובלי חיצוני של אפליקציות (ALB)

מאזני העומסים הגלובליים החיצוניים של אפליקציות (ALB) מוטמעים על ידי שרתי proxy רבים שנקראים Google Front Ends‏ (GFE). אין רק שרת proxy אחד. במסלול הפרימיום, אותה כתובת IP חיצונית גלובלית מפורסמת מנקודות נוכחות (PoP) שונות, ובקשות הלקוח מופנות ל-GFE הקרוב ביותר ללקוח.

בהתאם למיקום של הלקוחות, כמה שרתי GFE יכולים ליזום חיבורי HTTP(S) לקצוות העורפיים. למידע נוסף על טווחי ה-proxy של GFE, קראו את המאמר כללים של חומת אש.

בהתאם להגדרות של שירות הקצה העורפי, הפרוטוקול שבו כל GFE משתמש כדי להתחבר לקצוות העורפיים יכול להיות HTTP,‏ HTTPS או HTTP/2. בחיבורי HTTP או HTTPS, גרסת ה-HTTP שבה נעשה שימוש היא HTTP 1.1.

התכונה HTTP keepalive מופעלת כברירת מחדל, כפי שמצוין במפרט של HTTP 1.1. הודעות Keepalive של HTTP מנסות להשתמש באותו סשן TCP ביעילות, אבל אין הבטחה שזה יקרה. ב-GFE, זמן הקצוב לתפוגה של keepalive ב-HTTP של הלקוח הוא 610 שניות, וערך ברירת המחדל של הזמן הקצוב לתפוגה של keepalive בקצה העורפי הוא 600 שניות. אפשר לעדכן את זמן הקצוב לתפוגה של keepalive ב-HTTP של הלקוח, אבל הערך של הזמן הקצוב לתפוגה של keepalive ב-backend קבוע. אפשר להגדיר את זמן הקצוב לתפוגה של הבקשה והתגובה על ידי הגדרת הזמן הקצוב לתפוגה של שירות לקצה העורפי. למרות הקשר ההדוק, HTTP keepalive וזמן קצוב לתפוגה של חוסר פעילות ב-TCP הם לא אותו דבר. מידע נוסף זמין במאמר זמנים קצובים לתפוגה וניסיונות חוזרים.

כדי לוודא שהתנועה מאוזנת באופן שווה, מאזן העומסים סוגר מדי פעם חיבורים ארוכי טווח של לקוחות. לדוגמה, חיבור נסגר כשחיבור פעיל של לקוח מגיע לגיל מקסימלי של 60 דקות. במצב כזה, ה-GFE סוגר את החיבור של הלקוח בין הבקשות, על ידי שליחת כותרת תגובה Connection: close ואחריה חבילת FIN ACK (ב-HTTP/1.1), או על ידי הנפקת מסגרת GOAWAY של HTTP/2 או HTTP/3 אחרי השלמת התגובה. ההתנהגות הזו לא מפריעה לבקשות או לתגובות פעילות, כולל חיבורי WebSocket משודרגים. שינוי ההגדרות של שירות לקצה העורפי, כמו עדכון מגדיל הקיבולת (backendService.backends[].capacityScaler), משפיע על האופן שבו שרתי GFE מנתבים בקשות חדשות, אבל לא גורם לשרתי GFE לסגור חיבורים קיימים של לקוחות.

מספר חיבורי ה-HTTP וסשני ה-TCP משתנה בהתאם למספר ה-GFE שמחוברים, למספר הלקוחות שמחוברים ל-GFE, לפרוטוקול של הקצוות העורפיים ולמיקום שבו הקצוות העורפיים פרוסים.

למידע נוסף, קראו את המאמר איך פועלים מאזני עומסים חיצוניים של אפליקציות במדריך הפתרונות: אופטימיזציה של קיבולת באפליקציות באמצעות איזון עומסים גלובלי.

חיבורים של מאזן עומסים אזורי חיצוני של אפליקציות (ALB)

מאזן העומסים החיצוני האזורי של אפליקציות (ALB) הוא שירות מנוהל שמוטמע בשרת ה-Proxy של Envoy. מאזן העומסים האזורי החיצוני של אפליקציות (ALB) משתמש בתת-רשת משותפת שנקראת "תת-רשת לשרת proxy בלבד", כדי להקצות קבוצה של כתובות IP שבהן Google משתמשת כדי להריץ שרתי proxy של Envoy בשבילכם. הדגל --purpose של רשת המשנה הזו לשרתי proxy בלבד מוגדר לערך REGIONAL_MANAGED_PROXY. כל מאזני העומסים האזוריים מבוססי-Envoy ברשת ובאזור מסוימים משתפים את תת-הרשת הזו.

הלקוחות משתמשים בכתובת ה-IP וביציאה של מאזן העומסים כדי להתחבר אליו. בקשות הלקוח מופנות לרשת המשנה proxy-only באותו אזור של הלקוח. מאזן העומסים מסיים את בקשות הלקוחות ואז פותח חיבורים חדשים מרשת המשנה של שרתי ה-proxy בלבד לקצוות העורפיים. לכן, חבילות שנשלחות ממאזן העומסים מכילות כתובות IP של מקור מתת-הרשת של שרתי ה-proxy בלבד.

בהתאם להגדרת השירות לקצה העורפי, הפרוטוקול שבו משתמשים שרתי ה-Proxy של Envoy כדי להתחבר לקצוות העורפיים יכול להיות HTTP,‏ HTTPS או HTTP/2. אם הפרוטוקול הוא HTTP או HTTPS, גרסת ה-HTTP היא HTTP 1.1. התכונה HTTP keepalive מופעלת כברירת מחדל, כפי שמצוין במפרט של HTTP 1.1. שרת ה-Proxy של Envoy מגדיר את זמן הקצוב לתפוגה של keepalive ב-HTTP של הלקוח ושל הקצה העורפי לערך ברירת מחדל של 600 שניות לכל אחד. אפשר לעדכן את זמן הקצוב לתפוגה של keepalive ב-HTTP של הלקוח, אבל הערך של הזמן הקצוב לתפוגה של keepalive בקצה העורפי הוא קבוע. אפשר להגדיר את זמן הקצוב לתפוגה של הבקשה/התגובה על ידי הגדרת הזמן הקצוב לתפוגה של שירות הקצה העורפי. למידע נוסף, ראו זמנים קצובים לתפוגה וניסיונות חוזרים.

תקשורת בין הלקוח למאזן העומסים

  • הלקוחות יכולים לתקשר עם מאזן העומסים באמצעות הפרוטוקולים HTTP/1.0,‏ HTTP/1.1,‏ HTTP/2 או HTTP/3.
  • כשמשתמשים ב-HTTPS, לקוחות מודרניים משתמשים ב-HTTP/2 כברירת מחדל. ההגדרה הזו נקבעת בצד הלקוח, ולא במאזן העומסים מסוג HTTPS.
  • אי אפשר להשבית את HTTP/2 על ידי שינוי ההגדרות במאזן העומסים. עם זאת, אתם יכולים להגדיר לקוחות מסוימים כך שישתמשו ב-HTTP 1.1 במקום ב-HTTP/2. לדוגמה, ב-curl, משתמשים בפרמטר --http1.1.
  • מאזני עומסים חיצוניים של אפליקציות תומכים בתגובה HTTP/1.1 100 Continue.

הרשימה המלאה של הפרוטוקולים שנתמכים על ידי כללי העברה של מאזן עומסים חיצוני של אפליקציות בכל מצב, מופיעה במאמר תכונות של מאזן עומסים.

כתובות ה-IP של המקור לחבילות נתונים של לקוחות

כתובת ה-IP של המקור של החבילות, כפי שהיא נראית על ידי הקצוות העורפיים, היא לא כתובת ה-IP החיצונית של מאזן העומסים שלGoogle Cloud . במילים אחרות, יש שני חיבורי TCP.

במאזני עומסים גלובליים חיצוניים של אפליקציות (ALB):
  • חיבור 1, מהלקוח המקורי למאזן העומסים (GFE):

    • כתובת ה-IP של המקור: הלקוח המקורי (או כתובת ה-IP החיצונית אם הלקוח נמצא מאחורי שער NAT או שרת proxy להעברה).
    • כתובת ה-IP של היעד: כתובת ה-IP של מאזן העומסים.
  • חיבור 2, ממאזן העומסים (GFE) ל-VM או לנקודת הקצה בקצה העורפי:

    • ‫Source IP address: כתובת IP באחד מהטווחים שצוינו בכללי חומת האש.

    • כתובת ה-IP של היעד: כתובת ה-IP הפנימית של ה-VM או הקונטיינר לקצה העורפי ברשת ה-VPC.

במאזני עומסים חיצוניים אזוריים של אפליקציות (ALB):
  • חיבור 1, מהלקוח המקורי למאזן העומסים (רשת משנה של שרתי proxy בלבד):

    • כתובת ה-IP של המקור: הלקוח המקורי (או כתובת ה-IP החיצונית אם הלקוח נמצא מאחורי שער NAT או שרת proxy להעברה).
    • כתובת ה-IP של היעד: כתובת ה-IP של מאזן העומסים.
  • חיבור 2, ממאזן העומסים (רשת משנה של שרתי proxy בלבד) ל-VM או לנקודת הקצה לקצה העורפי:

    • כתובת ה-IP של המקור: כתובת IP בתת-רשת לשרתי proxy בלבד שמשותפת לכל מאזני העומסים מבוססי-Envoy שנפרסו באותו אזור ורשת כמו מאזן העומסים.

    • כתובת ה-IP של היעד: כתובת ה-IP הפנימית של ה-VM או הקונטיינר לקצה העורפי ברשת ה-VPC.

נתיבי ניתוב מיוחדים

‫Google Cloud משתמש בנתיבים מיוחדים שלא מוגדרים ברשת ה-VPC כדי לנתב חבילות לסוגי התנועה הבאים:

Google Cloud משתמש בנתיבי תת-רשת לתת-רשתות של שרתי proxy בלבד כדי לנתב מנות לסוגי תעבורת הנתונים הבאים:

  • כשמשתמשים בבדיקות תקינות מבוזרות של Envoy.

במאזני עומסים חיצוניים אזוריים של אפליקציות (ALB), ‏ Google Cloud משתמש בשרתי proxy של Envoy בקוד פתוח כדי לסיים את בקשות הלקוח למאזן העומסים. מאזן העומסים סוגר את סשן ה-TCP ופותח סשן TCP חדש מרשת המשנה של שרתי ה-Proxy בלבד של האזור אל ה-backend. הנתיבים שמוגדרים ברשת ה-VPC מאפשרים תקשורת בין שרתי ה-proxy של Envoy לבין הקצוות העורפיים.

יציאות פתוחות

ל-GFE יש כמה יציאות פתוחות כדי לתמוך בשירותים אחרים של Google שפועלים באותה ארכיטקטורה. כשמריצים סריקת יציאות, יכול להיות שיופיעו יציאות פתוחות אחרות של שירותי Google אחרים שפועלים ב-GFE.

שני מאזני העומסים שמבוססים על GFE – מאזני עומסים גלובליים חיצוניים של אפליקציות ומאזני עומסים קלאסיים של אפליקציות – תמיד מציגים את היציאות 80 ו-443 כפתוחות (יחד עם כל יציאה אחרת שהגדרתם בכללי ההעברה של מאזן העומסים). עם זאת, אם לא הגדרתם כלל העברה ליציאה 80 או ליציאה 443, כל החיבורים שנשלחים ליציאות האלה יידחו. לעומת זאת, מאזני עומסים חיצוניים אזוריים של אפליקציות (ALB) מיושמים באמצעות שרתי proxy של Envoy, ולא מציגים יציאות פתוחות נוספות במהלך סריקה.

מבחינת ביקורת, אין טעם להריץ סריקת יציאות בכתובת ה-IP של מאזן עומסים שמבוסס על GFE, מהסיבות הבאות:

  • בסריקת יציאות (לדוגמה, באמצעות nmap), בדרך כלל לא מצפים לחבילת תגובה או לחבילת TCP RST כשמבצעים בדיקת TCP SYN. שרתי GFE שולחים חבילות SYN-ACK בתגובה לבדיקות SYN רק ליציאות שבהן הגדרתם כלל העברה. שרתי GFE שולחים חבילות לשרתי הקצה העורפי רק בתגובה לחבילות שנשלחות לכתובת ה-IP של מאזן העומסים וגם ליציאת היעד שהוגדרה בכלל ההעברה שלו. חבילות שנשלחות לכתובת IP או ליציאה אחרת לא נשלחות לקצוות העורפיים שלכם.

  • כל GFE בצי של Google יכול לענות על חבילות שנשלחות לכתובת ה-IP של מאזן העומסים. עם זאת, סריקה של שילוב בין כתובת IP של מאזן עומסים לבין יציאת יעד, חוקרת רק GFE אחד לכל חיבור TCP. כתובת ה-IP של מאזן העומסים לא מוקצית למכשיר או למערכת אחת. לכן, סריקה של כתובת ה-IP של מאזן עומסים שמבוסס על GFE לא סורקת את כל ה-GFE בצי של Google.

לכן, הנה כמה דרכים יעילות יותר לבדוק את האבטחה של המכונות העורפיות:

  • מבקר אבטחה צריך לבדוק את הגדרת כללי ההעברה של מאזן העומסים. כללי ההעברה מגדירים את יציאת היעד שבה מאזן העומסים מקבל חבילות ומעביר אותן לקצוות העורפיים. במאזני עומסים שמבוססים על GFE, כל כלל העברה חיצוני יכול להפנות רק ליציאת TCP אחת ביעד. במאזן עומסים שמשתמש ביציאת TCP‏ 443, נעשה שימוש ביציאת UDP‏ 443 כשהחיבור משודרג ל-QUIC‏ (HTTP/3).

  • מבקר אבטחה צריך לבדוק את הגדרת כלל חומת האש שרלוונטית למכונות הווירטואליות לקצה העורפי. כללי חומת האש שאתם מגדירים חוסמים את תעבורת הנתונים מה-GFE למכונות הווירטואליות של ה-backend, אבל לא חוסמים את תעבורת הנתונים הנכנסת ל-GFE. למידע נוסף על שיטות מומלצות, קראו את הקטע בנושא כללים של חומת האש.

סיום TLS

בטבלה הבאה מוסבר איך מאזני עומסים חיצוניים של אפליקציות (ALB) מטפלים בסיום TLS.

מצב מאזן עומסים סיום TLS
מאזן עומסים גלובלי חיצוני של אפליקציות (ALB) ה-TLS מסתיים ב-GFE, שיכול להיות בכל מקום בעולם.
מאזן עומסים קלאסי של אפליקציות (ALB) ה-TLS מסתיים ב-GFE, שיכול להיות בכל מקום בעולם.
מאזן עומסים חיצוני אזורי של אפליקציות (ALB) ה-TLS מסתיים בשרתי proxy של Envoy שנמצאים בתת-רשת לשרתי proxy בלבד באזור שהמשתמש בחר. כדאי להשתמש במצב הזה של מאזן העומסים אם אתם צריכים שליטה גיאוגרפית על האזור שבו מסתיים ה-TLS.

זמן קצוב לתפוגה וניסיונות חוזרים

מאזני עומסים חיצוניים של אפליקציות (ALB) תומכים בסוגים הבאים של זמנים קצובים לתפוגה של תנועה מסוג HTTP או HTTPS:

סוג פסק הזמן ותיאור שלו ערכי ברירת מחדל תמיכה בערכים מותאמים אישית של זמן קצוב לתפוגה
עולמי קלאסי אזורי
זמן קצוב לתפוגה של שירות לקצה העורפי1

הזמן הקצוב לתפוגה של בקשה ותגובה. מייצג את משך הזמן המקסימלי המותר בין שליחת הבייט האחרון של בקשה מה-load balancer לקצה העורפי, לבין החזרת הבייט האחרון של תגובת ה-HTTP מהקצה העורפי ל-load balancer. אם ה-backend לא החזיר את כל תגובת ה-HTTP למאזן העומסים במסגרת מגבלת הזמן הזו, שאר נתוני התגובה יימחקו.

  • לקבוצות NEG ללא שרת בשירות לקצה העורפי: 60 דקות
  • לכל שאר סוגי הקצה העורפי בשירות לקצה העורפי: 30 שניות
  • לקטגוריות קצה עורפי: 24 שעות (86,400 שניות)

הזמן הקצוב להגדרת החיבור פג


משך הזמן המקסימלי שבו שרת ה-proxy יכול ליצור חיבור לקצה העורפי. הגדרה מוצלחת כוללת השלמה של לחיצת היד המשולשת של TCP, ואם פרוטוקול הקצה העורפי הוא HTTPS, השלמה של לחיצת יד בפרוטוקול TLS.

  • במאזני עומסים גלובליים חיצוניים של אפליקציות ובמאזני עומסים קלאסיים של אפליקציות, שרת ה-proxy של מאזן העומסים הוא GFE בשכבה השנייה.
  • במאזני עומסים חיצוניים אזוריים של אפליקציות (ALB), שרת ה-proxy של מאזן העומסים הוא תוכנת Envoy.
‫4.5 שניות

תם הזמן הקצוב לתפוגה של TLS בצד הלקוח


משך הזמן המקסימלי שבו שרת ה-proxy של מאזן העומסים ממתין להשלמת לחיצת היד בפרוטוקול TLS.

  • במאזני עומסים גלובליים חיצוניים של אפליקציות ובמאזני עומסים קלאסיים של אפליקציות, שרת ה-proxy של מאזן העומסים הוא GFE בשכבה הראשונה.
  • במאזני עומסים חיצוניים אזוריים של אפליקציות (ALB), שרת ה-proxy של מאזן העומסים הוא תוכנת Envoy.
‫10 שניות
זמן קצוב לתפוגה של HTTP keepalive של הלקוח

משך הזמן המקסימלי שבו חיבור ה-TCP בין הלקוח לבין שרת ה-proxy של מאזן העומסים יכול להיות במצב של חוסר פעילות. (יכול להיות שחיבור ה-TCP ישמש לכמה בקשות HTTP).

  • במאזני עומסים גלובליים חיצוניים של אפליקציות (ALB) ובמאזני עומסים קלאסיים של אפליקציות, שרת ה-proxy של מאזן העומסים הוא GFE בשכבה הראשונה.
  • במאזני עומסים חיצוניים אזוריים של אפליקציות (ALB), שרת ה-proxy של מאזן העומסים הוא תוכנת Envoy.
‫610 שניות
זמן קצוב לתפוגה של HTTP keepalive לקצה העורפי

משך הזמן המקסימלי שבו חיבור ה-TCP בין שרת ה-proxy של מאזן העומסים לבין הקצה העורפי יכול להיות במצב של חוסר פעילות. (יכול להיות שאותו חיבור TCP ישמש לכמה בקשות HTTP).

  • במאזני עומסים גלובליים חיצוניים של אפליקציות ובמאזני עומסים קלאסיים של אפליקציות, שרת ה-proxy של מאזן העומסים הוא GFE בשכבה השנייה.
  • במאזני עומסים חיצוניים אזוריים של אפליקציות (ALB), שרת ה-proxy של מאזן העומסים הוא תוכנת Envoy.
  • לשירותים לקצה העורפי: 10 דקות (600 שניות)
  • לקטגוריות של קצה עורפי: 6 דקות (360 שניות)
זמן קצוב לתפוגה של סשן QUIC לא פעיל

משך הזמן המקסימלי שבו סשן QUIC יכול להיות במצב של חוסר פעילות בין הלקוח (במורד הזרם) לבין ה-GFE של מאזן עומסים גלובלי חיצוני של אפליקציות (ALB) או מאזן עומסים קלאסי של אפליקציות.

במאזני עומסים גלובליים חיצוניים של אפליקציות (ALB) ובמאזני עומסים קלאסיים של אפליקציות:

זמן הקצוב לתפוגה של סשן QUIC הוא הערך המינימלי של הזמן הקצוב לתפוגה של הלקוח או של GFE (240 שניות).

זמן הקצוב לתפוגה של GFE במצב חוסר פעילות קבוע ל-240 שניות. אפשר להגדיר את הזמן הקצוב לתפוגה של חוסר פעילות אצל הלקוח.

‫1 אי אפשר להגדיר לקצוות עורפיים של קבוצות נקודות קצה ברשת (NEG) ללא שרת (serverless). אי אפשר להגדיר בקטגוריות של קצה עורפי.

זמן קצוב לתפוגה של שירות לקצה העורפי

זמן הקצוב לתפוגה של שירות לקצה העורפי, שאפשר להגדיר, מייצג את משך הזמן המקסימלי שבו מאזן העומסים ממתין עד שהקצה העורפי יעבד בקשת HTTP ויחזיר את תגובת ה-HTTP המתאימה. למעט קבוצות NEG ללא שרת, ערך ברירת המחדל של הזמן הקצוב לתפוגה של שירות לקצה העורפי הוא 30 שניות.

לדוגמה, אם רוצים להוריד קובץ בגודל 500MB, וערך הזמן הקצוב לתפוגה של שירות הקצה העורפי הוא 90 שניות, מאזן העומסים מצפה ששירות הקצה העורפי יעביר את כל הקובץ בגודל 500MB תוך 90 שניות. יכול להיות שזמן הקצוב לתפוגה של שירות לקצה העורפי לא יספיק כדי שהקצה העורפי ישלח את תגובת ה-HTTP המלאה. במצב כזה, אם מאזן העומסים קיבל לפחות את כותרות תגובת ה-HTTP מה-backend, הוא מחזיר את כותרות התגובה המלאות ואת גוף התגובה ככל שניתן לקבל במסגרת הזמן הקצוב לתפוגה של שירות הקצה העורפי.

ברוב הבקשות, הזמן הקצוב לתפוגה של שירות לקצה העורפי מתחיל אחרי שמאזן העומסים מקבל את הבקשה המלאה מהלקוח. הזמן הקצוב לתפוגה פועל באופן שונה בכל סוג של תנועה:

  • ‫HTTP/1.1,‏ HTTP/2 ו-HTTP/3: הפרוטוקול שבו הלקוח משתמש כדי להתחבר למאזן העומסים לא משנה את אופן הפעולה של זמן הקצוב לתפוגה של שירות הקצה העורפי. לכל בקשת HTTP/1.1 ולכל סטרימינג של HTTP/2 או HTTP/3 יש זמן קצוב משלהם לתפוגה של שירות לקצה העורפי.

  • העלאות של בקשות, כמו בקשות POST גדולות וסטרימינג של לקוח gRPC: הזמן הקצוב לתפוגה של שירות לקצה העורפי לא מתחיל עד שהלקוח שולח את הבקשה המלאה, ולכן העלאה יכולה להימשך יותר מהזמן הקצוב לתפוגה של שירות לקצה העורפי. בזמן שהלקוח עדיין שולח את הבקשה, מאזן העומסים סוגר את הבקשה אם הוא לא מקבל נתונים במשך זמן ארוך יותר מזמן הקצוב לתפוגה של שירות הקצה העורפי.

  • תגובות בסטרימינג, כמו סטרימינג של שרת gRPC, אירועים שנשלחים מהשרת, דגימה ארוכה והורדות גדולות: הקצה העורפי חייב לסיים את שליחת התגובה כולה במסגרת הזמן הקצוב לתפוגה של שירות הקצה העורפי, גם אם הוא שולח נתונים באופן רציף.

  • סטרימינג דו-כיווני, כמו סטרימינג דו-כיווני של gRPC, שבו הקצה העורפי מתחיל להגיב בזמן שהלקוח עדיין שולח נתונים: במאזני עומסים חיצוניים גלובליים של אפליקציות (ALB)ובמאזני עומסים חיצוניים אזוריים של אפליקציות (ALB) , הסטרימינג נשאר פתוח כל עוד נשלחים או מתקבלים נתונים לפחות פעם אחת בכל זמן קצוב לתפוגה של שירות לקצה העורפי.במאזני עומסים קלאסיים של אפליקציות (ALB), הסטרימינג נסגר כשמגיעים לזמן הקצוב לתפוגה של שירות הקצה העורפי.

  • ‫Websockets: אחרי שמשדרגים את Websocket, זמן הקצוב לתפוגה של שירות לקצה העורפי חל באופן שונה בהתאם למאזן העומסים. פרטים נוספים מופיעים בטבלה של זמני הקצובות לתפוגה של WebSocket בהמשך הקטע הזה.

מומלץ להגדיר את זמן הקצוב לתפוגה של שירות לקצה העורפי לפרק הזמן הארוך ביותר שבו אתם מצפים שהקצה העורפי יצטרך כדי לעבד תגובת HTTP. אם התוכנה שפועלת בקצה העורפי צריכה יותר זמן כדי לעבד בקשת HTTP ולהחזיר את התגובה המלאה, מומלץ להגדיל את זמן הקצוב לתפוגה של השירות לקצה העורפי. לדוגמה, אם אתם מקבלים תגובות עם קוד סטטוס HTTP 408 ושגיאות jsonPayload.statusDetail client_timed_out, מומלץ להגדיל את זמן הקצוב לתפוגה.

אפשר להגדיר את זמן הקצוב לתפוגה של שירות לקצה העורפי לערכים שבין 1 ל-2,147,483,647 שניות, אבל ערכים גדולים יותר הם לא אפשרויות הגדרה מעשיות. בנוסף,Google Cloud לא מבטיח שחיבור TCP בסיסי יכול להישאר פתוח לכל משך הזמן הקצוב לתפוגה של שירות לקצה העורפי. במאזני עומסים קלאסיים וגלובליים של אפליקציות, שרתי GFE אוכפים זמן קצוב לתפוגה של שירות לקצה העורפי של 86,400 שניות (יום אחד). מערכות הלקוח צריכות להטמיע לוגיקה של ניסיון חוזר במקום להסתמך על חיבור TCP שפתוח לפרקי זמן ארוכים.

כדי להגדיר את זמן הקצוב לתפוגה של שירות לקצה העורפי, משתמשים באחת מהשיטות הבאות:

המסוף

משנים את השדה Timeout של השירות לקצה העורפי של מאזן העומסים.

gcloud

משתמשים בפקודה gcloud compute backend-services update כדי לשנות את הפרמטר --timeout של המשאב של שירות לקצה העורפי.

API

במאזן עומסים גלובלי חיצוני של אפליקציות או במאזן עומסים קלאסי של אפליקציות, משנים את הפרמטר timeoutSec של המשאב הגלובלי backendServices.

במאזן עומסים חיצוני אזורי של אפליקציות (ALB), משנים את הפרמטר timeoutSec של המשאב regionBackendServices.

זמני הקצובים לתפוגה של חיבורי WebSocket לא תמיד זהים לזמנים הקצובים לתפוגה של שירות לקצה העורפי. זמני הקצוב לתפוגה של חיבורי WebSocket תלויים בסוג של מאזן העומסים:

מצב מאזן עומסים ערכי ברירת מחדל תיאור של זמן קצוב לתפוגה של websockets
מאזן עומסים גלובלי חיצוני של אפליקציות (ALB) זמן קצוב לתפוגה של שירות לקצה העורפי: 30 שניות

חיבורי WebSocket פעילים לא משתמשים בזמן הקצוב לתפוגה שמוגדר לשירות לקצה העורפי של מאזן העומסים. החיבורים נסגרים אוטומטית אחרי 24 שעות (86,400 שניות). מגבלת הזמן של 24 שעות היא קבועה, והיא מבטלת את הזמן הקצוב לתפוגה של שירות לקצה העורפי אם הוא ארוך מ-24 שעות.

חיבורי WebSocket לא פעילים נסגרים אחרי שנגמר הזמן הקצוב לתפוגה של שירות הקצה העורפי.

לא מומלץ להגדיר ערכי זמן קצוב לתפוגה של שירות לקצה העורפי שגדולים מ-24 שעות (86,400 שניות), כי Google Cloud מפעילה מחדש את ה-GFE מדי פעם לצורך עדכוני תוכנה ותחזוקה שוטפת אחרת. ערך הזמן הקצוב לתפוגה של שירות הקצה העורפי לא מעכב את פעילויות התחזוקה. ככל שערך הזמן הקצוב לתפוגה של שירות לקצה העורפי ארוך יותר, כך גדל הסיכוי ש- Google Cloudיסיים את חיבורי ה-TCP לצורך תחזוקה.

מאזן עומסים קלאסי של אפליקציות (ALB) זמן קצוב לתפוגה של שירות לקצה העורפי: 30 שניות

חיבורי Websocket, בין אם הם פעילים או לא, נסגרים באופן אוטומטי אחרי שנגמר הזמן הקצוב לתפוגה של שירות הקצה העורפי.

לא מומלץ להגדיר ערכי זמן קצוב לתפוגה של שירות לקצה העורפי שגדולים מ-24 שעות (86,400 שניות), כי Google Cloud מפעילה מחדש את ה-GFE מדי פעם לצורך עדכוני תוכנה ותחזוקה שוטפת אחרת. ערך הזמן הקצוב לתפוגה של שירות הקצה העורפי לא מעכב את פעילויות התחזוקה. ככל שערך הזמן הקצוב לתפוגה של שירות לקצה העורפי ארוך יותר, כך גדל הסיכוי ש- Google Cloudיסיים את חיבורי ה-TCP לצורך תחזוקה.

מאזן עומסים חיצוני אזורי של אפליקציות (ALB) זמן קצוב לתפוגה של שירות לקצה העורפי: 30 שניות

חיבורי WebSocket פעילים לא משתמשים בזמן הקצוב לתפוגה של שירות לקצה העורפי של מאזן העומסים.

חיבורי WebSocket לא פעילים נסגרים אחרי שנגמר הזמן הקצוב לתפוגה של שירות הקצה העורפי.

Google Cloud מפעיל מחדש או משנה מדי פעם את מספר המשימות של תוכנת Envoy שמוצגות. ככל שערך הזמן הקצוב לתפוגה של שירות לקצה העורפי ארוך יותר, כך גדל הסיכוי שמשימות Envoy יפעילו מחדש או יסיימו את חיבורי ה-TCP.

מאזני עומסים חיצוניים של אפליקציות (ALB) ברמה הגלובלית וברמה האזוריתמשתמשים בפרמטר routeAction.timeout שהוגדר במפת URL ברמה הגלובלית או ברמה האזורית, ומתעלמים מזמן הקצוב לתפוגה של שירות הקצה העורפי. אם לא מגדירים את routeAction.timeout, המערכת משתמשת בערך של זמן הקצוב לתפוגה של שירות לקצה העורפי. כשמציינים את routeAction.timeout, המערכת מתעלמת מזמן הקצוב לתפוגה של שירות לקצה העורפי, ומשתמשת בערך של routeAction.timeout בתור הזמן הקצוב לתפוגה של הבקשה והתגובה. במאזני עומסים חיצוניים גלובליים של אפליקציות בלי מדיניות ניסיונות חוזרים בהתאמה אישית (routeAction.retryPolicy), כל ניסיון עדיין מוגבל על ידי הזמן הקצוב לתפוגה של שירות לקצה העורפי. מידע נוסף זמין במאמר ניסיונות חוזרים.

זמן קצוב לתפוגה של HTTP keepalive בצד הלקוח

זמן הקצוב לתפוגה של HTTP keepalive של הלקוח מייצג את משך הזמן המקסימלי שבו חיבור TCP יכול להיות במצב חוסר פעילות בין הלקוח (במורד הזרם) לבין אחד מסוגי שרתי ה-proxy הבאים:

  • במאזן עומסים גלובלי חיצוני של אפליקציות (ALB) או במאזן עומסים קלאסי של אפליקציות (ALB): שכבה ראשונה של Google Front End
  • במאזן עומסים חיצוני אזורי של אפליקציות (ALB): שרת proxy של Envoy

זמן הקצוב לתפוגה של keepalive ב-HTTP של הלקוח מייצג את הזמן הקצוב לתפוגה של מצב חוסר פעילות ב-TCP של חיבורי ה-TCP הבסיסיים. זמן הקצוב לתפוגה של HTTP keepalive של הלקוח לא חל על websockets.

ערך ברירת המחדל של הזמן הקצוב לתפוגה של HTTP keepalive בצד הלקוח הוא 610 שניות. במאזני עומסים חיצוניים של אפליקציות (ALB) ברמה הגלובלית והאזורית, אפשר להגדיר את זמן הקצוב לתפוגה של HTTP keepalive של הלקוח לערך שבין 5 ל-1,200 שניות.

כדי להגדיר את זמן הקצוב לתפוגה של keepalive ב-HTTP של הלקוח, משתמשים באחת מהשיטות הבאות:

המסוף

משנים את השדה HTTP keepalive timeout בהגדרות של ממשק המשתמש של מאזן העומסים.

gcloud

במאזני עומסים גלובליים חיצוניים של אפליקציות (ALB), משתמשים בפקודה gcloud compute target-http-proxies update או בפקודה gcloud compute target-https-proxies update כדי לשנות את הפרמטר --http-keep-alive-timeout-sec של משאב ה-proxy ל-HTTP או של משאב ה-proxy ל-HTTPS.

במאזן עומסים חיצוני אזורי של אפליקציות (ALB), אי אפשר לעדכן ישירות את הפרמטר של זמן הקצוב לתפוגה של keepalive בשרת proxy אזורי לטירגוט של HTTP(S). כדי לעדכן את הפרמטר של זמן הקצוב לתפוגה של keepalive בשרת proxy אזורי לחלוקת העומס, צריך לבצע את הפעולות הבאות:

  1. יוצרים שרת proxy חדש לחלוקת העומס עם הגדרות הזמן הקצוב לתפוגה הרצויות.
  2. משכפלים את כל ההגדרות האחרות משרת proxy לחלוקת העומס הנוכחי לשרת proxy לחלוקת העומס החדש. בשרתי proxy של HTTPS ביעד, צריך לקשר את כל אישורי ה-SSL או מפות האישורים לשרת ה-proxy החדש ביעד.
  3. מעדכנים את כללי ההעברה כך שיפנו לשרת proxy לחלוקת העומס החדש.
  4. מוחקים את שרת ה-proxy הקודם לחלוקת העומס.

API

במאזני עומסים גלובליים חיצוניים של אפליקציות, משנים את הפרמטר httpKeepAliveTimeoutSec של המשאב targetHttpProxies או של המשאב targetHttpsProxies.

במאזן עומסים חיצוני אזורי של אפליקציות (ALB), אי אפשר לעדכן ישירות את הפרמטר של זמן הקצוב לתפוגה של keepalive בשרת proxy אזורי לטירגוט של HTTP(S). כדי לעדכן את הפרמטר של זמן הקצוב לתפוגה של keepalive בשרת proxy אזורי לחלוקת העומס, צריך לבצע את הפעולות הבאות:

  1. יוצרים שרת proxy חדש לחלוקת העומס עם הגדרות הזמן הקצוב לתפוגה הרצויות.
  2. משכפלים את כל ההגדרות האחרות משרת proxy לחלוקת העומס הנוכחי לשרת proxy לחלוקת העומס החדש. בשרתי proxy של HTTPS ביעד, צריך לקשר את כל אישורי ה-SSL או מפות האישורים לשרת ה-proxy החדש ביעד.
  3. מעדכנים את כללי ההעברה כך שיפנו לשרת proxy לחלוקת העומס החדש.
  4. מוחקים את שרת ה-proxy הקודם לחלוקת העומס.

זמן הקצוב לתפוגה של keepalive ב-HTTP של הלקוח במאזן העומסים צריך להיות גדול מהזמן הקצוב לתפוגה של keepalive ב-HTTP (זמן חוסר פעילות ב-TCP) שבו משתמשים לקוחות או שרתי proxy ב-downstream. אם ללקוח במורד הזרם יש זמן קצוב לתפוגה של HTTP keepalive (זמן לא פעיל של TCP) ארוך יותר מהזמן הקצוב לתפוגה של HTTP keepalive של הלקוח של מאזן העומסים, יכול להתרחש מרוץ תהליכים. מנקודת המבט של לקוח במורד הזרם, חיבור TCP שנוצר יכול להיות במצב של חוסר פעילות למשך זמן ארוך יותר ממה שמאפשר מאזן העומסים. המשמעות היא שהלקוח במורד הזרם יכול לשלוח חבילות אחרי שהמערכת לאיזון עומסים מחשיבה את חיבור ה-TCP כסגור. במקרים כאלה, מאזן העומסים מגיב באמצעות חבילת איפוס (RST) של TCP.

כשהזמן הקצוב לתפוגה של keepalive ב-HTTP של הלקוח מסתיים, ה-GFE או שרת ה-proxy של Envoy שולחים TCP FIN ללקוח כדי לסגור את החיבור בצורה חלקה.

זמן קצוב לתפוגה של HTTP keepalive בקצה העורפי

מאזני עומסים חיצוניים של אפליקציות (ALB) הם שרתי proxy שמשתמשים בשני חיבורי TCP לפחות:

  • במאזן עומסים גלובלי חיצוני של אפליקציות או במאזן עומסים קלאסי של אפליקציות, חיבור ה-TCP הראשון קיים בין הלקוח (במורד הזרם) לבין GFE בשכבה הראשונה. שרתי GFE בשכבה הראשונה מתחברים לשרתי GFE בשכבה השנייה, ואז שרתי GFE בשכבה השנייה פותחים חיבור TCP שני לשרתי הקצה העורפי שלכם.
  • במאזן עומסים חיצוני אזורי של אפליקציות (ALB), חיבור ה-TCP הראשון הוא בין הלקוח (במורד הזרם) לבין שרת proxy של Envoy. לאחר מכן, שרת ה-proxy של Envoy פותח חיבור TCP שני לשרתי הקצה העורפי.

יכול להיות שחיבורי ה-TCP המשניים של מאזן העומסים לא ייסגרו אחרי כל בקשה, אלא יישארו פתוחים כדי לטפל בכמה בקשות ותגובות HTTP. זמן הקצוב לתפוגה של HTTP keepalive לקצה העורפי מגדיר את הזמן הקצוב לתפוגה של חוסר פעילות ב-TCP בין מאזן העומסים לבין הקצוות העורפיים. זמן הקצוב לתפוגה של HTTP keepalive בקצה העורפי לא חל על websockets.

זמן הקצוב לתפוגה של keepalive לקצה העורפי קבוע ל-10 דקות (600 שניות) ואי אפשר לשנות אותו. כך אפשר לוודא שהחיבורים הלא פעילים יישמרו במאזן העומסים למשך 10 דקות לפחות. אחרי פרק הזמן הזה, מאזן העומסים יכול לשלוח חבילות סיום לקצה העורפי בכל שלב.

זמן הקצוב לתפוגה של keepalive בקצה העורפי של מאזן העומסים חייב להיות קצר יותר מהזמן הקצוב לתפוגה של keepalive שמוגדר בתוכנה שפועלת בקצוות העורפיים. כך נמנע מצב של מרוץ תהליכים שבו מערכת ההפעלה של ה-backend עלולה לסגור חיבורי TCP באמצעות איפוס TCP‏ (RST). אי אפשר להגדיר את זמן הקצוב לתפוגה של keepalive בקצה העורפי של מאזן העומסים, לכן צריך להגדיר את תוכנת הקצה העורפי כך שערך הזמן הקצוב לתפוגה של HTTP keepalive (זמן המתנה של TCP) יהיה גדול מ-600 שניות.

כשהזמן הקצוב לתפוגה של HTTP keepalive ב-backend מסתיים, ה-GFE או שרת ה-proxy של Envoy שולחים TCP FIN למכונה הווירטואלית ב-backend כדי לסגור את החיבור בצורה תקינה.

בטבלה הבאה מפורטים השינויים שצריך לבצע כדי לשנות את ערכי הזמן הקצוב לתפוגה של keepalive בתוכנות שרת אינטרנט נפוצות.

תוכנת שרת אינטרנט פרמטר הגדרת ברירת המחדל ההגדרה המומלצת
Apache KeepAliveTimeout KeepAliveTimeout 5 KeepAliveTimeout 620
nginx keepalive_timeout keepalive_timeout 75s; keepalive_timeout 620s;

זמן קצוב לתפוגה של סשן QUIC לא פעיל

זמן קצוב לתפוגה של סשן QUIC במצב חוסר פעילות מייצג את משך הזמן המקסימלי שבו סשן QUIC יכול להיות במצב חוסר פעילות בין הלקוח לבין ה-GFE של מאזן עומסים גלובלי חיצוני של אפליקציות או מאזן עומסים קלאסי של אפליקציות.

ערך הזמן הקצוב לתפוגה של סשן QUIC מוגדר כערך המינימלי של הזמן הקצוב לתפוגה של הלקוח או של ה-GFE (‏240 שניות). זמן הקצוב לתפוגה של GFE במצב חוסר פעילות קבוע ל-240 שניות. אפשר להגדיר את הזמן הקצוב לתפוגה של חוסר פעילות אצל הלקוח.

ניסיונות חוזרים

התמיכה בלוגיקה של ניסיון חוזר תלויה במצב של מאזן העומסים החיצוני של האפליקציות (ALB).

מצב מאזן עומסים לוגיקה לניסיון נוסף
מאזן עומסים גלובלי חיצוני של אפליקציות (ALB)

אפשר להגדיר באמצעות מדיניות ניסיון חוזר במפת URL. המספר המקסימלי של ניסיונות חוזרים (numRetries) שאפשר להגדיר באמצעות מדיניות הניסיונות החוזרים הוא 25. הערך המקסימלי שאפשר להגדיר ל-perTryTimeout הוא 24 שעות.

כדי להשבית את הניסיונות החוזרים, צריך להגדיר את numRetries באופן מפורש ל-1. הסיבה לכך היא שהפרמטר numRetries מציין את המספר הכולל המקסימלי של ניסיונות שמאזן העומסים מבצע כדי לשלוח את הבקשה לקצה העורפי. המספר הכולל הזה כולל את הבקשה הראשונית וכל ניסיונות השליחה החוזרים. כשמגדירים את numRetries לערך 1 כדי להשבית את הניסיונות החוזרים, רק הבקשה הראשונית נשלחת ולא מתבצעים ניסיונות חוזרים נוספים.

בלי מדיניות ניסיונות חוזרים, בקשות שנכשלו ואין להן גוף HTTP (לדוגמה, בקשות GET) שמובילות לתגובות HTTP מסוג 502,‏ 503 או 504 (retryConditions=["gateway-error"]) נשלחות שוב פעם אחת.

לא מתבצע ניסיון חוזר לשלוח בקשות HTTP POST.

בקשות שנשלחות שוב יוצרות רק רשומת יומן אחת לתגובה הסופית.

בטבלה הבאה מפורט באילו מערכות בק-אנד יש תמיכה במדיניות ברירת המחדל ובמדיניות בהתאמה אישית של ניסיונות חוזרים, במאזן עומסים גלובלי חיצוני של אפליקציות (ALB).

סוג הקצה העורפי מדיניות ברירת המחדל לניסיונות חוזרים מדיניות ניסיונות חוזרים בהתאמה אישית
קבוצות של מכונות
קבוצות NEG אזוריות
קבוצות NEG היברידיות
קבוצות של נקודות קצה (NEG) ב-Private Service Connect
קבוצות של נקודות קצה באינטרנט
קבוצות NEG ללא שרת (serverless)
מאזן עומסים קלאסי של אפליקציות (ALB)

אי אפשר לשנות את מדיניות הניסיונות החוזרים של החיבור.

לא מתבצע ניסיון חוזר לשלוח בקשות HTTP POST.

בקשות HTTP GET תמיד נשלחות שוב פעם אחת, כל עוד 80% או יותר מה-backend תקינים. אם יש שרת עורפי אחד בקבוצה והחיבור אליו נכשל, אחוז השרתים העורפיים הלא תקינים הוא 100%, ולכן ה-GFE לא מנסה שוב לשלוח את הבקשה.

מאזן העומסים מנסה שוב לשלוח בקשת GET שנכשלה, אם הבקשה הראשונה נכשלה לפני שהתקבלו כותרות תגובה מהשרת העורפי.

בקשות שנשלחות שוב יוצרות רק רשומת יומן אחת לתגובה הסופית. מידע נוסף זמין במאמר רישום ביומן ומעקב אחרי מאזן עומסים של אפליקציות (ALB) חיצוני.

אם הבקשות נכשלות, מאזן העומסים יוצר תגובת HTTP 502.

בטבלה הבאה מפורט אילו קצוות עורפיים תומכים במדיניות ניסיונות חוזרים של מאזן עומסים של אפליקציות (ALB) קלאסי.

סוג הקצה העורפי מדיניות ברירת המחדל לניסיונות חוזרים מדיניות ניסיונות חוזרים בהתאמה אישית
קבוצות של מכונות
קבוצות NEG אזוריות
קבוצות NEG היברידיות
קבוצות של נקודות קצה באינטרנט
קבוצות NEG ללא שרת (serverless)
מאזן עומסים חיצוני אזורי של אפליקציות (ALB)

אפשר להגדיר את זה באמצעות מדיניות ניסיונות חוזרים במפת URL. מספר ברירת המחדל של ניסיונות חוזרים (numRetries) הוא 1. מספר הניסיונות החוזרים המקסימלי שאפשר להגדיר באמצעות מדיניות הניסיונות החוזרים הוא 25. הערך המקסימלי שאפשר להגדיר ל-perTryTimeout הוא 24 שעות.

בלי מדיניות ניסיונות חוזרים, בקשות שנכשלו ואין להן גוף HTTP (לדוגמה, בקשות GET) שמובילות לתגובות HTTP מסוג 502,‏ 503 או 504, נשלחות שוב פעם אחת.

לא מתבצע ניסיון חוזר לשלוח בקשות HTTP POST.

בקשות שנשלחות שוב יוצרות רק רשומת יומן אחת לתגובה הסופית.

פרוטוקול WebSocket נתמך ב-GKE Ingress.

טיפול בבקשות ובתגובות לא חוקיות

מאזן העומסים חוסם את בקשות הלקוח ואת התגובות של הקצה העורפי, כך שהן לא מגיעות לקצה העורפי או ללקוח, בהתאמה, מכמה סיבות. חלק מהסיבות הן אך ורק לצורך תאימות ל-HTTP/1.1, ואחרות הן כדי למנוע העברת נתונים לא צפויים אל הקצה העורפי או ממנו. אי אפשר להשבית אף אחת מהבדיקות.

בטבלה הבאה מפורטים סוגי הבקשות השונים שנחסמים על ידי מאזני עומסים חיצוניים של אפליקציות (ALB) לצורך תאימות ל-HTTP/1.1.

בטבלה הזו, הסימן מציין בקשה שנחסמה על ידי מאזן העומסים, והסימן מציין בקשה שאושרה על ידי מאזן העומסים.

סוג הבקשה מאזן עומסים גלובלי חיצוני של אפליקציות (ALB) מאזן עומסים קלאסי של אפליקציות (ALB) מאזן עומסים חיצוני אזורי של אפליקציות (ALB)
לא ניתן לנתח את השורה הראשונה של הבקשה.
בכותרת חסר התו המפריד נקודתיים (:).
הכותרות או השורה הראשונה מכילות תווים לא חוקיים.
אורך התוכן הוא לא מספר תקין, או שיש כמה כותרות של אורך תוכן.
יש כמה מפתחות של קידוד העברה, או שיש ערכים לא מזוהים של קידוד העברה.
יש גוף לא מקוטע ולא צוין אורך תוכן. 1
לא ניתן לנתח את חלקי גוף ההודעה. זה המקרה היחיד שבו חלק מהנתונים מגיעים לקצה העורפי. מאזן העומסים סוגר את החיבורים ללקוח ול-backend כשהוא מקבל מקטע שלא ניתן לנתח.

‫1 שרת ה-proxy מחזיר תגובת HTTP 411 לבקשה, אבל אז מנסה לנתח את גוף הבקשה שלא חולק לחלקים כבקשה נוספת. אם גוף הבקשה שלא חולק לחלקים הוא בעצמו בקשת HTTP תקינה, הוא מנותח ונשלח לקצה העורפי.

טיפול בבקשות

בטבלה הבאה מפורט אילו מאזני עומסים של אפליקציות (ALB) חיצוניים חוסמים בקשה אם היא עומדת באחד מהתנאים שמפורטים בעמודה הראשונה בטבלה.

בטבלה הזו, הסימן מציין בקשה שנחסמה על ידי מאזן העומסים, והסימן מציין בקשה שאושרה על ידי מאזן העומסים.

תנאי מאזן עומסים גלובלי חיצוני של אפליקציות (ALB) מאזן עומסים קלאסי של אפליקציות (ALB) מאזן עומסים חיצוני אזורי של אפליקציות (ALB)
הגודל הכולל של כותרות ה-request header וכתובת ה-URL של הבקשה חורג מהמגבלה של הגודל המקסימלי של כותרת ה-request header במאזני עומסים של אפליקציות (ALB) חיצוניים.
שיטת הבקשה לא מאפשרת גוף, אבל לבקשה יש גוף.
הבקשה מכילה כותרת Upgrade, והכותרת Upgrade לא משמשת להפעלת חיבורי WebSocket.
גרסת ה-HTTP לא ידועה.

טיפול בתגובות

בטבלה הבאה מפורט אילו מאזני עומסים של אפליקציות (ALB) חיצוניים חוסמים בקשה אם היא עומדת באחד מהתנאים שמפורטים בעמודה הראשונה בטבלה.

בטבלה הזו, הסימן מציין בקשה שנחסמה על ידי מאזן העומסים, והסימן מציין בקשה שאושרה על ידי מאזן העומסים.

תנאי מאזן עומסים גלובלי חיצוני של אפליקציות (ALB) מאזן עומסים קלאסי של אפליקציות (ALB) מאזן עומסים חיצוני אזורי של אפליקציות (ALB)
הגודל הכולל של כותרות התגובה חורג מהגודל המקסימלי של כותרת תגובה למאזן העומסים.
גרסת ה-HTTP לא ידועה.

בזמן הטיפול בבקשה ובתגובה, מאזן העומסים עשוי להסיר או להחליף כותרות hop-by-hop ב-HTTP/1.1 לפני העברתן ליעד המיועד.

ביזור תעבורת נתונים

כשמוסיפים קבוצת שרתי עורפי (backend instance) או קבוצת נקודות קצה של רשת (NEG) לשירות לקצה העורפי, צריך לציין מצב איזון, שמגדיר שיטה למדידת העומס בקצה העורפי וקיבולת יעד. מאזני עומסים חיצוניים של אפליקציות תומכים בשני מצבי איזון:

  • ‫RATE, למשל קבוצות של מכונות או קבוצות של נקודות קצה ברשת (NEG), הוא המספר המקסימלי של בקשות (שאילתות) לשנייה (RPS, ‏ QPS). אם כל ה-backends נמצאים בקיבולת המקסימלית או מעבר לה, יכול להיות חריגה מהיעד המקסימלי של RPS/QPS.

  • ‫UTILIZATION הוא ניצול הקצה העורפי של מכונות וירטואליות בקבוצת מכונות.

אופן חלוקת התנועה בין הקצוות העורפיים תלוי במצב של מאזן העומסים.

מאזן עומסים גלובלי חיצוני של אפליקציות (ALB)

לפני ששרת GFE שולח בקשות לשרתים עורפיים, הוא מעריך לאילו שרתים עורפיים יש קיבולת לקבלת בקשות. הערכת הקיבולת הזו מתבצעת באופן יזום, ולא במקביל להגעת הבקשות. שרתי ה-GFE מקבלים מידע תקופתי על הקיבולת הזמינה ומפיצים את הבקשות הנכנסות בהתאם.

המשמעות של קיבולת תלויה בחלקה במצב האיזון. במצב RATE, זה פשוט יחסית: GFE קובע בדיוק כמה בקשות הוא יכול להקצות בשנייה. איזון עומסים שמבוסס על UTILIZATION הוא מורכב יותר: מאזן העומסים בודק את הניצול הנוכחי של המכונות, ואז מעריך את עומס השאילתות שכל מכונה יכולה לטפל בו. ההערכה הזו משתנה עם הזמן בהתאם לשינויים בדפוסי השימוש והתנועה במכונות.

שני הגורמים – הערכת הקיבולת וההקצאה היזומה – משפיעים על ההפצה בין המכונות. לכן, Cloud Load Balancing פועל באופן שונה ממאזן עומסים פשוט בשיטת Round-Robin, שמחלק את הבקשות בדיוק ביחס של 50:50 בין שני מופעים. במקום זאת, Google Cloud איזון העומסים מנסה לבצע אופטימיזציה של בחירת השרת העורפי לכל בקשה.

במאזן עומסים גלובלי חיצוני של אפליקציות (ALB), איזון העומסים הוא דו-שכבתי. מצב האיזון קובע את השקלול או את החלק של תעבורת הנתונים שיישלח לכל קצה עורפי (קבוצת מכונות או NEG). לאחר מכן, מדיניות איזון העומסים (LocalityLbPolicy) קובעת איך תעבורת הנתונים מופצת למכונות או לנקודות קצה בתוך הקבוצה. למידע נוסף, קראו את מדיניות המיקום של איזון העומסים (מאמרי העזרה של ה-API לשירות לקצה העורפי).

במאזן העומסים הקלאסי של אפליקציות (ALB), מצב האיזון משמש לבחירת הקצה העורפי המועדף (קבוצת מכונות או NEG). לאחר מכן, התנועה מופצת באופן מחזורי בין המכונות או נקודות הקצה ב-backend.

איך הבקשות מופצות

מאזני עומסים חיצוניים של אפליקציות (ALB) שמבוססים על GFE משתמשים בתהליך הבא כדי להפיץ בקשות נכנסות:

  1. מהלקוח לשכבה הראשונה של GFE. נתבי קצה מפרסמים את כתובת ה-IP החיצונית של כלל ההעברה בגבולות הרשת של Google. כל פרסום מפרט את הדילוג הבא למערכת איזון עומסים בשכבה 3 ובשכבה 4 (Maglev). מערכות Maglev מנתבות את התנועה לשכבה הראשונה של ממשק הקצה של Google‏ (GFE).
    • כשמשתמשים במסלול פרימיום, Google מפרסמת את כתובת ה-IP של מאזן העומסים מכל נקודות הנוכחות (PoP) ברחבי העולם. כל כתובת IP של מאזן עומסים היא anycast גלובלית.
    • במסלול הרגיל, Google מפרסמת את כתובת ה-IP של מאזן העומסים מנקודות נוכחות שמשויכות לאזור של כלל ההעברה. מאזן העומסים משתמש בכתובת IP חיצונית אזורית. אם משתמשים בכלל העברה במסלול הרגיל, אפשר להשתמש רק בקבוצות של מכונות ובקבוצות NEG אזוריות בתור בק-אנד באותו אזור של כלל ההעברה של מאזן העומסים.
  2. מהשכבה הראשונה של GFE לשכבה השנייה של GFE. השכבה הראשונה של GFE מסיימת את ה-TLS אם צריך, ואז מנתבת את תעבורת הנתונים לשכבה השנייה של GFE לפי התהליך הבא:
    • שרתי GFE בשכבה הראשונה מנתחים את מפת URL ובוחרים שירות לקצה העורפי או קטגוריית קצה עורפי.
    • בשירותים לקצה העורפי עם קבוצות של נקודות קצה ברשת באינטרנט, שרתי ה-GFE בשכבה הראשונה בוחרים שער העברה חיצוני בשכבה השנייה, שנמצא באותו מיקום של שרת ה-GFE בשכבה הראשונה. שער ההעברה שולח בקשות לנקודת הקצה של קבוצת נקודות הקצה ברשת באינטרנט. בכך מסתיים תהליך הפצת הבקשות לקבוצות NEG באינטרנט.
    • בשירותי קצה עורפי עם קבוצות NEG ללא שרת וקבוצות NEG של Private Service Connect‏ (PSC), ובקטגוריות קצה עורפי באזור יחיד, שרתי GFE בשכבה הראשונה בוחרים שרת GFE בשכבה השנייה באזור שתואם לאזור של קבוצת ה-NEG או הקטגוריה. בקטגוריות של Cloud Storage במספר אזורים, שרתי GFE בשכבה הראשונה בוחרים שרתי GFE בשכבה השנייה באזור של הקטגוריה, או באזור קרוב ככל האפשר לקטגוריה במספר אזורים (מוגדר לפי זמן הלוך ושוב ברשת).
    • בשירותים לקצה העורפי עם קבוצות של מכונות, קבוצות NEG אזוריות עם נקודות קצה (endpoints) מסוג GCE_VM_IP_PORT וקבוצות NEG היברידיות, מערכת ניהול הקיבולת של Google מעדכנת את שרתי ה-GFE בשכבה הראשונה לגבי הקיבולת המוגדרת והקיבולת שבשימוש בכל קצה עורפי. הקיבולת שהוגדרה לקצה העורפי נקבעת לפי מצב האיזון, קיבולת היעד של מצב האיזון ומדרג הקיבולת.
      • במסלול Standard: שרתי GFE בשכבה הראשונה בוחרים שרת GFE בשכבה השנייה באזור שבו נמצאים שרתי ה-backend.
      • מסלול פרימיום: שרתי GFE בשכבה הראשונה בוחרים שרתי GFE בשכבה השנייה מתוך קבוצה של אזורים רלוונטיים. האזורים הרלוונטיים הם כל האזורים שבהם הוגדרו קצוות עורפיים, למעט אזורים עם קצוות עורפיים מוגדרים שהקיבולת שלהם היא אפס. שרתי GFE בשכבה הראשונה בוחרים את שרת ה-GFE הכי קרוב בשכבה השנייה באזור הרלוונטי (שמוגדר לפי זמן הלוך ושוב ברשת). אם שרתי הקצה העורפי מוגדרים בשני אזורים או יותר, שרתי GFE בשכבה הראשונה יכולים להעביר בקשות לאזורים רלוונטיים אחרים אם האזור שנבחר בעדיפות ראשונה מלא. זליגה לאזורים אחרים אפשרית כשכל הקצוות העורפיים באזור שנבחר בעדיפות ראשונה נמצאים בקיבולת מלאה.
  3. שרתי GFE בשכבה השנייה בוחרים את הקצוות העורפיים. שרתי GFE בשכבה השנייה נמצאים באזורים של מיקום. הם משתמשים בתהליך הבא כדי לבחור קצה עורפי:
    • בשירותים לקצה העורפי עם קבוצות NEG בלי שרת (serverless), קבוצות NEG של Private Service Connect וקטגוריות קצה עורפי, שרתי GFE בשכבה השנייה מעבירים את הבקשות למערכות הייצור של Google. בשלב הזה מסתיים תהליך חלוקת הבקשות בין ה-backends האלה.
    • בשירותים לקצה העורפי עם קבוצות של מכונות, קבוצות NEG אזוריות עם נקודות קצה מסוג GCE_VM_IP_PORT וקבוצות NEG היברידיות, מערכות בדיקת התקינות של Google מעדכנות את ה-GFE בשכבה השנייה לגבי סטטוס בדיקת התקינות של שרתי העורף או נקודות הקצה.

      רק במסלול פרימיום: אם ל-GFE בשכבה השנייה אין נקודות קצה או מכונות עורפיות תקינות באזור שלו, יכול להיות שהוא ישלח בקשות ל-GFE אחר בשכבה השנייה באזור רלוונטי אחר עם שרתים עורפיים מוגדרים. זליגה בין שרתי GFE בשכבה השנייה באזורים שונים לא ממצה את כל השילובים האפשריים בין אזורים. אם אתם צריכים להפנות תנועה הרחק מה-backend באזור מסוים, במקום להגדיר את ה-backend כך שייכשל בבדיקות התקינות, הגדירו את קנה המידה של הקיבולת של ה-backend לאפס כדי שה-GFE בשכבה הראשונה לא יכלול את האזור במהלך השלב הקודם.

    לאחר מכן, ה-GFE בשכבה השנייה מפנה את הבקשות למכונות או לנקודות קצה של שרתים עורפיים באזורים שבתוך האזור שלו, כפי שמתואר בשלב הבא.

  4. השכבה השנייה של GFE בוחרת אזור. כברירת מחדל, שרתי GFE בשכבה השנייה משתמשים באלגוריתם WATERFALL_BY_REGION, שבו כל שרת GFE בשכבה השנייה מעדיף לבחור מכונות עורפיות או נקודות קצה באותו אזור שבו נמצא שרת ה-GFE בשכבה השנייה. מכיוון ש-WATERFALL_BY_REGION מצמצם את התנועה בין אזורים, בקצבי בקשות נמוכים, כל GFE בשכבה השנייה עשוי לשלוח בקשות באופן בלעדי לקצוות עורפיים באותו אזור שבו נמצא ה-GFE בשכבה השנייה.

    רק במאזני עומסים גלובליים חיצוניים של אפליקציות (ALB), אפשר להגדיר שרתים בשכבה השנייה של GFE כך שישתמשו באחד מהאלגוריתמים החלופיים הבאים באמצעות serviceLbPolicy:

    • ‫SPRAY_TO_REGION: שרתי GFE בשכבה השנייה לא מעדיפים לבחור מכונות או נקודות קצה (endpoints) של שרתים עורפיים באותו אזור שבו נמצא שרת ה-GFE בשכבה השנייה. שרתי GFE בשכבה השנייה מנסים להפיץ את תעבורת הנתונים לכל שרתי ה-backend (backend instance) או נקודות הקצה בכל האזורים. ‫כך אפשר לפזר את העומס בצורה אחידה יותר, אבל זה מגדיל את התנועה בין האזורים.
    • ‫WATERFALL_BY_ZONE: שרתי GFE בשכבה השנייה מעדיפים לבחור מכונות או נקודות קצה של שרתים עורפיים באותו אזור שבו נמצא שרת ה-GFE בשכבה השנייה. שרתי GFE בשכבה השנייה מפנים בקשות לקצוות עורפיים באזורים אחרים רק אחרי שכל הקצוות העורפיים באזור הנוכחי הגיעו לקיבולת שהוגדרה להם.
  5. השכבה השנייה של GFE בוחרת מכונות או נקודות קצה בתוך האזור. כברירת מחדל, GFE בשכבה השנייה מפיץ בקשות בין קצוות עורפיים בשיטת Round-Robin. רק במאזני עומסים חיצוניים גלובליים של אפליקציות (ALB), אפשר לשנות את זה באמצעות מדיניות מקומית של איזון עומסים (localityLbPolicy). המדיניות המקומית של איזון עומסים חלה רק על שרתי בק-אנד בתחום (zone) שנבחר, שנדון בשלב הקודם.

מאזן עומסים חיצוני אזורי של אפליקציות (ALB)

במאזני עומסים חיצוניים אזוריים של אפליקציות (ALB), חלוקת התנועה מבוססת על מצב איזון העומסים ועל מדיניות המיקום של איזון העומסים.

מצב האיזון קובע את המשקל ואת החלק של תעבורת הנתונים שצריך לשלוח לכל קבוצה (קבוצת מכונות או NEG). המדיניות המקומית של איזון העומסים (LocalityLbPolicy) קובעת איך מתבצע איזון העומסים בקצוות העורפיים שבקבוצה.

כששירות לקצה העורפי מקבל תנועה, הוא מפנה אותה קודם כל לקצה עורפי (קבוצת מכונות או NEG) בהתאם למצב האיזון של הקצה העורפי. אחרי שבוחרים בקצה עורפי, תעבורת הנתונים מופצת בין המכונות או נקודות הקצה בקבוצת הקצה העורפי הזו, בהתאם למדיניות המקומית של איזון העומסים.

למידע נוסף, קראו את המאמרים הבאים:

זיקה לסשן (session affinity)

הזיקה לסשן (session affinity), שמוגדרת בשירות לקצה העורפי של מאזני עומסים של אפליקציות, מספקת ניסיון מיטבי לשלוח בקשות מלקוח מסוים לאותו קצה עורפי, כל עוד מספר נקודות הקצה או המכונות התקינות של הקצה העורפי נשאר קבוע, וכל עוד נקודת הקצה או המכונה של הקצה העורפי שנבחרו קודם לא הגיעו לקיבולת המקסימלית. קיבולת היעד של מצב האיזון קובעת מתי ה-backend מגיע לקיבולת המקסימלית.

בטבלה הבאה מפורטות האפשרויות השונות של זיקה לסשן שנתמכות במאזני העומסים השונים של אפליקציות. בקטע הבא, סוגים של זיקה לסשן, נדון בהרחבה בכל סוג של זיקה לסשן.

טבלה: הגדרות נתמכות של זיקה לסשן
מוצר אפשרויות של זיקה לסשן (session affinity)

מאזן עומסים גלובלי חיצוני של אפליקציות (ALB)

וגם

מאזן עומסים חיצוני אזורי של אפליקציות (ALB)

  • ללא (NONE)
  • כתובת ה-IP של הלקוח (CLIENT_IP)
  • קובץ Cookie שנוצר (GENERATED_COOKIE)
  • שדה כותרת (HEADER_FIELD)
  • קובץ Cookie מסוג HTTP‏ (HTTP_COOKIE)
  • זיקה מבוססת-קובצי Cookie עם שמירת מצב (STRONG_COOKIE_AFFINITY)

חשוב לדעת:

  • ערך ברירת המחדל בפועל של מדיניות המיקום של איזון העומסים (localityLbPolicy) משתנה בהתאם להגדרות הזיקה לסשן (session affinity). אם לא מגדירים את הזיקה לסשן (כלומר, אם הזיקה לסשן נשארת בערך ברירת המחדל NONE), ערך ברירת המחדל של localityLbPolicy הוא ROUND_ROBIN. אם הזיקה לסשן מוגדרת לערך שאינו NONE, ערך ברירת המחדל של localityLbPolicy הוא MAGLEV.
  • במאזן עומסים חיצוני גלובלי של אפליקציות (ALB), אל תגדירו זיקה לסשן (session affinity) אם אתם משתמשים בחלוקת תנועה משוקללת. אם תעשו את זה, ההגדרה של חלוקת התנועה המשוקללת תקבל עדיפות.
מאזן עומסים קלאסי של אפליקציות (ALB)
  • ללא (NONE)
  • כתובת ה-IP של הלקוח (CLIENT_IP)
  • קובץ Cookie שנוצר (GENERATED_COOKIE)

כשמגדירים זיקה לסשן, חשוב לזכור את הנקודות הבאות:

  • אל תסתמכו על זיקה לסשן למטרות אימות או אבטחה. הזיקה לסשן, למעט זיקה לסשן שמבוססת על קובצי Cookie עם שמירת מצב, יכולה להשתבש בכל פעם שמספר הקצוות העורפיים התקינים שמספקים שירות משתנה. פרטים נוספים זמינים במאמר אובדן הזיקה לסשן.

  • ערכי ברירת המחדל של הדגלים --session-affinity ו---subsetting-policy הם NONE, ורק אחד מהם יכול להיות מוגדר לערך אחר בכל פעם.

סוגי זיקה לסשן (session affinity)

אפשר לסווג את הזיקה לסשן של מאזני עומסים חיצוניים של אפליקציות (ALB) לאחת מהקטגוריות הבאות:
  • זיקה לסשן (session affinity) שמבוססת על גיבוב (NONE,‏ CLIENT_IP)
  • זיקה לסשן (session affinity) שמבוססת על כותרת HTTP‏ (HEADER_FIELD)
  • זיקה לסשן (session affinity) שמבוססת על קובצי Cookie‏ (GENERATED_COOKIE, HTTP_COOKIE, STRONG_COOKIE_AFFINITY)

זיקה לסשן (session affinity) שמבוססת על גיבוב (hash)

בזיקה לסשן שמבוססת על גיבוב, מאזן העומסים משתמש באלגוריתם גיבוב עקבי כדי לבחור בקצה עורפי שעומד בדרישות. ההגדרה של הזיקה לסשן קובעת באילו שדות מכותרת ה-IP ייעשה שימוש כדי לחשב את ה-hash.

זיקה לסשן (session affinity) שמבוססת על גיבוב יכולה להיות מהסוגים הבאים:

ללא

הגדרה של זיקה לסשן (session affinity) כ-NONE לא אומרת שאין זיקה לסשן. זה אומר שלא הוגדרה במפורש אפשרות של זיקה לסשן.

תמיד מתבצע גיבוב (hashing) כדי לבחור קצה עורפי. הגדרת הזיקה לסשן (session affinity) של NONE פירושה שמאזן העומסים משתמש בגיבוב של 5 ערכים כדי לבחור בקצה עורפי. ה-hash של 5-tuple מורכב מכתובת ה-IP של המקור, היציאה של המקור, הפרוטוקול, כתובת ה-IP של היעד והיציאה של היעד.

ערך ברירת המחדל של הזיקה לסשן הוא NONE.

זיקה לכתובת IP של לקוח

זיקה לסשן (session affinity) של כתובת ה-IP של הלקוח (CLIENT_IP) היא גיבוב (hash) של 2 ערכים שנוצר מכתובות ה-IP של המקור והיעד של חבילת הנתונים. בזיקה לכתובת ה-IP של הלקוח, כל הבקשות מאותה כתובת ה-IP של הלקוח מועברות לאותו קצה עורפי, כל עוד יש לו קיבולת והוא תקין.

כשמשתמשים בזיקה לכתובת IP של לקוח, חשוב לזכור את הנקודות הבאות:

  • כתובת ה-IP של יעד החבילה זהה לכתובת ה-IP של כלל ההעברה של מאזן העומסים רק אם החבילה נשלחת ישירות למאזן העומסים.
  • יכול להיות שכתובת ה-IP של מקור חבילת הנתונים לא תתאים לכתובת IP שמשויכת ללקוח המקורי, אם חבילת הנתונים מעובדת על ידי מערכת NAT או שרת proxy לפני שהיא נשלחת למאזן עומסים של Google Cloud . במצבים שבהם לקוחות רבים משתמשים באותה כתובת IP אפקטיבית של מקור, יכול להיות שחלק מהמכונות הווירטואליות בקצה העורפי יקבלו יותר חיבורים או בקשות מאחרות.

זיקה לסשן (session affinity) שמבוססת על כותרת HTTP

כשמשתמשים ב-affinity של שדה כותרת (HEADER_FIELD), הבקשות מנותבות לקצוות העורפיים על סמך הערך של כותרת ה-HTTP בשדה consistentHash.httpHeaderName של השירות לקצה העורפי. כדי להפיץ בקשות בין כל הקצוות העורפיים הזמינים, כל לקוח צריך להשתמש בערך שונה של כותרת HTTP.

יש תמיכה ב-affinity של שדה כותרת כשמתקיימים התנאים הבאים:

  • מדיניות המיקום של איזון העומסים היא RING_HASH או MAGLEV.
  • השדה consistentHash של השירות לקצה העורפי מציין את השם של כותרת ה-HTTP‏ (httpHeaderName).

אלה הסוגים של זיקה לסשן שמבוססת על קובצי Cookie:

כשמשתמשים בזיקה שנוצרה על סמך קובצי Cookie‏ (GENERATED_COOKIE), מאזן העומסים כולל קובץ Cookie של HTTP בכותרת Set-Cookie בתגובה לבקשת ה-HTTP הראשונית.

השם של קובץ ה-cookie שנוצר משתנה בהתאם לסוג של מאזן העומסים.

מוצר שם קובץ ה-Cookie
מאזני עומסים גלובליים חיצוניים של אפליקציות (ALB) GCLB
מאזני עומסים קלאסיים של אפליקציות (ALB) GCLB
מאזני עומסים חיצוניים אזוריים של אפליקציות (ALB) GCILB

מאפיין הנתיב של קובץ ה-Cookie שנוצר הוא תמיד לוכסן (/), ולכן הוא חל על כל שירותי הקצה העורפי באותה מפת URL, בתנאי שגם שירותי הקצה העורפי האחרים משתמשים בזיקה לקובץ Cookie שנוצר.

אפשר להגדיר את ערך משך החיים (TTL) של קובץ ה-Cookie בין 0 ל-1,209,600 שניות (כולל) באמצעות הפרמטר affinityCookieTtlSec של שירות לקצה העורפי. אם לא מציינים את affinityCookieTtlSec, ערך ברירת המחדל של TTL הוא 0.

כשהלקוח כולל את קובץ ה-Cookie שנוצר לזיקה לסשן ב-Cookie request header של בקשות HTTP, מאזן העומסים מפנה את הבקשות האלה לאותו שרת עורפי (backend instance) או נקודת קצה, כל עוד קובץ ה-Cookie לזיקה לסשן נשאר תקף. כדי לעשות את זה, ממפים את ערך קובץ ה-Cookie לאינדקס שמפנה לשרת עורפי או לנקודת קצה ספציפיים, ומוודאים שהדרישות של הזיקה לסשן של קובץ ה-Cookie שנוצר מתקיימות.

כדי להשתמש בזיקה לקובץ Cookie שנוצר, צריך להגדיר את מצב האיזון הבא ואת ההגדרות של localityLbPolicy:

  • בקבוצות של שרתים עורפיים, משתמשים במצב האיזון RATE.
  • בשביל localityLbPolicy של שירות הקצה העורפי, משתמשים ב-RING_HASH או ב-MAGLEV. אם לא מגדירים במפורש את localityLbPolicy, מאזן העומסים משתמש ב-MAGLEV כברירת מחדל משתמעת.

מידע נוסף זמין במאמר אובדן הזיקה לסשן.

כשמשתמשים בזיקה שמבוססת על קובצי Cookie מסוג HTTP‏ (HTTP_COOKIE), מאזן העומסים כולל קובץ Cookie מסוג HTTP בכותרת Set-Cookie בתגובה לבקשת ה-HTTP הראשונית. אתם מציינים את השם, הנתיב ואורך החיים (TTL) של קובץ ה-Cookie.

כל מאזני העומסים של האפליקציות תומכים בשיוך מבוסס-קובצי Cookie של HTTP.

אפשר להגדיר את ערכי ה-TTL של קובצי ה-cookie בשניות, בחלקי שניות (כננו-שניות) או בשניות ובחלקי שניות (כננו-שניות), באמצעות הפרמטרים הבאים של שירות לקצה העורפי והערכים התקינים:

  • אפשר להגדיר את consistentHash.httpCookie.ttl.seconds לערך בין 0 ל-315576000000 (כולל).
  • אפשר להגדיר את consistentHash.httpCookie.ttl.nanos לערך בין 0 ל-999999999 (כולל). מכיוון שהיחידות הן ננו-שניות, הערך 999999999 מייצג .999999999 שניות.

אם לא מציינים את consistentHash.httpCookie.ttl.seconds וגם לא את consistentHash.httpCookie.ttl.nanos, המערכת משתמשת בערך של הפרמטר affinityCookieTtlSec של שירות לקצה העורפי. אם לא מציינים את affinityCookieTtlSec, ערך ברירת המחדל של TTL הוא 0.

כשהלקוח כולל את קובץ ה-cookie של הזיקה לסשן (session affinity) של HTTP ב-Cookie request header של בקשות HTTP, מאזן העומסים מפנה את הבקשות האלה לאותו שרת עורפי או לאותה נקודת קצה, כל עוד קובץ ה-cookie של הזיקה לסשן נשאר בתוקף. כדי לעשות את זה, ממפים את ערך קובץ ה-Cookie לאינדקס שמפנה לשרת עורפי או לנקודת קצה ספציפיים, ומוודאים שהדרישות של הזיקה לסשן של קובץ ה-Cookie שנוצר מתקיימות.

כדי להשתמש בשיוך (affinity) של קובצי Cookie מסוג HTTP, צריך להגדיר את מצב האיזון הבא ואת ההגדרות של localityLbPolicy:

  • בקבוצות של שרתים עורפיים, משתמשים במצב האיזון RATE.
  • בשביל localityLbPolicy של שירות הקצה העורפי, משתמשים ב-RING_HASH או ב-MAGLEV. אם לא מגדירים במפורש את localityLbPolicy, מאזן העומסים משתמש ב-MAGLEV כברירת מחדל משתמעת.

מידע נוסף זמין במאמר אובדן הזיקה לסשן.

זיקה לסשן (session affinity) מבוססת-קובצי Cookie עם שמירת מצב (stateful)

כשמשתמשים ב-stateful cookie-based affinity ‏(STRONG_COOKIE_AFFINITY), מאזן העומסים כולל קובץ Cookie מסוג HTTP בכותרת Set-Cookie בתגובה לבקשת ה-HTTP הראשונית. אתם מציינים את השם, הנתיב ואורך החיים (TTL) של קובץ ה-cookie.

כל מאזני העומסים של האפליקציות, חוץ ממאזני העומסים הקלאסיים של האפליקציות, תומכים בשיוך (affinity) מבוסס-קובצי Cookie עם שמירת מצב.

אפשר להגדיר את ערכי ה-TTL של קובצי ה-cookie בשניות, בחלקי שניות (בננו-שניות) או בשניות ובחלקי שניות (בננו-שניות). משך הזמן שמיוצג על ידי strongSessionAffinityCookie.ttl לא יכול להיות מוגדר לערך שמייצג יותר משבועיים (1,209,600 שניות).

הערך של קובץ ה-Cookie מזהה את השרת העורפי או נקודת הקצה שנבחרו, על ידי קידוד השרת העורפי או נקודת הקצה שנבחרו בערך עצמו. כל עוד קובץ ה-Cookie תקף, אם הלקוח כולל את קובץ ה-Cookie של הזיקה לסשן ב-request header של Cookie בבקשות ה-HTTP הבאות, מאזן העומסים מפנה את הבקשות האלה לשרת העורפי (backend instance) או לנקודת הקצה שנבחרו.

בניגוד לשיטות אחרות של זיקה לסשן:

  • לשיוך מבוסס-קובצי Cookie עם שמירת מצב אין דרישות ספציפיות לגבי מצב האיזון או מדיניות המיקום של איזון העומסים (localityLbPolicy).

  • כשמוסיפים מופע חדש לקבוצת מופעי מכונה מנוהלים באמצעות התאמה אוטומטית לעומס, זה לא משפיע על הזיקה (affinity) שמבוססת על קובצי Cookie עם שמירת מצב.

  • ההתאמה מבוססת קובצי ה-Cookie עם שמירת המצב לא מושפעת כשההתאמה אוטומטית לעומס מסירה מכונה מקבוצת מופעי מכונה מנוהלים, אלא אם המכונה שנבחרה מוסרת.

  • ההגדרה של שיוך מבוסס-קובצי Cookie עם שמירת מצב לא מושפעת כשתיקון תוכנה אוטומטי מסיר מכונה מקבוצת מופעי מכונה מנוהלים, אלא אם המכונה שנבחרה מוסרת.

מידע נוסף זמין במאמר אובדן הזיקה לסשן.

המשמעות של TTL אפס לשיוכים מבוססי-קובצי Cookie

לכל הזיקות לסשן שמבוססות על קובצי Cookie, כמו זיקה לקובץ Cookie שנוצר, זיקה לקובץ Cookie מסוג HTTP וזיקה שמבוססת על קובץ Cookie עם שמירת מצב, יש מאפיין TTL.

אם ערך ה-TTL הוא אפס שניות, מאזן העומסים לא מקצה מאפיין Expires לקובץ ה-cookie. במקרה כזה, הלקוח מתייחס לקובץ ה-Cookie כקובץ Cookie זמני. ההגדרה של סשן משתנה בהתאם ללקוח:

  • חלק מהלקוחות, כמו דפדפני אינטרנט, שומרים את קובץ ה-Cookie לכל משך סשן הגלישה. כלומר, קובץ ה-Cookie נשאר פעיל בכמה בקשות עד שהאפליקציה נסגרת.

  • לקוחות אחרים מתייחסים לסשן כבקשת HTTP אחת, ומוחקים את קובץ ה-Cookie מיד לאחר מכן.

אובדן הזיקה לסשן (session affinity)

כל האפשרויות של זיקה לסשן דורשות את הדברים הבאים:

  • צריך להגדיר את נקודת הקצה או את השרת העורפי שנבחרו כשרת עורפי. הזיקה לסשן יכולה להשתבש כשאחד מהאירועים הבאים מתרחש:
    • המכונה שנבחרה תוסר מקבוצת המכונות שלה.
    • התאמה אוטומטית לעומס או תיקון תוכנה אוטומטי (autohealing) של קבוצת מופעי מכונה מנוהלים מסירים את המכונה שנבחרה מקבוצת מופעי המכונה המנוהלים שלה.
    • אתם מסירים את נקודת הקצה שנבחרה מה-NEG שלה.
    • מסירים משירות הקצה העורפי את קבוצת המכונות או את ה-NEG שמכילים את המכונה או את נקודת הקצה שנבחרו.
  • השרת העורפי או נקודת הקצה שנבחרו חייבים להישאר תקינים. הזיקה לסשן עלולה להישבר אם המכונה או נקודת הקצה שנבחרו נכשלות בבדיקות התקינות.
  • במאזני עומסים גלובליים חיצוניים של אפליקציות (ALB) ובמאזני עומסים קלאסיים של אפליקציות (ALB), הזיקה לסשן (session affinity) יכולה להשתבש אם משתמשים בממשק קצה של Google‏ (GFE) אחר בשכבה הראשונה לבקשות או לחיבורים הבאים אחרי השינוי בנתיב הניתוב. יכול להיות שייבחר GFE אחר בשכבה הראשונה אם נתיב הניתוב מלקוח באינטרנט ל-Google ישתנה בין בקשות או חיבורים.
חוץ מזיקה לסשן (session affinity) עם שמירת מצב (stateful) שמבוססת על קובצי Cookie, לכל האפשרויות של זיקה לסשן יש את הדרישות הנוספות הבאות:
  • קבוצת המכונות או ה-NEG שמכילים את המכונה או נקודת הקצה שנבחרו לא יכולים להיות מלאים, כפי שמוגדר בקיבולת היעד שלהם. (בקבוצות אזוריות של קבוצות מופעי מכונה מנוהלים, הרכיב האזורי של קבוצת המכונות שמכילה את המכונה שנבחרה לא יכול להיות מלא). הזיקה לסשן יכולה להשתבש כשקבוצת המכונות או ה-NEG מלאים, וקבוצות מכונות או קבוצות NEG אחרות לא מלאות. מכיוון שרמת העומס יכולה להשתנות באופן בלתי צפוי כשמשתמשים במצב האיזון UTILIZATION, כדאי להשתמש במצב האיזון RATE או CONNECTION כדי לצמצם מצבים שבהם הזיקה לסשן עלולה להשתבש.

  • המספר הכולל של נקודות הקצה או המכונות העורפיות שהוגדרו חייב להישאר קבוע. כשמתרחש לפחות אחד מהאירועים הבאים, מספר נקודות הקצה או השרתים העורפיים שהוגדרו משתנה, והזיקה לסשן עלולה להשתבש:

    • הוספת מופעים או נקודות קצה חדשים:

      • מוסיפים מכונות לקבוצת מכונות קיימת בשירות לקצה העורפי.
      • התאמה אוטומטית לעומס של קבוצת מופעי מכונה מנוהלים מוסיפה מופעים לקבוצת מופעי מכונה מנוהלים בשירות לקצה העורפי.
      • מוסיפים נקודות קצה ל-NEG קיים בשירות לקצה העורפי.
      • מוסיפים לשירות לקצה העורפי קבוצות של מכונות או קבוצות של נקודות קצה ברשת (NEG) שאינן ריקות.
    • הסרה של כל מכונה או נקודת קצה, לא רק המכונה או נקודת הקצה שנבחרו:

      • אתם מסירים מכונה כלשהי מקצה עורפי של קבוצת מכונות.
      • התאמה לעומס (scaling) או תיקון תוכנה אוטומטי (autohealing) של קבוצת מופעי מכונה מנוהלים מסירים כל מכונה מה-backend של קבוצת מופעי מכונה מנוהלים.
      • אתם מסירים נקודת קצה (endpoint) כלשהי מקצה עורפי של NEG.
      • מסירים משירות הקצה העורפי את כל קבוצות השרתים העורפיים (backend instance) הקיימות שאינן ריקות או את קבוצות נקודות הקצה ברשת (NEG).
  • המספר הכולל של נקודות קצה או מכונות תקינות של שרתים עורפיים חייב להישאר קבוע. כשמתרחש לפחות אחד מהאירועים הבאים, מספר נקודות הקצה או המכונות התקינות של ה-backend משתנה, והזיקה לסשן עלולה להישבר:

    • כל מכונה או נקודת קצה (endpoint) שעוברת את בדיקת התקינות, ועוברת ממצב לא תקין למצב תקין.
    • בדיקת התקינות של מכונה או נקודת קצה נכשלה, והמצב שלה השתנה מתקין ללא תקין או שהזמן הקצוב לתפוגה חלף.