השחקניות המובילות AWS, GCP מציעות התאמה אישית של מכונה עם כרטיסי מסך (גם יותר טובים בהרבה) ובתשלום לפי זמן שימוש. הנחה משמעותית להתחייבות לתקופה של שנה, הנחה גדולה לתקופה של 3 שנים. הנחה נוספת לתשלום מראש.
תמיד אפשר לשנות תצורה של זיכרון, מעבד, כרטיסי מסך, אכסון ועוד.

הכרטיסים האפשריים ב-GCP שיכולים להתקרב לביצועים של ארבעה RTX 4090 כוללים:

NVIDIA A100 – כרטיס עוצמתי מאוד שמתאים למשימות עיבוד מסיבי, כמו למידת מכונה, AI ומחשוב מדעי. במקרים רבים, כרטיס A100 אחד יכול לספק ביצועים שמקבילים לשניים עד שלושה כרטיסי 4090 במטלות חישוביות אינטנסיביות בזכות היכולת שלו לבצע חישובי FP16 ו-FP32 ברמה גבוהה.

NVIDIA H100 – זהו הכרטיס החדש ביותר מסדרת Hopper של NVIDIA ומציע ביצועים מרשימים במיוחד. במקרים רבים, כרטיס יחיד יכול להתקרב ואף לעלות על ארבעה כרטיסי 4090 בפלטפורמות של AI ומחשוב מקבילי כבד.

4 כרטיסי 4090 עומדים לייצר חום יוצא דופן ששרת רגיל שלא תוכנן מראש כשרת GPU לא ידע לקרר.
מה שיקצר את חיי ה GPU (שמראש לא תוכננו לרוץ 24X7) ויחסל אותם די מהר.

1. כרטיסי RTX 4090 רגילים (Open-Air) מתחממים מאוד בשרתים, כי האוויר החם נשאר בתוך המארז. אבל 4090 Turbo (Blower-style) פותר את הבעיה בכך שהוא מוציא חום ישירות מחוץ למארז.
- חיסרון – הכרטיסים האלה רועשים מאוד והמניפות הבלואריות נשחקות מהר יותר תחת עומס גבוה.
- יתרון – הם מתאימים יותר לשרתים שבהם חשוב פינוי חום יעיל.

2. ספק כוח – גם עם כרטיסי Turbo, 4× 4090 דורשים לפחות 2400W עם ניהול נכון של חיבורי PCIe.
- ניתן גם להוסיף 2 ספקי כוח Hot-Swap של 2kW כדי לשפר יציבות ולהפחית סיכוני כשל.

3. קירור – אם בוחרים 4090 Turbo, יש לוודא שהשרת מספק זרימת אוויר מספקת למניעת התחממות יתר.

4. מגבלות טכנולוגיות – למרות ש-4× 4090 Turbo מספקים כוח חישובי גבוה, אין להם NVLink, מה שיכול להיות קריטי במשימות AI מסוימות בהן נדרש שיתוף זיכרון בין הכרטיסים.

5. אלטרנטיבות בענן – אם חשוב גמישות והרחבה, כדאי לבדוק AWS/GCP עם A100/H100, אבל אם חובה שרת פיזי, אז 4090 Turbo הוא פשרה טובה.