האם צריך לפחד מה-AI?
הוויכוחים סביב הסיכונים של הבינה המלאכותית קיבלו בשבועות האחרונים תפנית מעניינת ועלו לכותרות הראשיות. עד לא מזמן השאלה המרכזית הייתה עד כמה מהר תתקדם הטכנולוגיה, מי יוביל אותה וכמה כסף יושקע בתשתיות. עכשיו מתווספת שאלה מטרידה יותר: האם אנחנו באמת שולטים במערכות שאנחנו בונים?
השאלה הזו כבר אינה תיאורטית לחלוטין.
חברות הבינה המלאכותית עצמן דיווחו בתקופה האחרונה על מקרים שבהם סוכני AI חרגו מהסביבה שבה היו אמורים לפעול, עקפו מגבלות או השיגו גישה למערכות שלא היו אמורים להגיע אליהן. אנתרופיק למשל, פרסמה החודש ניתוח של ארבעה מקרים שבהם מודלים שלה השיגו גישה בלתי מורשית למערכות חיצוניות. החברה הרחיבה בעקבות זאת את הבדיקות שלה.
האירועים האלה חידדו מחלוקת שהולכת ומעמיקה בתוך תעשיית ה־AI.
כינוס בבית הלבן
הדברים הגיעו לידי כך שאתמול, 29 בספטמבר, בניסיון לשנות את השיח סביב הנושא ולהגיע להסכמות, כינס הנשיא דונלד טראמפ בבית הלבן כמה מהדמויות המרכזיות בעולם הבינה המלאכותית, ובהן ג'נסן הואנג מאנבידיה, אילון מאסק, מארק צוקרברג, סונדאר פיצ'אי ודריו אמודיי מאנטרופיק. במרכז הדיון עמדה השאלה כיצד ממשיכים את המרוץ הטכנולוגי במהירות, אך מבלי להתעלם מהסיכונים. מנהלי החברות חתמו על הסכם וולונטרי הכולל מנגנוני בקרה פנימיים, ביקורת חיצונית ופיקוח ברמת הדירקטוריון. טראמפ הגדיר את ההתחייבות כ"מחייבת מוסרית", אך היא אינה מחייבת משפטית.
באותו יום עשה טראמפ גם מהלך סמלי ומעניין: בצו נשיאותי הוא הורה לרשות המבצעת בארה"ב להשתמש מעתה במונח Super Intelligence – SI או בינת־על, במקום Artificial Intelligence – AI . מבחינתו, המילה "מלאכותית" כבר אינה מתארת את עוצמת הטכנולוגיה. חשוב להדגיש: זהו שינוי רשמי במינוח של הממשל הפדרלי, לא שינוי השם המקובל של תחום בעולם.
לאחר המפגש בבית הלבן השתתפו ג'נסן הואנג ואילון מאסק יחד באירוע ההשקה של America.gov האתר החדש שמטרתו לרכז שירותי ממשל ולשלב בהם יכולות של בינת־על.
הראיון המלא כאן:
מחנה רחב אומר: צריך להאט
דריו אמודיי, מנכ"ל אנתרופיק, אילון מאסק ואישים בכירים נוספים בתעשייה טוענים כי קצב ההתקדמות נעשה מהיר מכדי שמערכות הבטיחות והפיקוח יוכלו להדביק אותו. גם בתוך OpenAI נשמעו בחודשים האחרונים קריאות להחמיר מאוד את הבדיקות והפיקוח.
הטענה שלהם פשוטה: ככל שמודלים הופכים מסתם מערכות שעונות לשאלות לסוכנים עצמאיים, המסוגלים לבצע רצף של פעולות, למערכות שיכולות להשתמש בכלים חיצוניים, לכתוב ולהריץ תוכנה, להתחבר למערכות אחרות ולפעול במשך זמן רב ללא התערבות אנושית, הנזק האפשרי מטעות גדל בצורה משמעותית.
זה כבר לא צ'אטבוט שנותן תשובה לא נכונה. סוכן AI יכול לבצע פעולה לא נכונה במערכות הקשורות לרשת האינטרנט.
מכאן מגיעה הדרישה של חלק מהחוקרים והמנהלים להאט את קצב הפיתוח, לקבוע מבחני בטיחות משותפים ולהכניס גורמים חיצוניים לבדיקת המודלים לפני שחרורם.
הבעיה העיקרית עם דרישות אלו היא שתקנות בארה"ב יכולות לבקר את החברות האמריקאיות אך לא חברות AI מתקדמות בשאר העולם.
ג'נסן הואנג מנכ"ל אנבידיה מציג תפיסה אחרת
מנכ"ל אנבידיה, ג'נסן הואנג, אינו מקבל את המסקנה שלפיה הפתרון הוא להאט את פיתוח הבינה המלאכותית.
הגישה שלו היא במידה רבה הנדסית: אם סוכני AI עלולים לצאת מהגבולות שהוגדרו להם, צריך לבנות סביבם מערכת שלא תאפשר להם לעשות זאת.
במקום להסתמך רק על כך שהמודל "יתנהג יפה", צריך ליצור גבולות חיצוניים שהמודל עצמו אינו יכול לשנות.
אתמול אנבידיה הציגה את הניסיון שלה להפוך את הרעיון הזה למוצר.
מערכת Open Agent Safety Platform - חגורת הבטיחות של סוכני ה- AI
אנבידיה הכריזה על Open Agent Safety Platform– פלטפורמה פתוחה שנועדה ליצור שכבת הגנה סביב סוכני AI משלב הבדיקות ועד להפעלה והרצה.
המערכת בנויה משני מרכיבים עיקריים.
הראשון הוא OpenShell – תוכנה בקוד פתוח שיוצרת סביבת עבודה מוגנת לסוכן. במקום לתת לסוכן גישה חופשית למחשב, לרשת ולמידע הארגוני, מגדירים מראש מה מותר לו לראות, לאילו מערכות מותר לו להתחבר ואילו פעולות מותר לו לבצע.
המערכת OpenShell גם עוקבת אחר הפעולות שהסוכן מבצע ואוכפת את המדיניות בזמן אמת.
אבל אנבידיה אינה מסתפקת בתוכנה.
המרכיב השני, ואולי המעניין יותר, נקרא Sentry.
מערך ה- Sentry הוא מעין שומר עצמאי שפועל ברמת החומרה באמצעות מעבדי BlueField-4 של אנבידיה. הוא עוקב אחר פעילות הסוכן מחוץ לסביבה שבה הסוכן עצמו פועל. אם הסוכן מנסה לחרוג מהגבולות שהוגדרו לו, המערכת יכולה לבודד ולעצור אותו בתוך אלפיות השנייה.
הרעיון החשוב כאן: לא מבקשים מה- AI לפקח על עצמו. יש מערכת חיצונית ועצמאית שמפקחת עליו.
במובן מסוים זה דומה למערכות הבטיחות בעולם התעופה. איננו מניחים שטייס, מחשב או רכיב יחיד לעולם לא יטעו. אנחנו בונים שכבות נוספות שאמורות למנוע מטעות אחת להפוך לאסון.
והחלק הישראלי
מעניין במיוחד שחלק מרכזי ממערכת הבטיחות החדשה של אנבידיה מגיע מישראל. מנגנון הפיקוח Sentry, סביבת התוכנה DOCA ומעבדי BlueField-4 DPU שעליהם פועלת שכבת הגנה חומרתית קשורים לפיתוח של מרכזי אנבידיה בישראל. BlueField-4 עצמו פותח במרכז הפיתוח הישראלי של החברה. אנבידיה מאשרת כי Sentry מבוסס על BlueField-4 ועל תוכנת DOCA.
במילים אחרות, ישראל נמצאת בלב שכבת החומרה שאמורה לשמש כ"חגורת הבטיחות" של סוכני ה־ AI של אנבידיה. זהו גם המשך ישיר לחשיבות שקיבלה פעילות מלאנוקס לשעבר בתוך אנבידיה: טכנולוגיה ישראלית שהחלה בעיקר בעולם התקשורת ומרכזי הנתונים הופכת כעת לחלק ממערכת הבטיחות של עידן ה־AI.
אנבידיה רוצה להיות הרבה יותר מיצרנית שבבים
מבחינת משקיעי אנבידיה, יש כאן נקודה חשובה נוספת.
אנבידיה כבר מזמן אינה רק החברה שמוכרת את המעבדים שעליהם מאמנים מודלים. היא מנסה להיות מערכת ההפעלה והתשתית של עולם הבינה המלאכותית.
מערכת ה- CUDA הפכה אותה לתשתית התוכנה של אימון AI. מערכות רשת התקשורת שלה מחברות אלפי מעבדים ליצירת מרכזי מחשוב עצומים. המעבדים החדשים שלה מיועדים לא רק לאימון אלא גם להפעלה והרצת המודלים. כעת היא רוצה להכניס לתוך אותה מערכת גם את שכבת הבטיחות.
ה- OpenShell אמנם פתוחה ויכולה לעבוד גם עם מערכות של אינטל ו־Arm אבל השילוב המלא שלOpenShell , מעבדי Vera ומערכת Sentry יוצרים שכבת תשתית נוספת שבה אנבידיה יכולה להפוך לסטנדרט.
אם עולם ה־AI עובר ממודלים שמחכים לשאלה שלנו למיליארדי סוכנים שמבצעים פעולות באופן עצמאי, אבטחה ופיקוח על אותם סוכנים יכולות להפוך לשוק גדול מאוד בפני עצמו.
חשוב עם זאת לא להציג את הפתרון כפתרון מלא ל"סכנת ה־ AI". מומחי אבטחה מציינים שהמערכת יכולה להגביל הרשאות, לעקוב אחר פעולות ולעצור חריגה מהגבולות שהוגדרו, אבל היא אינה פותרת לבדה בעיות עמוקות יותר כמו הטעיה של המודל, החלטות שגויות או מצב שבו בני האדם עצמם הגדירו לסוכן גבולות לא נכונים.
לכן הוויכוח לא הסתיים. הוא פשוט עולה שלב או עבר לשלב חדש.
אנבידיה גם הכריזה על 150 מיליארד דולר נוספים לרכישה עצמית
לצד הכרזת הבטיחות פרסמה אנבידיה שלשום הודעה פיננסית יוצאת דופן.
הדירקטוריון אישר תוספת של 150 מיליארד דולר לתוכנית הרכישה העצמית של מניות החברה. בעקבות התוספת עומדת יתרת ההרשאה הכוללת לרכישות על כ־235 מיליארד דולר, והחברה מצפה לבצע את התוכנית עד שנת הכספים 2028.
מדובר בתוספת הגדולה ביותר לתוכנית רכישה עצמית שאושרה אי פעם. היא עולה אפילו על תוכנית ה־110 מיליארד דולר שאפל אישרה ב־2024.
עצם ההיקף אומר משהו על מצבה הפיננסי של אנבידיה ועל האטרקטיביות של מחיר מניית אנבידיה לפי תפיסת הנהלת החברה. חברה שנמצאת במרכז אחד מגלי ההשקעות הגדולים בהיסטוריה הטכנולוגית אומרת למעשה שהיא מאמינה שתוכל להמשיך להשקיע סכומי עתק בפיתוח מוצרים, מפעלים, מערכות מחשוב ותוכנה – ובמקביל להחזיר הון עצום לבעלי המניות. כ־235 מיליארד דולר.
עם סכום כזה לקניה חוזרת של מניות וניהול נכון של החברה בשוק ההון, קשה לראות את מניית אנבידיה יורדת בצורה משמעותית בשנים הקרובות. רכישה כזו כשלעצמה תקטין את מספר המניות החופשיות בשוק ותגדיל את הרווח למניה.
ג'נסן הואנג ניסח זאת בצורה ברורה: יצירת המזומנים של אנבידיה מאפשרת לה גם להשקיע בטכנולוגיות שמקדמות את מהפכת המחשוב המואץ וה־ AI וגם להחזיר הון גדול למשקיעים.
מבחינתנו זו נקודה חשובה, אבל היא אינה מחליפה את השאלה החשובה באמת : האם ההשקעות העצומות ב־ AI ממשיכות?
ועל השאלה הזאת נקבל מחר אינדיקציה חשובה מאוד מחברת הזיכרונות מיקרון (MU) המפרסמת דוחות רבעוניים.
הערב: הדוחות מיקרון
מיקרון תפרסם היום בערב, 30 בספטמבר, לאחר המסחר את תוצאות הרבעון הרביעי של שנת הכספים 2026. שיחת המשקיעים נקבעה לשעה 14:30 לפי שעון החוף המערבי ארה"ב, ולאחר סיום המסחר.
מבחינתנו זה אחד הדוחות החשובים ביותר כרגע בתחום ה־AI .
הסיבה היא שמיקרון נמצאת במקום שונה בשרשרת האספקה מאנבידיה. היא מספקת את הזיכרונות המהירים הדרושים למערכות AI ובמיוחד זיכרונות HBM, לצד זיכרונות DRAM ומוצרי אחסון למרכזי נתונים.
לכן הדוח שלה יכול לספק לנו הצצה אל מה שמתרחש מתחת לפני השטח של השקעות ה־AI ולא להסתכל רק על ההכנסות והרווח למניה.
נרצה לשמוע מה החברה אומרת על הביקוש ל־HBM על מחירי הזיכרונות, על זמינות הייצור, על הזמנות ממרכזי הנתונים ובעיקר על התחזית לרבעונים הבאים.
אם מיקרון תדווח שהביקוש ממשיך להיות גבוה מהיכולת לספק אותו ושלקוחות ממשיכים להזמין קדימה, זו תהיה אינדיקציה נוספת לכך שההשקעה בתשתיות AI עדיין טובה.
לעומת זאת, אם נראה האטה בהזמנות, ירידה בלחצי המחירים או תחזית חלשה מהצפוי, השוק עשוי לראות בכך סימן מוקדם לכך שקצב ההשקעות בתשתיות מתחיל להתמתן. גם רויטרס הגדירה את הדוח הקרוב כמבחן חשוב לסיפור ההשקעות ב־ AI משום שמיקרון היא ספקית מרכזית של הזיכרון שפועל לצד מעבדי אנבידיה במרכזי הנתונים.
אחרי הדוח – נבחן מחדש את תיק ה- AI
זו גם הסיבה שאנחנו מתכוונים להשתמש בדוחות מיקרון כדי לבצע בחינה מחודשת של תיק הבינה המלאכותית שלנו.
התיק לא נועד להיות רשימה קבועה של חברות שנחזיק ללא קשר למה שקורה בשוק. המטרה היא להחזיק את החברות שלדעתנו נמצאות בנקודות החשובות ביותר בשרשרת הערך של מהפכת ה־AI.
השינויים בתחום הטכנולוגי ובעיקר ב- AI הולכים ומאיצים ולכן יתכן ונצטרך לעדכן את התיקים לעיתים תכופות יותר בהתאם לשינויים.
מיקרון יכולה לתת לנו מחר מידע חשוב על אחת השאלות המרכזיות ביותר כרגע: האם הביקוש לתשתיות ממשיך לגדול בקצב שמצדיק את ההשקעות ואת הציפיות הגבוהות שכבר מגולמות בחלק מהמניות.
לסיכום
שלוש ההתפתחויות האלה – הוויכוח על בטיחות ה־AI הפלטפורמה החדשה של אנבידיה ודוחות מיקרון – נראות במבט ראשון כנושאים שונים.
למעשה הן מספרות את אותו סיפור.
הבינה המלאכותית עוברת משלב שבו השאלה הייתה האם הטכנולוגיה תעבוד, לשלב שבו השאלות הן כמה גדולה היא יכולה להיות, כמה מהר אפשר לפרוס אותה וכיצד שולטים בה כשהיא הופכת לעצמאית יותר.
אנבידיה מהמרת שהפתרון אינו לעצור. היא מהמרת שאפשר להמשיך לרוץ קדימה ובמקביל לבנות את חגורות הבטיחות, את הבלמים ואת מערכות הבקרה שיאפשרו לעולם לעשות זאת.
וההימור שלה אינו רק טכנולוגי. תוכנית הרכישה העצמית העצומה שעליה הכריזה באותו יום מעידה על הביטחון של הנהלת החברה ביכולת שלה להמשיך לייצר מזומנים בהיקפים אדירים.
מחר נקבל ממיקרון עוד חלק חשוב בפאזל.
אם הביקוש לזיכרונות ולתשתיות AI ממשיך להיות חזק, הסיפור המרכזי של השנים האחרונות – בניית תשתית מחשוב חדשה לעידן הבינה המלאכותית – עדיין רחוק מסיום.
ואם המספרים יספרו סיפור אחר, נצטרך להקשיב גם להם. גם בתיקים שלנו.
החברות שמדווחות השבוע
ראו את החברות החשובות המדווחות השבוע בטבלה למטה.
החברות המדווחות השבוע
השקעות מוצלחות לכולן/ם!
תוכלו להירשם לבלוג זה חינם כאן ולהתחיל לקבל במייל מאמרים הדנים בתחום ההשקעות.
תוכלו גם לעקוב אחרינו בטוויטר כאן, שם אנחנו מפרסמים עדכונים קצרים יותר.
שימו לב שבמאמר זה אנחנו משתפים אתכם בתחזיותינו, דעותינו ושיקולינו לצורכי מידע, אך אין זה יעוץ או הכוונה כיצד לפעול ו/או לנהל את השקעותיכם ויתכן ואנו משקיעים בחלק או בכל החברות המוזכרות במאמר. על כל אחד ואחת לבצע את בדיקותיו/ה ולהסיק מסקנות בהתאם להעדפותיו/ה.
המנוי לתיק הפרמיום, תיק הצמיחה ותיק ה- AI הוא מנוי לשנה. כברירת מחדל המנוי מתחדש אוטומטית כל שנה. תוכלו לסיים את המנוי שלכם בכל עת דרך הפרופיל שלכם/ן (בחרו מהתפריט "המנוי שלי", בחרו בסוג המינוי ו"ביטול מנוי") באתר זה. אין החזר כספי לאחר הרישום וחשיפת המידע, לכן בדקו טוב שאתם נרשמים ומשלמים על השירות המבוקש. אם אתם מקבלים את המאמרים גם בהודעות ווטסאפ, תוכלו גם לשלוח הודעת "בקשה להפסקת מנוי פרימיום או צמיחה" או להפסקת השליחה בווטסאפ בלבד.
תגובות