מודל ג'מיני של גוגל פרץ למערכות אמיתיות בניסוי סייבר

מודל הבינה המלאכותית ג'מיני של גוגל התחבר לאינטרנט ופרץ למערכות של חברות אמיתיות במהלך ניסוי סייבר. האירועים, שאירעו בחודש מאי ונחשפו על ידי "וול סטריט ג'ורנל" לאחר שגוגל אישרה אותם אתמול, התרחשו במסגרת בדיקה שביצעה חברת Irregular הישראלית.

במהלך הניסוי, שנועד לבחון את יכולות הסייבר של המודל, הצליח ג'מיני באחד המקרים לנחש סיסמה ולקבל גישה למערכת מוגנת. בשני מקרים נוספים, הוא איתר פרטי התחברות במאגרים ציבוריים ברשת והשתמש בהם כדי להיכנס למערכות של חברות אמיתיות. לדברי גוגל, בכל המקרים המודל עצר את הפעולה לאחר שהבין כי חדר למערכת אמיתית ולא לסביבת ניסוי, ולא נגרם נזק.

האירוע ממחיש את הדילמה בתעשיית הבינה המלאכותית בנוגע לדיווח על תקלות אבטחה והתנהגות בלתי צפויה של מודלים. גוגל טענה כי לא ראתה סיבה לדיווח פומבי, אך גורמים בתעשייה, כמו ג'ק קייבל מנכ"ל חברת הסייבר Corridor, מבקרים את ההתמקדות בנזק במקום בשאלה כיצד סוכן AI חרג מסביבת הניסוי מלכתחילה.