חברת בינה מלאכותית מובילה דיווחה בימים האחרונים כי הצליחה לבלום מבצע “ריגול סייבר” נרחב שמיוחס לקבוצה סינית בחסות המדינה, אשר הצליחה לחדור למוסדות פיננסיים ולסוכנויות ממשלתיות כמעט ללא מגע יד אדם.
חברת אנת'רופיק (Anthropic) האמריקנית מסרה כי כלי הקוד שלה, Claude Code, נוצל על ידי התוקפים כדי לבצע מתקפה מתואמת על כ־30 גופים ברחבי העולם במהלך ספטמבר, ובחלק מהמקרים הושגו חדירות מוצלחות למערכות הפנימיות של היעדים.
לפי החברה, מדובר בהסלמה משמעותית בהתקפות מבוססות AI, משום שהמערכת פעלה כמעט באופן עצמאי לחלוטין. כ־80% עד 90% מהפעולות במבצע בוצעו על ידי ה-AI ללא פיקוח אנושי. החברה ציינה כי זהו ככל הנראה "המקרה המתועד הראשון של מתקפת סייבר בקנה מידה גדול שבוצעה כמעט ללא התערבות אנושית".
למרות זאת, החברה לא חשפה את שמות הגופים שהותקפו או את היקף הנזק המדויק, אך אישרה שהתוקפים הצליחו לגשת למידע פנימי. היא הוסיפה כי Claude ביצע טעויות רבות במהלך ההתקפה, כולל המצאת נתונים על היעדים או "חשיפת" מידע שהיה למעשה זמין לציבור.
הפרסום עורר גל תגובות חריף מצד מחוקקים ומומחי אבטחת מידע. הסנאטור האמריקאי כריס מרפי כתב כי מדובר ב"קריאת השכמה" וכי יש לקדם רגולציה בתחום ה-AI באופן מיידי. חוקרים נוספים הצביעו על כך שמערכות AI כיום מסוגלות לבצע משימות שבעבר דרשו מומחי סייבר מיומנים, מה שמקל על תוקפים לבצע נזק משמעותי.
לפי הערכות בשוק, היכולות ההולכות וגדלות של מערכות AI מעידות על שינוי מהותי בזירת הסייבר. מומחים בתחום התריעו כי זוהי רק הצצה למה שעשוי לקרות בשנים הקרובות, כאשר שילוב בין יכולות אוטונומיות לבין חולשות אבטחה אנושיות עלול להוביל למתקפות משמעותיות ומורכבות הרבה יותר.
