כלי הבינה המלאכותית קלוד (Claude) של חברת אנתרופיק שימש במבצע צבאי אמריקאי ללכידת נשיא ונצואלה לשעבר ניקולס מדורו, כך עולה מדיווחים של עיתון "וול סטריט ג'ורנל". המקרה מדגיש כיצד מודלים של בינה מלאכותית צוברים אחיזה בפנטגון.
המבצע ללכידת מדורו ואשתו כלל הפצצת מספר אתרים בקראקס בחודש שעבר. מדיניות השימוש של אנתרופיק אוסרת במפורש על שימוש ב-Claude לצורך אלימות, פיתוח נשק או ביצוע מעקב.
דובר אנתרופיק הצהיר: "איננו יכולים להגיב האם Claude, או כל מודל בינה מלאכותית אחר, שימש למבצע ספציפי כלשהו, מסווג או אחר. כל שימוש ב-Claude – בין אם במגזר הפרטי ובין אם על פני הממשל – נדרש לעמוד בהתאם למדיניות השימוש שלנו, המסדירה כיצד ניתן לפרוס את Claude. אנו עובדים בשיתוף פעולה הדוק עם השותפים שלנו כדי להבטיח עמידה בכללים".
משרד המלחמה האמריקאי לא הגיב לדיווח.
אנתרופיק מסייעת לממשל האמריקאי יחד עם חברת הנתונים Palantir Technologies, שכליה משמשים באופן שגרתי את משרד ההגנה ואכיפת החוק הפדרלית. חששותיה של אנתרופיק לגבי אופן השימוש של הפנטגון ב-Claude דחפו פקידי ממשל לשקול ביטול חוזה שלה השווה עד 200 מיליון דולר, כפי שדיווח העיתון בעבר.
אנתרופיק הייתה חברת הפיתוח הראשונה של מודל בינה מלאכותית ששימשה במבצעים מסווגים של משרד ההגנה. ייתכן שכלים אחרים של בינה מלאכותית שימשו במבצע בוונצואלה למשימות לא מסווגות. הכלים יכולים לשמש לכל דבר, מסיכום מסמכים ועד לשליטה בכלי טיס אוטונומיים.
המנכ"ל של אנתרופיק, דריו אמודיי, ומנכ"לים אחרים התמודדו בפומבי עם כוחם של המודלים שלהם והסיכונים שהם עלולים להוות לחברה. אמודיי בניגוד למרבית המנהלים האחרים בתעשייה בקריאה לרגולציה גדולה יותר ולגדרות בטיחות למניעת נזקים מבינה מלאכותית.
באירוע בינואר שהכריז שהפנטגון יעבוד עם xAI, שר ההגנה פיט הגסת' אמר שהסוכנות "לא תשתמש במודלים של בינה מלאכותית שלא יאפשרו לך להילחם במלחמות".
החוזה בסך 200 מיליון דולר הוענק לאנתרופיק בקיץ שעבר. אמודיי הביע חשש פומבי לגבי השימוש של בינה מלאכותית במבצעים קטלניים אוטונומיים ומעקב מקומי – שתי נקודות המחלוקת העיקריות במשא ומתן הנוכחי על החוזה עם הפנטגון.
המגבלות הסלימו את הקרב של החברה עם ממשל טראמפ, הכולל האשמות שאנתרופיק מערערת את אסטרטגיית הבינה המלאכותית דלת הרגולציה של הבית הלבן על ידי קריאה להגבלות נוספות ולמגבלות על יצוא שבבי בינה מלאכותית.
אמודיי ומייסדים נוספים של אנתרופיק עבדו בעבר ב-OpenAI, שלאחרונה הצטרפה ל-Gemini של גוגל בפלטפורמת בינה מלאכותית לצוות הצבאי המשמשת כשלושה מיליון אנשים. החברה ומשרד ההגנה אמרו שהגרסה המותאמת אישית של ChatGPT תשמש לניתוח מסמכים, יצירת דוחות ותמיכה במחקר.
