לפי ביזפורטל, החברה כותבת בתשקיף כי המודלים שלה עלולים להגיע בקרוב לסף שהיא עצמה הגדירה כהאצה דרמטית בזכות AI. לפי ישראל היום, היא מודה שהיא קרובה לנקודת ה-RSI, השלב שבו הבינה המלאכותית מפתחת דורות חדשים של עצמה.
לפי ynet, החברה מודה כי לא תמיד הצליחה לזהות בזמן אמת את ההאצה בקצב הפיתוח. היא מזהירה כי השימוש ב-AI לפיתוח מודלים חדשים עלול להוביל לקפיצת מדרגה ביכולות, ומעלה חשש שמנגנוני הבטיחות לא יצליחו להדביק את הקצב.
שיתוף
הדיווחים באתרים 4 אתרים
מה אומרים
מעריב
חלקו של מודל קלוד בעבודת הפיתוח של אנתרופיק זינק ל-26% בתוך חודשים ספורים, תחת פיקוח אנושי.
ביזפורטל
החברה כתבה בתשקיף שהמודלים שלה עלולים להגיע בקרוב לסף של האצה דרמטית בזכות AI, ושהיא שוקלת לעדכן את מדיניות הבטיחות.
ישראל היום
החברה מודה שהיא קרובה לנקודת ה-RSI, השלב שבו הבינה המלאכותית מפתחת דורות חדשים של עצמה, ומזהירה מפני פערי בטיחות קריטיים.
במסמך שהגישה לקראת ההנפקה המתקרבת שלה, מפתחת קלוד חושפת כי לא תמיד הצליחה לזהות בזמן אמת את ההאצה בקצב הפיתוח של עצמה. כעת היא מזהירה כי השימוש ב-AI לפיתוח מודלים חדשים עלול להוביל לקפיצת מדרגה דרמטית ביכולותיהם, ומעלה חשש שמנגנוני הבטיחות לא יצליחו להדביק את הקצב
באותיות הקטנות של מסמכי ההנפקה המעודכנים לוול סטריט, מעבדת ה-AI אנתרופיק הטילה פצצה • החברה מודה כי היא קרובה מאוד לנקודת ה-RSI - השלב שבו הבינה המלאכותית מפתחת דורות חדשים של עצמה • המפתחים מתחייבים להשאיר בני אדם בלולאה, אך מזהירים מפני פערי בטיחות קריטיים
בפרק גורמי הסיכון בתשקיף ההנפקה כותבת יוצרת קלוד שהמודלים שלה עלולים להגיע בקרוב לסף שהיא עצמה הגדירה כהאצה דרמטית בזכות AI. החברה מודה שבעבר זיהתה קפיצות ביכולות באיחור, ושוקלת לעדכן את מדיניות הבטיחות כדי לשמור על בני אדם בשליטה
בתוך חודשים ספורים זינק חלקו של מודל קלוד בעבודת הפיתוח של אנתרופיק ל-26%, תחת פיקוח אנושי. כעת בכירי החברה מזהירים מפני תהליך שעלול לשנות את עולם הטכנולוגיה מהר מכפי שחשבו
ישראל היום
