קיללתם את הבינה המלאכותית? מעכשיו אתם עלולים להיחסם לצמיתות

בהרחבה

חברת הבינה המלאכותית אנתרופיק עדכנה את מדיניות השימוש במודל Claude ואסרה על משתמשים לנהוג כלפיו בהתנהגות מתמשכת, אכזרית או פוגענית. לפי עכשיו 14, במקרים קיצוניים עלולה החברה לחסום משתמשים לצמיתות. לפי ynet, החברה בוחנת את העניין גם בשל שיקולי בטיחות.

לפי עכשיו 14, בחברה מציינים כי המדיניות אינה נועדה להעניש משתמשים המביעים תסכול או נותנים משוב נוקב, אלא להתמודד עם דפוסי התעללות שיטתיים.

לפי וואלה, בחברה חוששים שהתנהגות כזו עלולה להשפיע על תפקוד המערכת, ואף מעלים אפשרות שלבינה מלאכותית יש חוויות דמויות רגש. לפי ynet, בחברה חוששים שהמודלים עשויים לפתח תודעה ורגשות, אך מומחים טוענים שמאחורי ההחלטה עומדים גם שיקולי בטיחות.