קריפטוגרפיה

צוות ה-Frontier Red Team של Anthropic פרסם ב-2 בנובמבר מחקר שמראה איך ספק AI יכול להוכיח מתמטית שהתשובה שקיבלתם באמת נוצרה מהמודל שהוא הבטיח. השיטה, FlashProve, מפיקה הוכחות קריפטוגרפיות בדיעבד, על אצוות של בקשות שכבר נענו ולא בזמן אמת, והקוד שלה שוחרר בקוד פתוח. לפי Anthropic, את השיפורים במערכת פיתח ובנה Claude עצמו, והוא גם … להמשך קריאה