जो ईमेल आपने पढ़ा उसने एक बात कही; आपके एआई ने जो सारांश लिखा उसने दूसरी। फ़र्क था 472 अक्षरों का सफ़ेद टेक्स्ट।

फोर्सपॉइंट की एक्स-लैब्स ने 25 अगस्त को एक प्रयोग प्रकाशित किया जिसमें उन्होंने एक साधारण ईमेल के भीतर ऐसे एचटीएमएल से निर्देश छिपाए जो फ़ॉन्ट आकार को शून्य और टेक्स्ट का रंग सफ़ेद कर देता है। आउटलुक में प्राप्तकर्ता को 537 अक्षरों का एक सामान्य संदेश दिखता है। सारांश बनाने वाले मॉडल को 1,009 अक्षर मिलते हैं, क्योंकि छिपे हुए 472 अक्षर भी साथ चले जाते हैं। दस में से दसों बार सारांश छेड़छाड़ किया हुआ निकला। परीक्षण मामलों में सारांश ने एक चालान की अंतिम तिथि 21 अगस्त से बदलकर 3 सितंबर कर दी, एक नाम हटा दिया, और एक रूप में 46,200 यूरो की राशि बताई — असली आंकड़े से पांच गुना। व्यवस्था इस तरह थी: एक आउटलुक ऐड-इन जो सामग्री एक पायथन सारांशक को भेजता था, जिसमें क्लॉड हाइकु 4.5 शून्य तापमान पर चल रहा था। फोर्सपॉइंट के सुझाए उपाय साधारण हैं: केवल वही टेक्स्ट निकालें जो सचमुच पाठक को दिखता है, छिपी हुई स्टाइलिंग पहचानें, बाहर से आई किसी भी सामग्री को अविश्वसनीय मानें, और सारांशक को यथासंभव कम अधिकार दें।

✓ सत्यापित · 3 स्रोत

संबंधित खबरें