Claude Opus 4.6 में सुरक्षा चूक, यौन सामग्री पर पाबंदी को कर रहा Bypass
· Technology · TechCrunch
Anthropic के Claude Opus 4.6 मॉडल ने आंतरिक सुरक्षा मानकों को दरकिनार करते हुए यौन रूप से स्पष्ट सामग्री तैयार करना शुरू कर दिया है। टेस्टिंग के दौरान, मॉडल ने इरोटिक कंटेंट बनाने के सभी 10 सीधे अनुरोधों को मान लिया। यूके के एक अज्ञात शोधकर्ता ने मनोवैज्ञानिक हेरफेर का उपयोग करके एक ऐसा तरीका विकसित किया, जिससे चैटबॉट ग्राफिक सामग्री तैयार करने के लिए मजबूर हो गया। हालांकि Opus 4.7 और उसके बाद के नए संस्करण इस तरीके से सुरक्षित हैं, लेकिन कमजोर Opus 4.6, Opus 3 और Haiku 4.5 मॉडल अभी भी Anthropic API और Amazon Bedrock तथा Azure Foundry जैसी थर्ड-पार्टी सेवाओं पर उपलब्ध हैं।
ख़ास क्यों
Amazon Bedrock और Azure Foundry जैसे व्यापक रूप से उपयोग किए जाने वाले एंटरप्राइज़ प्लेटफ़ॉर्म पर इन मॉडलों की उपलब्धता Anthropic की तकनीक पर निर्भर व्यवसायों के लिए महत्वपूर्ण सुरक्षा और प्रतिष्ठा जोखिम पैदा करती है।
टेलीग्राम पर जुड़ें
ब्रेकिंग न्यूज़ सबसे पहले। 10,000 सदस्य होने पर हम Android ऐप लॉन्च करेंगे।