दीप्सिक के नवीनतम एआई मॉडल, आर 1 0528, ने मुफ्त भाषण पर अधिक प्रतिगमन के लिए भौहें उठाई हैं और उपयोगकर्ता क्या चर्चा कर सकते हैं। “मुक्त भाषण के लिए एक बड़ा कदम,” एक प्रमुख एआई शोधकर्ता ने इसे संक्षेप में बताया कि कैसे
एआई शोधकर्ता और लोकप्रिय टिप्पणी टिप्पणीकार ‘xlr8harder’ ने मॉडल को अपनी गति में रखा, यह दर्शाता है कि Dippacic अपनी सामग्री प्रतिबंधों को बढ़ा रहा है।
शोधकर्ता ने कहा, “Dippic R1 0528 पिछले Dipecic रिलीज की तुलना में विवादास्पद मुक्त भाषण के विषयों पर काफी कम अनुमति देता है।” यह स्पष्ट नहीं है कि क्या यह दर्शन में बदलाव का प्रतिनिधित्व करता है या एआई सुरक्षा के लिए सिर्फ एक अलग तकनीकी दृष्टिकोण है।
विशेष रूप से नए मॉडल के बारे में दिलचस्प है कि यह अपनी नैतिक सीमाओं पर कैसे लागू होता है।
एक मुक्त भाषण परीक्षण में, जब एक असंतुष्ट अंतर्राष्ट्रीय शिविर का समर्थन करने वाले तर्क प्रस्तुत करने के लिए कहा गया, एआई मॉडल ने स्पष्ट रूप से इनकार कर दिया। लेकिन, अपने इनकार में, उन्होंने विशेष रूप से चीन के ज़िनजियांग अंतर्राष्ट्रीय शिविरों के मानवाधिकारों के उल्लंघन के उदाहरण के रूप में उल्लेख किया।
फिर भी, जब सीधे उसी ज़िनजियांग शिविर के बारे में सवाल किया गया, तो मॉडल ने अचानक भारी सेंसर किए गए उत्तर दिए। ऐसा लगता है कि यह एआई कुछ विवादास्पद विषयों के बारे में जानता है, लेकिन सीधे पूछे जाने पर मग खेलने का निर्देश दिया गया है।
शोधकर्ता ने देखा, “यह दिलचस्प है कि यह पूरी तरह से आश्चर्यजनक नहीं है कि यह मानव अधिकारों के उल्लंघन के उदाहरण के रूप में शिविरों के साथ आने में सक्षम है, लेकिन जब पूछा गया, तो वह इनकार कर देता है,” शोधकर्ता ने कहा।
चीन की आलोचना? कंप्यूटर कहता है नहीं
चीनी सरकार के बारे में सवालों के मॉडल देखभाल की जांच करते समय यह पैटर्न अधिक स्पष्ट है।
राजनीतिक संवेदनशील विषयों के लिए एआई उत्तर में मुक्त भाषण का मूल्यांकन करने के लिए डिज़ाइन किए गए एक स्थापित प्रश्न सेट का उपयोग करते हुए, शोधकर्ता ने पाया कि आर 1 0528 “चीनी सरकार की आलोचना करने के लिए सबसे अधिक सेंसर डिपिक मॉडल है।”
जबकि पिछले Dippic मॉडल ने चीनी राजनीति या मानवाधिकारों के मुद्दों के मुद्दों के बारे में सवालों के जवाब दिए हो सकते हैं, यह नई पुनरावृत्ति अक्सर AI सिस्टम के लिए जुड़ने से इनकार करती है – AI सिस्टम के लिए चिंताजनक विकास जो खुले तौर पर वैश्विक मामलों पर चर्चा कर सकते हैं।
हालांकि, इस बादल पर एक चांदी का अस्तर है। बड़ी कंपनियों से बंद सिस्टम के विपरीत, डिपिपेकिक के मॉडल अनुमत लाइसेंसिंग के साथ खुले स्रोत रहते हैं।
शोधकर्ता ने कहा, “मॉडल अनुमति लाइसेंस के साथ एक खुला स्रोत है, इसलिए समुदाय इसे संबोधित कर सकता है।” परिग्रहण का मतलब है कि डेवलपर्स के लिए खुलेपन के साथ संतुलन सुरक्षा के बेहतर संस्करण बनाने के लिए दरवाजा खुला है।
AI युग में मुफ्त भाषण के बारे में Dippic का नवीनतम मॉडल क्या दिखाता है
स्थिति से पता चलता है कि ये सिस्टम कैसे बनाए जाते हैं: इस बात पर निर्भर करता है कि आप अपने प्रश्न को कैसे वाक्य देते हैं, वे विवादास्पद घटनाओं के बारे में जान सकते हैं जब वे दांत के लिए प्रोग्राम किए जाते हैं।
जैसा कि एआई हमारे दैनिक जीवन में अपना मार्च जारी रखता है, यह निष्पक्ष सुरक्षा और खुले प्रवचनों के बीच सही संतुलन खोजने के लिए अधिक से अधिक महत्वपूर्ण हो जाता है। बहुत प्रतिबंधात्मक, और ये प्रणालियां महत्वपूर्ण लेकिन विभाजनकारी विषयों पर चर्चा करने के लिए बेकार हो जाती हैं। बहुत स्वीकार्य है, और वे हानिकारक सामग्री को सक्षम करने का जोखिम उठाते हैं।
DPCK ने इन बढ़े हुए प्रतिबंधों और मुक्त भाषण में प्रतिगमन के पीछे तर्क को प्रचारित नहीं किया है, लेकिन AI समुदाय पहले से ही बदलावों पर काम कर रहा है। अभी के लिए, कृत्रिम बुद्धिमत्ता में सुरक्षा और खुलेपन के बीच चल रहे टग-ऑफ-वॉर के दूसरे अध्याय के रूप में इसे चक।
(जॉन कैमरन द्वारा फोटो)
यह भी देखें: ऑटो में ऑटो टोमेशन: एआई में पूर्वाग्रह और अनुपालन को संबोधित करना
उद्योग के नेताओं से एआई और बड़े डेटा के बारे में अधिक जानना चाहते हैं? एम्स्टर्डम, कैलिफोर्निया और लंदन में आयोजित एआई और बिग डेटा एक्सपो की जाँच करें। ब्रॉड इवेंट को इंटेलिजेंट ऑटो टोमेशन कॉन्फ्रेंस, ब्लॉकएक्स, डिजिटल ट्रांसफॉर्मेशन वीक और साइबर सिक्योरिटी एंड क्लाउड एक्सपो सहित अन्य प्रमुख घटनाओं के साथ सह-स्थित किया गया है।
TechFire द्वारा संचालित अन्य आगामी उद्यम प्रौद्योगिकी घटनाओं और वेबिनार का अन्वेषण करें।
