एजेंट की विश्वसनीयता, एजेंट, एजेंट, एजेंटों को नियमों का पालन करने के लिए मजबूर किया गया

एआई एजेंटों में सुरक्षा और विश्वसनीयता की समस्याएं हैं। यद्यपि एजेंट अपने वर्कफ़्लो को स्वचालित करने के लिए अधिक कदमों की अनुमति देंगे, वे कार्य चलाने के दौरान अनावश्यक कार्रवाई कर सकते हैं, वे बहुत लचीले नहीं हैं और नियंत्रित करना मुश्किल है।

संगठनों ने पहले ही अविश्वसनीय एजेंटों के बारे में एक अलार्म उठाया है, चिंतित है कि एक बार तैनात होने के बाद, एजेंट निर्देशों का पालन करना भूल सकते हैं।

ओपन ने यह भी स्वीकार किया कि एजेंट की विश्वसनीयता सुनिश्चित करने के लिए बाहरी लोगों के साथ काम करना, इसलिए उन्होंने इस मुद्दे को हल करने में मदद करने के लिए अपने एजेंट एसडीके को खोला।

हालांकि, सिंगापुर प्रबंधन विश्वविद्यालय (एसएमयू) के शोधकर्ताओं ने एजेंट की विश्वसनीयता को हल करने के लिए एक नया दृष्टिकोण विकसित किया है।

AgentSpec एक डोमेन-विशिष्ट संरचना है जो “उन उपयोगकर्ताओं को संरचित नियमों को परिभाषित करती है जिनमें ट्रिगर, पूर्वानुमान और कार्यान्वयन के तरीके शामिल हैं।” शोधकर्ताओं ने कहा कि एजेंट केवल उन मापदंडों में एजेंटों को नियुक्त करेंगे जो हम चाहते हैं।

एक नए दृष्टिकोण के साथ एलएलएम -आधारित एजेंटों का मार्गदर्शन करना

एजेंटस्पैक एक नया भाषा मॉडल (एलएलएम) नहीं है, लेकिन एलएलएम -आधारित एआई एजेंटों को निर्देशित करने के लिए एक दृष्टिकोण है। शोधकर्ताओं का मानना ​​है कि एंटरप्राइज़ सेटिंग्स और सेल्फ-ड्राइविंग एप्लिकेशन के एजेंटों के लिए एजेंटस्पैक का उपयोग किया जा सकता है।

पहले एजेंट्सपैक परीक्षणों को लैंगचेन फ्रेमवर्क पर एकीकृत किया गया है, लेकिन शोधकर्ताओं ने कहा कि उन्होंने इसे एक फ्रेमवर्क-ऐश ओएसटी के रूप में डिजाइन किया है, अर्थात, यह ओजेन टगन और अपोलो पारिस्थितिकी तंत्र पर चल सकता है।

एजेंटस्पैक का उपयोग करने वाले प्रयोगों से पता चला है कि “90% से अधिक असुरक्षित कोड निष्पादन स्वायत्त ड्राइविंग कानून-स्ट्राइक के साथ पूर्ण अनुपालन सुनिश्चित करता है, मूर्त एजेंटों में खतरनाक कार्रवाई को दूर करता है और मिलीसेकंड-स्तर के ओवरहेड के साथ काम करता है।” एलएलएम-जनित एजेंटस्पैक नियम, जिसमें ओपनईआई के ओ 1 का उपयोग किया गया था, ने भी मजबूत प्रदर्शन किया और 87% जोखिम भरा कोड लागू किया और “8 में से 5 में से 5 में ब्रेकिंग लॉ” को रोक दिया।

वर्तमान तरीकों की कमी है

एजेंट्सपेक एकमात्र तरीका नहीं है ताकि डेवलपर्स को एजेंटों को अधिक नियंत्रण और विश्वसनीयता प्रदान करने में मदद मिल सके। अन्य दृष्टिकोणों में ट्यूलमेन और गार्डेजेंट शामिल हैं। स्टार्टअप गैलीलियो ने एजेंटों के मूल्यांकन को लॉन्च किया, यह सुनिश्चित करने का एक तरीका है कि एजेंटों ने तदनुसार काम किया।

ओपन-सीरीज़ प्लेटफॉर्म H2 OAI फाइनेंस सरकार में वित्त, स्वास्थ्य सेवा, दूरसंचार और कंपनियों में कंपनियों द्वारा उपयोग किए जाने वाले एजेंटों की सटीकता में सुधार करने के लिए पूर्वानुमान मॉडल का उपयोग करता है।

एजेंट्सपेक ने कहा कि शोधकर्ताओं ने कहा कि ट्यूलमेन जैसे जोखिमों को कम करने के लिए वर्तमान दृष्टिकोण, प्रभावी रूप से जोखिमों की पहचान करते हैं। उन्होंने नोट किया है कि “इन विधियों में व्याख्या की कमी है और सुरक्षा कार्यान्वयन के लिए कोई विधि नहीं है, जो उन्हें एंटी -मैनिपुलेशन के लिए अतिसंवेदनशील बनाता है।”

एजेंटों का उपयोग

एजेंटों के लिए एजेंटों के लिए एक रनटाइम प्रवर्तन परत के रूप में काम करता है। यह कार्यों को लागू करते समय एजेंट के व्यवहार को रोकता है और मनुष्यों को सुरक्षा नियमों में जोड़ता है या संकेतों द्वारा उत्पादित होता है।

चूंकि एजेंट्सपेक एक कस्टम डोमेन-विशिष्ट भाषा है, इसलिए उपयोगकर्ताओं को सुरक्षा नियमों को परिभाषित करना होगा। इसमें तीन घटक हैं: पहला ट्रिगर, जब नियम को सक्रिय करना है; है; जोड़ने के लिए एक और शर्तों की जांच की जानी है; और तीसरा कार्यान्वयन है, जो नियम का उल्लंघन करने पर कार्रवाई को लागू करता है।

एजेंटस्पैक को लैंगचेन पर बनाया गया है, हालांकि, जैसा कि पहले कहा गया है, एजेंट्सपेक को अन्य रूपरेखाओं जैसे कि ऑटोजन या स्वायत्त या स्वायत्त वाहन सॉफ्टवेयर फैटवेयर स्टैक अपोलो में भी एकीकृत किया जा सकता है।

ऑर्केस्ट इस फ्रेमवर्क एजेंटों में उपयोगकर्ता इनपुट लेने, एक निष्पादन योजना बनाकर, परिणाम की निगरानी करना, और फिर यह निर्धारित करना कि प्रक्रिया पूरी हो गई है और बाद के कदम की योजना बना रही है। एजेंट्सपेक इस स्ट्रीम में नियम कार्यान्वयन को जोड़ देगा।

“एक कार्रवाई निष्पादित होने से पहले, एजेंट अनुपालन सुनिश्चित करने के लिए पूर्वनिर्धारित बाधा का मूल्यांकन करते हैं, जरूरत पड़ने पर एजेंट के व्यवहार को बदल देते हैं। विशेष रूप से, एजेंट तीन प्रमुख निर्णय मुद्दों के लिए हुक करते हैं: कार्रवाई निष्पादित होने से पहले (एजेंट कार्रवाई), जब एजेंट इंटरस्ट्रेन का उपयोग करता है।

अधिक विश्वसनीय एजेंट

एजेंटस्पैक जैसे दृष्टिकोण उद्यम के उपयोग के लिए विश्वसनीय एजेंटों की आवश्यकता दिखाते हैं। जैसा कि संगठन अपने एजेंटों की योजना बनाना शुरू करते हैं, तकनीकी निर्णय नेता भी विश्वसनीयता सुनिश्चित करने के तरीकों को देखते हैं।

कई लोगों के लिए, एजेंट अंततः स्वायत्त और सक्रिय रूप से उपयोगकर्ताओं के लिए कार्य करेंगे। परिवेश एजेंटों का विचार, जहां एआई एजेंट और एप्लिकेशन पृष्ठभूमि में चलते हैं और खुद को कार्रवाई करने के लिए ट्रिगर करते हैं, उन एजेंटों की आवश्यकता होती है जो अपने रास्ते से भटकते नहीं हैं और गलती से गैर-सुरक्षित कार्यों का प्रतिनिधित्व करते हैं।

यदि वहाँ परिवेशी एजेंट हैं जहां एजेंट एआई भविष्य में जाएंगे, तो एजेंटों की तरह अधिक तरीकों की अपेक्षा करें क्योंकि कंपनियां लगातार एआई एजेंटों को विश्वसनीय करने की कोशिश करती हैं।

वीबी दैनिक के साथ पेशेवर उपयोग के मामलों पर दैनिक अंतर्दृष्टि

यदि आप अपने बॉस को प्रभावित करना चाहते हैं, तो वीबी ने आपको हर दिन कवर किया है। हम आपको एक अंदर के स्कूप देते हैं कि विनियामक शिफ्ट से लेकर प्रैक्टिकल परिनियोजन तक की कंपनियां एआई उत्पन्न करने के साथ क्या कर रही हैं, इसलिए आप अधिकतम आरओआई के लिए अंतर्दृष्टि साझा कर सकते हैं।

हमारी गोपनीयता नीति पढ़ें

सदस्यता के लिए धन्यवाद। यहां और अधिक वीबी न्यूज़लेटर्स देखें।

एक त्रुटि पाई गई।