व्याख्या करने योग्य एआई प्लेबुक: आपके एंटरप्राइज़ एलएलएम रणनीति के लिए एन्थ्रोपिक के शोध का क्या मतलब है

एंथ्रोपिक सीईओ डारियो मोड ने अप्रैल में अप्रैल में अप्रैल में यह समझने के लिए कि एआई मॉडल कैसे सोचते हैं।

यह महत्वपूर्ण समय में आता है। वैश्विक एआई रैंकिंग में एंथ्रोपिक लड़ाई के रूप में, यह ध्यान रखना महत्वपूर्ण है कि इसे अन्य शीर्ष एआई प्रयोगशालाओं से अलग करना। चूंकि यह 2021 में स्थापित किया गया था, जब सात खुले एआई कर्मचारियों ने एआई सुरक्षा के बारे में चिंताओं को तोड़ दिया, एंथ्रोपी ने एआई मॉडल डेल्स बनाए हैं, जो मानव-योग्य सिद्धांतों के एक सेट का पालन करता है, एक प्रणाली जिसे संवैधानिक एआई कहा जाता है। ये सिद्धांत यह सुनिश्चित करते हैं कि मॉडल “सहायक, ईमानदार और निर्दोष” हैं और आमतौर पर समाज के सर्वोत्तम हित में कार्य करते हैं। उसी समय, एन्थ्रोपिक के रिसर्च हैंड ने यह समझने के लिए गहरे बंड में गोता लगाया कि उनके मॉडल दुनिया के बारे में कैसे सोचते हैं, और क्यों वे सहायक (और कभी -कभी हानिकारक) उत्तरों का उत्पादन करते हैं।

एंथ्रोपिक का प्रमुख मॉडल, क्लाउड 7.7 सॉनेट, जब फरवरी में शुरू होने पर बेंचमार्क कोडिंग का प्रभुत्व था, तो साबित करता है कि एआई मॉडल प्रदर्शन और सुरक्षा दोनों में उत्कृष्ट हो सकते हैं। और क्लाउड 4.0 ओपस और सोननेट की नवीनतम प्रस्तुति फिर से क्लाउड को कोडिंग बेंचमार्क के ऊपर रख रही है। हालांकि, आज के तेज और हाइपर-प्रतिस्पर्धी एआई मार्केट में, Google के मिथुन 2.5 प्रो और ओपन एआई के एन्थ्रोपिक के प्रतिद्वंद्वियों जैसे एन्थ्रोपिक फीचर कोडिंग, जबकि वे पहले से ही गणित, रचनात्मक लेखन और कई भाषाओं में समग्र तर्क पर क्लाउड द्वारा हावी हैं।

यदि अमोदाई के विचार एक संकेत हैं, तो एन्थ्रोपिक एआई के भविष्य के लिए योजना बना रहा है और दवा, मनोरोग और कानून जैसे महत्वपूर्ण क्षेत्रों में इसके निहितार्थ, जहां मॉडल सुरक्षा और मानव मूल्यों की आवश्यकता होती है। और यह दिखाता है: एंथ्रोपिक एक प्रमुख एआई लैब है जो एक “व्याख्या योग्य” एआई विकसित करने पर कड़ाई से ध्यान केंद्रित करता है, मॉडल जो हमें समझने की अनुमति देते हैं, कुछ हद तक निश्चित रूप से, मॉडल क्या सोचता है और यह एक निश्चित निष्कर्ष पर कैसे आता है।

अमेज़ॅन और Google ने पहले से ही एंथ्रोपिक में अरबों डॉलर का निवेश किया है, हालांकि वे अपने स्वयं के एआई मॉडल बनाते हैं, इसलिए एन्थ्रोपिक का प्रतिस्पर्धात्मक लाभ अभी भी उभर रहा है। एंथ्रोपिक जैसे व्याख्यात्मक मॉडल, डिबगिंग से जुड़े लंबे समय तक परिचालन लागत को काफी कम कर सकते हैं, डेटिंग डेटिंग और जटिल एआई तैनाती में जोखिमों को कम कर सकते हैं।

एआई सुरक्षा शोधकर्ता सयाश कपूर का सुझाव है कि यद्यपि व्याख्या मूल्यवान है, वह एआई जोखिम का प्रबंधन करने के लिए कई उपकरणों में से एक है। उनके विचार में, “व्याख्या आवश्यक है या पर्याप्त नहीं है” यह सुनिश्चित करने के लिए कि मॉडल सुरक्षित रूप से व्यवहार करते हैं “-जब फिल्टर, वेरिफायर और मैन-केंद्रित डिजाइनों के साथ संयुक्त है, यह सबसे महत्वपूर्ण है। यह अधिक विस्तृत दृश्य व्याख्या को नियंत्रण रणनीति के एक बड़े पारिस्थितिकी तंत्र के हिस्से के रूप में देखता है, विशेष रूप से वास्तविक-विश्व एआई तैनाती में जहां मॉडल संपीड़ित निर्णय लेने वाले सिस्टम में घटक हैं।

उचित ए.आई.

कुछ समय पहले तक, कई विचार एआईएस अभी भी उस प्रगति से थे, जिसने क्लाउड, जेमिनी और चट्टगप्ट को एक असाधारण बाजार को अपनाने में मदद की है। जबकि ये मॉडल पहले से ही मानव जीनोलेज की सीमाओं को आगे बढ़ा रहे हैं, उनका व्यापक उपयोग यही कारण है कि वे व्यावहारिक समस्याओं की एक विस्तृत श्रृंखला को हल करने के लिए अच्छे हैं जो उन्हें एक रचनात्मक समस्या को हल करने या एक विस्तृत विश्लेषण की आवश्यकता है। जैसा कि मॉडल अधिक से अधिक गंभीर हैं, यह महत्वपूर्ण है कि वे सटीक उत्तर दें।

अमोदाई को डर है कि जब कोई एआई एक पल का जवाब देता है, “हमें कोई पता नहीं है … वह दूसरों पर कुछ शब्द क्यों चुनता है, या आमतौर पर सटीक होता है, कभी -कभी गलत होता है।” इस तरह की त्रुटियां – गलत जानकारी का भ्रम, या उत्तर जो मानव मूल्यों के साथ संरेखित नहीं करते हैं – एआई मॉडल को उनकी पूरी क्षमता के पीछे रखेंगे। वास्तव में, हमने एआई के कई उदाहरण देखे हैं जो भ्रम और अनैतिक व्यवहार के साथ संघर्ष करना जारी रखते हैं।

आमदेई के लिए, इन समस्याओं को हल करने का सबसे अच्छा तरीका यह समझना है कि एआई कैसे सोचता है: “मॉडल डेलो के आंतरिक तरीकों को समझने में हमारी असमर्थता का मतलब है कि हम इस तरह के (हानिकारक) व्यवहारों की भविष्यवाणी नहीं कर सकते हैं, और इसलिए हम उन्हें शासन करने के लिए संघर्ष कर सकते हैं, और हमें मॉडल के बजाय मॉडलों को देखना होगा। ज्ञान एक लक्षण है।

अमोदाई वर्तमान मॉडलों की अस्पष्टता को “एआई मॉडल को उच्च-पदक वित्तीय या सुरक्षा-निर्णय लेने वाली सेटिंग्स में तैनात करने के लिए एक बाधा के रूप में देखता है, क्योंकि हम उनके व्यवहार पर पूरी तरह से सीमा निर्धारित नहीं कर सकते हैं, और कम संख्या में त्रुटियां बहुत हानिकारक हो सकती हैं।” एक निर्णय में जो सीधे चिकित्सा निदान या बंधक आकलन जैसे मनुष्यों को प्रभावित करता है, कानूनी नियमों को अपने निर्णयों की व्याख्या करने के लिए एआई की आवश्यकता होती है।

धोखाधड़ी जांच के लिए एक बड़े भाषा मॉडल (एलएलएम) का उपयोग करके एक वित्तीय संस्थान की कल्पना करें – व्याख्या का अर्थ है कानून द्वारा आवश्यक ग्राहक को ऋण आवेदन की व्याख्या करना। या एक उत्पाद भुगतान फर्म की आपूर्ति इष्टतम को चीन – एआई को बताती है कि एक निश्चित आपूर्तिकर्ता दक्षता को क्यों नहीं रोक सकता है और अप्रत्याशित बाधाओं को रोक सकता है।

इस वजह से, अमोदाई बताते हैं, “एन्थ्रोपिक व्याख्या पर दोगुना हो गया है, और हमारा उद्देश्य” 2027 तक मज़बूती से अधिकांश मॉडल समस्याओं पर व्याख्याएं प्राप्त करना है। “

उसके लिए, एंथ्रोपिक ने हाल ही में गुडफायर में एक मिलियन 50 मिलियन निवेश में भाग लिया, एआई रिसर्च लैब एआई “ब्रेन स्कैन” पर प्रगति की। उनका मॉडल एक निरीक्षण मंच है, एम्बर, एक ओएसटी उपकरण जो मॉडल के भीतर सीखी गई अवधारणाओं को पहचानता है और उपयोगकर्ताओं को उन्हें हेरफेर करने की अनुमति देता है। हाल के डेमो में, कंपनी ने दिखाया कि कैसे एम्बर छवि पीढ़ी एआई में व्यक्तिगत दृश्य अवधारणाओं की पहचान कर सकती है और फिर उपयोगकर्ताओं को उपयोगकर्ताओं को जाने देती है रंग नई छवियों को बनाने के लिए उपयोगकर्ता का डिज़ाइन कैनवास पर इन अवधारणाओं का अनुसरण करता है।

एम्बर में एन्थ्रोपिक का निवेश इस तथ्य पर इंगित करता है कि व्याख्यात्मक मॉडल डेलो को विकसित करना इतना मुश्किल है कि एन्थ्रोपिक में अपने दम पर व्याख्या प्राप्त करने के लिए जनशक्ति नहीं है। रचनात्मक व्याख्यात्मक मॉडल में उन्हें बनाने के लिए नए टूलचेन और कुशल डेवलपर्स की आवश्यकता है

व्यापक संदर्भ: एआई शोधकर्ता का परिप्रेक्ष्य

अमोदाई के परिप्रेक्ष्य को तोड़ने के लिए और एक बहुत आवश्यक संदर्भ जोड़ने के लिए, वेंचरबैट कपूर प्रिन्स्टन में एआई सुरक्षा शोधकर्ता का साक्षात्कार करता है। कपूर ने इस पुस्तक को सह-लेखक किया ए.आई. सांप का तेलअग्रणी एआई मॉडल की क्षमताओं के आसपास अतिरंजित दावों की एक महत्वपूर्ण परीक्षा। वह “के सह-लेखक भी हैं”एक सामान्य तकनीक के रूप में ऐ“जिसमें यह एआई को एक मानक, परिवर्तनकारी उपकरण जैसे कि इंटरनेट या बिजली के रूप में वकालत करता है, और रोजमर्रा की प्रणालियों में इसके एकीकरण पर वास्तविक परिप्रेक्ष्य को बढ़ावा देता है।

कपूर ने इस बात पर विवाद नहीं किया है कि व्याख्या मूल्यवान है। हालांकि, इसे एआई संरेखण के केंद्रीय स्तंभ के रूप में माना जाता है। “यह एक चांदी की गोली नहीं है,” कपूर ने वेंचरबिट को बताया। उन्होंने कहा कि कई प्रभावी सुरक्षा तकनीकें, जैसे कि पोस्ट -रेस्पॉन्स फ़िल्टरिंग, को मॉडल को खोलने की आवश्यकता नहीं है, उन्होंने कहा।

उन्होंने शोधकर्ताओं के खिलाफ “उत्पीड़न के झूठे शब्द” कहते हुए भी चेतावनी दी है – यह विचार कि यदि हम सिस्टम के इंटीरियर को पूरी तरह से नहीं समझते हैं, तो हम इसे जिम्मेदारी से उपयोग या विनियमित नहीं कर सकते हैं। व्यवहार में, पूर्ण पारदर्शिता यह नहीं है कि अधिकांश प्रौद्योगिकियों का मूल्यांकन कैसे किया जाता है। क्या महत्वपूर्ण है कि क्या प्रणाली वास्तविक परिस्थितियों में मज़बूती से करती है।

यह पहली बार नहीं है जब अमोड ने एआई की हमारी समझ के बारे में एआई की समझ के जोखिमों की चेतावनी दी है। अपने अक्टूबर कैटबर 2024 पोस्ट में, “लविंग ग्रेस मशीन” में, उन्होंने अधिक से अधिक सक्षम मॉडल की दृष्टि को स्केच किया जो कि सार्थक वास्तविक दुनिया की कार्रवाई (और शायद हमारे जीवनकाल को दोगुना कर सकते हैं)।

कपूर के अनुसार, यहां एक मॉडल के बीच एक महत्वपूर्ण अंतर है क्षमता और शक्ति। मॉडल क्षमताएं तेजी से बढ़ रही हैं, और वे आज मानवता को चुनौती देने वाली कई जटिल समस्याओं के समाधान खोजने के लिए पर्याप्त बुद्धिमत्ता विकसित कर सकते हैं। लेकिन एक मॉडल केवल उन इंटरफेस के रूप में शक्तिशाली है जो हम वास्तविक दुनिया के साथ संवाद करने की पेशकश करते हैं, जिसमें मॉडल कहां और कैसे शामिल हैं।

अमोडी ने अलग से तर्क दिया है कि यूएसए ए.आई. विकास में लीड को बनाए रखा जाना चाहिए, निर्यात प्रतिबंधों के हिस्से के रूप में जो शक्तिशाली मॉडल की सीमा सेस को सीमित करता है। विचार यह है कि तानाशाही सरकारें फ्रंटियर एआई सिस्टम का उपयोग गैर -जिम्मेदार कर सकती हैं – या पहली तैनाती के साथ आने वाली भौगोलिक राजनीतिक और आर्थिक किनारों को जब्त कर सकती हैं।

कपूर के लिए, “यहां तक ​​कि निर्यात प्रतिबंधों के सबसे बड़े समर्थक भी इस बात से सहमत हैं कि यह हमें एक या दो साल देगा।” वह सोचता है कि हमें एआई को बिजली या इंटरनेट जैसी “साधारण तकनीक” के रूप में विचार करना चाहिए। क्रांतिकारी के बावजूद, दोनों तकनीकों ने पूरे समाज को पूरी तरह से महसूस करने में दशकों लग गए। कपूर को लगता है कि यह एआई के लिए समान है: भौगोलिक राजनीतिक बढ़त बनाए रखने का सबसे अच्छा तरीका यह है कि उद्योग के परिवर्तनकारी “लंबे खेल” पर ध्यान केंद्रित किया जाए ताकि वह प्रभावी रूप से एआई का उपयोग कर सके।

अन्य लोग अमोडी की आलोचना करते हैं

कपूर केवल अमोदाई के रवैये की आलोचना नहीं कर रहे हैं। पिछले हफ्ते विवाटेक, पेरिस, एनवीडिया के सीईओ जेन्सेन हुआंग ने अमोदाई के विचारों के साथ अपने मतभेदों की घोषणा की। हुआंग ने सवाल किया कि क्या एआई को विकसित करने की शक्ति कुछ शक्तिशाली संगठनों जैसे कि एटॉपिक तक सीमित होनी चाहिए। उन्होंने कहा: “यदि आप चीजों को सुरक्षित और जिम्मेदारी से करना चाहते हैं, तो आप इसे खुले में करते हैं … इसे डार्क रूम में न करें और मुझे बताएं कि यह सुरक्षित है।”

जवाब में, एंथ्रोपिक ने कहा, “डारियो ने कभी भी यह दावा नहीं किया है कि ‘केवल एंथ्रोपिक’ एक सुरक्षित और शक्तिशाली एआई बना सकता है। सार्वजनिक रिकॉर्ड दिखाएगा, डारियो ने एआई डेवलपर्स (एन्थ्रोपिक सहित) के लिए राष्ट्रीय पारदर्शिता मानक की वकालत की है ताकि सार्वजनिक और नीति निर्माताओं को क्षमताओं और खतरों के बाद तैयार किया जा सके।”

यह भी ध्यान देने योग्य है कि एन्थ्रोपिक अपनी व्याख्या की तलाश में अकेला नहीं है: नील नंदा के नेतृत्व में Google की डिपमाइंड व्याख्या टीम ने भी व्याख्या अनुसंधान में एक गंभीर योगदान दिया है।

अंततः, शीर्ष एआई लैब और शोधकर्ता इस बात का पुख्ता सबूत प्रदान कर रहे हैं कि प्रतिस्पर्धी एआई बाजार में व्याख्याएं मुख्य अंतर हो सकती हैं। प्रारंभिक व्याख्या को पसंद करने वाले उद्योग प्रारंभिक, सुसंगत, सुसंगत और अनुकूली एआई सिस्टम बनाकर महत्वपूर्ण प्रतिस्पर्धी किनारों को प्राप्त कर सकते हैं।

वीबी दैनिक के साथ पेशेवर उपयोग के मामलों पर दैनिक अंतर्दृष्टि

यदि आप अपने बॉस को प्रभावित करना चाहते हैं, तो वीबी ने आपको हर दिन कवर किया है। हम आपको एक अंदर के स्कूप देते हैं कि विनियामक शिफ्ट से लेकर प्रैक्टिकल परिनियोजन तक की कंपनियां एआई उत्पन्न करने के साथ क्या कर रही हैं, इसलिए आप अधिकतम आरओआई के लिए अंतर्दृष्टि साझा कर सकते हैं।

हमारी गोपनीयता नीति पढ़ें

सदस्यता के लिए धन्यवाद। यहां और अधिक वीबी न्यूज़लेटर्स देखें।

एक त्रुटि पाई गई।