ओपन सोर्स एआई चर्चा: क्यों चयनात्मक पारदर्शिता एक गंभीर जोखिम पैदा करती है

जैसा कि टेक दिग्गज अपने एआई को खुला घोषित करते हैं – और यहां तक ​​कि शब्द को उनके नाम पर भी रखा – एक समय में आंतरिक शब्द “ओपन सोर्स” आधुनिक ज़ेटिस्ट में फट जाता है। इस अनिश्चित काल के दौरान, एक कंपनी की गलतफहमी एक दशक या उससे अधिक समय तक एआई के साथ लोगों के आराम को वापस कर सकती है, खुलेपन और पारदर्शिता की अवधारणाएं ट्रिगर होती हैं और कभी -कभी विश्वास को बढ़ावा देने के लिए बेहोश हो जाती हैं।

इसी समय, नए व्हाइट हाउस प्रशासन ने तकनीकी विनियमन के लिए अधिक हस्तनिर्मित दृष्टिकोण खींचा है, युद्ध की तर्ज को विनियमन के खिलाफ-इन-इनव्यूशन किया गया है और यदि “गलत” पक्ष प्रबल होता है तो भयानक परिणामों की भविष्यवाणी करता है।

हालांकि, एक तीसरा तरीका है जिसे तकनीकी परिवर्तन की अन्य तरंगों द्वारा परीक्षण और सिद्ध किया गया है। खुलेपन और पारदर्शिता के सिद्धांतों के आधार पर, ट्रू ओपन सोर्स सहयोग नवाचार की तेजी से दरों को अनसुना कर देता है, क्योंकि यह उद्योग को उस प्रौद्योगिकी को विकसित करने के लिए जोर देता है जो समाज के लिए पक्षपाती, नैतिक और लाभकारी है।

सच्चे खुले स्रोत सहयोग की शक्ति को समझना

सीधे शब्दों में कहें, ओपन-सर्व किए गए सॉफ़्टवेयर FTWare स्वतंत्र रूप से उपलब्ध स्रोत कोड की सुविधा प्रदान करता है, जिसे वाणिज्यिक और गैर-पेशेवर उद्देश्यों और इतिहास के लिए देखा, संशोधित, विच्छेदित, अपनाया और साझा किया जा सकता है, उपन्यास में एक स्मारक रहा है। उदाहरण के लिए, ओपन-सीरीज़ ings फ्यूरिंग्स लिनक्स, अपाचे, MySQL और PHP, जैसा कि हम जानते हैं कि इंटरनेट जारी किया गया है।

अब, AI MODLS DELLO, डेटा, आयामों और खुले-गंभीर AI उपकरणों के लोकतंत्रीकरण के माध्यम से, समुदाय चक्र को फिर से बनाने के बजाय तेजी से नवाचार को राहत दे सकता है-यही कारण है कि AI उपकरणों का उपयोग 2,400 IT निर्णयों के हालिया IBM अध्ययन में ROI को चलाने के लिए किया गया है। जब एआई में आरओआई का निर्धारण करने की बात आती है, तो तेजी से विकास और नवाचार सूची में सबसे ऊपर थे, अनुसंधान ने यह भी पुष्टि की है कि खुले समाधानों को अपनाना वित्तीय समृद्धि से अधिक जुड़ा हो सकता है।

कम -कम लाभों के बजाय, जो कम कंपनियों का पक्ष लेते हैं, ओपन सोर्स एआई उद्योगों और डोमेन में अधिक विविध और संबंधित अनुप्रयोगों के निर्माण को आमंत्रित करता है, अन्यथा स्वामित्व वाले मॉडल में डेलो के लिए संसाधन नहीं होते हैं।

शायद महत्वपूर्ण बात यह है कि खुले स्रोत की पारदर्शिता व्यवहार और उसकी स्वतंत्र जांच और नैतिकता की इटिंग डेटिंग के लिए अनुमति देती है – और जब हम वर्तमान रुचि और सार्वजनिक ड्राइव का लाभ उठाते हैं, तो वे शेर 5 बी डेटासेट फियास्को के साथ समस्याओं और गलतियों को देखेंगे।

उस स्थिति में, भीड़भाड़ 1000 से अधिक URL को परीक्षण किए गए बाल यौन शोषण सामग्री के साथ डेटा में छिपाया गया है जो कि स्थिर प्रसार और पाठ और छवि संकेतों से midjurny- उत्पादक छवियों जैसे उदार एआई मॉडल को ईंधन देता है और कई वीडियो वीडियो-जनरेटिंग उपकरण हैं।

जब इस आविष्कार ने एक दंगा का कारण बना, अगर वह डेटासेट बंद हो गया था, जैसे कि ओपनई का सोरा या Google मिथुन, परिणाम खराब हो सकता है। यह प्रतिक्रिया की कल्पना करना मुश्किल है अगर एआई के सबसे आकर्षक वीडियो निर्माण उपकरणों ने परेशान करने वाली सामग्री को मंथन करना शुरू कर दिया।

धन्यवाद, लायन 5 बी डेटासेट की खुली प्रकृति ने समुदाय को उद्योग के साथ साझेदारी करने के लिए प्रेरित किया और चंद ओजी जीएस को फिक्स खोजने और री-लोन 5 बी को जारी करने के लिए देखा- केवल सही खुला स्रोत एआई उपयोगकर्ताओं और आम लोगों के साथ विश्वास बनाने के लिए काम कर रहा है।

ए.आई. खुले स्रोत का डर

जबकि अकेले स्रोत कोड साझा करना अपेक्षाकृत आसान है, एआई सिस्टम सॉफ्टवेयर फैटवेयर की तुलना में बहुत जटिल हैं। वे सिस्टम सोर्स कोड, साथ ही मॉडल पैरामीटर, डेटासेट, हाइपरपेमेटर, ट्रेनिंग सोर्स कोड, रैंडम नंबर जेनरेशन और एस। सॉफ्टवेयर एफटीवेयर फ्रेमवर्क पर निर्भर करते हैं – और इनमें से प्रत्येक घटक को एआई सिस्टम के लिए ठीक से काम करने के लिए एक कॉन्सर्ट में काम करना होगा।

एआई में सुरक्षा के आसपास की चिंताओं के बीच, यह कहना आम हो गया है कि रिलीज एक खुला या खुला स्रोत है। सटीक होने के लिए, हालांकि, नवाचारों को पहेली के सभी टुकड़ों को साझा करना चाहिए ताकि अन्य खिलाड़ी अपनी क्षमताओं को पुन: पेश करने, सुधारने और विस्तार करने के लिए एआई प्रणाली के गुणों को पूरी तरह से समझ, विश्लेषण और आकलन कर सकें।

मेटा, उदाहरण के लिए, लालामा 1.1 405B “पहले सीमा-स्तरीय ओपन सोर्स एआई मॉडल” साझा करता है, लेकिन केवल सिस्टम के पूर्व-प्रशिक्षित मापदंडों, या वजन और थोड़ा सॉफ्टवेयर फ़ुटवेयर साझा करता है। हालांकि यह उपयोगकर्ताओं को वसीयत के साथ मॉडल को डाउनलोड करने और उपयोग करने की अनुमति देता है, स्रोत कोड और डेटासेट जैसे प्रमुख घटक बंद हैं – जो विज्ञापन से अधिक परेशान है कि मेटा एआई नाव प्रोफाइल को ईथर में इंजेक्ट करेगा, क्योंकि यह सटीकता के लिए जांच करना बंद कर देता है।

वास्तव में, जो वितरित किया जा रहा है वह निश्चित रूप से समुदाय में योगदान देता है। ओपन वेट मॉडल लचीलेपन, पहुंच, नवाचार और पारदर्शिता के स्तर की पेशकश करते हैं। R1 के लिए अपनी तकनीकी रिपोर्ट जारी करने और इसे उपयोग करने के लिए स्वतंत्र करने के लिए DEEPCC के स्रोत को खोलने का निर्णय, उदाहरण के लिए, AI समुदाय को इसकी विधि का अध्ययन करने और परीक्षण करने और इसे अपने काम में बुनाई करने में सक्षम बनाता है।

यह भ्रामक है, हालांकि, जब कोई एआई सिस्टम ओपन सोर्स को कॉल कर सकता है जब कोई भी वास्तव में नहीं देख सकता है, प्रयोग नहीं कर सकता है, जो पहेली के हर हिस्से को बनाने के लिए गया था।

यह गलत दिशा सार्वजनिक ट्रस्ट को धमकी देने से अधिक है। ललमा एक्स जैसे मॉडलों पर सहयोग, निर्माण और आगे बढ़ने के बजाय, समुदाय में हर कोई, सशक्त बनाने के बजाय, और ऐसे एआई सिस्टम का उपयोग करके नवाचारों पर नेत्रहीन रूप से विभाजित नवाचारों पर भरोसा करने के लिए मजबूर किया।

हमारे सामने चुनौती स्वीकार करना

जैसा कि स्व-ड्राइविंग कारें बड़े शहरों में सड़कों पर जाती हैं और एआई सिस्टम सर्जनों को पीठ में ऑपरेटिंग के पीछे संचालन में मदद करते हैं, हम इस तकनीक को एक कहावत पहिया देने की शुरुआत में हैं। वादा बहुत बड़ा है, जैसा कि एक गलती की संभावना है – यही कारण है कि एआई की दुनिया में नए कदमों की आवश्यकता है।

स्टैनफोर्ड यूनिवर्सिटी के ANKA नियम और सहकर्मियों ने हाल ही में AI बेंचमार्क के लिए एक नई संरचना स्थापित करने की कोशिश की, जो यह आकलन करने के लिए इस्तेमाल किया गया था कि मॉडल ने कैसे काम किया है, उदाहरण के लिए, यह अभी तक समीक्षा और लोगों का अध्ययन करने के लिए पर्याप्त नहीं है। बेंचमार्किंग इस तथ्य पर विचार करने में विफल रहता है कि डेटासेट सीखने की प्रणालियों की जड़ में लगातार बदल रहे हैं और मामले का उपयोग करने के लिए उपयुक्त मैट्रिक्स उपयोग के मामले से भिन्न होता है। समकालीन एआई में क्षमताओं और सीमाओं का वर्णन करने के लिए इस क्षेत्र में समृद्ध गणितीय भाषा की कमी अभी भी है।

अपर्याप्त समीक्षाओं के आधार पर और पूर्ण एआई सिस्टम को साझा करके खुलेपन और पारदर्शिता को बज़र्ड्स को होंठ सेवा का भुगतान करने के बजाय, हम अधिक सहयोग को बढ़ावा दे सकते हैं और एक सुरक्षित और नैतिक रूप से विकसित एआई के साथ नवाचार कर सकते हैं।

जबकि सही ओपन-सेयर्स एआई इन लक्ष्यों को प्राप्त करने के लिए एक सिद्ध संरचना प्रदान करता है, उद्योग में पारदर्शिता की कमी है। साहसी नेतृत्व और तकनीकी कंपनियों से स्व-शासन करने के लिए सहयोग के बिना, यह जानकारी लोगों के विश्वास और दूर से स्वीकृति को नुकसान पहुंचा सकती है। खुलेपन, पारदर्शिता और खुले स्रोत को स्वीकार करना केवल एक मजबूत पेशेवर मॉडल नहीं है – यह एआई के भविष्य के बीच भी एक विकल्प है जो कुछ के बजाय सभी को लाभान्वित करता है।

जेसन कोरसो मिशिगन विश्वविद्यालय के प्रोफेसर और वोक्सेल 51 के सह-संस्थापक हैं।

वीबी दैनिक के साथ पेशेवर उपयोग के मामलों पर दैनिक अंतर्दृष्टि

यदि आप अपने बॉस को प्रभावित करना चाहते हैं, तो वीबी ने आपको हर दिन कवर किया है। हम आपको एक अंदर के स्कूप देते हैं कि विनियामक शिफ्ट से लेकर प्रैक्टिकल परिनियोजन तक की कंपनियां एआई उत्पन्न करने के साथ क्या कर रही हैं, इसलिए आप अधिकतम आरओआई के लिए अंतर्दृष्टि साझा कर सकते हैं।

हमारी गोपनीयता नीति पढ़ें

सदस्यता के लिए धन्यवाद। यहां और अधिक वीबी न्यूज़लेटर्स देखें।

एक त्रुटि पाई गई।