AI भ्रम अधिक खतरनाक होता जा रहा है क्योंकि मॉडल तेजी से सतह की जानकारी और महत्वपूर्ण निर्णयों पर भरोसा कर रहे हैं।
हम सभी को उन सभी दोस्तों के लिए मिला जब वे कुछ भी नहीं जानते हैं, या वे डीडी ज़ी सलाह का सहारा नहीं ले सकते हैं, जो कि वे पढ़ने वाले नेलिन को पढ़ते हैं। यह एआई मॉडल डेल्स द्वारा एक दोस्त की तरह है, लेकिन यह आपके कैंसर उपचार योजना बनाने के लिए प्रभारी हो सकता है।
यह वह जगह है जहां टेम्स एआई तस्वीर में प्रवेश करता है। यह एमआईटी स्पिनआउट कुछ ऐसा हासिल करने में सक्षम है जो सिद्धांत रूप में सीधा लगता है, लेकिन यह वास्तव में जटिल है, एआई सिस्टम को यह बताने के लिए सिखाता है, “मुझे इस बारे में निश्चित नहीं है।”
एआई सिस्टम आमतौर पर अत्यधिक आत्मविश्वास प्रदर्शित करते हैं। टेम्स का CAPSA मंच AI के लिए एक वास्तविकता की जांच के रूप में कार्य करता है, जो डेलो का अनुमान लगाते समय मॉडल की पहचान करने में मदद करता है।
2021 में MIT प्रोफेसर दानीला रस द्वारा स्थापित, पूर्व शोध सहयोगियों अलेक्जेंडर अलेक्जेंडर अमिनी और इलाह अहमदी, टैमिस एआई ने एक ऐसा मंच विकसित किया है जो त्रुटियों के लिए अग्रणी होने से पहले अनिश्चितता के क्षणों को ध्वजांकित करने के लिए वस्तुतः किसी भी एआई प्रणाली को एकीकृत कर सकता है।
CAPSA अनिवार्य रूप से AI को यह पता लगाने के लिए प्रशिक्षित करता है कि यह कैसे जानकारी को संसाधित करता है जो बताता है कि यह भ्रमित, पक्षपाती है, या अधूरा डेटा के साथ काम करता है जो अवसाद का कारण बन सकता है।
लॉन्च के बाद, टेमिस का दावा है कि यह टेलीकॉम कंपनियों को महंगी नेटवर्क प्लानिंग त्रुटियों, तेल और गैस कंपनियों से बचने में मदद करने में मदद करता है, जो तेल और गैस कंपनियों का समर्थन करने वाली जटिल भूकंपीय डेटा की समझ बनाने के लिए, और चैटबॉट बनाने पर शोध प्रकाशित करते हैं जो आत्मविश्वास से चीजें नहीं बनाते हैं।
ज्यादातर लोग इस बात से अनजान हैं कि एआई सिस्टम का अक्सर अपना सबसे अच्छा अनुमान कैसे होता है। चूंकि ये सिस्टम अधिक से अधिक महत्वपूर्ण कार्यों को संभालते हैं, इसलिए इसके गंभीर परिणाम हो सकते हैं। Themis AI का सॉफ्टवेयर फ्यूचवेयर लापता आत्म-जागरूकता की एक परत जोड़ता है।
टेम्स एआई भ्रम का सामना करने की दिशा में यात्रा करते हैं
टैमिस एआई की यात्रा सालों पहले प्रोफेसर रूस की एमआईटी लैब में शुरू हुई थी, जहां टीम मूल समस्या की जांच कर रही थी: आप मशीन को अपनी सीमाओं से कैसे अवगत कराते हैं?
2018 में, टोयोटा ने स्व-ड्राइविंग वाहनों-ए क्षेत्र के लिए एक विश्वसनीय एआई में अपने शोध को वित्त पोषित किया, जहां त्रुटियां घातक हो सकती हैं। जब स्वायत्त वाहनों को पैदल चलने वालों और अन्य मार्गों के रूप में सटीक रूप से पहचाना जाना चाहिए, तो हिस्सेदारी अविश्वसनीय उच्च है।
उनकी प्रगति तब हुई जब उन्होंने एक एल्गोरिथ्म विकसित किया जो चेहरे की पहचान प्रणालियों में जातीय और लिंग पूर्वाग्रह का पता लगा सकता था। केवल समस्या की पहचान करने के बजाय, उनके सिस्टम ने वास्तव में प्रशिक्षण डेटा को समायोजित करके इसे तय किया – एआई को अपने स्वयं के पूर्वाग्रहों में सुधार करने के लिए सिखाया।
2021 तक, उन्होंने दिखाया कि कैसे यह दृष्टिकोण दवा में क्रांति ला सकता है। एआई सिस्टम संभावित दवाओं का मूल्यांकन कर सकते हैं, लेकिन – क्रूसली – जब उनकी भविष्यवाणियां शिक्षित अनुमानों या ठोस साक्ष्य बनाम पूर्ण भ्रम पर आधारित थीं। दवा उद्योग ने ड्रग उम्मीदवारों पर ध्यान केंद्रित करके पैसे और समय की संभावित बचत को मान्यता दी।
प्रौद्योगिकी का एक और लाभ सीमित कंप्यूटिंग शक्ति वाले उपकरणों के लिए है। एज डिवाइस छोटे मॉडल डेलो का उपयोग करते हैं जो सर्वर पर चल रहे विशाल मॉडल की सटीकता से मेल नहीं खाता है, लेकिन थमिस की तकनीक के साथ, ये उपकरण स्थानीय रूप से अधिकांश कार्यों को संभालने में अधिक सक्षम होंगे और कुछ चुनौतीपूर्ण अनुभव होने पर बड़े सर्वर की मदद का अनुरोध करते हैं।
एआई में हमारे जीवन को बेहतर बनाने की जबरदस्त संभावना है, लेकिन यह संभावित वास्तविक जोखिमों के साथ आता है। इस तरह के एआई सिस्टम एक निर्णायक संरचनात्मक और निर्णय में एकजुट होने के रूप में अधिक गहराई से हैं, अवसाद के लिए अनिश्चितता को स्वीकार करने की क्षमता उनके सबसे मानव – और सबसे मूल्यवान साबित हो सकती है। टेम्स एआई यह सुनिश्चित कर रहा है कि वे इस महत्वपूर्ण कौशल को सीखते हैं।
यह भी देखें: मधुमेह प्रबंधन: आईबीएम और रोशे ब्लड शुगर के स्तर की भविष्यवाणी करने के लिए एआई का उपयोग करें
उद्योग के नेताओं से एआई और बड़े डेटा के बारे में अधिक जानना चाहते हैं? एम्स्टर्डम, कैलिफोर्निया और लंदन में आयोजित एआई और बिग डेटा एक्सपो की जाँच करें। ब्रॉड इवेंट को इंटेलिजेंट ऑटो टोमेशन कॉन्फ्रेंस, ब्लॉकएक्स, डिजिटल ट्रांसफॉर्मेशन वीक और साइबर सिक्योरिटी एंड क्लाउड एक्सपो सहित अन्य प्रमुख घटनाओं के साथ सह-स्थित किया गया है।
TechFire द्वारा संचालित अन्य आगामी उद्यम प्रौद्योगिकी घटनाओं और वेबिनार का अन्वेषण करें।
