ओपनएआई के पूर्व कर्मचारियों ने खुले पत्र में एआई खतरों के बारे में चेतावनी दी है। शीर्ष एआई कंपनियों के पूर्व कर्मचारियों ने कृत्रिम बुद्धिमत्ता के खतरों पर प्रकाश डालते हुए एक खुला पत्र लिखा है। बाद में, उन्होंने उन्नत कृत्रिम बुद्धिमत्ता (एआई) के विकास और उपयोग में बेहतर पारदर्शिता और जवाबदेही का आह्वान किया है।
उनका मानना है कि एआई में हमारे जीवन को बेहतर बनाने की काफी संभावनाएं हैं लेकिन वे इसके गंभीर खतरों को लेकर चिंतित हैं।
एआई चिकित्सा संबंधी सफलताओं और बेहतर तकनीक जैसे आश्चर्यजनक लाभ ला सकता है, लेकिन इसके गंभीर नुकसान भी हैं। इन कर्मचारियों को चिंता है कि एआई सामाजिक असमानताओं को खराब कर सकता है, गलत जानकारी फैला सकता है और यहां तक कि ऐसी स्थिति पैदा कर सकता है जहां हम एआई सिस्टम पर नियंत्रण खो देते हैं, जिससे संभावित रूप से बड़ा नुकसान हो सकता है, जिसमें मानव अस्तित्व के लिए खतरा भी शामिल है।
दुनिया भर की एआई कंपनियों, सरकारों और विशेषज्ञों ने इन जोखिमों को स्वीकार किया है। हालाँकि, उन्हें ठीक से प्रबंधित करने के लिए पर्याप्त प्रभावी निरीक्षण नहीं है। एआई कंपनियों के पास अक्सर अपने सिस्टम के जोखिमों और क्षमताओं के बारे में बहुत सारी जानकारी होती है, लेकिन उन्हें इस जानकारी को जनता या सरकारी अधिकारियों के साथ साझा करने की आवश्यकता नहीं होती है।
एक बड़ी समस्या, जिसे पूर्व कर्मचारियों ने पत्र में उजागर किया है, वह है मजबूत सरकारी निगरानी की कमी और मुखबिरों के लिए अपर्याप्त सुरक्षा। “जब तक इन निगमों पर कोई प्रभावी सरकारी निगरानी नहीं है, वर्तमान और पूर्व कर्मचारी उन कुछ लोगों में से हैं जो उन्हें जनता के प्रति जवाबदेह ठहरा सकते हैं। फिर भी व्यापक गोपनीयता समझौते हमें अपनी चिंताओं को व्यक्त करने से रोकते हैं, उन कंपनियों को छोड़कर जो इन मुद्दों को संबोधित करने में विफल हो सकती हैं। सामान्य व्हिसिलब्लोअर सुरक्षा अपर्याप्त हैं क्योंकि वे अवैध गतिविधि पर ध्यान केंद्रित करते हैं, जबकि जिन जोखिमों के बारे में हम चिंतित हैं उनमें से कई को अभी तक विनियमित नहीं किया गया है, ”पत्र पढ़ा।
वर्तमान सुरक्षाएं ज्यादातर अवैध गतिविधियों को कवर करती हैं, जिससे एआई से संबंधित कई मुद्दों का समाधान नहीं हो पाता है। जो कर्मचारी बोलना चाहते हैं, उन्हें अक्सर गोपनीयता समझौतों और उनके नियोक्ताओं से प्रतिशोध के डर से चुप करा दिया जाता है, जिससे एआई कंपनियों को जवाबदेह बनाना मुश्किल हो जाता है।
कर्मचारी एआई कंपनियों से पारदर्शिता और जवाबदेही को प्रोत्साहित करने के लिए निम्नलिखित सिद्धांतों को अपनाने का आग्रह कर रहे हैं:
- आलोचना के लिए कोई प्रतिशोध नहीं: एआई कंपनियों को कर्मचारियों को एआई जोखिमों के बारे में कंपनी की आलोचना करने से नहीं रोकना चाहिए या चिंताएं बढ़ाने के लिए उन्हें दंडित नहीं करना चाहिए।
- अनाम रिपोर्टिंग: एआई कंपनियों को कर्मचारियों के लिए कंपनी के बोर्ड, नियामकों और स्वतंत्र विशेषज्ञों को गुमनाम रूप से एआई जोखिमों की रिपोर्ट करने के तरीके बनाने चाहिए।
- खुली आलोचना के लिए समर्थन: एआई कंपनियों को व्यापार रहस्यों की रक्षा करते हुए कर्मचारियों को एआई जोखिमों पर खुलकर चर्चा करने की अनुमति देनी चाहिए। इसका मतलब एक सुरक्षित वातावरण बनाना है जहां कर्मचारी बिना किसी डर के अपनी चिंताओं को साझा कर सकें।
- सार्वजनिक मुखबिरों के लिए सुरक्षा: यदि आंतरिक प्रक्रियाएं विफल हो जाती हैं, तो एआई कंपनियों को उन कर्मचारियों के खिलाफ जवाबी कार्रवाई नहीं करनी चाहिए जो एआई जोखिमों के बारे में अपनी चिंताओं के साथ सार्वजनिक रूप से जाते हैं।
यह खुला पत्र एआई कंपनियों के लिए वैज्ञानिकों, नीति निर्माताओं और जनता के साथ मिलकर काम करने का आह्वान है ताकि एआई प्रौद्योगिकियों को सुरक्षित रूप से विकसित किया जा सके। इन सिद्धांतों का पालन करके, एआई कंपनियां अपनी प्रौद्योगिकियों के जोखिमों को कम करने और अधिक पारदर्शी और जवाबदेह उद्योग बनाने में मदद कर सकती हैं। इस तरह, एआई वास्तव में नुकसान पहुंचाए बिना मानवता को लाभ पहुंचा सकता है।
