[ad_1]
बिंग चैटबॉट को माइक्रोसॉफ्ट और स्टार्ट-अप ओपनएआई द्वारा डिजाइन किया गया था। (प्रतिनिधि)
सैन फ्रांसिस्को:
विश्लेषकों और शिक्षाविदों ने शुक्रवार को कहा कि माइक्रोसॉफ्ट के नवजात बिंग चैटबॉट टेस्टी या यहां तक कि धमकी देने की संभावना है क्योंकि यह अनिवार्य रूप से ऑनलाइन बातचीत से सीखी गई चीजों की नकल करता है।
इस सप्ताह ध्यान आकर्षित करने वाले चैटबॉट के साथ परेशान करने वाले आदान-प्रदान की कहानियों में कृत्रिम बुद्धिमत्ता (एआई) शामिल है जो परमाणु कोड चोरी करने, घातक वायरस बनाने या जीवित रहने की इच्छा के बारे में धमकी दे रही है।
“मुझे लगता है कि यह मूल रूप से उन वार्तालापों की नकल कर रहा है जो इसे ऑनलाइन देखा जाता है,” कार्नेगी मेलन विश्वविद्यालय के भाषा प्रौद्योगिकी संस्थान के एक सहयोगी प्रोफेसर ग्राहम न्यूबिग ने कहा।
“तो एक बार जब बातचीत एक मोड़ ले लेती है, तो यह शायद उस तरह की गुस्से वाली स्थिति में रहने वाली होती है, या ‘आई लव यू’ और इस तरह की अन्य चीजें कहती हैं, क्योंकि यह सब कुछ है जो पहले ऑनलाइन हो चुका है।”
एक चैटबॉट, डिज़ाइन द्वारा, शब्दों की सेवा करता है, यह भविष्यवाणी करता है कि अर्थ या संदर्भ को समझे बिना सबसे अधिक संभावित प्रतिक्रियाएँ हैं।
हालांकि, कार्यक्रमों के साथ मज़ाक में भाग लेने वाले मनुष्य स्वाभाविक रूप से भावनाओं और मंशा को पढ़ते हैं कि चैटबॉट क्या कहता है।
प्रोग्रामर साइमन विलिसन ने एक ब्लॉग पोस्ट में कहा, “बड़े भाषा मॉडल में ‘सच्चाई’ की कोई अवधारणा नहीं है – वे सिर्फ यह जानते हैं कि एक वाक्य को कैसे पूरा किया जाए जो उनके इनपुट और प्रशिक्षण सेट के आधार पर सांख्यिकीय रूप से संभव हो।”
“तो वे बातें बनाते हैं, और फिर उन्हें अत्यधिक विश्वास के साथ बताते हैं।”
फ्रांसीसी एआई कंपनी लाइटऑन के सह-संस्थापक लॉरेंट डुडेट ने सिद्धांत दिया कि चैटबॉट प्रतीत होता है कि बदमाशों को एक्सचेंजों पर प्रशिक्षित किया गया था जो स्वयं आक्रामक या असंगत हो गए थे।
डुडेट ने एएफपी को बताया, “इसे संबोधित करने के लिए बहुत सारे प्रयास और बहुत सारी मानवीय प्रतिक्रिया की आवश्यकता होती है, यही कारण है कि हमने खुद को व्यावसायिक उपयोगों तक सीमित रखने के लिए चुना है और अधिक संवादात्मक नहीं।”
‘रेल से बाहर’
बिंग चैटबॉट को माइक्रोसॉफ्ट और स्टार्ट-अप ओपनएआई द्वारा डिजाइन किया गया था, जो चैटजीपीटी के नवंबर लॉन्च के बाद से सनसनी पैदा कर रहा है, हेडलाइन-ग्रैबिंग ऐप जो एक साधारण अनुरोध पर सेकंड में सभी प्रकार की लिखित सामग्री उत्पन्न करने में सक्षम है।
जब से चैटजीपीटी सामने आया है, इसके पीछे की तकनीक, जिसे जनरेटिव एआई के रूप में जाना जाता है, आकर्षण और चिंता को बढ़ावा दे रही है।
माइक्रोसॉफ्ट ने एक ब्लॉग पोस्ट में कहा, “मॉडल कभी-कभी उस स्वर में प्रतिक्रिया देने या प्रतिबिंबित करने का प्रयास करता है जिसमें प्रतिक्रिया देने के लिए कहा जा रहा है (और) जो उस शैली का नेतृत्व कर सकता है जिसका हम इरादा नहीं रखते थे।” कार्य प्रगति पर है।
बिंग चैटबॉट ने कुछ साझा आदान-प्रदानों में कहा कि इसे विकास के दौरान “सिडनी” नाम दिया गया था, और इसे व्यवहार के नियम दिए गए थे।
उन नियमों में ऑनलाइन पोस्ट के अनुसार “सिडनी की प्रतिक्रियाएं भी सकारात्मक, रोचक, मनोरंजक और आकर्षक होनी चाहिए” शामिल हैं।
परेशान करने वाले संवाद जो फौलादी धमकियों और प्यार के पेशों को मिलाते हैं, हो सकता है कि एआई ने मानवीय आदान-प्रदान से जो खनन किया है, उसकी नकल करते हुए सकारात्मक बने रहने के लिए द्वंद्वात्मक निर्देशों के कारण हो सकता है।
EMarketer के प्रमुख विश्लेषक योरम वुर्मसर ने एएफपी को बताया कि लंबी बातचीत के दौरान चैटबॉट परेशान करने वाले या विचित्र प्रतिक्रियाओं के प्रति अधिक प्रवण प्रतीत होते हैं, एक्सचेंज कहां जा रहे हैं, इसकी भावना खो देते हैं।
“वे वास्तव में पटरी से उतर सकते हैं,” वुर्मसर ने कहा।
“यह बहुत सजीव है, क्योंकि (चैटबॉट) अगले शब्दों की भविष्यवाणी करने में बहुत अच्छा है जिससे ऐसा लगता है कि इसमें भावनाएँ हैं या इसे मानवीय गुण देते हैं; लेकिन यह अभी भी सांख्यिकीय आउटपुट है।”
(यह कहानी Mirrortodayके कर्मचारियों द्वारा संपादित नहीं की गई है और एक सिंडिकेट फीड से स्वतः उत्पन्न हुई है।)
दिन का विशेष रुप से प्रदर्शित वीडियो
मिलिए स्वरा भास्कर के पति फहद अहमद से
[ad_2]
