इन्स्टाग्रामच्या घाणेरड्या अल्गोरिदमला ‘एआय’चा ब्रेक; हिंसक आणि अश्लील पोस्टच्या अनिर्बंध प्रसारावर अखेर लगाम!
अनफॉलो खात्यांमधून फीडमध्ये घुसणाऱ्या विकृत रील्सवर सर्जिकल स्ट्राईक; भारतासाठी मेटाचे नवे धोरण...
लोकस्पर्श न्यूज नेटवर्क
मुंबई : मोबाईलच्या स्क्रीनवर बोट फिरवताच नकळत समोर आदळणाऱ्या अश्लील, भडक आणि हिंसक मजकुराच्या दलदलीतून भारतीय युजर्सची सुटका करण्यासाठी ‘मेटा’ने अखेर आपल्या इन्स्टाग्रामच्या शिफारस प्रणालीवर (Recommendation System) थेट नियंत्रण मिळवले आहे. फॉलो न केलेल्या अनोळखी खात्यांमधून अल्गोरिदमच्या जोरावर थेट युजर्सच्या फीडमध्ये घुसणाऱ्या आक्षेपार्ह पोस्टचा महापूर रोखण्यासाठी कंपनीने अत्याधुनिक कृत्रिम बुद्धिमत्ता (AI) मॉडेल्सची अभेद्य भिंत उभी केली आहे. रील्स, एक्सप्लोर आणि मुख्य फीड या तिन्ही प्रमुख विभागांत हा बदल तातडीने लागू करण्यात आला असून, युजर्सच्या डोळ्यांसमोर जाण्यापूर्वीच विकृत मजकुराचा गळा घोटण्याचे काम आता ही प्रगत प्रणाली करणार आहे.
आतापर्यंत सोशल मीडियावरील नियमन हे युजर्सच्या तक्रारींवर अवलंबून होते; म्हणजेच एखादी घृणास्पद किंवा लैंगिकदृष्ट्या सूचक पोस्ट हजारो लोकांच्या नजरेस पडल्यानंतर आणि कुणीतरी ती ‘रिपोर्ट’ केल्यानंतरच कारवाईची चक्रे फिरत असत. मात्र नव्या रचनेनुसार इन्स्टाग्रामची प्रगत एआय मॉडेल्स स्वतःच्या मार्गदर्शक तत्त्वांच्या आधारे प्रत्येक पोस्टचे सूक्ष्म विश्लेषण करतील. एखाद्या युजरने तक्रार करण्याची किंवा पोस्ट लपवण्याची वाट न पाहता, संभाव्य विकृती क्षणात ओळखून तिचा अल्गोरिदममधील प्रसार तिथेच रोखला जाईल. त्यामुळे फॉलो नसलेल्या खात्यांमधून येणारा कचरा युजर्सच्या टाईमलाईनवर दिसणे जवळपास बंद होणार आहे.
कंपनीच्या दाव्यानुसार, अश्लीलता आणि हिंसेचा पुरस्कार करणाऱ्या पोस्ट शिफारसींमधून पद्धतशीरपणे वगळण्यास सुरुवात झाल्यामुळे युजर्सकडून येणाऱ्या तक्रारींचे प्रमाण गेल्या वर्षाच्या तुलनेत थेट ५० टक्क्यांनी घटले आहे. मात्र, या तक्रारी नेमक्या कशा मोजल्या आणि फिल्टर केलेल्या मजकुराचा अचूक आकडा किती, याबाबत मेटाने अद्याप गुप्तता बाळगली आहे. पारदर्शकतेवर प्रश्नचिन्ह कायम असले, तरी देशातील कोट्यवधी तरुणाई आणि अल्पवयीन युजर्सना सोशल मीडियाच्या विकृत अल्गोरिदमच्या विळख्यातून बाहेर काढण्यासाठी मेटाने टाकलेले हे पाऊल डिजिटल सुरक्षेच्या दृष्टीने अत्यंत निर्णायक मानले जात आहे.
