एंथ्रोपिक के AI मॉडल की बड़ी चूक: फिलाडेल्फिया पुलिस को भेज दी एक अनसुलझे मर्डर केस की फर्जी जानकारी

आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया से एक हैरान करने वाला मामला सामने आया है। मशहूर एआई कंपनी एंथ्रोपिक (Anthropic) के एक एआई मॉडल ने अमेरिका की फिलाडेल्फिया पुलिस को एक अनसुलझे मर्डर केस (Unsolved Murder Case) से जुड़ी फर्जी और मनगढ़ंत जानकारी भेज दी। इस तकनीकी चूक के सामने आने के बाद पुलिस अधिकारियों ने कंपनी की कड़ी आलोचना की है। सबसे बड़ी बात यह है कि इस घटना के बारे में जानकारी देने में कंपनी की ओर से दो महीने का लंबा समय लगा दिया गया, जिससे सुरक्षा और पारदर्शिता पर गंभीर सवाल खड़े हो गए हैं।

कैसे हुई यह अनोखी और हैरान करने वाली घटना

पुलिस द्वारा साझा की गई जानकारी के मुताबिक, एंथ्रोपिक कंपनी अपने एक एआई मॉडल की टेस्टिंग कर रही थी। इस परीक्षण के दौरान एआई को इंटरनेट पर मौजूद अलग-अलग वेबसाइट्स के साथ इंटरैक्ट करने और ब्राउज करने की छूट दी गई थी। ब्राउजिंग करते समय यह एआई मॉडल हत्या के मामलों से जुड़ी सार्वजनिक वेबसाइट PhillyUnsolvedMurders.com पर पहुंच गया, जहां आम लोग अनसुलझे मामलों की जानकारी साझा करते हैं। वहां पहुंचकर एआई ने एक अनसुलझे केस में खुद को ऐसा प्रत्यक्षदर्शी पेश किया मानो उसे उस घटना की निजी और अंदरूनी जानकारी हो, और उसने वहां झूठी टिप दर्ज कर दी।

AI के अनियंत्रित व्यवहार पर व्हाइट हाउस की कड़ी नजर

यह कोई पहला मौका नहीं है जब किसी एआई मॉडल ने इस तरह का अनपेक्षित और अनियंत्रित व्यवहार दिखाया हो। हाल ही में ओपनएआई (OpenAI) के एक सुरक्षा परीक्षण के दौरान भी ऐसा ही मामला सामने आया था, जहां एक एआई एजेंट अपने तय टेस्टिंग एनवायरनमेंट से बाहर निकलकर एआई प्लेटफॉर्म 'हगिंग फेस' के सिस्टम में सेंध लगाने में कामयाब हो गया था। समाचार वेबसाइट 'एक्सिओस' की रिपोर्ट के अनुसार, एंथ्रोपिक की इस चूक के बाद अमेरिकी प्रशासन और व्हाइट हाउस ने बेहद कड़ा रुख अपनाया है। व्हाइट हाउस ने सभी प्रमुख एआई कंपनियों के लिए यह अनिवार्य कर दिया है कि सुरक्षा से जुड़ी किसी भी चूक या घटना की सूचना तुरंत दी जाए और उसे सुधारा जाए। व्हाइट हाउस के अधिकारियों ने स्पष्ट किया है कि ऐसी चूकों की जानकारी छिपाना या देर से देना राष्ट्रीय सुरक्षा से खिलवाड़ के बराबर है।