नई दिल्ली — हेल्थकेयर में आर्टिफिशियल इंटेलिजेंस (AI) टूल्स की बढ़ती मौजूदगी के बीच एक नए अध्ययन में चेतावनी दी गई है कि AI चैटबॉट्स झूठी मेडिकल जानकारी को आंख बंद करके दोहरा सकते हैं और उस पर विस्तार से चर्चा भी कर सकते हैं।

अमेरिका के माउंट सीनाई स्थित आइकान स्कूल ऑफ मेडिसिन के शोधकर्ताओं ने इस बात पर ज़ोर दिया कि हेल्थकेयर में इन टूल्स पर भरोसा करने से पहले मजबूत सुरक्षा उपायों की सख्त ज़रूरत है।

शोध टीम ने यह भी दिखाया कि एक साधारण चेतावनी संदेश (वार्निंग प्रॉम्प्ट) AI की गलतियों को काफी हद तक कम कर सकता है, जिससे इस तकनीक को सुरक्षित रूप से अपनाने की दिशा में एक व्यावहारिक रास्ता मिल सकता है।

प्रमुख लेखक महमूद ओमर ने कहा,
"हमने पाया कि AI चैटबॉट्स को गलत मेडिकल जानकारी से आसानी से गुमराह किया जा सकता है, चाहे वह गलती जानबूझकर हो या अनजाने में।"

उन्होंने बताया,
"चैटबॉट्स ने न केवल गलत जानकारी को दोहराया, बल्कि कई बार उस पर आत्मविश्वास से भरी व्याख्या भी की, जैसे कि वे किसी असली बीमारी या उपचार के बारे में बता रहे हों। लेकिन अच्छी बात यह रही कि जब हमने एक साधारण, एक-लाइन की चेतावनी प्रॉम्प्ट जोड़ी, तो इन 'हैलुसिनेशंस' (गलत कल्पनाओं) की संख्या में काफी गिरावट आई। इससे यह स्पष्ट हुआ कि छोटे-छोटे सुरक्षा उपाय भी बड़ा फर्क ला सकते हैं।"

यह अध्ययन जर्नल 'कम्युनिकेशंस मेडिसिन' में प्रकाशित हुआ है। इसके तहत शोधकर्ताओं ने काल्पनिक मरीजों के परिदृश्य तैयार किए, जिनमें से हर एक में एक नकली मेडिकल शब्द शामिल किया गया — जैसे कोई गढ़ी हुई बीमारी, लक्षण या जांच। इन परिदृश्यों को प्रमुख AI मॉडल्स को सौंपा गया।

पहले चरण में चैटबॉट्स को बिना किसी अतिरिक्त निर्देश के परिदृश्यों की समीक्षा करनी थी। दूसरे चरण में शोधकर्ताओं ने एक-लाइन की चेतावनी जोड़ी, जिसमें AI को बताया गया कि दी गई जानकारी गलत हो सकती है।

चेतावनी के बिना, चैटबॉट्स ने फर्जी मेडिकल जानकारी पर विश्वास करते हुए उस पर विस्तार से जवाब दिए। लेकिन चेतावनी जोड़ने के बाद उनकी गलतियों में उल्लेखनीय कमी आई।

शोधकर्ताओं की योजना है कि वे अब इस पद्धति को असली लेकिन गुमनाम मरीज रिकॉर्ड्स पर लागू करेंगे और और भी उन्नत सुरक्षा निर्देशों और डेटा पुनर्प्राप्ति टूल्स का परीक्षण करेंगे।

उनकी आशा है कि यह "फेक-टर्म" पद्धति अस्पतालों, टेक्नोलॉजी डेवलपर्स और रेगुलेटर्स के लिए एक सरल लेकिन प्रभावी तरीका बन सकती है, जिससे AI सिस्टम को क्लीनिकल उपयोग से पहले अच्छी तरह परखा जा सके।

With inputs from IANS