स्वास्थ्य और मानव सेवा के सचिव रॉबर्ट एफ। कैनेडी जूनियर ने उदार कृत्रिम खुफिया उपकरणों का उपयोग करने के लिए खाद्य और औषधि प्रशासन जैसी एजेंसियों को प्राप्त करने के लिए एक बड़ा धक्का दिया है। वास्तव में, कैनेडी ने हाल ही में टकर कार्लसन को बताया कि एआई का उपयोग जल्द ही नई दवाओं को “बहुत, बहुत जल्दी” को मंजूरी देने के लिए किया जाएगा। लेकिन सीएनएन की एक नई रिपोर्ट हमारे सभी सबसे बुरे डर की पुष्टि करती है। एफडीए का एआई उपकरण एल्सा, नकली अध्ययन कर रहा है।
सीएनएन ने एफडीए में छह वर्तमान और पूर्व कर्मचारियों के साथ बात की, जिनमें से तीन ने एल्सा का उपयोग उन काम के लिए किया है, जिन्हें वे उपयोगी के रूप में वर्णित करते हैं, जैसे कि मीटिंग नोट्स और सारांश बनाना। लेकिन उन एफडीए कर्मचारियों में से तीन सीएनएन को बताया यह एल्सा सिर्फ कोई भी अध्ययन नहीं करता है, कुछ आमतौर पर एआई में “मतिभ्रम” के रूप में संदर्भित किया जाता है। इन कर्मचारियों के अनुसार, एआई भी अनुसंधान को गलत तरीके से प्रस्तुत करेगा।
एफडीए के एक कर्मचारी ने सीएनएन को बताया, “कुछ भी जो आपके पास डबल-चेक करने के लिए समय नहीं है, वह अविश्वसनीय है। यह आत्मविश्वास से मतिभ्रम करता है।”
और यह सभी एआई चैटबॉट्स के साथ बड़ी समस्या है। उन्हें सटीकता के लिए डबल-चेक करने की आवश्यकता होती है, अक्सर कंप्यूटर के पीछे मानव के लिए और भी अधिक काम करते हैं यदि वे अपने आउटपुट की गुणवत्ता के बारे में परवाह करते हैं। जो लोग जोर देते हैं कि एआई वास्तव में उन्हें समय बचाता है, अक्सर खुद को बेवकूफ बनाते हैं, प्रोग्रामर के एक हालिया अध्ययन के साथ यह दिखाते हैं कि कार्यों को लिया गया है 20% लंबा एआई के साथ, यहां तक कि उन लोगों के बीच जो आश्वस्त थे कि वे अधिक कुशल थे।
कैनेडी के मेक अमेरिका हेल्दी अगेन (महा) आयोग ने मई में एक रिपोर्ट जारी की, जिसे बाद में नकली अध्ययन के लिए उद्धरणों से भरा पाया गया। गैर -लाभकारी समाचार आउटलेट नोटस के एक विश्लेषण में पाया गया कि कम से कम सात अध्ययनों का हवाला भी मौजूद नहीं था, कई और गलत तरीके से प्रस्तुत करने के साथ कि वास्तव में किसी दिए गए अध्ययन में क्या कहा गया था। हम अभी भी नहीं जानते हैं कि आयोग ने उस रिपोर्ट को उत्पन्न करने के लिए ईएलएसए का उपयोग किया था या नहीं।
एफडीए के आयुक्त मार्टी मकेरी ने शुरू में 2 जून को एजेंसी में ईएलएसए को तैनात किया, और गिज़्मोडो के लिए एक आंतरिक स्लाइड लीक हो गई कि यह प्रणाली “लागत प्रभावी” थी, केवल अपने पहले सप्ताह में $ 12,000 की लागत थी। माकरी ने कहा कि एल्सा “शेड्यूल से आगे और बजट के तहत” था जब उन्होंने पहली बार घोषणा की एआई रोलआउट। लेकिन ऐसा लगता है कि आपको वह मिलता है जो आप भुगतान करते हैं। यदि आप अपने काम की सटीकता के बारे में परवाह नहीं करते हैं, तो एल्सा एक महान उपकरण की तरह लगता है कि आप दरवाजे को तेजी से ढलाने की अनुमति देते हैं, कचरा अध्ययन उत्पन्न करते हैं जो संभवतः अमेरिका में सार्वजनिक स्वास्थ्य के लिए वास्तविक परिणाम हो सकते हैं
सीएनएन नोट करता है कि यदि कोई एफडीए कर्मचारी ईएलएसए को एक नई दवा पर 20-पृष्ठ के पेपर का एक-पैराग्राफ सारांश उत्पन्न करने के लिए कहता है, तो यह जानने का कोई सरल तरीका नहीं है कि क्या वह सारांश सटीक है। और यहां तक कि अगर सारांश कम या ज्यादा सटीक है, तो क्या होगा अगर उस 20-पृष्ठ की रिपोर्ट के भीतर कुछ है जो विशेषज्ञता के साथ किसी भी मानव के लिए एक बड़ा लाल झंडा होगा? यह जानने के लिए कि क्या कुछ याद किया गया था या यदि सारांश सटीक है, तो वास्तव में रिपोर्ट पढ़ना है।
सीएनएन के साथ बात करने वाले एफडीए के कर्मचारियों ने कहा कि उन्होंने बुनियादी सवाल पूछकर ईएलएसए का परीक्षण किया जैसे कि बच्चों के लिए एक निश्चित वर्ग की कितनी दवाओं को मंजूरी दी गई है। एल्सा ने आत्मविश्वास से गलत जवाब दिए, और जब यह स्पष्ट रूप से माफी मांगी, जब इसे ठीक किया गया, तो एक रोबोट “क्षमा” किया जा रहा है, वास्तव में कुछ भी ठीक नहीं करता है।
हम अभी भी नहीं जानते हैं कि वर्कफ़्लो तैनात किया जा रहा है जब कैनेडी का कहना है कि एआई एफडीए को नई दवाओं को मंजूरी देने की अनुमति देगा, लेकिन वह जून में गवाही दी एक घर की उपसमिति के लिए कि यह पहले से ही “ड्रग अनुमोदन की गति बढ़ाने” के लिए उपयोग किया जा रहा है। सचिव, जिनके चरमपंथी एंटी-वैक्सीन मान्यताओं ने उन्हें एक सार्वजनिक स्वास्थ्य नेता बनने से नहीं रखा, वे मुख्यधारा के विज्ञान में अप्रमाणित प्रौद्योगिकियों को इंजेक्ट करने के इरादे से लगते हैं।
कैनेडी ने कांग्रेस को यह भी गवाही दी कि वह चाहता है कि हर अमेरिकी अगले चार वर्षों के भीतर पहनने योग्य स्वास्थ्य उपकरण के साथ बंधे हो। जैसा कि होता है, सर्जन जनरल, केसी मीन्स के लिए राष्ट्रपति ट्रम्प की पिक, एक वेयरबल्स कंपनी के मालिक हैं, जिसे लेवल कहा जाता है जो उन लोगों में ग्लूकोज के स्तर की निगरानी करता है जो मधुमेह नहीं हैं। विशेषज्ञों के अनुसार, कोई भी कारण नहीं है कि मधुमेह के बिना मधुमेह के लोगों को लगातार अपने ग्लूकोज के स्तर की निगरानी करने की आवश्यकता है। मीन्स, कैनेडी के एक करीबी सहयोगी, अभी तक सीनेट द्वारा पुष्टि नहीं की गई है।
एफडीए ने बुधवार को ईमेल किए गए सवालों के जवाब नहीं दिए कि एजेंसी एल्सा की नकली अध्ययन की समस्या का समाधान करने के लिए क्या कर रही है। Makary ने CNN को स्वीकार किया कि ELSA “संभावित रूप से मतिभ्रम” कर सकता है, लेकिन यह अन्य बड़े भाषा मॉडल और जनरेटिव AI से “कोई अलग नहीं” है। और वह उस पर गलत नहीं है। समस्या यह है कि एआई उद्देश्य के लिए फिट नहीं है जब यह लगातार सिर्फ चीजों को बना रहा है। लेकिन यह लोगों को यह विश्वास करने से नहीं रोक पाएगा कि एआई किसी तरह जादू है।
