கூகுள் AI ஆனது கண்காணிப்பின் கீழ் சுகாதார மறுப்புகளை குறைப்பதன் மூலம் பயனர்களை ஆபத்தில் ஆழ்த்துகிறது

AI-உருவாக்கிய மருத்துவ ஆலோசனை தவறாக இருக்கலாம் என்ற பாதுகாப்பு எச்சரிக்கைகளைக் குறைப்பதன் மூலம் Google மக்களுக்கு தீங்கு விளைவிக்கும் அபாயத்தை ஏற்படுத்துகிறது.

உடல்நலம் போன்ற முக்கியமான தலைப்புகள் பற்றிய கேள்விகளுக்கு பதிலளிக்கும் போது, ​​தேடல் முடிவுகளுக்கு மேலே தோன்றும் அதன் AI அவதானிப்புகள், அதன் சுருக்கத்தை மட்டுமே நம்பாமல் தொழில்முறை உதவியை நாட பயனர்களைத் தூண்டுகிறது என்று நிறுவனம் கூறுகிறது. கூகுள் கூறியது, “நிபுணர் ஆலோசனையைப் பெறுவது அல்லது வழங்கப்பட்ட தகவலைச் சரிபார்ப்பது எப்போது முக்கியம் என்பதை AI அவதானிப்புகள் மக்களுக்குத் தெரிவிக்கும்.”

ஆனால் கார்டியன் நிறுவனம் பயனர்களுக்கு முதலில் மருத்துவ ஆலோசனை வழங்கப்படும் போது அத்தகைய மறுப்பு எதையும் சேர்க்கவில்லை என்று கண்டறிந்தது.

கூடுதல் சுகாதாரத் தகவலைக் கோர பயனர்கள் தேர்வுசெய்து “மேலும் காட்டு” என்ற பொத்தானைக் கிளிக் செய்யும் போது மட்டுமே Google எச்சரிக்கையை வெளியிடுகிறது. இருப்பினும், பாதுகாப்பு லேபிள்கள் உருவாக்கப்படும் AI ஐப் பயன்படுத்தி சேகரிக்கப்பட்ட அனைத்து கூடுதல் மருத்துவ ஆலோசனைகளுக்கும் கீழே சிறிய, இலகுவான எழுத்துருவில் மட்டுமே தோன்றும்.

“இது தகவல் நோக்கங்களுக்காக மட்டுமே,” ஆரம்ப சுருக்கத்தைப் பார்த்த பிறகு மேலும் விவரங்களுக்கு கிளிக் செய்யும் பயனர்களுக்கு மறுப்பு தெரிவிக்கிறது, மேலும் AI மேலோட்டத்தின் இறுதி வரை செல்லும். “மருத்துவ ஆலோசனை அல்லது நோயறிதலுக்கு, ஒரு நிபுணரை அணுகவும். AI பதில்களில் தவறான தன்மைகள் இருக்கலாம்.”

பயனர்களுக்கு முதலில் மருத்துவ ஆலோசனை வழங்கப்படும் போது அதன் மறுப்புகள் தோன்றாது அல்லது அவை AI மேலோட்டத்திற்கு கீழே மற்றும் சிறிய, இலகுவான எழுத்துருவில் தோன்றும் என்பதை Google மறுக்கவில்லை. AI கண்ணோட்டம் “தொழில்முறை மருத்துவ ஆலோசனையைப் பெற மக்களை ஊக்குவிக்கிறது” என்று ஒரு செய்தித் தொடர்பாளர் கூறினார், மேலும் சுருக்கத்தில் “பொருத்தமானால்” மருத்துவ உதவியை நாடுவதை அடிக்கடி குறிப்பிடுகிறார்.

கார்டியனின் கண்டுபிடிப்புகளுடன் முன்வைக்கப்பட்ட AI நிபுணர்கள் மற்றும் நோயாளி வக்கீல்கள் அவர்கள் கவலைப்படுவதாகக் கூறினர். மறுப்பு ஒரு முக்கிய நோக்கத்திற்காக உதவுகிறது மற்றும் பயனர்களுக்கு முதலில் மருத்துவ ஆலோசனை வழங்கப்படும் போது முக்கியமாகக் காட்டப்பட வேண்டும்.

“ஆரம்பத்தில் பயனர்களுக்கு மருத்துவத் தகவல்கள் வழங்கப்படும் போது மறுப்புக்கள் இல்லாதது பல கடுமையான ஆபத்துக்களை உருவாக்குகிறது,” என்று Massachusetts Institute of Technology (MIT) இன் உதவி பேராசிரியர், தொழில்நுட்ப வல்லுநர் மற்றும் ஆராய்ச்சியாளர் மற்றும் AI மற்றும் மனித-கணினி தொடர்பு பற்றிய உலகப் புகழ்பெற்ற நிபுணரான Pat Paternataporn கூறினார்.

“முதலாவதாக, இன்றும் மிகவும் மேம்பட்ட AI மாதிரிகள் கூட தவறான தகவலை வழங்குகின்றன அல்லது துல்லியமான நடத்தையை வெளிப்படுத்துகின்றன, துல்லியத்தை விட பயனர் திருப்திக்கு முன்னுரிமை அளிக்கின்றன. சுகாதாரப் பாதுகாப்பின் பின்னணியில், இது மிகவும் ஆபத்தானது.

“இரண்டாவதாக, பிரச்சினை AI வரம்புகளைப் பற்றியது மட்டுமல்ல – இது சமன்பாட்டின் மனித பக்கத்தைப் பற்றியது. பயனர்கள் தேவையான எல்லா சூழலையும் வழங்காமல் இருக்கலாம் அல்லது அவர்களின் அறிகுறிகளை தவறாகப் புரிந்துகொண்டு தவறான கேள்விகளைக் கேட்கலாம்.

“துறப்புக்கள் ஒரு முக்கியமான தலையீட்டு புள்ளியாக செயல்படுகின்றன. அவை இந்த தானியங்கி நம்பிக்கையை சீர்குலைத்து, பயனர்கள் பெறும் தகவலுடன் மிகவும் தீவிரமாக ஈடுபட தூண்டும்.”

லண்டன் குயின் மேரி பல்கலைக்கழகத்தின் பொறுப்பான AI இன் பேராசிரியரான ஜினா நெஃப், “மோசமான AI மேலோட்டத்தின் சிக்கல் வடிவமைப்பால் உள்ளது” என்றும் அதற்கு கூகுள் தான் பொறுப்பு என்றும் கூறினார். “AI அவதானிப்புகள் வேகத்திற்காக வடிவமைக்கப்பட்டுள்ளன, துல்லியத்திற்காக அல்ல, மேலும் இது ஆரோக்கியத் தகவல்களில் துல்லியமின்மைக்கு வழிவகுக்கிறது, இது ஆபத்தானது.”

ஜனவரி மாதம், ஒரு கார்டியன் விசாரணையில் கூகுள் AI அவதானிப்புகள் தவறான மற்றும் தவறான சுகாதாரத் தகவல்களால் மக்களுக்கு தீங்கு விளைவிக்கும் அபாயத்தை ஏற்படுத்துகிறது என்று தெரியவந்தது.

விசாரணையின் கண்டுபிடிப்புகள் ஏன் முக்கிய மறுப்புகள் அவசியம் என்பதை விளக்குகிறது என்று நெஃப் கூறினார். “எந்தவொரு மறுப்புகளையும் பெறுவதற்கு முன்பு, கூகிள் மக்கள் அதைக் கிளிக் செய்ய வைக்கிறது,” என்று அவர் கூறினார். “விரைவாகப் படிக்கும் நபர்கள், AI அவதானிப்புகளிலிருந்து பெறும் தகவல்கள் அதைவிட சிறந்தவை என்று நினைக்கலாம், ஆனால் இது கடுமையான தவறுகளுக்கு வழிவகுக்கும் என்பதை நாங்கள் அறிவோம்.”

கார்டியன் அறிக்கையைத் தொடர்ந்து, கூகுள் சில மருத்துவத் தேடல்களிலிருந்து AI மேலோட்டங்களை நீக்கியது.

Stanford University’s Centre for AI in Medicine and Imaging (AIMI) ஆய்வாளரான சோனாலி ஷர்மா கூறினார்: “முக்கிய பிரச்சினை என்னவென்றால், இந்த Google AI அவதானிப்புகள் தேடல் பக்கத்தின் மேலே தோன்றும், மேலும் பயனர்கள் தகவலை அணுகவும், முடிந்தவரை விரைவாக பதிலைப் பெறவும் முயற்சிக்கும் நேரத்தில் பயனர்களின் கேள்விகளுக்கு முழுமையான பதிலை அளிக்கும்.

“பலருக்கு, அந்த ஒற்றைச் சுருக்கம் உடனடியாக இருப்பதால், இது அடிப்படையில் உறுதியளிக்கும் உணர்வை உருவாக்குகிறது, இது மேலும் தேடுவதை ஊக்கப்படுத்துகிறது, அல்லது முழு சுருக்கத்தையும் ஸ்க்ரோலிங் செய்து, மறுப்பு தோன்றும் இடத்தில் ‘மேலும் காட்டு’ என்பதைக் கிளிக் செய்யவும்.

“நிஜ உலகில் நிகழக்கூடிய குறைபாடுகளில் ஒன்று, AI அவதானிப்புகள் பெரும்பாலும் ஓரளவு உண்மை மற்றும் ஓரளவு தவறான தகவல்களைக் கொண்டிருக்கலாம், மேலும் நீங்கள் ஏற்கனவே இந்த விஷயத்தை நன்கு அறிந்திருந்தால் தவிர, துல்லியமானவை அல்லது இல்லை என்பதைக் கூறுவது மிகவும் கடினமாகிவிடும்.”

கூகுள் செய்தித் தொடர்பாளர் கூறினார்: “AI அவதானிப்புகள் தொழில்முறை மருத்துவ ஆலோசனையைப் பெற மக்களை ஊக்குவிக்காது என்று பரிந்துரைப்பது தவறானது. வெளிப்படையான மறுப்பு தவிர, AI அவதானிப்புகள் பெரும்பாலும் கண்காணிப்புக்குள் நேரடியாக மருத்துவ கவனிப்பைப் பெறுவதைக் குறிக்கின்றன, பொருத்தமான போது.”

இரத்த புற்றுநோய் தொண்டு நிறுவனமான அந்தோனி நோலனின் நோயாளி தகவல் தலைவர் டாம் பிஷப், அவசர நடவடிக்கைக்கு அழைப்பு விடுத்தார். “தவறான தகவல் ஒரு உண்மையான பிரச்சனை என்பதை நாங்கள் அறிவோம், ஆனால் சுகாதார தவறான தகவல் என்று வரும்போது, ​​அது ஆபத்தானது” என்று பிஷப் கூறினார்.

“அந்த மறுப்பு மிகவும் முக்கியத்துவம் வாய்ந்ததாகக் காட்டப்பட வேண்டும், அதனால் மக்கள் பின்வாங்கி யோசிக்க வேண்டும்… ‘இது நான் என் மருத்துவக் குழுவைச் சரிபார்த்துச் செயலாற்றுவதை விடவா? இதை நான் முக மதிப்பில் எடுக்கலாமா அல்லது இதை இன்னும் விரிவாகப் பார்த்து, இந்தத் தகவல் எனது சொந்த மருத்துவ நிலையுடன் எவ்வாறு தொடர்புடையது என்பதைப் பார்க்க வேண்டுமா?’ ஏனென்றால் அதுதான் இங்கே முக்கியமானது.”

அவர் மேலும் கூறினார்: “இந்த மறுப்பு முதலிடத்தில் இருக்க வேண்டும் என்று நான் விரும்புகிறேன். நீங்கள் பார்க்கும் முதல் விஷயமாக இது இருக்க வேண்டும் என்று நான் விரும்புகிறேன். மேலும் இது நீங்கள் பார்க்கும் அதே அளவு எழுத்துருவாக இருக்கும், சிறிய மற்றும் எளிதில் தவறவிடக்கூடிய ஒன்று அல்ல.”