如今，人工智能已滲透許多生活場(chǎng)景，但缺乏規(guī)范的“野路子”AI頻頻“翻車”。

11月初，家住西安市翠華路的張黎面部出現(xiàn)紅斑，不愿跑醫(yī)院的她通過(guò)AI診療軟件咨詢，輸入癥狀后被診斷為“過(guò)敏性皮炎”，并收到激素藥膏推薦。她按提示購(gòu)買(mǎi)涂抹一周后，紅斑不僅未消退，反而擴(kuò)散成水皰，面部紅腫潰爛，最終被醫(yī)院確診為接觸性皮炎合并感染，只得住院治療。

“AI診療時(shí)既沒(méi)詢問(wèn)既往過(guò)敏史，也沒(méi)了解近期是否接觸過(guò)化妝品、洗滌劑等致敏物，更未提示激素藥膏的使用禁忌，診斷過(guò)程過(guò)于隨意。”11月16日向記者說(shuō)起時(shí)，張黎懊惱不已?！拔揖驮\時(shí)醫(yī)生指出，接觸性皮炎與過(guò)敏性皮炎的癥狀雖有相似，但病因和治療方案差異顯著，尤其是面部皮膚敏感，激素藥膏需在醫(yī)生指導(dǎo)下嚴(yán)格控制使用劑量和療程，僅憑有限癥狀就盲目診斷、推薦藥物，極易延誤病情甚至引發(fā)二次傷害?！睆埨枵f(shuō)。

無(wú)獨(dú)有偶，西安某高校大三學(xué)生孫哲明也因“野路子”AI遭遇麻煩。10月初，他與同學(xué)自駕前往甘南旅游，為避開(kāi)常規(guī)路線的擁堵，通過(guò)AI定制“小眾深度游路線”。AI推薦的行程中，一條“小眾觀景公路”實(shí)則是一條未完工的施工便道，路面泥濘，布滿碎石，車輛行駛至中途時(shí)陷入泥潭，車輪打滑無(wú)法脫困，最終只能聯(lián)系當(dāng)?shù)鼐仍囕v，不僅耽誤了行程，還產(chǎn)生了不少的救援費(fèi)用。

在學(xué)術(shù)領(lǐng)域，“野路子”AI的隱患同樣凸顯。西安某高校陳老師從事教學(xué)工作多年，在批改論文時(shí)，發(fā)現(xiàn)部分論文存在明顯的AI生成痕跡?！皩W(xué)生交上來(lái)的論文看似結(jié)構(gòu)完整，實(shí)則引用文獻(xiàn)張冠李戴，專業(yè)術(shù)語(yǔ)使用錯(cuò)誤，甚至出現(xiàn)與主題無(wú)關(guān)的冗余內(nèi)容?！标惱蠋熣f(shuō)，論文使用AI生成，違背了學(xué)術(shù)誠(chéng)信，是非常不可取的。

為何本應(yīng)便民的AI技術(shù)，會(huì)淪為“坑人利器”？軟件工程師王浩給出了三點(diǎn)分析：一是技術(shù)局限未被重視。AI診療依賴訓(xùn)練數(shù)據(jù)，若數(shù)據(jù)存在“偏食”或更新不及時(shí)，易導(dǎo)致誤診；行程規(guī)劃、論文生成等場(chǎng)景中，AI可能拼接虛假信息卻無(wú)法驗(yàn)證真實(shí)性，其“黑箱屬性”也讓問(wèn)題難以追溯。二是監(jiān)管體系存在滯后。盡管已有AI生成內(nèi)容標(biāo)識(shí)、算法備案等規(guī)定，但部分小眾平臺(tái)未落實(shí)審核義務(wù)，用戶難以區(qū)分合規(guī)產(chǎn)品與“野路子”工具。三是用戶認(rèn)知存在偏差，不少人將AI建議等同于專業(yè)意見(jiàn)，忽視了技術(shù)的輔助屬性，缺乏必要的核實(shí)意識(shí)。

王浩提醒，人工智能的價(jià)值在于服務(wù)于人，而非制造風(fēng)險(xiǎn)。隨著技術(shù)的發(fā)展，AI在各領(lǐng)域的應(yīng)用將更加廣泛，但規(guī)范與安全必須走在創(chuàng)新前面。唯有企業(yè)堅(jiān)守合規(guī)底線、用戶保持理性認(rèn)知、監(jiān)管部門(mén)強(qiáng)化責(zé)任落實(shí)，才能讓“野路子”AI失去生存空間，讓人工智能真正成為生活的“好幫手”。

本報(bào)記者 陶穎