《紐約時(shí)報(bào)》3月21日的《科學(xué)》雜志報(bào)道說(shuō)，黑客的可訪問(wèn)性和潛在的安全漏洞在很大程度上影響著成功的AI系統(tǒng)的發(fā)展，但更緊迫的威脅可能會(huì)由醫(yī)療保健監(jiān)管機(jī)構(gòu)（如保險(xiǎn)提供商和計(jì)費(fèi)公司）面臨。

雖然神經(jīng)網(wǎng)絡(luò)通過(guò)分析大量數(shù)據(jù)來(lái)訓(xùn)練自己完成某些任務(wù)，但只需少量的數(shù)字操作即可改變技術(shù)的核心功能，哈佛醫(yī)學(xué)院和麻省理工學(xué)院的研究員Samuel Finlayson也是該論文的作者，告訴《紐約時(shí)報(bào)》。正如研究人員已經(jīng)訓(xùn)練了AI系統(tǒng)來(lái)檢測(cè)乳腺癌一樣，黑客可以操縱代碼以不標(biāo)記惡性腫瘤。

研究人員一次又一次地證明了AI可能會(huì)帶來(lái)意想不到的負(fù)面后果-例如，無(wú)人駕駛汽車(chē)將停車(chē)標(biāo)志解釋為屈服標(biāo)志，并且以AI為動(dòng)力的眼鏡被欺騙以使其認(rèn)為名人。但就臨床而言，F(xiàn)inlayson和他的同事表示，他們擔(dān)心強(qiáng)大的醫(yī)療保健利益相關(guān)者可以通過(guò)數(shù)據(jù)操作實(shí)現(xiàn)什么。

Finlayson告訴《紐約時(shí)報(bào)》：“醫(yī)學(xué)信息固有的含混性，加上經(jīng)常競(jìng)爭(zhēng)的財(cái)務(wù)激勵(lì)機(jī)制，使高風(fēng)險(xiǎn)決策可以依靠非常微妙的信息?！?/p>

他說(shuō)，由于醫(yī)療保健行業(yè)內(nèi)有大量的貨幣兌換，保險(xiǎn)和計(jì)費(fèi)公司已經(jīng)通過(guò)更改其計(jì)算機(jī)系統(tǒng)內(nèi)的計(jì)費(fèi)代碼和其他數(shù)據(jù)來(lái)“使系統(tǒng)計(jì)費(fèi)”。隨著AI在這些環(huán)境中變得越來(lái)越普遍，利益相關(guān)者更有可能操縱掃描以獲得更好的支出，或者更改圖像以加快監(jiān)管審批。

賓夕法尼亞大學(xué)助理教授哈姆薩·巴斯塔尼（Hamsa Bastani）對(duì)《醫(yī)療時(shí)報(bào)》進(jìn)行了研究，他說(shuō)：“某些行為是無(wú)意的，但并非全部?！?“總是會(huì)有意想不到的后果，尤其是在醫(yī)療保健方面。”