7月25日,美國(guó)健康醫(yī)療媒體STAT曝出IBM公司的內(nèi)部文件顯示,用于輔助醫(yī)生設(shè)計(jì)癌癥治療方案的AI產(chǎn)品沃森問題不小,除了來(lái)自用戶的抱怨,還會(huì)開出危險(xiǎn)和錯(cuò)誤的癌癥治療方案。
IBM的報(bào)告里,沃森的問題:
1、沃森的訓(xùn)練數(shù)據(jù)不是真實(shí)的數(shù)據(jù),是假想數(shù)據(jù);
2、訓(xùn)練數(shù)據(jù)不夠;
3、訓(xùn)練沃森時(shí),不是醫(yī)療指南或真實(shí)數(shù)據(jù);
4、在訓(xùn)練時(shí),沃森開除了不合適且危險(xiǎn)的治療方案;
5、評(píng)估沃森系統(tǒng)和癌癥專輯的方案可能有偏向性。
其實(shí),沒有這個(gè)報(bào)告,這些問題IBM在推廣沃森時(shí),好像已經(jīng)提到過(guò),因?yàn)槊绹?guó)隱私保護(hù)的法律非常嚴(yán)格,個(gè)人的病例是受法律保護(hù)的,沃森在美國(guó)的訓(xùn)練數(shù)據(jù),應(yīng)該是假想數(shù)據(jù)。而IBM在美國(guó)之外推動(dòng)人工智能的診斷,有沒有獲取診療數(shù)據(jù)的目的?
機(jī)器換人是需要經(jīng)歷逐步完善的過(guò)程
記得以前在做供應(yīng)鏈計(jì)劃軟件公司工作的時(shí)候,提供的是APS功能,用APS來(lái)解放計(jì)劃員的計(jì)劃、排程工作,解決方案是使用APS提供一個(gè)可實(shí)現(xiàn)的計(jì)劃、排程建議給計(jì)劃員,由計(jì)劃員修正、形成最終的計(jì)劃排程。
而IBM的腫瘤醫(yī)生沃森,做的工作,就與APS對(duì)計(jì)劃員的工作是一樣的,經(jīng)過(guò)訓(xùn)練的沃森,給出的是診療意見,最后這個(gè)診療意見是給醫(yī)生一個(gè)參考,醫(yī)生在這個(gè)過(guò)程中,沃森是一個(gè)輔助工具。
作為輔助工具,其實(shí)其發(fā)展也要經(jīng)歷兩個(gè)過(guò)程:
第一個(gè)階段:診斷不完善,診斷只是參考;
第二個(gè)階段:將診斷結(jié)果限定在一定范圍,保證不出錯(cuò)的建議。
其實(shí)很多人工智能的應(yīng)用還處于第一個(gè)階段,在這個(gè)階段,診斷只是參考,不能影響人的診斷。在這個(gè)階段,使用AI工具的還是需要有豐富的經(jīng)驗(yàn),需要具有獨(dú)立診斷的能力。在這個(gè)階段積累豐富的案例之后,降低AI誤診的比例。
而到了第二階段,人工智能具備了專家經(jīng)驗(yàn),誤診比例非常低之后,可以讓更多部具有專家經(jīng)驗(yàn)的人使用工具。其實(shí)現(xiàn)在處于發(fā)展的第一階段。出現(xiàn)各種問題是可以理解的。
機(jī)器只是工具
對(duì)于人工智能應(yīng)用于治療,其最終目標(biāo)也是讓機(jī)器解決確定性的,人來(lái)解決不確定性的。按照APS的設(shè)計(jì)原理,機(jī)器解決的是可以規(guī)則化的問題,而人解決的是不可以規(guī)則化的問題。而人工智能應(yīng)用于治療,人工智能解決的也是可以用知識(shí)表述并解決的問題;人來(lái)解決新的未知的知識(shí)。
人工智能還只是工具,用于輔助人的工作,是解放可以重復(fù)性的工作,而完全創(chuàng)新的的工作,仍然需要提示給人,來(lái)請(qǐng)更多的專家來(lái)完善功能。
工具的完善需要時(shí)間
IBM的沃森只是工具,但把它當(dāng)作醫(yī)生來(lái)用,就會(huì)出現(xiàn)問題。而工具的完善也是需要時(shí)間的。比如現(xiàn)在自動(dòng)駕駛技術(shù),雖然已經(jīng)有很多應(yīng)用,但也出現(xiàn)了很多事故。但工具的完善,都是在不斷發(fā)生問題,解決問題的過(guò)程中完善的。這個(gè)過(guò)程是不可避免的。
不能因?yàn)橹虚g出現(xiàn)問題,就全盤否定。AI的大趨勢(shì)比可避免,不能因噎廢食。
-
IBM
+關(guān)注
關(guān)注
3文章
1823瀏覽量
75814 -
人工智能
+關(guān)注
關(guān)注
1806文章
49014瀏覽量
249419
原文標(biāo)題:AI只是工具,莫把AI當(dāng)萬(wàn)能解藥
文章出處:【微信號(hào):xuyongshuo-work,微信公眾號(hào):許永碩】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
HarmonyOS AI輔助編程工具(CodeGenie)報(bào)錯(cuò)分析
有了DeepSeek等AI大模型,人人都能當(dāng)醫(yī)生嗎?
AI基礎(chǔ)模型提升癌癥診斷精確度,實(shí)現(xiàn)個(gè)性化治療方案定制

評(píng)論