根據(jù)IBM內(nèi)部資料,,多名使用IBM沃森腫瘤治療系統(tǒng)的醫(yī)學(xué)專家發(fā)現(xiàn),IBM沃森多次為患者提供不準確且不安全的建議。目前為止,尚未有病人因沃森的失誤受到傷害。
內(nèi)部資料包括IBM沃森前健康副主管安德魯諾登(Andrew Norden)于2017年6月和7月兩場報告的文件,。文件中有這樣一個例子,一名65歲患者被診斷患有肺癌且伴有嚴重出血,沃森建議該男子進行化療,,且開了名為“貝伐珠單抗”的藥物,。但這種藥會導(dǎo)致嚴重或致命大出血,實則不應(yīng)用于伴有嚴重出血的患者,。
紀念斯隆凱特琳癌癥中心的發(fā)言人表示:這樣的建議目前還是假設(shè)階段,,只是系統(tǒng)測試的一部分。但許多人反對稱,,這種不準確的建議實則說明技術(shù)與內(nèi)容上存在嚴重的問題,。
據(jù)Stat News稱,佛羅里達州某醫(yī)院的一名醫(yī)生直言此產(chǎn)品差強人意,。他表示:“當時聽信推銷人員購買了產(chǎn)品,,但大多數(shù)情況下沒辦法使用?!贝酸t(yī)院的醫(yī)生都表示:在治療意見不統(tǒng)一時,,除了沃森提供建議外,他們還會聽取超級計算機的建議,。
如今,,人們不僅對沃森的建議持懷疑態(tài)度,同時也好奇在此項目上沃森如何接受訓(xùn)練,。其實AI系統(tǒng)分析的都是真實病例,,而非虛擬數(shù)據(jù),即醫(yī)生接收到的建議都是其他醫(yī)生真實的建議,,并非通過合成虛擬數(shù)據(jù)得到的結(jié)論,。
IBM的發(fā)言人回應(yīng)稱:根據(jù)客戶的不斷反饋、新的科學(xué)證據(jù)以及新的癌癥治療方案,,我們不斷學(xué)習(xí),,已經(jīng)作出進一步改進。目前已用于全球230家醫(yī)院,,為84000多名患者提供了幫助,。IBM于6月發(fā)布報告稱, 如今沃森準確識別腫瘤的成功率已達93%,。