如果將人們的想象力用在廣泛的臨床應用，那么醫(yī)療人工智能還有很長的路要走。
加拿大多倫多大學的研究人員在7月10日發(fā)表在“醫(yī)學互聯(lián)網研究雜志”上的一篇論文中，指出了人工智能在醫(yī)療保健行業(yè)應用面臨的主要障礙。
多倫多大學的JamesShaw博士及其同事根據NASSS框架比較了人工智能與其他技術的市場滲透率，NASSS框架將機器學習用例分為自動化和決策支持兩大類。而NASSS是Nonadoption、Abandonment、Challenges to Scale-up、Spread、Sustainability的首字母縮略詞。
建議決策支持應用程序將引導自動化，至少在短期內如此。遵循NASSS框架，他們概述了阻礙主要決策支持人工智能實施的各種問題。為此強調的是：
1.有意義的決策支持
Shaw解釋說，“臨床決策是一個復雜的過程，涉及各種數(shù)據源的整合，其中包括隱性和明確的智能模式。”
他補充說，“為了更直觀地通知這個決策過程，人工智能開發(fā)人員正在添加數(shù)據可視化等通信工具。這些通信工具的性質和價值是實現(xiàn)過程的核心，有助于確定算法輸出是否和如何被納入日常慣例。”
2.可解釋性
醫(yī)療保健的人工智能模型如何實現(xiàn)其結果?Shaw及其同事指出，即使對創(chuàng)建它們的計算機科學家來說，答案仍然是未知的。
Shaw說，“缺乏對這些機制和環(huán)境的理解，這對機器學習對醫(yī)療保健利益相關者的可接受性提出了挑戰(zhàn)。盡管可解釋性問題與決策支持明確相關，但如此處所解釋的那樣使用機器學習案例。”
他補充說，“這一問題可能更加深刻地應用于以自動化為重點的用例，因為它們在醫(yī)療保健領域占據重要地位。”
3.隱私和同意
Shaw指出，目前缺乏有關正確使用可穿戴設備數(shù)據的立法和指導。同時，許多與健康相關的應用程序在使用過程中產生的數(shù)據流中存在著不明確的一致性過程。
除了這兩個明顯的問題之外，當與其他數(shù)據集鏈接時，可以重新識別其他的數(shù)據。他表示：“這些因素為那些尋求將健康數(shù)據用于機器學習應用開發(fā)的計劃帶來了重大風險，可能遭遇來自醫(yī)療保健提供商的巨大阻力。”
4.算法偏差
Shaw表示，“算法只能和訓練它們的數(shù)據一樣好。”
他說，“如果訓練數(shù)據部分或不完整的，或只反映給定人口的子集，則生成的模型將僅與數(shù)據集中表示的人群相關。這提出了關于數(shù)據來源的問題，并代表了一系列與偏差相關的問題，這些偏差內置于用于決策的算法中。”
5.可擴展性和面臨障礙
隨著人工智能應用在醫(yī)療保健領域的迅速發(fā)展，一些算法輸出不可避免地會混淆、矛盾或以其他方式與他人對抗。
Shaw表示，“這種相互作用的影響無法提前預測，部分原因是相互作用的特定技術尚不清楚，可能在常規(guī)護理過程中尚未實施。我們建議實施科學家需要考慮機器學習在醫(yī)療保健中的實施和規(guī)模的意外后果，為患者、醫(yī)療保健提供者、公眾的安全帶來更大的復雜性和更大的風險。”
Shaw和其團隊還圍繞企業(yè)角色和醫(yī)療保健工作不斷變化的性質指出了一些障礙。
在總結他們的觀察和預測時，Shaw表示機器學習在醫(yī)療保健領域的未來是積極但不確定的。他們認為，在很大程度上，接受和采用這項技術取決于所有醫(yī)療保健利益相關者、患者、提供者，這與人工智能開發(fā)者一樣。
Shaw指出，“機器學習的應用變得更加復雜，對數(shù)據可視化等通信策略的投入也在增長，機器學習可能變得更加用戶友好和更有效。如果實施，科學界要以有利于所有人的方式促進機器學習的采用，那么提出的問題將在未來幾年內得到充分關注。”
【責任編輯：華軒 TEL：（010）68476606】