【線下技術(shù)沙龍】11月23日，多云時(shí)代開(kāi)啟企業(yè)業(yè)務(wù)新高度，安全如何與時(shí)俱進(jìn)？
除了5G，人工智能依然是今年備受關(guān)注的話題，筆者近日近距離觀看了一個(gè)醫(yī)療人工智能大賽，現(xiàn)場(chǎng)十幾個(gè)醫(yī)療項(xiàng)目，每一次路演完成臺(tái)下評(píng)委老師們就會(huì)發(fā)問(wèn)，上面這幾個(gè)是最經(jīng)常被問(wèn)到的幾個(gè)問(wèn)題。
這些評(píng)委老師們多數(shù)是醫(yī)院的醫(yī)生專(zhuān)家、醫(yī)療領(lǐng)域的投資者，他們犀利的提問(wèn)背后也是人工智能在醫(yī)療領(lǐng)域應(yīng)用最常面對(duì)的幾個(gè)問(wèn)題：準(zhǔn)確率、安全性、商業(yè)模式。于是又回到一個(gè)最核心的也是老生常談的問(wèn)題：信任。比如人工智能對(duì)疾病識(shí)別的敏感度、特異度、準(zhǔn)確率值得醫(yī)生信任嗎?如果醫(yī)生用人工智能輔助決策，患者該相信醫(yī)生嗎?
隨著人工智能技術(shù)的發(fā)展，語(yǔ)音交互、計(jì)算機(jī)視覺(jué)和認(rèn)知計(jì)算、深度學(xué)習(xí)等技術(shù)也逐漸成熟，人工智能醫(yī)療領(lǐng)域的各項(xiàng)運(yùn)用變成了可能，如語(yǔ)音錄入病歷、醫(yī)療影像智能識(shí)別、輔助診療、醫(yī)療機(jī)器人、個(gè)人健康大數(shù)據(jù)的智能分析及AI醫(yī)藥研發(fā)等。
然而具體到實(shí)際的應(yīng)用，三年前，人工智能先驅(qū)Geoffrey Hinton曾信誓旦旦地說(shuō)：“我們現(xiàn)在應(yīng)該停止培訓(xùn)放射科醫(yī)生。五年之內(nèi)，深度學(xué)習(xí)將比放射科醫(yī)生做得更好。”如今，全球數(shù)百家新興公司都在探索將深度學(xué)習(xí)應(yīng)用于放射學(xué)，然而被AI取代的放射科醫(yī)生的數(shù)量是多少呢，放射科醫(yī)生在全球范圍內(nèi)仍然非常短缺。
今天的人工智能+醫(yī)療，除了信任和商業(yè)化，還面臨政策、監(jiān)管等方面的挑戰(zhàn)，近日騰訊集團(tuán)法務(wù)部發(fā)布了《醫(yī)療人工智能產(chǎn)業(yè)監(jiān)管及法律研究》(以下簡(jiǎn)稱《報(bào)告》)，就醫(yī)療AI領(lǐng)域的法律與監(jiān)管主題進(jìn)行了探討和研究分析。
《報(bào)告》指出，醫(yī)療AI面臨的法律及監(jiān)管問(wèn)題包括：醫(yī)療人工智能產(chǎn)品在進(jìn)入市場(chǎng)時(shí)是否需要作為醫(yī)療器械進(jìn)行注冊(cè);在醫(yī)療人工智能產(chǎn)品的研發(fā)及運(yùn)行過(guò)程中如何對(duì)健康醫(yī)療數(shù)據(jù)、個(gè)人信息進(jìn)行合法使用;如何確認(rèn)醫(yī)療人工智能產(chǎn)品在使用過(guò)程中的產(chǎn)品責(zé)任和醫(yī)療損害責(zé)任;如何對(duì)醫(yī)療人工智能產(chǎn)品的知識(shí)產(chǎn)權(quán)進(jìn)行保護(hù);如何面對(duì)和規(guī)避醫(yī)療人工智能產(chǎn)品所帶來(lái)的醫(yī)學(xué)倫理問(wèn)題等。
1、如何保護(hù)隱私
醫(yī)療AI無(wú)論是在研發(fā)階段還是應(yīng)用階段，不可避免地會(huì)收集、使用到個(gè)人的健康信息，比如某些健康管理型的AI產(chǎn)品會(huì)采集和利用用戶健康信息、某些癌癥的CT影像或MRI照片會(huì)被用于醫(yī)療AI模型訓(xùn)練。
如何在保證個(gè)人信息和隱私安全的前提下做到數(shù)據(jù)的開(kāi)放共享，探索大數(shù)據(jù)挖掘的合理邊界，成為醫(yī)療AI發(fā)展面臨的關(guān)鍵問(wèn)題。
“當(dāng)前法律規(guī)定，收集和使用個(gè)人信息要滿足公開(kāi)透明、最小夠用原則，但醫(yī)療AI使用信息的復(fù)雜性和黑箱測(cè)試的不可知性使得上述原則很難被滿足。而且，醫(yī)療AI的開(kāi)發(fā)者從第三方獲取數(shù)據(jù)時(shí)面臨的審查義務(wù)邊界，法律也沒(méi)有明確規(guī)定”，面對(duì)這些困境，《報(bào)告》指出，目前國(guó)際上通用的合規(guī)做法是“去標(biāo)識(shí)化”。
“去標(biāo)識(shí)化”是指通過(guò)對(duì)個(gè)人信息的技術(shù)處理，使其在不借助額外信息的情況下，無(wú)法識(shí)別到個(gè)人信息主體的過(guò)程，經(jīng)過(guò)“去標(biāo)識(shí)化”處理的個(gè)人信息即成為“去標(biāo)識(shí)化信息”。使用“去標(biāo)識(shí)化信息”有助于降低數(shù)據(jù)安全風(fēng)險(xiǎn)，更有利于保障個(gè)人的信息安全。
但《報(bào)告》顯示，我國(guó)對(duì)健康醫(yī)療數(shù)據(jù)去標(biāo)識(shí)化的標(biāo)準(zhǔn)在具體執(zhí)行上還尚未統(tǒng)一，開(kāi)發(fā)者很難判斷信息被處理到什么程度才屬于去標(biāo)識(shí)化信息。
有專(zhuān)家表示，希望相關(guān)部門(mén)盡快出臺(tái)醫(yī)療健康信息去標(biāo)識(shí)化的標(biāo)準(zhǔn)，并可適當(dāng)放寬使用去標(biāo)識(shí)化信息的限制要求，以促進(jìn)醫(yī)療AI技術(shù)的合規(guī)發(fā)展。
2、醫(yī)療AI的倫理問(wèn)題
未來(lái)的醫(yī)療AI產(chǎn)品可能具備人類(lèi)的情感、性格、習(xí)慣，不同程度地參與到醫(yī)療健康相關(guān)的活動(dòng)中，甚至可以代替醫(yī)生獨(dú)立從事診療行為。這時(shí)，是否應(yīng)當(dāng)保護(hù)以及如何保護(hù)醫(yī)療AI的倫理地位和法律權(quán)利，將是未來(lái)需要考慮的問(wèn)題。
歐盟對(duì)人工智能機(jī)器人權(quán)利的討論處于世界前沿，并已經(jīng)在考慮要不要賦予智能機(jī)器人“電子人”的法律人格，具有權(quán)利能力并對(duì)其行為負(fù)責(zé)。
2017年初的一份歐洲議會(huì)報(bào)告認(rèn)為：“從長(zhǎng)計(jì)議，為機(jī)器人創(chuàng)造一個(gè)獨(dú)立的法律地位，至少讓最精密復(fù)雜的自動(dòng)機(jī)器人具有電子人的身份，使他們?yōu)榭赡茉斐傻膿p害負(fù)責(zé)，并可能將電子人身份應(yīng)用于機(jī)器人做出自主決定或以其他方式獨(dú)立地與第三方互動(dòng)的情境。”
然而，授予人工智能法人資格的話題引起了巨大爭(zhēng)議。報(bào)告發(fā)布后不久，包括計(jì)算機(jī)科學(xué)家、法學(xué)教授和公司首席執(zhí)行官在內(nèi)的、來(lái)自14個(gè)歐洲國(guó)家的156名人工智能專(zhuān)家聯(lián)名簽署了公開(kāi)信，警告說(shuō)從“法律和倫理角度”來(lái)看，授予機(jī)器人法人資格是“不恰當(dāng)?shù)?rdquo;。
雖然因受限于技術(shù)的發(fā)展，針對(duì)上述倫理困境在現(xiàn)階段尚難以給出明確答案。但《報(bào)告》認(rèn)為，隨著科技的不斷進(jìn)步，應(yīng)當(dāng)對(duì)該類(lèi)問(wèn)題保持關(guān)注，逐步探索并建立醫(yī)療專(zhuān)業(yè)人士利用AI作出診斷決策的倫理規(guī)范和行為準(zhǔn)則，以適應(yīng)AI在醫(yī)療領(lǐng)域更加廣泛和深入的應(yīng)用。
3、醫(yī)療數(shù)據(jù)是壟斷還是共享
數(shù)據(jù)是人工智能發(fā)展的基石，對(duì)于數(shù)據(jù)的控制及壟斷可能會(huì)直接影響醫(yī)療AI產(chǎn)業(yè)的發(fā)展。
《報(bào)告》認(rèn)為，從數(shù)據(jù)占有的角度來(lái)說(shuō)，數(shù)據(jù)的獨(dú)占本身并不違反《反壟斷法》。只有因獨(dú)占數(shù)據(jù)在某一相關(guān)商品市場(chǎng)形成市場(chǎng)支配地位，并且企業(yè)濫用這種市場(chǎng)支配地位，或因獨(dú)占數(shù)據(jù)造成嚴(yán)重排除、限制競(jìng)爭(zhēng)的效果才會(huì)違反《反壟斷法》。
目前仍未看到各國(guó)直接針對(duì)醫(yī)療AI相關(guān)的數(shù)據(jù)壟斷問(wèn)題進(jìn)行專(zhuān)門(mén)立法，但一些國(guó)家出臺(tái)政策鼓勵(lì)數(shù)據(jù)的開(kāi)放共享。
我國(guó)目前在政務(wù)數(shù)據(jù)開(kāi)放和公共企事業(yè)單位數(shù)據(jù)的開(kāi)放方面已做出了規(guī)劃;歐盟委員會(huì)已將建立出于研究目的的健康數(shù)據(jù)的安全訪問(wèn)和跨境交換的技術(shù)規(guī)范提上了日程;美國(guó)通過(guò)《21世紀(jì)治愈法案》確立了打擊數(shù)據(jù)阻隔、鼓勵(lì)數(shù)據(jù)共享的總體方向。
《報(bào)告》建議，立法者可以專(zhuān)注各國(guó)在醫(yī)療數(shù)據(jù)共享方面的進(jìn)展，逐步建立醫(yī)療數(shù)據(jù)共享的統(tǒng)一標(biāo)準(zhǔn)，在解決醫(yī)療數(shù)據(jù)來(lái)源合法性的問(wèn)題的基礎(chǔ)上，進(jìn)一步推進(jìn)醫(yī)療數(shù)據(jù)的公平共享，保證醫(yī)療AI開(kāi)發(fā)者安全合法的使用數(shù)據(jù)，以促進(jìn)醫(yī)療AI開(kāi)發(fā)者的公平競(jìng)爭(zhēng)。
4、醫(yī)療大數(shù)據(jù)跨境傳輸必須合規(guī)
在跨境傳輸方面，國(guó)際間的交流合作是醫(yī)療AI技術(shù)進(jìn)步不可或缺的要素。但《報(bào)告》指出，從國(guó)家利益角度看，健康醫(yī)療大數(shù)據(jù)已然成為了重要的國(guó)家資產(chǎn)，因此各國(guó)幾乎都采取了較為謹(jǐn)慎的出境管制態(tài)度。
我國(guó)于2014年5月5日發(fā)布施行的《人口健康信息管理辦法(試行)》規(guī)定人口健康信息僅能在境內(nèi)存儲(chǔ)，不能以任何形式儲(chǔ)存于境外。
國(guó)家衛(wèi)健委通過(guò)《國(guó)家健康醫(yī)療大數(shù)據(jù)標(biāo)準(zhǔn)、安全和服務(wù)管理辦法(試行)》第三十條進(jìn)一步規(guī)定：“健康醫(yī)療大數(shù)據(jù)應(yīng)當(dāng)存儲(chǔ)在境內(nèi)安全可信的服務(wù)器上，因業(yè)務(wù)需要確需向境外提供的，應(yīng)當(dāng)按照相關(guān)法律法規(guī)及有關(guān)要求進(jìn)行安全評(píng)估審核。”
《報(bào)告》認(rèn)為，如何能夠在保障公民和國(guó)家利益的同時(shí)，持續(xù)推動(dòng)健康醫(yī)療大數(shù)據(jù)的流動(dòng)和相關(guān)科技產(chǎn)業(yè)的健康發(fā)展，是今后值得繼續(xù)深入探索的現(xiàn)實(shí)命題。
小結(jié)
據(jù)IDC的統(tǒng)計(jì)數(shù)據(jù)，到2025年人工智能應(yīng)用市場(chǎng)總值將達(dá)到1270億美元，其中醫(yī)療行業(yè)將占市場(chǎng)規(guī)模的五分之一，人工智能+醫(yī)療領(lǐng)域是大勢(shì)所趨。
從解放醫(yī)院管理到解放醫(yī)生到輔助制藥再到大眾健康管理，經(jīng)過(guò)幾十年的發(fā)展，人工智能逐漸深入醫(yī)療的方方面面，邁入深水區(qū)。而從監(jiān)管和政策層面上，近日中國(guó)衛(wèi)生信息與健康醫(yī)療大數(shù)據(jù)學(xué)會(huì)成立智慧醫(yī)院與人工智能應(yīng)用專(zhuān)業(yè)委員會(huì)、標(biāo)準(zhǔn)委員會(huì)和工作委員會(huì)，未來(lái)將制定中國(guó)智慧醫(yī)療與人工智能應(yīng)用的行業(yè)標(biāo)準(zhǔn)。那么隨著技術(shù)、政策、監(jiān)管等困境的一點(diǎn)點(diǎn)清除，期盼已久的顛覆性革命必將會(huì)有到來(lái)的那一天。
【責(zé)任編輯：未麗燕 TEL：（010）68476606】