DeepMind Health的獨立評估者發(fā)布報告，質疑DeepMind的醫(yī)療數(shù)據(jù)壟斷以及其他一系列問題。

DeepMind進軍數(shù)字醫(yī)療服務領域仍令人擔憂。最新的擔憂來源于谷歌旗下的這家人工智能公司聘請的一組外部審評人就數(shù)據(jù)共享提出的報告。2016年，由于與英國國民醫(yī)療服務體系(NHS)合作共享醫(yī)療數(shù)據(jù)，DeepMind遭遇了一場重大的公眾爭議。

在DeepMind Health Independent Reviewers的2018年報告中，存在著一系列的風險和擔憂，包括DeepMind Health能夠“發(fā)揮過度的壟斷力量”。這是由于數(shù)據(jù)訪問與流式傳輸基礎設施是捆綁在一起提供給Streams應用程序。合同規(guī)定，將DeepMind定位為結構化健康數(shù)據(jù)與任何其他第三方之間的訪問控制中介，這些中介可能在未來有希望向Trust提供自己的數(shù)字幫助解決方案。

雖然DeepMind for Streams部署的基礎FHIR（又名快速醫(yī)療互操作性資源）使用開放式API，但該公司與Royal Free Trust之間的合同通過DeepMind自己的服務器連接，并禁止連接到其他FHIR服務器。這個商業(yè)結構似乎與DeepMind的共同創(chuàng)始人Mustafa Suleyman聲稱支持的開放性和互操作性的言論相悖。

DeepMind共同創(chuàng)始人Mustafa Suleyman

一個評論員寫到：“IT領域有很多例子是公司將客戶鎖定在難以改變或替換的系統(tǒng)中。這樣的安排不符合公眾的利益。我們不希望看到DeepMind Health將自己置于這樣的地位，即醫(yī)院等客戶發(fā)現(xiàn)自己被迫與DeepMind Health保持聯(lián)系。這已經不再是經濟上或臨床上明智的做法。我們希望DeepMind Health能夠在質量和價格上進行競爭，而不是通過鞏固遺留的立場來進行競爭“。

盡管他們指出DeepMind的“對系統(tǒng)互操作性的陳述承諾”以及“他們采用FHIR開放API”是積極的，并寫道：“這意味著其他許多中小企業(yè)有可能參與其中，一起創(chuàng)造一個多元化、創(chuàng)新的市場，并造福于消費者、創(chuàng)新性和經濟?！?/p>

他們還補充道：“我們還注意到DeepMind Health公司打算將Streams的許多功能作為可輕松交換的模塊來實施，這意味著他們將不得不依靠最好的方式來維持業(yè)務。”

然而，陳述的意圖和未來潛力顯然與實際情況不一樣。而且，就目前而言，技術上可互操作的應用交付基礎設施正受到商業(yè)合同中禁止性條款的約束，以及缺乏針對此類行為的監(jiān)管阻力。

質疑無明確的商業(yè)模式

評論者還對DeepMind Health無法構建明確的商業(yè)模式表示擔憂，他寫道：“鑒于目前的情況，無法對DeepMind Health的商業(yè)模式做出明確的解釋，人們很可能會懷疑，其中必定存在一個未透露的利潤動機或是一個隱藏的議程。我們并不相信這是事實，但會敦促DeepMind Health對其商業(yè)模式保持透明，并且堅持這一能力不會被Alphabet忽略。一旦隱藏議程的理念在人們的頭腦中成為固有模式，無論公司的動機如何，公共利益都很難轉變?！?/p>

他們補充道：“我們已經就DeepMind Health在這一領域發(fā)展的愿景進行了詳細的對話，并且知道其中一些問題還沒有最終確定。然而，我們敦促DeepMind Health對他們提出的建議進行公開。“

DeepMind提出它想要建立能夠按結果收費的醫(yī)療保健服務。但Streams不涉及任何AI， 這項服務也是可以保證前五年免費地提供給NHS Trusts。這就引發(fā)了一個問題，即這家Google旗下的公司打算如何收回投資。

Google當然會將一大批免費的消費產品貨幣化，比如Android手機操作系統(tǒng)，其云電子郵件服務Gmail以及YouTube視頻共享平臺可以收集用戶的個人數(shù)據(jù)并將該信息提供給其廣告定位平臺。

因此，評論家們建議DeepMind闡述其在商業(yè)模式上的想法，以避免人們對醫(yī)療數(shù)據(jù)的懷疑。

該公司的歷史做法也突顯出，如果DeepMind被允許在數(shù)字醫(yī)療服務領域中占據(jù)主導地位，那么它存在潛在壟斷的風險。例如，它的母公司能夠有效地將一個免費的OEM移動操作系統(tǒng)（Android）轉變?yōu)槿?a target="_blank">智能手機的主導。

因此，盡管DeepMind在這個階段只與NHS信托公司簽訂了幾份合同，但審查人員對該公司獲得“過度壟斷權力”的風險的擔憂似乎并沒有被夸大。

他們還擔心，DeepMind一直在含糊地表示，它究竟是如何與母公司Alphabet進行合作的，以及哪些數(shù)據(jù)可以被轉移到廣告巨頭身上，畢竟將廣告與DeepMind對人們醫(yī)療記錄的處理方法相相疊加是一種不可避免卻令人不安的組合。

他們寫道：“DeepMind Health能在多大程度上使自己免受Alphabet的影響，讓他們在未來做一些違背自己現(xiàn)如今承諾的事情？”或者，如果DeepMind的現(xiàn)任管理層離開了DeepMind Health，一個新的CEO又能多大程度上改變今天達成的協(xié)議呢？”

“我們贊賞DeepMind Health將繼續(xù)受法律和監(jiān)管框架的約束，我們的大部分注意力都集中在DeepMind Health采取比法律所要求的更高的道德立場之上。這會是一切最終的樣子么？我們鼓勵DeepMind Health以更強硬的方式加強與Alphabet和DeepMind進行分離，從而使其能夠更長久地對自身所作出的承諾負責。“

DeepMind在其網站上發(fā)表的報告中寫道：“正在制定我們的長期業(yè)務模式和路線圖“。

報告中還寫到“我們的首要任務就是證明我們的技術可以幫助改善患者護理質量并降低成本，而不是為我們工作的早期階段收費。我們相信，我們的業(yè)務模式應該來自我們創(chuàng)造的積極影響，并在我們探索的基于結果的一些因素中得以延續(xù)，以便成本至少部分與我們提供的收益相關。”

因此，除了部署一些選擇公共廣播節(jié)目之外，他們不知道要說些什么來平息評論家們對將健康數(shù)據(jù)貨幣化意圖的擔憂。

AI在醫(yī)療領域的部署問題需要政府明確的決策

在與Alphabet的聯(lián)系中，DeepMind也很少說些什么，他們只是寫道：“我們將探索進一步的方法，以確保在所有我們的NHS合作伙伴關系中有明確的法律框架。”

他還補充道：“Trusts始終保持對數(shù)據(jù)的完全控制，我們在法律上和合同上必須遵照我們合作伙伴的指示來使用患者數(shù)據(jù)。我們將繼續(xù)與Trusts公司簽署法律協(xié)議，以便審查這一重要問題?！?/p>

“在我們與合作伙伴達成的法律協(xié)議中已經寫到，如果他們希望尋求另一個提供商的數(shù)據(jù)處理服務，我們不會進行阻止。”

“我們希望Streams能夠幫助NHS推動下一波創(chuàng)新浪潮。 支持Streams的基礎架構建立在最先進的開放式互操作標準FHIR之上。現(xiàn)階段英國NHS Digital，英國NHS和INTEROPen集團都支持這一標準。這將使我們的合作伙伴能夠更容易地與其他開發(fā)者合作，幫助他們在臨床前線帶來更多的創(chuàng)新。

“根據(jù)我們與相關合作伙伴Trusts的合同協(xié)議，我們承諾在協(xié)議的五年內制定FHIR API基礎設施?！?/p>

當被問及在去年公布的在用于驗證健康數(shù)據(jù)訪問的技術審計基礎架構方面取得的進展時，他們重申了博客上的措辭，稱：“我們將對設定盡可能高的信息治理標準保持警惕。今年年初，我們任命了一名全職信息管理經理來監(jiān)督我們在所有工作領域使用的數(shù)據(jù)。我們還在繼續(xù)構建我們的可驗證數(shù)據(jù)審計和其他工具，以清楚地展示我們是如何使用數(shù)據(jù)的?！?/p>

因此，這方面的進展看起來和我們預期的一樣慢。

這家Google旗下的英國AI公司在2015年開始進軍數(shù)字醫(yī)療服務領域，與總部位于倫敦的NHS Trust公司悄悄簽署了一項信息共享協(xié)議，并為其提供了約160萬人的醫(yī)療記錄，用于開發(fā)一種名為“急性腎臟損傷”的警報APP。

這家AI公司還與該NHS Trust簽署了一份合作備忘錄，雙方在該協(xié)議中提出了將人工智能應用于NHS數(shù)據(jù)集的雄心。他們甚至還為AI項目獲得了道德標志，但卻一直聲稱沒任何的Royal Free數(shù)據(jù)被送到了任何AI公司。

然而，2016年5月，通過調查性新聞而非Trust或DeepMind披露：Royal Free with DeepMind共享患者數(shù)據(jù)的范圍出現(xiàn)了問題。

160萬人的非匿名的醫(yī)療記錄在沒有被告知或要求得到他們的同意的情況下被共享給了Google的子公司。這一問題被數(shù)據(jù)共享安排的法律依據(jù)提出了質疑。

去年夏天，英國的隱私監(jiān)管機構對該項目進行了調查，發(fā)現(xiàn)Royal Free NHS Trust在應用開發(fā)過程中違反了數(shù)據(jù)保護規(guī)則。

盡管人們在基于道德和法規(guī)層面對數(shù)據(jù)共享的合法性存在不滿，但Streams項目仍在蒸蒸日上。Royal Free Trust繼續(xù)將這一應用程序供醫(yī)院臨床醫(yī)生使用，而DeepMind還簽署了幾項額外的合同，將Streams部署到其他NHS Trusts。

最近，作為于ICO結算的一部分，法律事務所Linklaters在Trust的委托下完成了對Royal Free Streams項目的審計。 雖然這次審計僅檢查了Streams的當前功能，而在項目建設和測試階段，并沒有對人員病歷的合法性進行歷史性審核。

Linklaters確實建議Royal Free通過DeepMind終止其更廣泛的合作備忘錄（MOU），而且Trust已向我們證實它將遵循該公司的建議。

Royal Free發(fā)言人告訴我們：“審計建議我們終止與DeepMind達成的2016年1月簽署的歷史性合作備忘錄。合作備忘錄不再與合作關系相關，我們正在終止我們的合作關系”。

因此，DeepMind可能成為世界上最著名的人工智能公司，它正處于參與向英國醫(yī)院提供數(shù)字醫(yī)療服務的異常位置，盡管這些醫(yī)院也有一些與NHS Trusts進行的AI研究項目，但他們實際上并不涉及任何人工智能。

2016年年中，正值 Royal Free DeepMind數(shù)據(jù)丑聞的高峰期，為了爭取更多的公眾信任，該公司任命了外部審查小組，他們現(xiàn)在已經編寫了第二份報告來研究該部門的運作情況。

公平地說，自從專家小組被任命為進一步破壞公眾對技術平臺和算法的信任的任務以來，科技產業(yè)發(fā)生了很大的變化：包括ICO發(fā)現(xiàn)Royal Free與DeepMind之間最初的數(shù)據(jù)共享安排違背了英國的隱私法。

2018報告小組的八個成員是：Martin Bromiley OBE、Elisabeth Buggins CBE、Eileen Burbidge MBE、Richard Horton、Julian Huppert博士、Donal O’Donoghue教授、Matthew Taylor和John Tooke教授。

在他們最新的報告中，外部評論員警告說，公眾對科技巨頭的看法與一年前相比“大幅轉變”，并斷言：“如果數(shù)字時代還存在隱私問題的話，那將更值得關注”。

與此同時，政界人士也更關注技術巨頭的成果和社會影響。

盡管英國政府也熱衷于將自己定位為AI的支持者，為該部門提供公共資金，并在其“工業(yè)戰(zhàn)略”白皮書中將AI和數(shù)據(jù)確定為四大所謂的“重大挑戰(zhàn)”之一，書中相信英國可以“在未來幾年中引領世界”，并在重審時專門將DeepMind稱作該國引以為傲的少數(shù)領先的本土人工智能業(yè)務之一。

盡管如此，關于如何管理公共部門數(shù)據(jù)，以及人工智能的部署的問題仍然需要政府進行明確解決，特別是在醫(yī)療保健等高度敏感的領域。

與此同時，即使技術人員不涉及任何人工智能，數(shù)字技術正在進入醫(yī)療保健領域并面臨重大挑戰(zhàn)，對現(xiàn)有的信息治理規(guī)則和結構施加壓力，并增加了壟斷的風險。

當被問及NHS的數(shù)字服務提供商：NHS Digital是否為NHS Trust提供任何指導，包括醫(yī)生的數(shù)字幫助，特別是它是否需要由不同的提供者提供的多個選項時，它將我們的問題提交給衛(wèi)生部（DOH），并指出這是衛(wèi)生政策的問題。

衛(wèi)生部又把這個問題提交給NHS英格蘭，一個負責合同、并為英國的衛(wèi)生服務制定優(yōu)先次序和方向的行政非部門機構。

在寫這篇文章的時候，我們仍然在等待負責人的回應。

看來最終結果將依賴于衛(wèi)生服務來為AI和數(shù)字決策服務建立一個清晰和穩(wěn)健的架構，通過競爭來滿足Trusts在購買應用程序和服務時支持多個獨立選項的要求。

沒有這種重要的檢測和平衡，正如大型技術主導消費技術一樣，就會存在動態(tài)平臺迅速支配和控制新興的數(shù)字健康援助空間的風險。

但公費醫(yī)療決策和數(shù)據(jù)集不應簡單地交給單一的市場主導機構，因為他們會將大量的資源聚斂到自己的公司。

當一個重要領域的數(shù)字創(chuàng)新存在明確風險，即一個領域有望成型，卻有可能被一個科技巨人壟斷并在其他人有機會展示自己想法之前將自己定義為守門人時，政府絕不應該袖手旁觀。