博雯 發(fā)自 凹非寺

量子位 報(bào)道 | 公眾號(hào) QbitAI

因?yàn)閲?yán)重痛經(jīng)入院，在醫(yī)囑下注射阿片類藥物（Opioid）以緩解痛苦。

結(jié)果入院四天后，就突然被AI告知：

你將不會(huì)再接受任何阿片類藥物。

然后就抱著尚未被消除的病痛，立即“被出院”了。

這就是2020年7月份，32歲的Kathryn所遭遇的情況。

而更讓她無法理解的是，兩周后，長期保持聯(lián)系的婦科醫(yī)生突然又向她聲明：要終止他們之間的關(guān)系。

一番查證之后，Kathryn最終發(fā)現(xiàn)——

源頭竟來自她的兩只寵物狗？

寵物狗生病讓主人被禁止買藥

其實(shí)，在住院期間，Kathryn在被告知“不能再使用阿片類藥物”時(shí)，工作人員同時(shí)也表示：

你完全沒有意識(shí)到自己的圖表中有多高的分?jǐn)?shù)。

當(dāng)時(shí)的Kathryn并不明白“圖表”和“分?jǐn)?shù)”是什么意思。

而兩周后她的醫(yī)生送來的終止關(guān)系的聲明中，又有這樣一段描述：

（關(guān)系的終止）來自NarxCare數(shù)據(jù)庫中的一份報(bào)告。

或許這里提到的NarxCare和之前所說的“圖表分?jǐn)?shù)”有關(guān)？

Kathryn和她周圍的人都沒有聽過這個(gè)名字，于是她馬上去Google了一下：

原來，這是一個(gè)面向醫(yī)生、藥店和醫(yī)院的分析工具和護(hù)理管理平臺(tái)。

NarxCare可以利用AI算法對(duì)病患的處方藥數(shù)據(jù)進(jìn)行統(tǒng)計(jì)和分析，最終得到一個(gè)風(fēng)險(xiǎn)報(bào)告。

它主要使用來自國家藥品登記處的數(shù)據(jù)。

除此之外，醫(yī)療索賠數(shù)據(jù)、電子健康記錄、 EMS 數(shù)據(jù)和刑事司法數(shù)據(jù)也在使用范圍之內(nèi)。

NarxCare會(huì)通過機(jī)器學(xué)習(xí)算法對(duì)這些數(shù)據(jù)進(jìn)行統(tǒng)計(jì)和分析，最終得到一個(gè)預(yù)測(cè)模型。

根據(jù)這一模型，每位患者都會(huì)得到一個(gè)屬于自己的的“處方藥使用風(fēng)險(xiǎn)評(píng)估報(bào)告”：

如果評(píng)分過高，就有可能被認(rèn)為是有藥物濫用情況，從而被拒絕出售相關(guān)處方藥。

但這仍然不能解決Kathryn的疑惑：

她所患有的子宮內(nèi)膜異位癥導(dǎo)致了常年的生理病痛，因此她確實(shí)有長期服用阿片類藥物（如撲熱息痛）的習(xí)慣。

但這一切都是在醫(yī)生指導(dǎo)下所開的處方藥啊，怎么突然就被叫停了？

在與各種論壇上的慢性疼痛病患者的交流之后，Kathryn最終找到了這場意外的源頭。

而結(jié)果讓她感到無比離奇——

原來，Kathryn的兩只寵物狗，都曾因疾病而服用過大量的阿片類藥物、苯二氮卓類藥物，甚至巴比妥類藥物：

由于代謝原因，狗狗們所服用的劑量會(huì)高出人類。

而買藥的全部流程掛的都是主人，也就是Kathryn的名字。

因此，Kathryn去過的藥店數(shù)量、去醫(yī)院的路程，以及她收到的處方藥組合，全都被NarxCare記錄了下來。

她的寵物狗們的服藥經(jīng)歷，全都算到了她的頭上。

美國處方藥監(jiān)控項(xiàng)目

這場非常荒謬的意外，或許是由于平臺(tái)算法的缺陷所導(dǎo)致的。

不過讓Kathryn更在意的是另外一點(diǎn)：

這樣一個(gè)暗中收集處方藥數(shù)據(jù)的項(xiàng)目，她和身邊的大多數(shù)人從來都沒聽過。

誰允許的？

其實(shí)，這是來自過去20年內(nèi)，美國已投入了數(shù)十億美元的處方藥監(jiān)控項(xiàng)目：

司法部一直在致力于開發(fā)和維護(hù)州級(jí)處方藥數(shù)據(jù)庫。

他們希望通過這一電子登記系統(tǒng)實(shí)時(shí)跟蹤某些受管制藥物的藥方，密切關(guān)注制藥市場。

現(xiàn)在，幾乎美國的所有洲都有一個(gè)這樣的處方藥監(jiān)控項(xiàng)目（PDMP）。

而在過去的幾年里，一家名為Appriss的公司慢慢主導(dǎo)了這些州處方數(shù)據(jù)庫的管理。

NarxCare，就是Appriss公司旗下的產(chǎn)品。

Appriss希望通過NarxCare所產(chǎn)生的報(bào)告來幫助處理藥物濫用情況，并輔助醫(yī)生進(jìn)行更好的診斷決策。

在目前的美國，幾乎每個(gè)州都會(huì)要求醫(yī)生和藥劑師在開具處方藥的同時(shí)，咨詢和參考NarxCare中的醫(yī)療信息，否則就有可能被吊銷執(zhí)照。

而對(duì)于Kathryn這樣的例子，Appriss則表示：

寵物狗提高了主人的評(píng)分，這是一個(gè)非常罕見的例子。

但不論這是怎樣的一個(gè)卡夫卡式的發(fā)展，對(duì)于現(xiàn)在的Kathryn來說，每次進(jìn)入藥店時(shí)，總能有人看到她過去的那些“圖標(biāo)和分?jǐn)?shù)”。

她對(duì)此表示：

這讓我感到我走入的不是藥店，而是宗教審判所。

不公開的專利算法

而像是Kathryn這樣的例子并不少見。

她在慢性疼痛患者論壇中，就曾遇到一位擁有相似經(jīng)歷的女士。

在對(duì)醫(yī)生進(jìn)行自我介紹之前，就先被要求披露自己為什么長期服用阿片類藥物。

回答了自己患有PTSD后，還被要求進(jìn)一步解釋精神創(chuàng)傷的原因。

而目前NarxCare并不需要獲得FDA的批準(zhǔn)，這也讓一些醫(yī)學(xué)專家提出了質(zhì)疑：

它（NarxCare）是一種專有的算法，既沒有學(xué)術(shù)界的同行評(píng)審，也沒有政府監(jiān)管。

NarxCare用于過量風(fēng)險(xiǎn)評(píng)估的算法并不對(duì)外公開。

不過根據(jù)官網(wǎng)的一些已有的資料，我們可以了解它們大致的思路：

在得到來自處方藥監(jiān)控項(xiàng)目的大量數(shù)據(jù)，并開發(fā)了一個(gè)大的變量集后，再將數(shù)據(jù)分解為一個(gè)訓(xùn)練集和一個(gè)測(cè)試集。

有了訓(xùn)練數(shù)據(jù)之后，算法就開始將服藥過量和未服藥過量的模式進(jìn)行對(duì)比。

比如，如果某位病患擁有同一醫(yī)生開出的三張阿片類處方藥，那么他的藥物濫用風(fēng)險(xiǎn)就遠(yuǎn)遠(yuǎn)低于三位不同醫(yī)生開出處方藥的病患。

在這種重復(fù)的對(duì)比和學(xué)習(xí)中，最終就得到了一個(gè)用于評(píng)估病患風(fēng)險(xiǎn)的預(yù)測(cè)模型。

這一算法近年來在生命的多個(gè)領(lǐng)域得到了廣泛應(yīng)用。

比如，常常被用來預(yù)測(cè)哪些病人最有可能從特定的治療中受益，并估計(jì)ICU病人出院后惡化或死亡的可能性。

但也就像很多人說的那樣，NarxCare并不透明，沒有辦法從底層去檢查它們是否存在錯(cuò)誤或偏見：

有很多病人并沒有意識(shí)到他們正在被測(cè)量分析。

甚至不僅是病患，連使用這一輔助臨床決策系統(tǒng)的醫(yī)生也無法完全知曉它的原理。

就像是親身體會(huì)的Kathryn所說的那樣：

對(duì)于大多數(shù)美國人來說，這是一個(gè)秘密的信用評(píng)分系統(tǒng)。

參考鏈接：

[1]https://www.wired.com/story/opioid-drug-addiction-algorithm-chronic-pain/

[2]https://twitter.com/Annaleen/status/1425493523076304898

NarxCare官網(wǎng)：

https://apprisshealth.com/solutions/narxcare/

— 完 —

本文系網(wǎng)易新聞?網(wǎng)易號(hào)特色內(nèi)容激勵(lì)計(jì)劃簽約賬號(hào)【量子位】原創(chuàng)內(nèi)容，未經(jīng)賬號(hào)授權(quán)，禁止隨意轉(zhuǎn)載。

原標(biāo)題：《患者痛不欲生，但AI說：別給她開止疼藥》

閱讀原文