肯亞總統魯托（William Ruto）承諾讓所有肯亞人都能獲得醫療照護，但一項調查發現，用於預測肯亞人支付醫療照護費能力的AI系統，卻系統性地提高了窮人的負擔。
這套正在全國推行的醫療體系，是魯托總統的一項重要競選承諾，於2024年10月推出，旨在取代肯亞行之有年的國家保險體系。
該體系被譽為「加速數位轉型」，目標是擴大醫療照護的普及範圍至肯亞龐大的非正規經濟部門，包括日薪勞工、小販、農民以及佔勞動人口83%的無固定薪資工作者。
「沒有一個肯亞人會被落下，」魯托在2023年總統競選期間於凱里喬（Kericho）擁擠的體育場內表示，並宣布每位公民都將很快獲得可負擔的醫療照護。
然而，他的解決方案反而引發了抗議和憤怒，因為數百萬人的醫療保費現正透過一個被形容為「有缺陷」且據消息人士稱幾乎不透明的公式計算。
魯托稱之為AI驅動的解決方案，實際上並不依賴於ChatGPT等大型語言模型所依賴的近期人工智慧進展，而是使用預測性機器學習演算法。
它現在透過一種「量入為出」的審查過程，決定數百萬人的醫療保費。
經過數月的調查，Africa Uncensored 的記者與 Lighthouse Reports 和衛報合作，得以取得該系統的關鍵細節並審核其運作方式。調查結果顯示，從一開始，該系統就系統性地向最貧窮的肯亞人收取過高費用，高估他們的收入，同時透過低估富人的收入來收取較低的費用。
每天，葛蕾絲·阿瑪尼（Grace Amani*）都會到人們家中，詢問從奇怪到侵入性的問題。你使用哪種廁所？你的屋頂是什麼做的？你有收音機嗎？
她協助住戶在手機上的數位問卷上回答數十個這類問題——化糞池、鐵皮屋頂、沒有收音機。人們常常感到困惑；有些人擔心自己正在接受調查。問卷填寫完畢後，演算法會計算出該家庭當年必須支付的公共醫療保險金額，並回傳一個數字。
這位有10個孩子的母親也聲稱該系統並未如預期般運作，反而懲罰了最貧困的人。
阿瑪尼登記的都是肯亞首都奈洛比最貧窮的人，但大多數人都被收取了他們無法負擔的費用。她看著連餵飽自己都成問題的家庭，卻被收取遠超出他們能力的保費，許多人面臨著相當於微薄收入10%至20%的金額。
阿瑪尼也看到許多重症患者因為無法支付AI系統所要求的金額而無法獲得治療。
「人們正在死去，人們正在受苦，」她說。
她接觸到的人正是政府承諾將從AI驅動的醫療改革中獲益最多的人。收入最低的人本應被收取最低保費，或完全免除費用。「他們以為這會幫助他們，」阿瑪尼說。
自推出以來，社會健康管理局（Social Health Authority, SHA）因誤分類人群、設定無法負擔或難以理解的保費而受到大量批評。
沒有私人保險的肯亞人如果未繳納SHA保費，將面臨被醫療機構拒絕或收到高額的醫院帳單。對一些人來說，這意味著他們再也無法獲得治療。「人們在家中死去，」阿瑪尼說。「許多人無法去醫院。他們是要支付SHA，還是支付食物，還是支付他們居住的小屋？」
在社群媒體上，肯亞人紛紛分享他們無法支付的帳單。「以前努力支付500肯亞先令（約2.90英鎊）就已經很困難，現在卻被收取1030肯亞先令，」一人寫道。
「上帝保佑我，」一位單親母親寫道，她的月繳保費被設定為3500肯亞先令。
曾擔任肯亞衛生部顧問的健康經濟學家大衛·卡奧亞（David Khaoya）表示，面對SHA公式已知的缺陷，人們做出了選擇。
該系統的限制意味著它只能正確評估貧困家庭，或正確評估富裕家庭。卡奧亞說，政府選擇優先準確評估富裕人士，即使這意味著對窮人收取過高費用。
「如果你將一個較富裕的人識別為窮人，因此要求他支付較少的費用，這個人永遠不會承認並說，『我實際上應該支付更多』，」他說。
肯亞的演算法醫療體系建立在世界銀行數十年前的「心腹大患」之上：代理平均測試（proxy means testing, PMT），這是一種根據窮人的財產和其他生活狀況（例如他們有多少孩子或是否獨居）來估計其收入的方法。
PMT已被用於「非洲、亞洲和太平洋地區」的世界銀行資助計畫中，發展經濟學家史蒂芬·奇德（Stephen Kidd）說。它常常被設定為政府獲得貸款的條件。
在肯亞，這意味著部署像阿瑪尼這樣的政府志工到全國各地的家庭，登記他們的屋頂材料、牲畜和孩子——並將這些細節輸入一個不透明的演算法，以決定他們的收入以及必須支付的金額。
審計測試了該系統對數千個真實家庭的適用性。對於一個又一個家庭，該系統都高估了他們的財力。對於兩位農民來說，由於他們有電力且擁有自己的房屋，他們的收入被預測為實際收入的兩倍。
近年來，類似SHA所建系統的系統已在全球迅速傳播——通常由世界銀行或其他國際捐助者推動。
在非洲、亞洲和拉丁美洲，PMT演算法已成為確定哪些家庭「足夠貧窮」以獲得現金轉移、食品補貼和其他福利的熱門方法。這些系統旨在將國家服務擴展到那些歷史上未被計算在內的人群；那些收入不穩定、不適合基於收入的醫療計畫的非正規勞動者。
但奇德和其他研究人員發現，這些系統根本不起作用。在試圖將人口劃分為「貧窮」或「非貧窮」時，大多數人都犯了重大錯誤。奇德測試的一個印尼的貧困目標計畫，排除了其目標服務人口的82%；盧旺達的另一個計畫則有90%的錯誤率。
根據Africa Uncensored和Lighthouse的調查審計，在肯亞的情況下，SHA系統似乎對超過一半的貧困家庭收取過高費用。較高收入家庭的收入被低估了。
奇德說，這些不準確性並非單一原因造成。貧困是一個流動的概念——使用鐵皮屋頂或化糞池等因素來估計家庭財富，本質上就是一種不精確的做法。
但是，像肯亞這樣的平均測試演算法引入了一個額外的問題：它們不透明，並削弱了民眾對政府服務的信心。
「感覺像樂透，」奇德說。「樂透不是建立信任的好方法。」
在肯亞，該系統導致了普遍的沮喪。然而，其缺陷似乎已被國際數據諮詢公司IDinsight撰寫的一份報告預見，該報告在系統實施前已與政府分享。
記者獲得的該份報告發現，SHA的系統存在缺陷，且「不公平，特別是對低收入家庭」。其確定財富的基礎「過度代表了中等收入家庭，而來自貧困地區的數據點非常少」。鑑於「多重經濟衝擊」影響了該國，「它也與肯亞當前的社會經濟狀況脫節」。
儘管如此，肯亞仍舊部署了SHA系統。在超過2000萬註冊SHA的人中，只有500萬人定期支付保費。一些醫院報告出現巨額赤字，因為SHA承諾的報銷款項仍未支付。
3月，前副總統里格西·加查瓜（Rigathi Gachagua）預測，「SHA將在六個月內崩潰。」
布萊恩·利申加博士（Dr Brian Lishenga）首次在奈瓦沙（Naivasha）的一次會議上聽說PMT，當時他正在聽取政府官員和國際捐助者之間的討論。肯亞農村和城市私人醫院協會主席利申加想了解政府計劃如何讓數千萬非正規工人向該系統繳費。
他現在是該系統最響亮的批評者之一。「這是一個失敗的實驗，」他說。「這是一個識別貧困家庭的非常糟糕的工具。這是一個幫助政府逃避責任的絕佳工具。對此來說，是一個非常棒的工具。」
*為保護身份，姓名已更改。
在此處閱讀Africa Uncensored記者使用的更完整的調查方法報告。