SHIRIKI | CHAPISHA | EMAIL
Uzoefu wangu katika udaktari unaniruhusu kutofautisha kati ya uvumbuzi wa kweli na uainishaji mpya wa hila ambao kimsingi hubadilisha utendaji huku ukionekana kutobadilika. Akili bandia hivi karibuni imevutia umakini mkubwa, ikiwa ni pamoja na madai yaliyosambazwa sana kwamba akili bandia "imeidhinishwa kisheria kufanya kazi ya udaktari" nchini Marekani. Ikitafsiriwa kihalisi, dai hili si sahihi. Hakuna bodi ya matibabu iliyo na leseni ya mashine. Hakuna algoriti iliyoapa kiapo, kukubali wajibu wa uaminifu, au kuchukua dhima ya kibinafsi kwa madhara ya mgonjwa. Hakuna daktari wa roboti anayefungua kliniki, bima ya bili, au anayesimama mbele ya juri la majaji wa makosa ya jinai.
Hata hivyo, kuacha uchunguzi huu kunapuuza suala pana zaidi. Dhana za kisheria za dhima kwa sasa zinafafanuliwa upya, mara nyingi bila ufahamu wa umma.
Mabadiliko makubwa yanaendelea, yakihitaji zaidi ya kuachiliwa kwa haraka au shauku ya kiteknolojia isiyo na ukosoaji. Maendeleo ya sasa si leseni ya akili bandia kama daktari, bali ni mmomonyoko wa taratibu wa mpaka mkuu wa dawa: kiungo cha ndani kati ya hukumu ya kimatibabu na uwajibikaji wa binadamu. Hukumu ya kimatibabu inahusisha kufanya maamuzi sahihi kulingana na mahitaji na hali za kila mgonjwa, ikihitaji huruma, ufahamu, na uelewa wa kina wa maadili ya kimatibabu.
Uwajibikaji wa binadamu unamaanisha jukumu ambalo watoa huduma za afya huchukua kwa maamuzi haya na matokeo yake. Mmomonyoko huu si matokeo ya sheria kali au mjadala wa umma, lakini hutokea kimya kimya kupitia programu za majaribio, tafsiri mpya za udhibiti, na lugha inayoficha uwajibikaji kimakusudi. Mara tu mpaka huu unapoyeyuka, dawa hubadilishwa kwa njia ambazo ni vigumu kuzibadilisha.
Wasiwasi mkuu sio kama akili bandia inaweza kujaza tena dawa au kugundua matokeo yasiyo ya kawaida ya maabara. Dawa imetumia zana kwa muda mrefu, na watoa huduma za afya kwa ujumla hukaribisha msaada unaopunguza kazi za kiutawala au kuboresha utambuzi wa muundo. Suala halisi ni kama uamuzi wa kimatibabu—kuamua hatua sahihi, wagonjwa, na hatari—unaweza kutazamwa kama matokeo yanayotokana na kompyuta yaliyotengwa na uwajibikaji wa kimaadili. Kihistoria, juhudi za kutenganisha hukumu na uwajibikaji mara nyingi zimesababisha madhara bila kuchukua umiliki.
Maendeleo ya hivi karibuni yanafafanua asili ya mkanganyiko wa sasa. Katika majimbo kadhaa, programu chache za majaribio sasa zinaruhusu mifumo inayoendeshwa na AI kusaidia na uboreshaji wa dawa kwa hali sugu thabiti chini ya itifaki zilizoainishwa kwa ufupi. Katika ngazi ya shirikisho, sheria iliyopendekezwa imezingatia ikiwa akili bandia inaweza kuhitimu kama "mtaalamu" kwa madhumuni maalum ya kisheria, mradi tu imedhibitiwa ipasavyo. Mipango hii kwa kawaida huwasilishwa kama majibu ya vitendo kwa uhaba wa madaktari, ucheleweshaji wa upatikanaji, na ukosefu wa ufanisi wa kiutawala. Ingawa hakuna inayomtaja wazi AI kama daktari, kwa pamoja hurekebisha dhana kwamba vitendo vya kimatibabu vinaweza kutokea bila mtu anayefanya maamuzi anayetambulika wazi.
Kwa vitendo, tofauti hii ni ya msingi. Dawa haifafanuliwi na utekelezaji wa kazi kwa njia ya kiufundi, bali na ugawaji wa jukumu wakati matokeo hayafai. Kuandika dawa ni rahisi; kukubali jukumu kwa matokeo yake—hasa wakati wa kuzingatia magonjwa mengine, muktadha wa kijamii, maadili ya mgonjwa, au taarifa zisizo kamili—ni ngumu zaidi. Katika kazi yangu yote, jukumu hili limekuwa likimhusu mwanadamu ambaye angeweza kuhojiwa, kupingwa, kusahihishwa, na kuwajibika. Dkt. Smith anapofanya kosa, familia hujua wa kuwasiliana naye, na kuhakikisha mstari wa moja kwa moja wa uwajibikaji wa binadamu. Hakuna algoriti, bila kujali ustadi, inayoweza kutimiza jukumu hili.
Hatari kuu si ya kiteknolojia, bali ya udhibiti na falsafa. Mpito huu unawakilisha mabadiliko kutoka kwa maadili ya fadhila hadi utendakazi wa taratibu. Wakati wabunge na taasisi wanapofafanua upya ufanyaji maamuzi ya kimatibabu kama kazi ya mifumo badala ya matendo ya kibinafsi, mfumo wa maadili wa dawa hubadilika. Uwajibikaji unaenea, madhara ni vigumu zaidi kuyahusisha, na uwajibikaji hubadilika kutoka kwa madaktari hadi michakato, kutoka kwa hukumu hadi kufuata itifaki. Wakati makosa yanapotokea bila kuepukika, maelezo yanayotawala huwa kwamba 'mfumo ulifuata miongozo iliyowekwa.' Kutambua mpito huu kunafafanua mabadiliko kutoka kwa ufanyaji maamuzi ya kimaadili ya kibinafsi hadi kufuata taratibu kwa kutumia mitambo.
Wasiwasi huu si wa kinadharia. Huduma ya afya ya kisasa tayari inakabiliwa na changamoto zinazohusiana na uwajibikaji uliopunguzwa. Nimeona wagonjwa walioathiriwa na maamuzi yanayotokana na algoriti wakipotea miongoni mwa wasimamizi, wachuuzi, na mifumo isiyoeleweka, bila jibu wazi kwa swali la msingi: Nani alifanya uamuzi huu? Akili bandia huharakisha tatizo hili kwa kiasi kikubwa. Algoriti haiwezi kutoa maelezo ya maadili, kujizuia kulingana na dhamiri, kukataa vitendo kutokana na wasiwasi wa kimaadili, au kukubali kosa kwa mgonjwa au familia.
Watetezi wa uhuru ulioongezeka wa akili bandia (AI) mara nyingi hutaja ufanisi kama uhalali. Kliniki zinazidiwa nguvu, madaktari wanakabiliwa na uchovu, na wagonjwa mara nyingi husubiri miezi kadhaa kwa ajili ya huduma ambayo inapaswa kuchukua dakika chache tu. Masuala haya ni halali, na daktari yeyote mwaminifu anayatambua. Hata hivyo, ufanisi pekee hauhalalishi kubadilisha msingi wa kimaadili wa dawa. Mifumo iliyoboreshwa kwa kasi na ukubwa mara nyingi hupoteza uelewa, busara, na heshima ya mtu binafsi. Kihistoria, dawa imepinga tabia hii kwa kusisitiza kwamba huduma kimsingi ni uhusiano badala ya muamala.
Akili bandia inahatarisha kugeuza uhusiano huu. Wakati mifumo, badala ya watu binafsi, inapotoa huduma, mgonjwa hafanyi tena agano na daktari bali anakuwa sehemu ya mtiririko wa kazi. Daktari anachukua jukumu la msimamizi wa mashine au, zaidi ya hayo, hutumika kama kizuizi cha kisheria kinachochukua dhima kwa maamuzi ambayo hayakufanywa kibinafsi. Baada ya muda, uamuzi wa kimatibabu hutoa nafasi ya kufuata itifaki, na uhuru wa maadili hupungua polepole.
AI pia huanzisha tatizo lisiloeleweka na hatari zaidi: kuficha kutokuwa na uhakika. Dawa huishi katika utata. Ushahidi ni wa uwezekano. Miongozo ni ya muda. Wagonjwa mara chache hujitokeza kama seti safi za data. Madaktari wamefunzwa si tu kuchukua hatua, bali kusita—kutambua wakati taarifa haitoshi, wakati uingiliaji kati unaweza kusababisha madhara zaidi kuliko faida, au wakati njia sahihi ni kusubiri. Hebu fikiria hali ambapo AI inapendekeza kuachiliwa, lakini mwenzi wa mgonjwa anaonekana kuwa na hofu, ikiangazia mvutano kati ya kufanya maamuzi ya kialgoriti na hisia za kibinadamu. Msuguano kama huo wa ulimwengu halisi unasisitiza hatari za utata.
Mifumo ya AI haipatikani na kutokuwa na uhakika; hutoa matokeo. Inapokuwa si sahihi, mara nyingi hufanya hivyo kwa kujiamini bila sababu. Sifa hii si dosari ya programu, bali ni sifa ya asili ya uundaji wa takwimu. Tofauti na madaktari wenye uzoefu ambao huonyesha waziwazi shaka, mifumo mikubwa ya lugha na mifumo ya kujifunza kwa mashine haiwezi kutambua mapungufu yake. Hutoa majibu yanayowezekana hata wakati data haitoshi. Katika dawa, uwezekano bila uthibitisho unaweza kuwa hatari.
Kadri mifumo hii inavyounganishwa mapema katika mtiririko wa kazi za kimatibabu, matokeo yake yanazidi kuathiri maamuzi yanayofuata. Baada ya muda, madaktari wanaweza kuanza kuamini mapendekezo si kutokana na uhalali wake, bali kwa sababu yamekuwa ya kawaida. Hukumu hubadilika polepole kutoka kwa hoja hai hadi kukubalika tulivu. Katika hali kama hizo, 'mtazamo wa kibinadamu' hutumika kama ulinzi wa mfano tu.
Watetezi mara nyingi hudai kwamba AI 'itaongeza' tu madaktari badala ya kuwabadilisha. Hata hivyo, uhakikisho huu ni mdogo. Mara tu AI ikionyesha faida za ufanisi, shinikizo za kiuchumi na kitaasisi huwa zinaongeza uhuru. Ikiwa mfumo unaweza kujaza tena dawa kwa usalama, unaweza kuruhusiwa kuzianzisha hivi karibuni. Ikiwa unaweza kugundua kwa usahihi hali za kawaida, umuhimu wa mapitio ya daktari unahojiwa. Ikiwa inafanya kazi vizuri kuliko wanadamu katika vipimo vinavyodhibitiwa, uvumilivu wa tofauti za binadamu hupungua.
Kwa kuzingatia mitindo hii, kutekeleza ulinzi maalum ni muhimu. Kwa mfano, ukaguzi wa lazima wa tofauti kwenye 5% ya maamuzi yanayoongozwa na AI unaweza kutumika kama ukaguzi halisi, kuhakikisha ulinganifu kati ya mapendekezo ya AI na uamuzi wa kimatibabu wa binadamu, huku ukitoa vipimo vinavyoweza kutekelezwa kwa wasimamizi na bodi za hospitali ili kufuatilia ujumuishaji wa AI.
Maswali haya hayajaulizwa kwa nia mbaya; yanajitokeza kiasili ndani ya mifumo inayolenga udhibiti wa gharama na uwezo wa kupanuka. Hata hivyo, yanaonyesha mustakabali ambapo hukumu ya kibinadamu inakuwa tofauti badala ya kawaida. Katika hali kama hiyo, watu wenye rasilimali wataendelea kupokea huduma ya kibinadamu, huku wengine wakiongozwa kupitia michakato otomatiki. Dawa ya ngazi mbili haitatokana na itikadi, bali na uboreshaji.
Kinachofanya wakati huu kuwa hatarini zaidi ni kutokuwepo kwa mistari iliyo wazi ya uwajibikaji. Wakati uamuzi unaoongozwa na akili bandia unapomdhuru mgonjwa, ni nani anayewajibika? Je, daktari anasimamia mfumo kwa jina? Taasisi iliyoutumia? Muuzaji aliyeufundisha mfumo? Mdhibiti aliyeidhinisha matumizi yake? Bila majibu dhahiri, uwajibikaji hupotea. Na wakati uwajibikaji hupotea, uaminifu hufuata hivi karibuni.
Dawa inategemea kimsingi uaminifu. Wagonjwa huweka miili yao, hofu, na mara nyingi maisha yao mikononi mwa madaktari. Uaminifu huu hauwezi kuhamishiwa kwenye algoriti, bila kujali ugumu wake. Unategemea uhakikisho kwamba mwanadamu yupo—mtu anayeweza kusikiliza, kuzoea, na kuwajibika kwa matendo yake.
Kukataa akili bandia kabisa si lazima. Inapotumiwa kwa busara, akili bandia inaweza kupunguza mzigo wa kazi za kiofisi, kutambua mifumo ambayo inaweza kuepukwa kugunduliwa na binadamu, na kusaidia kufanya maamuzi ya kimatibabu. Inaweza kuwawezesha madaktari kutumia muda mwingi zaidi kwa ajili ya huduma kwa wagonjwa badala ya kazi za kiutawala. Hata hivyo, kutambua mustakabali huu kunahitaji kujitolea wazi kwa kudumisha uwajibikaji wa binadamu katika kiini cha utendaji wa kimatibabu.
'Binadamu-ndani-ya-mzunguko' lazima iwe na maana zaidi ya uangalizi wa mfano. Inapaswa kuhitaji kwamba mtu maalum awe na jukumu la kila uamuzi wa kimatibabu, kuelewa mantiki yake, na kudumisha mamlaka na wajibu wa kupuuza mapendekezo ya algoriti. Lazima pia ijumuishe uwazi, uelezeo, na ridhaa ya mgonjwa iliyofahamika, pamoja na kujitolea kuwekeza katika madaktari wa binadamu badala ya kuwabadilisha na AI.
Hatari kuu si nguvu nyingi za akili bandia, bali ni nia ya taasisi kuachana na majukumu. Katika kutafuta ufanisi na uvumbuzi, kuna hatari kwamba dawa itakuwa uwanja ulioendelea kitaalamu, ulioratibiwa kiutawala, lakini hauna msingi wa maadili.
Tunapofikiria wakati ujao, ni muhimu kujiuliza: Ni aina gani ya mponyaji tunayemfikiria akiwa kando ya kitanda mwaka wa 2035? Swali hili linahitaji mawazo ya pamoja ya kimaadili, yakitutia moyo kuunda wakati ujao ambapo uwajibikaji wa binadamu na utunzaji wa huruma hubaki kuwa kitovu cha utendaji wa tiba. Kuhamasisha uwakala wa pamoja kutakuwa muhimu katika kuhakikisha kwamba maendeleo katika akili bandia yanaongeza, badala ya kudhoofisha, maadili haya ya msingi.
Akili bandia haijapewa leseni ya kufanya kazi ya udaktari. Lakini udaktari unabadilishwa kimya kimya kuzunguka mifumo ambayo haina uzito wa kimaadili. Ikiwa mchakato huo utaendelea bila kudhibitiwa, tunaweza siku moja kugundua kwamba daktari hajabadilishwa na mashine, bali na itifaki—na kwamba madhara yanapotokea, hakuna aliyebaki kujibu.
Hilo halingekuwa maendeleo. Lingekuwa ni kujiuzulu.
-
Joseph Varon, MD, ni daktari wa huduma mahututi, profesa, na Rais wa Muungano Huru wa Kimatibabu. Ameandika zaidi ya machapisho 980 yaliyopitiwa na rika na anatumika kama Mhariri Mkuu wa Jarida la Tiba Huru.
Angalia machapisho yote
