SHIRIKI | CHAPISHA | EMAIL
Kabla ya Covid, ningejielezea kama mtu mwenye matumaini ya kiteknolojia. Teknolojia mpya karibu kila mara huja huku kukiwa na hofu kubwa. Reli zilitakiwa kusababisha matatizo ya kiakili, baiskeli zilidhaniwa kuwafanya wanawake wawe tasa au wendawazimu, na umeme wa mapema ulilaumiwa kwa kila kitu kuanzia kuharibika kwa maadili hadi kuporomoka kwa kimwili. Baada ya muda, wasiwasi huu ulitoweka, jamii zilibadilika, na viwango vya maisha vilipanda. Mtindo huo ulikuwa unajulikana vya kutosha kiasi kwamba akili bandia ilionekana kufuata: kuvuruga, wakati mwingine kutumiwa vibaya, lakini hatimaye kudhibitiwa.
Miaka ya Covid ilivuruga imani hiyo—sio kwa sababu teknolojia ilishindwa, bali kwa sababu taasisi zilishindwa.
Katika sehemu kubwa ya dunia, serikali na mashirika ya wataalamu yaliitikia kutokuwa na uhakika kwa kutumia uingiliaji kati wa kijamii na kibiolojia ambao haujawahi kutokea, uliothibitishwa na mifano ya kesi mbaya zaidi na kutekelezwa kwa uhakika wa ajabu. Dhana zinazoshindana zilitengwa badala ya kujadiliwa. Hatua za dharura zilizidi kuwa sera ya muda mrefu. Ushahidi ulipobadilika, kukiri makosa kulikuwa nadra, na uwajibikaji ulikuwa nadra zaidi. Uzoefu huo ulifichua tatizo kubwa zaidi kuliko kosa lolote la sera: taasisi za kisasa zinaonekana kutokuwa na vifaa vya kutosha kudhibiti kutokuwa na uhakika bila kuzidisha.
Somo hilo sasa lina uzito mkubwa katika mijadala kuhusu akili bandia.
Mgawanyiko wa Hatari wa AI
Kwa ujumla, wasiwasi kuhusu AI iliyoendelea unaangukia katika kambi mbili. Kundi moja—linalohusishwa na wanafikra kama Eliezer Yudkowsky na Nate Soares—linabishana kwamba AI iliyoendelea vya kutosha ni hatari kubwa kwa kawaida. Katika uundaji wao wa makusudi, Ikiwa Mtu Yeyote Ataijenga, Kila Mtu Atakufa, tatizo si nia mbaya bali ni motisha: ushindani unahakikisha mtu atapunguza makali, na mara tu mfumo unapoepuka udhibiti wenye maana, nia hazijalishi tena.
Kambi ya pili, ikiwa ni pamoja na watu kama vile Stuart Russell, Nick Bostrom, na Max Tegmark, pia inachukua hatari ya akili bandia kwa uzito lakini ina matumaini zaidi kwamba upatanishi, utawala makini, na upelekaji taratibu kunaweza kuweka mifumo chini ya udhibiti wa binadamu.
Licha ya tofauti zao, kambi zote mbili zinakubaliana kwa hitimisho moja: maendeleo ya AI yasiyo na vikwazo ni hatari, na aina fulani ya usimamizi, uratibu, au kizuizi ni muhimu. Pale wanapotofautiana ni kuhusu uwezekano na uharaka. Hata hivyo, kinachochunguzwa mara chache ni kama taasisi zinazotarajiwa kutoa kizuizi hicho zenyewe zinafaa kwa jukumu hilo.
Covid inaonyesha sababu ya shaka.
Covid haikuwa tu janga la afya ya umma; ilikuwa jaribio la moja kwa moja katika utawala unaoendeshwa na wataalamu chini ya kutokuwa na uhakika. Wakikabiliwa na data isiyokamilika, mamlaka mara kwa mara walichagua hatua za juu zaidi zilizohalalishwa na madhara ya kubahatisha. Upinzani mara nyingi ulichukuliwa kama kushindwa kwa maadili badala ya umuhimu wa kisayansi. Sera zililindwa si kupitia uchambuzi wa wazi wa gharama na faida bali kupitia rufaa kwa mamlaka na hofu ya mustakabali wa kinadharia.
Mtindo huu ni muhimu kwa sababu unaonyesha jinsi taasisi za kisasa zinavyofanya kazi wakati vigingi vinapowekwa kama vitu vinavyoweza kuendelezwa. Motisha hubadilika kuelekea uamuzi, udhibiti wa masimulizi, na uhakika wa maadili. Marekebisho ya makosa yanakuwa ghali sana. Tahadhari huacha kuwa chombo na kuwa fundisho.
Somo si kwamba wataalamu wana kasoro za kipekee. Ni kwamba taasisi hulipa kujiamini kupita kiasi kwa uhakika zaidi kuliko unyenyekevu, hasa wakati siasa, ufadhili, na hofu ya umma zinapoungana. Mara tu mamlaka ya ajabu yanapodaiwa kwa jina la usalama, mara chache husalimuliwa kwa hiari.
Hizi ndizo hasa mienendo inayoonekana sasa katika mijadala ya usimamizi wa AI.
Mashine ya "Vipi Kama"
Uhalali unaojirudia wa kuingilia kati kwa hali kwa upana ni mtendaji mbaya wa kufikirika: Vipi kama gaidi atajenga hili? Vipi kama taifa dhalimu litafanya hivyo? Kutoka kwa dhana hiyo inapita hoja kwamba serikali lazima zichukue hatua kabla ya wakati, kwa kiwango kikubwa, na mara nyingi kwa siri, ili kuzuia maafa.
Wakati wa Covid, mantiki kama hiyo ilihalalisha ajenda kubwa za utafiti wa matibabu, idhini za dharura, na udhibiti wa kijamii. Hoja ilikuwa ya mviringo: kwa sababu kitu hatari nguvu ikitokea, serikali lazima ichukue hatua ya ajabu sasa—hatua ambayo yenyewe ilikuwa na hatari kubwa na zisizoeleweka vizuri.
Utawala wa AI unazidi kupangwa kwa njia ile ile. Hatari si tu kwamba mifumo ya AI inaweza kutenda bila kutabirika, lakini pia kwamba hofu ya uwezekano huo itahalalisha utawala wa dharura wa kudumu—udhibiti mkuu wa hesabu, utafiti, na mtiririko wa taarifa—kwa misingi kwamba hakuna njia mbadala.
Hatari ya Kibinafsi, Hatari ya Umma
Tofauti moja isiyothaminiwa katika mijadala hii ni kati ya hatari zinazotokana na watendaji binafsi na hatari zinazotokana na mamlaka ya serikali. Makampuni binafsi yanazuiliwa—kikamilifu, lakini kwa maana—na dhima, ushindani, sifa, na nidhamu ya soko. Vikwazo hivi haviondoi madhara, lakini huunda mizunguko ya maoni.
Serikali hufanya kazi tofauti. Wakati majimbo yanapochukua hatua kwa jina la kuzuia maafa, maoni hudhoofika. Kushindwa kunaweza kuainishwa upya kama mahitaji muhimu. Gharama zinaweza kuainishwa nje. Usiri unaweza kuhalalishwa na usalama. Madhara ya baadaye ya kufikirika huwa vichocheo vya sera kwa sasa.
Wanafikra kadhaa wa AI wanakubali hili bila kuficha. Bostrom ameonya kuhusu athari za "kufungiwa ndani"—sio tu kutoka kwa mifumo ya AI, bali kutoka kwa miundo ya utawala iliyoundwa wakati wa hofu. Wito wa Anthony Aguirre wa kujizuia duniani, ingawa unaendana kimantiki, unategemea mashirika ya uratibu ya kimataifa ambayo rekodi yao ya hivi karibuni ya unyenyekevu na urekebishaji wa makosa ni duni. Mapendekezo ya wastani zaidi yanadhania wasimamizi wenye uwezo wa kupinga siasa na msisimko wa misheni.
Covid haitupi sababu kubwa ya kuwa na uhakika katika dhana hiyo.
Kitendawili cha Uangalizi
Hii inasababisha kitendawili kinachosumbua katikati ya mjadala wa AI. Ikiwa mtu anaamini kweli kwamba AI ya hali ya juu lazima izuiliwe, ipunguzwe, au isimamishwe, ni serikali na taasisi za kimataifa ambazo zina uwezekano mkubwa wa kuwa na mamlaka ya kufanya hivyo. Lakini hawa ndio wahusika ambao tabia zao za hivi karibuni hazitoi imani kubwa katika matumizi ya nguvu hiyo yaliyozuiliwa na kubadilishwa.
Uundaji wa dharura ni mgumu. Mamlaka inayopatikana ili kudhibiti hatari za kinadharia huelekea kuendelea na kupanuka. Taasisi mara chache hushusha umuhimu wao wenyewe. Katika muktadha wa AI, hii inaongeza uwezekano kwamba mwitikio wa hatari ya AI huimarisha mifumo dhaifu ya udhibiti na siasa ambayo ni vigumu kuipunguza kuliko teknolojia yoyote ya kibinafsi.
Kwa maneno mengine, hatari si tu kwamba AI inaepuka udhibiti wa binadamu, lakini pia kwamba hofu ya AI inaongeza kasi ya mkusanyiko wa mamlaka katika taasisi ambazo tayari zimeonyeshwa kuwa polepole kukubali makosa na zinapingana na wapinzani.
Kufikiria Upya Hatari Halisi
Hii si hoja ya kuridhika kuhusu AI, wala kukataa kwamba teknolojia zenye nguvu zinaweza kusababisha madhara makubwa. Ni hoja ya kupanua mfumo. Kushindwa kwa taasisi yenyewe ni kigezo cha kuwepo. Mfumo unaodhania utawala wenye wema na unaojirekebisha si salama zaidi kuliko ule unaodhania kuwa na akili timamu na iliyoratibiwa.
Kabla ya Covid, ilikuwa busara kuhusisha tamaa nyingi za kiteknolojia na upendeleo hasi wa kibinadamu—tabia ya kuamini kwamba changamoto za kizazi chetu haziwezi kudhibitiwa kipekee. Baada ya Covid, shaka haionekani kama upendeleo bali kama uzoefu.
Kwa hivyo, swali kuu katika mjadala wa AI si tu kama mashine zinaweza kuendana na maadili ya kibinadamu, bali kama taasisi za kisasa zinaweza kuaminiwa kudhibiti kutokuwa na uhakika bila kuikuza. Ikiwa uaminifu huo umepungua—na Covid inapendekeza umepungua—basi wito wa usimamizi mpana wa AI unastahili angalau uchunguzi kama vile madai ya kutoepukika kwa kiteknolojia.
Hatari kubwa zaidi inaweza isiwe kwamba AI inakuwa na nguvu sana, lakini hofu hiyo ya uwezekano huo inahalalisha aina za udhibiti ambazo baadaye tunagundua kuwa ni ngumu zaidi kuishi nazo—au kutoroka.
-
Roger Bate ni Mwenzake wa Brownstone, Mfanyakazi Mwandamizi katika Kituo cha Kimataifa cha Sheria na Uchumi (Jan 2023-sasa), mjumbe wa Bodi ya Afrika Kupambana na Malaria (Septemba 2000-sasa), na Mwenzake katika Taasisi ya Masuala ya Uchumi (Januari 2000-sasa).
Angalia machapisho yote
