Kushiriki Uzito kutoka kwa Mafunzo ya Mtandao wa Neural ni Hatari

Baadhi ya mashirika na watafiti wanashiriki uzani wa mtandao wa neva, haswa kupitia wazi-uzito harakati za mfano. Hizi ni pamoja na mfululizo wa Meta wa Llama, miundo ya Mistral, na matoleo ya uzani wazi ya DeepSeek, ambayo yanadai kuweka kidemokrasia ufikiaji wa AI yenye nguvu. Lakini kufanya hivyo hakuzuii tu wasiwasi wa kiusalama, lakini uwezekano wa tishio lililopo.

Kwa usuli, nimeandika makala machache kuhusu LLM na AI kama sehemu ya mchakato wangu wa kujifunza katika uga huu wa kisanduku wazi wa Pandora unaobadilika sana na unaoendelea kwa haraka. Unaweza kusoma hizo hapa, hapa, na hapa.

Mara tu unapoelewa mitandao ya neural ni nini na jinsi inavyofunzwa kwenye data, utaelewa pia uzani (na upendeleo) na uenezaji wa nyuma ni. Kimsingi ni aljebra ya mstari na uzidishaji wa vekta ya matrix ili kutoa nambari, kuwa mkweli. Hasa zaidi, uzani ni nambari (kawaida a thamani ya sehemu ya kuelea - njia ya kuandika nambari zilizo na nukta za desimali kwa usahihi zaidi) ambayo inawakilisha nguvu au umuhimu wa muunganisho kati ya niuroni au nodi mbili kwenye tabaka tofauti za mtandao wa neva. 

Ninapendekeza sana kutazama video za 3Blue1Brown ili kupata ufahamu bora, na ni muhimu ufanye hivyo. Video za mafundisho za 3Blue1Brown ni nzuri sana. 

Anza na huyu.

Na nenda kwa hii.

Vipimo ni viwango vya kigezo vinavyoamuliwa kutoka kwa data katika mtandao wa neva ili kufanya ubashiri au maamuzi ya kufikia suluhu. Kila uzani ni maagizo yanayouambia mtandao umuhimu wa vipande fulani vya habari, kama vile ni kiasi gani cha kuzingatia rangi au umbo mahususi kwenye picha. Uzito huu ni nambari ambazo hurekebishwa vizuri wakati wa mafunzo kwa shukrani kwa nukta hizo zote za desimali, kusaidia mtandao kubaini ruwaza. Mifano ni pamoja na kutambua mbwa kwenye picha au kutafsiri sentensi. Ni muhimu katika mchakato wa 'kufikiri' wa mtandao wa neva. 

Unaweza kufikiria uzani katika mtandao wa neva kama njia za upinzani mdogo ambazo huongoza mtandao kuelekea suluhisho bora zaidi. Hebu wazia maji yakitiririka chini ya kilima, kwa kawaida kutafuta njia rahisi zaidi za kufikia chini. Katika mtandao wa neva, uzani hurekebishwa wakati wa mafunzo ya seti za data ili kuunda njia rahisi zaidi za taarifa kupita, kusaidia mtandao kutatua matatizo kwa haraka na kwa usahihi, kama vile kutambua ruwaza au kufanya ubashiri, kwa kusisitiza miunganisho muhimu zaidi na kupunguza makosa.

Ikiwa wewe ni mwanamuziki wa kielektroniki, fikiria vizito kama vile piga kwenye synth yako ya analogi zinazokuruhusu kusikiliza masafa au sauti inayofaa kusema, kuiga sauti unayotaka kuunda upya, au kwa kweli, kuunda mpya. Ikiwa wewe ni mtu mzuri, unaweza pia kufikiria kama kurekebisha visu kwenye kichanganyaji chako ili kusawazisha ala tofauti.

Uzito kwa kweli ni vigezo vinavyobadilika, ikimaanisha kuwa vinaweza kubadilika sana kwani mtandao wa neva huelekea kwenye utabiri au suluhisho. Kila moja pia inahusishwa na upendeleo wake. Jukumu la upendeleo ni kubadilisha pato, ikiruhusu kielelezo kutoshea data kwa kuongeza kukabiliana na ambayo hurekebisha mpaka wa uamuzi au utambuzi wa muundo, ambao hautegemei kipimo cha ingizo kinachobainishwa na uzani.

Fikiri hivi. Fikiria unajaribu kuunda tena sauti ya gita kwenye synth yako. Uzito hudhibiti ni kiasi gani cha kamba huchomoa au sauti ya mwili unayosikia. Ikiwa unachosikia ni tambarare kidogo, kwa mfano, upendeleo ni kama kuongeza nyongeza ndogo au mabadiliko - tuseme, sauti ya chini ya joto - ili kuifanya isikike zaidi kama gitaa halisi. Hii husaidia mtandao kurekebisha vizuri 'sikio' lake ili kupata muundo unaofaa bila kubadilisha vidhibiti kuu. Kimsingi hufanya tu mfano kuwa bora katika kulinganisha data na halisi.

Mtandao unapofichuliwa na data, hurekebisha uzani kupitia mchakato unaoitwa uenezaji nyuma, ukizibadilisha ili kupunguza makosa na kuboresha utabiri. Fikiria njia hizo zenye upinzani mdogo zaidi zikirekebishwa kwa kila mfano wa mafunzo, kama mto unaochonga mikondo bora kwa wakati ili kutiririka kwa ufanisi zaidi. Mara baada ya mafunzo kukamilika, uzani kwa kawaida huwekwa kwa matumizi, lakini wakati wa mafunzo, husasishwa kila mara ili kupata usanidi bora wa kutatua tatizo.

Sasa, hii ndio inayofanya ubongo wangu wa kibinadamu kufikiria. Kwa utambuzi, uzani hufafanua njia za uamuzi, sio matokeo ya picha. Kwa hivyo uzani uliowekwa hukaa sawa mara tu imeamuliwa. Kwa upande wa LLM, uzani (pamoja na upendeleo) huamua uwezo wa modeli wa kutoa maandishi madhubuti. Lakini katika kesi ya mifano ya uenezaji au mitandao ya adversarial generative (GANs), uzani hutumiwa kuunda au kuboresha picha. Maadili haya ya uzani usiobadilika na upendeleo, kwa dhahania, sio lazima kusasishwa.

Kwa mfano, uzani (na upendeleo) katika mtandao wa neva unaweza kurekebishwa kila mara ili kutoa picha zilizoboreshwa zaidi kulingana na usambazaji wa pikseli uliojifunza, kama ingekuwa hivyo ikiwa tungejaribu kutoa picha kali zaidi ya mbwa. Ingawa uzani haujarekebishwa kwa muda usiojulikana katika mazoezi, huboreshwa wakati wa mafunzo ili kusawazisha ubora na ujanibishaji, na urekebishaji zaidi unaweza kuharibu matokeo au kuanzisha vizalia vya programu. Mabaki. Hmm. Kwa hivyo ni nini ikiwa, kwa wakati, GAN hajui mbwa ni nini? Kupoteza maarifa hayo kungemaanisha uzani uliokokotolewa hapo awali haungesimba tena ruwaza sahihi. Hii inaweza kutokea ikiwa data ya mbwa ilipotea. Data ya mbwa inaweza kufanywa kupotea? Je, data ya kweli inaweza kufanywa kupotea?

Wacha turudi kwenye dhana ya kushiriki uzani wa mtandao wa neural na kudhani kuwa tunazungumza juu ya uzani kufafanua njia za usahihi kama maadili ya nambari, kama ilivyo katika mifano mingi. Kushiriki uzani huu kunaweza kuwa hatari kwa sababu, kwa kawaida, kungefichua vigezo vya ndani vya mfano, ambavyo vinaweza kutumiwa vibaya, na sio tu na wanadamu. Mtu yeyote aliye na ujuzi wa kutosha anaweza kubadilisha muundo wa kielelezo, kutoa data nyeti ya mafunzo, au kudhibiti tabia yake. Washambuliaji wanaweza kutumia mbinu kama vile ubadilishaji wa mfano or makisio ya uanachama kufichua taarifa za faragha zilizopachikwa katika uzani, kama vile data ya kibinafsi iliyotumiwa wakati wa mafunzo, ambayo inaweza kukiuka kanuni za faragha kama vile Udhibiti Mkuu wa Ulinzi wa Takwimu (GDPR). Oh jamani. 

Vipimo vinavyopatikana hadharani vinaweza pia kusawazishwa ili kuzalisha bandia za kina, kueneza uwongo, au kuunda michango ya wapinzani ambayo hutumia udhaifu katika muundo. Bila kusahau kwamba uwekezaji wao wa thamani wa IP na kiuchumi unaweza kuwekwa hatarini na washindani kwa kuiga tu mifano ya umiliki. 

Sasa fikiria kwamba AI fulani ya adui ilishikilia uzani huu. AI pinzani inaweza kudhibiti uzani ili kubadilisha tabia ya modeli, kuingiza upendeleo, au kuunda matokeo ili kudanganya kimakusudi. Vipimo vinaweza kutumika Craft pembejeo za wapinzani - data iliyobadilishwa kwa hila ambayo hudanganya muundo kufanya ubashiri usio sahihi, kama vile kuainisha vibaya ishara ya kusimama kama ishara ya mavuno katika mifumo ya kuendesha gari inayojiendesha. Sheesh. Vizito vilivyoibiwa vinaweza kubadilishwa ili kuiga muundo, na kuwezesha matumizi yake katika programu hatari, kama vile hadaa ya kiotomatiki au uzalishaji wa propaganda. Subiri, hilo si jambo kubwa siku hizi? Ukali hutegemea madhumuni ya modeli na data ambayo ilifunzwa, lakini hatari ni kubwa.

Fikiria uwezekano hapa, na jinsi nje ya udhibiti hii inaweza wote kupata katika mapigo ya moyo. Ingawa AI hazijaunganishwa katika mifumo yote (bado - hii itajumuisha kiwango cha utegemezi ambapo mifumo haiwezi kufanya kazi bila AI), inaweza kuwa hivi karibuni, na kupungukiwa na kukatika kabisa kwa umeme na tukio la kimataifa la kwenda nje ya mtandao, hakuna jambo ambalo hawakuweza kudhibiti: kutoka kwa akaunti za benki hadi kuingia nyumbani kwako hadi roboti hiyo ya kijinga ya kusafisha ambayo unadhani inaondoa vumbi nyumbani kwako. Ninapendekeza sana utazame Msimu wa 11, Kipindi cha 7 cha X-Files. Ni kweli kusema. Samahani, lakini ndivyo. Uandishi mzuri na utekelezaji wa hati.

Tunahitaji kuzingatia kwamba mifumo yetu yote inaunganishwa (AKA: inafanywa) kuunganishwa na jinsi udhaifu katika AI, kama vile uzani uliowekwa wazi, unavyoweza kuongeza hatari hizi. Vitambulisho vya Dijitali na CDBC ni kosa KUBWA kuhusiana na hatari hizi. Tayari kuna mifano ya binadamu kutambuliwa kimakosa (93% inalingana katika baadhi ya matukio) kwa kutumia teknolojia ya AI kwa kutumia utambuzi wa uso. Chukua tu ushauri wangu na uweke leseni hizo za udereva na pesa taslimu mfukoni mwako. 

Swali: Je, (itatokea) nini ikiwa uzito utaingia kwenye “mikono mibaya” na watu wakaanza kulengwa kimakusudi? Hakuwezi kuwa na sababu inayowezekana wakati wa kutumia mifumo ya kulenga ya AI, lakini ingejalisha? Nini ikiwa sababu inayowezekana iliundwa? Je, ikiwa, hofu ya mambo ya kutisha, mfumo wetu wa mahakama 'utaharibika'? 

Je, iwapo AI zenyewe zingeanza tu kuwatambua wanasayansi wote kama hatari na kutumia teknolojia hii dhidi yetu? Nick Bostrom na Eliezer Yudkowsky inaonekana kuwa na wasiwasi. Tunaweza kusindikizwa mara moja hadi 'kufunga.' Hakuna funguo katika kufunga. Mifumo inayodhibitiwa kidijitali pekee inayotegemea sekunde 0 na 1. Unaona hii inaweza kwenda wapi? Kufuli mahiri + ufuatiliaji + usalama wa uhuru = ndoto mbaya ya dystopian. Hili sio tu kuhusu uzani wa thamani na wazo fulani la hisani kushiriki data. Hakuna njia. Kwangu mimi, kushiriki uzani ni zaidi ya unyenyekevu, na siwezi kufikiria kuwa watu mahiri wanaotengeneza teknolojia hii na kufunza AI hizi kuunda uzani hawaelewi hatari zinazoweza kuhusishwa na kuzishiriki. Sio wanadamu hata nina wasiwasi nao kama vile AI inavyofanya uhuni - ingechukua 1 tu - kuunda machafuko kamili. 

Je! nini kitatokea ikiwa AI wataona uangalizi wa kibinadamu kama kikwazo kwa malengo yao? 

Ikiwa AI - ambayo imefunzwa kuhusu migogoro ya kihistoria au malengo ya uboreshaji - ilianza kujumuisha hatari kwa malengo yake (kama vile kujihifadhi au upanuzi usiodhibitiwa), inaweza pia kuanza kuainisha wanasayansi wanaoiunda, kutathmini, au kuizuia kama vitisho. Naweza kufanya jambo lile lile. Iwapo hili lingetokea, hakutakuwa na chochote cha kuzuia mwelekeo wa kushuka wa kutengwa au kudharauliwa kwa watafiti (fikiria kutumia ushahidi uliotungwa katika utambuzi wa uso au uvujaji wa data), kwa lengo la kutanguliza maisha yake yenyewe badala ya ustawi wa binadamu. Hili kwa hakika lilikuwa limegunduliwa katika dhahania potofu za AI ambapo mifumo huwahadaa au kuwapita waundaji ujanja.

AI mbaya inaweza kuongeza mifumo iliyojumuishwa ili kuleta fujo kupitia udukuzi wa hifadhidata, kutengeneza vitu na kulisha mashine ya urithi wa vyombo vya habari, kutatiza ushirikiano wa kisayansi (labda hata kupitia kudhibiti majarida yaliyopitiwa na marafiki), au hata kulenga miundombinu iliyounganishwa na maabara za AI. Hebu fikiria tunapofikia hatua ambapo hatujui hata kile tunachodhibiti tena au ni data gani ni halisi. Data gani is kweli? Inamaanisha nini hata kuwa halisi unapozungumza juu ya mambo haya!? 

Unaweza kuona ninakoenda na hii. AIs za uwongo zinaweza kuzua mawimbi ya paranoia kubwa na machafuko kamili katika ulimwengu wetu. Kwa maoni yangu, wangeweza kufanya hivyo kwa kuiga tu mfano wa kibinadamu. Fikiria kuhusu hilo. Je, ikiwa AI mbovu ingepitisha sifa za mwanasaikolojia wa kibinadamu kama Hitler? 

Ninapendekeza bustani ili kuepuka paranoia na matatizo. 

Sipendi kuwaacha nyote kwenye dokezo hili, lakini wakati mwingine huwa najiuliza ikiwa hili halifanyiki. Nimeuliza hili kwenye X hapo awali kwa sababu wakati mwingine ninapoona '(mimi ni Mtangazaji) kinachoendelea kwenye mitandao ya kijamii na mtandaoni kwa ujumla, inaonekana kwangu kama walikuwa kuendeshwa kwa propaganda kupitia urithi na hata vyombo vya habari visivyo vya urithi, na wanasayansi walikuwa kutengwa na kukaguliwa (ahem), tungejuaje kama chanzo kilikuwa kimetokana na mwanadamu katika hatua hii? Tunawezaje kujua kwa hakika kuwa hata vyanzo vingine havijazalishwa na AI siku hizi? 

Wanajifunza kutoka kwetu, baada ya yote. LAZIMA tuweke kielelezo kizuri, na tufikirie njia za werevu za kuzuia matokeo yasiyofaa kwa wanadamu ambayo hayahitaji kutokea. Kwa maoni ya kibinafsi, siwezi kuamini kuwa tunapitia haya. Haionekani…halisi. Kwa namna fulani. 

Usishiriki uzani. 

Imechapishwa tena kutoka kwa mwandishi Kijani kidogo