Një nga “etërit e inteligjencës artificiale” ka sulmuar një garë multimiliardë dollarëshe për të zhvilluar teknologjinë më të përparuar, duke thënë se modelet më të fundit po shfaqin karakteristika të rrezikshme, siç është të gënjyerit e përdoruesve.

Yoshua Bengio, një akademik kanadez, puna e të cilit ka ndikuar në teknikat e përdorura nga grupet kryesore të AI si OpenAI dhe Google, tha: “Fatkeqësisht, ekziston një garë shumë konkurruese midis laboratorëve kryesorë, e cila i shtyn ata drejt përqendrimit në aftësinë për ta bërë AI-në gjithnjë e më inteligjente, por jo domosdoshmërisht të vendosin theksin dhe investime të mjaftueshme në kërkimin mbi sigurinë.”

Fituesi i Çmimit Turing lëshoi ​​paralajmërimin e tij në një intervistë me Financial Times, ndërsa prezantoi një organizatë të re jofitimprurëse të quajtur “LawZero”. Ai tha se grupi do përqendrohej në ndërtimin e sistemeve më të sigurta, duke u zotuar të “izolojë kërkimin tonë nga presionet komerciale”.

“LawZero” deri më tani ka mbledhur gati 30 milionë dollarë në kontribute filantropike nga donatorë, përfshirë inxhinierin themelues të Skype, Jaan Tallinn, nismën filantropike të ish-shefit të Google, Eric Schmidt, si dhe Filantropinë e Hapur dhe Institutin e Ardhmërisë së Jetës.

Shumë nga financuesit e Bengio-s i përmbahen lëvizjes së “altruizmit efektiv”, mbështetësit e së cilës kanë tendencë të përqendrohen në rreziqet katastrofike që rrethojnë modelet e inteligjencës artificiale. Kritikët argumentojnë se lëvizja nxjerr në pah skenarët hipotetikë, dukeanashkaluar dëmet e tanishme, të tilla si paragjykimet dhe pasaktësitë.

Bengio tha se grupi i tij jofitimprurës u themelua në përgjigje të provave në rritje gjatë gjashtë muajve të fundit se modelet kryesore të sotme po zhvillonin aftësi të rrezikshme. Kjo përfshin shfaqjen e “provave të mashtrimit, manipulimit, gënjeshtrës dhe vetëruajtjes.” – tha ai.

Modeli “Claude Opus” i Anthropic shantazhoi inxhinierët në një skenar fiktiv ku rrezikonte të zëvendësohej nga një sistem tjetër. Hulumtimet nga testuesit e inteligjencës artificiale “Palisade” muajin e kaluar treguan se modeli o3 i OpenAI kundërshtoi udhëzime të qarta që iu dhanë për t’u mbyllur.

Bengio tha se incidente të tilla ishin “shumë të frikshme, sepse nuk duam të krijojmë një konkurrent për qeniet njerëzore në këtë planet, veçanërisht nëse ata janë më të zgjuar se ne”.

Pionieri i inteligjencës artificiale shtoi: “Tani për tani, këto janë eksperimente të kontrolluara por shqetësimi im është se në çdo kohë në të ardhmen, versioni tjetër mund të jetë strategjikisht mjaftueshëm inteligjent për të na parë teksa afrohemi në forma të ndryshme dhe për të na mposhtur me mashtrime që nuk i parashikojmë. Kështu që mendoj se po luajmë me zjarrin tani.”

Aftësia e sistemeve për të ndihmuar në ndërtimin e “armëve biologjike jashtëzakonisht të rrezikshme” mund të jetë një realitet që vitin e ardhshëm, shtoi ai.

Me seli në Montreal, “LawZero” punëson 15 persona dhe synon të punësojë më shumë talente teknike për të ndërtuar brezin e ardhshëm të sistemeve të Inteligjencës Artificiale të projektuara për siguri.

Bengio, një profesor i shkencave kompjuterike në Universitetin e Montrealit, do japë dorëheqjen si drejtor shkencor në Mila, Instituti i Inteligjencës Artificiale të Kebekut, për t’u përqendruar në organizatën e re.

Ai synon të zhvillojë një sistem të Inteligjencës Artificiale që do japë përgjigje të vërteta bazuar në arsyetim transparent në vend që të stërvitet për të kënaqur një përdorues, duke ofruar gjithashtu një vlerësim të fuqishëm nëse një rezultat është i mirë apo i sigurt. Bengio shpreson të krijojë një model që mund të mbikëqyrë dhe përmirësojë ofertat ekzistuese nga grupet kryesore të Inteligjencës Artificiale, duke i penguar ato të veprojnë kundër interesave njerëzore.

“Skenari më i keq është zhdukja e njerëzimit”, tha ai.

“Nëse ndërtojmë inteligjencë artificiale që janë më të zgjuara se ne dhe nuk janë të lidhura me ne dhe konkurrojnë me ne, atëherë praktikisht jemi të mbaruar.”

Lëvizja e Bengio-s për të themeluar “LawZero” vjen ndërsa OpenAI synon të largohet më tej nga rrënjët e saj bamirëse duke u shndërruar në një kompani fitimprurëse. Kjo shtytje ka shkaktuar shqetësime nga ekspertët e inteligjencës artificiale dhe ka çuar në një një padi nga bashkëthemeluesi Elon Musk, i cili po përpiqet të bllokojë transaksionin.

Kritikët thonë se OpenAI u themelua për të siguruar që inteligjenca artificiale të zhvillohej për të mirën e njerëzimit, dhe struktura e re eliminon të drejtën ligjore nëse kompania i jep përparësi fitimit mbi këtë qëllim. OpenAI argumenton se duhet të mbledhë kapital sipas një strukture më konvencionale për të konkurruar në sektor, ndërsa misioni i saj më i gjerë mbetet qendror.

Bengio tha se nuk kishte besim se OpenAI do t’i përmbahej misionit të saj, duke theksuar se organizatat jofitimprurëse nuk kanë një “nxitje të çorientuar siç e kanë në mënyrën aktuale të strukturimit të kompanive”.

“Për t’u rritur shumë shpejt, duhet t’i bindësh njerëzit të investojnë shumë para, dhe ata duan të shohin një kthim të parave të tyre. Kështu funksionon sistemi ynë i bazuar në treg”, shtoi ai.

 FT