Lidhu me ne

Mix

Inteligjenca artificiale ka mësuar të gënjejë

Inteligjenca artificiale ka mësuar të gënjejë

Modelet e inteligjencës artificiale, me sa duket, po përmirësohen në gënjeshtra të qëllimshme.

Dy studime të fundit – një i botuar këtë javë në revistën PNAS dhe tjetri muajin e kaluar në revistën Patterns – zbulojnë disa gjetje tronditëse mbi modelet e mëdha gjuhësore (LLM) dhe aftësinë e tyre për të gënjyer ose mashtruar vëzhguesit njerëzorë qëllimisht.

Në punimin e PNAS, Thilo Hagendorff shkon aq larg sa thotë se LLM-të e sofistikuara mund të inkurajohen të nxisin “makiavelizëm“, ose manipulim të qëllimshëm dhe amoral, i cili “mund të shkaktojë sjellje mashtruese të gabuara”.

GPT-4, për shembull, shfaq sjellje mashtruese në skenarë testimi të thjeshtë në 99.16% të rasteve,” shkruan studiuesi i Universitetit të Shtutgartit, duke cituar eksperimentet e tij në përcaktimin sasior të tipareve të kësaj natyre në 10 LLM të ndryshme, shumica e të cilave janë versione të ndryshme brenda familjes GPT të OpenAI.

Modeli Cicero i Metës për lojën “Diplomacy” ishte subjekt i analizës së grupit të studiuesve, i përbërë nga një fizikan, një filozof dhe dy ekspertë të sigurisë së AI, zbuloi se LLM ua kaloi përpara konkurrentëve të tij njerëzorë.

Hagendorff vëren në punimin e tij më të fundit se çështja e mashtrimit dhe gënjeshtrës LLM ngatërrohet nga paaftësia e AI për të pasur ndonjë lloj “qëllimi” njerëzor në kuptimin njerëzor, një studim tjetër zbulon se Cicero duket se e ka thyer premtimin e programuesve të tij se modeli nuk do t’u bëjë qëllimisht hile aleatëve në lojë.

Ekspertët thonë se modeli  “angazhohet në mashtrime të paramenduara, thyen marrëveshjet për të cilat kishte rënë dakord dhe tregon gënjeshtra të plota”.

“Ne zbuluam se AI i Metës ka mësuar të jetë mjeshtër i mashtrimit”.

Megjithatë, asnjëri nga studimet nuk demonstron se modelet e AI gënjejnë me vullnetin e tyre, por e bëjnë këtë ose sepse janë trajnuar.

Ky është një lajm i mirë për ata që i shqetëson zhvillimi i ndjeshmërisë së AI – por një lajm shumë i keq nëse shqetësoheni se dikush mund të ndërtojë një LLM me qëllim manipulimin masiv.

MË TEPËR

Mix1 ditë më herët

Donald Trump e pranon: Kam dalë në publik me fjalim të përgatitur nga Inteligjenca Artificiale, ishte shumë i mirë

Donald Trump ka treguar se një fjalim që ka mbajtur gjatë kohës që ka qenë president, e ka riprodhuar nëpërmjet...

Mix1 ditë më herët

Vila ku kanë jetuar Joe Biden, Barack Obama dhe Bill Clinton del në shitje, pamjet madhështore

Ka prona që mishërojnë histori, si për shembull vila në Georgetown, Washington, e ndërtuar rreth vitit 1891, ku kanë jetuar...

Mix1 ditë më herët

Jessica Alba tregon sekretin për një martesë të lumtur

Pas 16 vjetësh martesë, Jessica Alba ka mësuar një ose dy gjëra si të mbajë gjallë marrëdhënien dhe harmoninë me...

Mix1 ditë më herët

George dhe Amal Clooney po shkojnë drejt divorcit?

Martesa e George dhe Amal Clooney po merr fund? Burimet raportojnë se aktori 63-vjeçar dhe Amal Clooney janë nën presion...

Mix1 ditë më herët

Nisur nga Pamela Anderson: Pse duhet t’i flasësh vetes para pasqyrës?

GETTY IMAGES Pamela Anderson ka publikuar librin e saj me kujtime “Love, Pamela” dhe dokumentarin në Netflix “Pamela, A Love...

Mix1 ditë më herët

Fruti më i mirë që ju ndihmon të keni një bark të sheshtë!

Përpjekja për të humbur peshë mund të jetë një udhëtim i vështirë, veçanërisht nëse po përpiqeni të hiqni dorë nga...

Mix1 ditë më herët

Ariana Grande “bën paqe” me Scooter Braun?

Ariana Grande do të vazhdojë të punojë me Scooter Braun dhe kompaninë e tij  Hybe – më pak se një...

Mix1 ditë më herët

Bebe Rexha shpërthen kundër G-Eazy: “Dështak mosmirënjohës”

Bebe Rexha ka shpërthyer kundër ish-bashkëpunëtorit të saj në hitin “Me, Myself & I”, G-Eazy, duke e quajtur “dështak mosmirënjohës”....

Mix1 ditë më herët

Nicole Kidman konfirmon vazhdimin e “Practical Magic”

Nicole Kidman konfirmoi zyrtarisht se ajo dhe Sandra Bullock po kthehen për një vazhdim të “Practical Magic”. Aktorja e “Big...

Mix1 ditë më herët

Kate Middelton njofton daljen e parë publike pas diagnostifikimit me kancer: Po bëj përparim me kurimin e sëmundjes

Pas diagnostifikimit me kancer disa muaj me pare, Princesha e Uellsit, Kate Middelton, njoftoi sot se po “përparon” në rrugën...

Facebook