• Nume Utilizator
• Parolă
• Am uitat parola     Înregistrare cont

Cert este că deja entitățile de IA sub formă robotizată/mobilă hardware sau doar softuri inserate în diferite dispozitive statice realizează sarcini complexe prin propriile puteri, învățând în fiecare moment ceva nou, însă fără ca programatorii să înțeleagă pe deplin cum...

Avem din ce în ce mai mulți roboței prezenți în jurul nostru pentru a ne face viața mai ușoară. Dar s-ar putea să ne-o și complice… Un grup internațional de cercetători a avertizat de curând asupra riscurilor potențiale ce derivă din crearea unor programe software independente și foarte versatile, conform Entrepreneur.com. Folosind o serie de calcule teoretice, cercetătorii au investigat modul în care IA ar putea fi ținută în frâu. Concluziile lor, publicate într-un studiu pe platforma Journal of Artificial Intelligence Research, este că va fi practic imposibil. Asta s-ar putea să dea de gândit. Multora. ”Un computer superinteligent care să controleze lumea sună a SF. Dar există deja computere care îndeplinesc sarcini importante, independent, fără ca programatorii să înțeleagă exact cum învață acestea … o situație care la un moment data ar putea deveni incontrolabilă și periculoasă pentru umanitate” a afirmat Manuel Cebrain, co-autor al studiului.

Cercetătorii au experimentat două tipologii de control a IA. Prima a fost să izoleze acea IA de Internet și alte terminale, limitându-i contactele cu lumea înconjurătoare. Problema a fost că i-a redus masiv abilitatea de a îndeplini funcțiunile pentru care a fost creată. Cea de a doua a fost să se creeze un ”algoritm de limitare teoretică” pentru a se asigura că IA nu poate face rău oamenilor, indiferent cum. Insă eforturile întreprinse au demonstrat că nu se poate gestiona un astfel de algoritm. ”Dacă descompunem problema în reguli de bază a teoriei de calcul, reiese că un algoritm care să instructeze o IA să nu distrugă lumea ar putea să se oprească în mod accidental din operare. Dacă s-ar întâmpla asta, nu am ști dacă algoritmul de limitare ar continua să analizeze amenințarea sau dacă ar opri posibile acte răuvoitoare din partea IA. De aceea un astfel de algoritm de limitare este inutilizabil”, explică Iyan Rahwan, un alt cercetător din echipă. Oamenii de știință au stabilit astfel că problema e că niciun algoritm nu poate determina dacă o IA ar putea face rău omenirii sau nu. Aceștia mai arată că s-ar putea ca omenirea nici să nu-și poată da seama de sosirea unui astfel de moment, deoarece a stabili când o entitate de IA este complet superioară omului și preia conducerea ține de fapt de aceeași problemă a imposibilei limitări.

Adică nu știm cum învață IA. Acest lucru se întâmplă continuu și la viteze inimaginabile pentru mintea umană, nu putem face algoritmi de limitare sau protecție pentru omenire și nici nu vom ști dacă sau când se va trece ”granița” vreodată. Doar că s-ar putea întâmpla.

Ca un corolar, cercetătorii respectivi ne invită să ne amintim de fabula ”lăbuței de maimuță”, scrisă de W.W. Jacobs la 1902: un pensionar englez stă la masă cu soția și un prieten, sergent-major tocmai întors din India. Acesta le arată gazdelor o amuletă pe care a adus-o, sub forma unei lăbuțe uscate de maimuță, care are puterea de a îndeplini trei dorințe pentru trei persoane. Ultima dorință a primului proprietar a fost moartea. Gazda vrea să testeze puterile amuletei și îi cere 200 de lire sterline. La scurt timp cineva bate la ușă. E un reprezentant al firmei unde lucra fiul gazdei. Acesta îi spune gazdei că fiul său a murit ucis de un utilaj, dar firma îi oferă 200 de lire. Indureratul tată exprimă a doua dorință, ca fiul său să se întoarcă. Se aud bătăi în ușă și intră fantoma fiului. Ultima dorință este ca fantoma să plece… Morala acestei fabule este că agenții magiei interpretează cererile la literă. La fel sunt și agenții supercomputerelor care învață de la sine: dacă programăm un computer și îi cerem o victorie, fără să știm ce vrem să spunem cu asta, s-ar putea să ne trezim cu o fantomă la ușă…

(va urma) Website: N/A Tweet