Avertismentele alarmante despre AI, mai complicate decât ai putea crede

Cele mai recente avertismente legate de inteligența artificială par concepute pentru a provoca îngrijorare și pentru a determina societatea să reacționeze înainte ca evoluția tehnologiei să scape de sub control, scrie CNN.

Dario Amodei, CEO-ul Anthropic și unul dintre oamenii aflați în prima linie a cursei pentru dezvoltarea inteligenței artificiale, a cerut sâmbătă o „încetinire conștientă” a ritmului de dezvoltare. Într-un eseu publicat pe site-ul său, Amodei a avertizat că AI-ul evoluează tot mai rapid și ar putea ajunge într-un punct în care oamenii nu mai sunt capabili să îl înțeleagă și să îl controleze.

„Dacă este lăsată să evolueze fără limite, ar putea depăși capacitatea noastră de a înțelege și controla aceste sisteme. De aceea, dezvoltarea ei trebuie făcută cu foarte mare prudență, dacă mai trebuie continuată în forma actuală”, a scris Amodei.

Apelul vine la doar câteva zile după ce un fost inginer al companiei sale a lansat un avertisment și mai dur. Jacob Coxon, care a lucrat atât la OpenAI, cât și la Anthropic, susține că inteligența artificială ar putea provoca, în cele din urmă, dispariția omenirii.

„Oamenii care construiesc inteligența artificială cred cu toată seriozitatea că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”, a declarat Coxon.

El a recunoscut însă că nimeni nu poate spune cu exactitate în ce fel ar putea AI-ul să ducă la sfârșitul omenirii.

Ipoteza este că inteligența artificială devine permanent mai performantă și ar putea ajunge să se îmbunătățească singură. În acel moment, ar putea depăși capacitatea oamenilor de a o controla și ar putea produce consecințe imposibil de anticipat.

Printre scenariile vehiculate se numără atacuri asupra sistemelor informatice care controlează armele nucleare, răspândirea unor viruși extrem de periculoși sau provocarea unor pene de curent la scară globală. Există și scenarii mai puțin spectaculoase, dar cu efecte sociale profunde, precum dispariția unui număr uriaș de locuri de muncă și apariția unei societăți în care milioane de oameni nu își mai găsesc un rol economic.

Un argument care ar trebui, cel puțin parțial, să ofere motive de liniște este faptul că Pentagonul folosește deja inteligența artificială, însă secretarul american al Apărării, Pete Hegseth, a precizat că „AI nu ia decizii letale”. Dincolo de această limitare, legislația americană nu stabilește însă reguli explicite pentru toate situațiile în care inteligența artificială poate fi utilizată în așa-numitul „lanț al uciderii”, care pornește de la identificarea unei ținte și ajunge până la executarea atacului.

Avertismentul lui Coxon a fost preluat de organizații civice și politicieni care cer autorităților să ia în serios mesajele venite chiar din interiorul industriei AI.

Companii precum Anthropic și OpenAI au cerut public autorităților să introducă reguli pentru dezvoltarea inteligenței artificiale. În mod paradoxal, unele dintre companiile aflate în centrul acestei curse tehnologice susțin că statul trebuie să intervină pentru a impune limite și pentru a tempera competiția dintre marile laboratoare AI. Demersul are loc în paralel cu pregătirile unora dintre aceste companii pentru listarea pe bursă.

„Vorbim despre un grup foarte mic și foarte puternic de companii care aleargă împreună spre ceea ce ele însele spun că este o prăpastie, dar din care par incapabile să se oprească”, a declarat jurnalistul specializat în tehnologie și colaboratorul CNN Jacob Ward.

El consideră că avertismentele venite de la oameni care sunt, în același timp, implicați în construirea tehnologiei și în obținerea unor câștiguri uriașe de pe urma ei nu trebuie ignorate.

„Ei spun: construim acest lucru, este extraordinar, dar s-ar putea să nu vă coste doar locul de muncă, ci chiar viața. Cred că este important să începem să fim atenți”, a spus Ward.

Printre politicienii care cer intervenția statului se numără senatorul Bernie Sanders. El consideră că avertismentele venite din industria tehnologică trebuie tratate cu maximă seriozitate.

„Aproape în fiecare zi apare o nouă poveste alarmantă despre companiile Big Tech care pierd controlul asupra tehnologiei pe care o dezvoltă, cu rezultate care ar putea fi catastrofale”, a afirmat Sanders când și-a anunțat proiectul legislativ prin care propune interzicerea superinteligenței artificiale și suspendarea temporară a dezvoltării unor sisteme AI avansate.

„Este iresponsabil ca societatea să le permită să continue și să facă aceste produse din ce în ce mai puternice”, a adăugat senatorul.

Administrația Trump nu pare pregătită să înăsprească regulile

David Sacks, investitor în tehnologie și responsabil al administrației Trump pentru domeniul AI și criptomonede, susține o abordare radical diferită. El promovează o piață cât mai deschisă și consideră că Statele Unite trebuie să accelereze dezvoltarea inteligenței artificiale pentru a nu pierde competiția cu China.

Invitat la Fox News, Sacks a pus sub semnul întrebării motivațiile lui Coxon și a sugerat că avertismentele apocaliptice lansate de așa-numiții „doomers” ar putea face parte dintr-o campanie menită să încetinească dezvoltarea AI în Statele Unite, posibil chiar susținută de China.

Președintele Donald Trump a exprimat sâmbătă o poziție similară. În timpul unei conferințe de presă desfășurate în Irlanda, Trump a spus că persoanele preocupate de efectele pe termen lung ale inteligenței artificiale „vorbesc despre lucruri care nu se vor întâmpla”.

Întrebat dacă industria AI are nevoie de reglementări, Trump a revenit la ideea competiției cu China.

„Conducem China în domeniul AI. Suntem cea mai sofisticată țară din lume și, sincer, vreau să rămână așa, pentru că cine câștigă cursa AI câștigă. Putem introduce bariere de protecție”, a spus Trump.

Sacks susține că firmele americane trebuie să continue să inoveze și să nu permită Chinei să preia supremația în domeniul inteligenței artificiale.

„Ei nu au această uriașă operațiune de influență a grupurilor apocaliptice în China. Noi avem însă în Statele Unite o campanie mediatică uriașă împotriva AI, care întoarce opinia publică împotriva acestei tehnologii”, a afirmat Sacks.

Despre China, el a adăugat: „Și-ar dori foarte mult să oprim dezvoltarea AI aici”.

Într-un videoclip publicat pe contul său de X, Sacks a susținut că marile companii din domeniul AI cer reglementări deoarece vor, de fapt, să obțină controlul asupra industriei. El a descris situația drept un „duopol al pieței de frontieră”.

În opinia sa, autoritățile nu au expertiza necesară pentru a reglementa inteligența artificială și vor ajunge să apeleze chiar la companiile care domină domeniul.

„Vor apela la laboratoarele de top și le vor întreba: Cum ar trebui să reglementăm acest domeniu? Iar Anthropic va avea, bineînțeles, toate răspunsurile”, a spus Sacks.

Din perspectiva sa, adevăratul pericol nu este ca inteligența artificială să distrugă omenirea, ci ca puterea asupra acestei tehnologii să ajungă în mâinile unui număr foarte mic de companii.

„Păstrarea inovației descentralizate și accesibile este cheia pentru evitarea unui viitor nesigur și distopic, în care capacitățile avansate de AI sunt centralizate și controlate de doar câteva mâini”, a afirmat el.

Această viziune se potrivește cu politica administrației Trump, care încearcă să împiedice state precum California să introducă propriile reguli pentru inteligența artificială în lipsa unei legislații federale.

După ce eforturile de a bloca reglementările statelor au eșuat anul trecut în Congres, Trump a semnat un ordin executiv prin care a încercat să limiteze această posibilitate.

Ar trebui statele să coopereze pentru a controla AI?

Pentru cei care consideră că inteligența artificială reprezintă un risc existențial, situația actuală amintește de cursa înarmării nucleare din perioada Războiului Rece. Atunci, marile puteri au reușit, în cele din urmă, să își depășească rivalitățile și să negocieze o serie de acorduri internaționale privind neproliferarea armelor nucleare, interzicerea testelor și limitarea armamentului strategic.

Este însă greu de imaginat că administrația Trump sau China ar accepta în acest moment să intre într-un asemenea proces global de negociere. Europa a încercat să avanseze ideea unui tratat internațional dedicat reglementării inteligenței artificiale.

Armele nucleare continuă să joace un rol major în politica externă a Statelor Unite și reprezintă unul dintre argumentele invocate de Trump pentru războiul împotriva Iranului.

Cele mai grave avertismente despre inteligența artificială vizează posibilitatea dispariției omenirii. În plan politic, însă, tema care pare să îi preocupe cel mai mult pe alegători este mult mai concretă: efectele pe care dezvoltarea AI le are deja asupra vieții de zi cu zi.

Americanii sunt tot mai preocupați de centrele uriașe de date construite pentru a alimenta sistemele de inteligență artificială. Aceste facilități consumă cantități enorme de apă și energie, pot crește facturile la electricitate și ocupă suprafețe importante de teren agricol.

Opoziția față de construirea acestor centre de date a devenit una dintre temele politice importante ale verii. Protestele traversează granițele dintre stânga și dreapta politică și reunesc grupuri care, în mod normal, au foarte puține lucruri în comun.

Pentru administrația Trump, aceste proiecte reprezintă însă în primul rând o oportunitate economică.

Alegătorii americani nu sunt, de regulă, cunoscuți pentru preocuparea față de efectele pe termen foarte lung ale unor politici. Pot fi îngrijorați de schimbările climatice, dar votează adesea în funcție de prețul benzinei. Sunt alarmați de datoria publică de 40.000 de miliarde de dolari, dar aleg uneori politicieni care reduc taxele și cresc cheltuielile.

În cazul inteligenței artificiale, reacția pare să urmeze același tipar. Pentru mulți americani, centrele de date reprezintă o amenințare mult mai concretă decât posibilitatea, încă ipotetică, a unei inteligențe artificiale capabile să pună în pericol existența omenirii.

Este însă posibil ca nemulțumirea față de centrele de date să reflecte tocmai faptul că acestea reprezintă cea mai vizibilă manifestare fizică a revoluției AI.

Companiile de tehnologie promit că inteligența artificială va schimba lumea. Unii experți se tem că ar putea chiar să o distrugă. Pentru milioane de oameni obișnuiți, problema este însă mai simplă: tehnologia este încă greoaie, uneori deranjantă și a început să intre în tot mai multe zone ale vieții fără ca ei să fi cerut acest lucru.