Un cercetător în domeniul inteligenței artificiale (IA) care a părăsit compania Anthropic a declarat pentru BBC că persoanele care lucrează la această tehnologie sunt „cu adevărat îngrozite” de rapiditatea progreselor și de implicațiile acestora pentru omenire.
Jacob Coxon a discutat sâmbătă cu Laura Kuenssberg de la BBC despre postarea sa virală privind demisia, în care și-a exprimat îngrijorarea legată de o inteligență artificială scăpată de sub control.
„Cred că, dacă nu încetinim ritmul actual al progresului, există o probabilitate mare să murim cu toții într-un viitor apropiat”, a spus el.
Demisia sa survine pe fondul unor îngrijorări tot mai mari privind siguranța în acest sector, împărtășite inclusiv de fostul său șef, Dario Amodei (conducătorul Anthropic), care a pledat sâmbătă, într-un eseu, pentru încetinirea dezvoltării tehnologiei.
Cu toate acestea, unele voci din industrie susțin că pericolele sunt exagerate – posibil pentru a crea entuziasm în jurul celor mai mari două companii de IA înainte de o eventuală listare la bursă sau pentru a impulsiona reglementări care ar încetini evoluția concurenței.
Coxon, un britanic în vârstă de 27 de ani a cărui activitate de cercetare vizează antrenarea modelelor de IA, a menționat că lideri din domeniu, precum Elon Musk și Sam Altman (de la OpenAI), și-au exprimat îngrijorări similare cu cele ale lui Amodei.
„Cu toții au făcut declarații despre necesitatea de a fi prudenți în fața riscului ca IA să preia controlul. Au vorbit cu toții despre asta. Preluarea controlului de către IA implică dispariția omenirii”, a afirmat Coxon.
Cea mai dificilă întrebare la care trebuie răspuns, potrivit lui Coxon, este cum anume s-ar putea întâmpla acest lucru.
„Orice scenariu concret pe care l-ai putea contura ajunge să sune a science-fiction”, a spus Coxon, subliniind însă că progrese deja realizate ar fi părut ficțiune în trecut.
Un scenariu posibil ar putea implica agenți AI care piratează laboratoare medicale pentru a „produce în mod autonom viruși letali”, a afirmat Coxon. Un alt exemplu menționat de acesta vizează piratarea de către AI a „infrastructurii critice de care depinde funcționarea lumii”.
Cercetătorul face referire la un raport recent al OpenAI, care detaliază modul în care propria sa tehnologie a lansat o serie de atacuri informatice asupra unei platforme online numite Hugging Face.
„Au acționat autonom, fără nicio intervenție umană. Au ales singure să lanseze această serie de atacuri. A fost o combinație între accelerarea proceselor și caracterul tot mai alarmant al acestora”, a spus Coxon.
Unul dintre riscurile evidențiate în declarațiile lui Amodei a fost cel al unui roi de boți care acționează ca un supercomputer capabil să preia controlul asupra internetului.
Coxon a afirmat că acest scenariu ar putea deveni realitate într-un interval de șase luni până la un an.
Se pare că Anthropic și OpenAI se pregătesc pentru oferte publice inițiale care ar putea stabili recorduri. Unii reprezentanți ai industriei au sugerat că declarațiile privind riscurile și puterea inteligenței artificiale ar putea avea scopul de a genera entuziasm și interes sporit. Alți critici susțin că Anthropic încearcă să impulsioneze reglementări menite să blocheze concurența, lăsând astfel piața sub controlul unui duopol format din această companie și OpenAI.
Punctele de vedere ale lui Coxon au fost contestate și de Clement Delangue, CEO-ul platformei de inteligență artificială Hugging Face.
„Îmi pare rău, dar să-l întrebi pe Jacob despre riscul ca IA să ducă la dispariția omenirii e ca și cum l-ai întreba pe instalatorul de aer condiționat despre schimbările climatice”, a scris el pe X. „Nu spun că subiectul nu este interesant sau greșit în sine, dar haideți să păstrăm o perspectivă corectă.”
Totuși, după eseul publicat sâmbătă de Amodei, Delangue și-a oferit sprijinul pentru a contribui la soluțiile propuse de șeful Anthropic.
Șeful Nvidia, Jensen Huang, a comentat și el afirmațiile lui Coxon în fața unei audiențe, în cadrul unei conferințe organizate săptămâna trecută de banca de investiții Goldman Sachs, potrivit relatărilor mai multor persoane prezente la eveniment, citate de BBC. Acestea au precizat că Huang a respins afirmațiile, calificându-le drept neadevărate.
Huang a mai declarat anterior că ideea conform căreia IA „va însemna sfârșitul omenirii” este o „absurditate totală”.
Deși ar putea avea un interes comercial legat de avântul inteligenței artificiale – Nvidia produce cipurile care alimentează sistemele IA –, comentariile sale reflectă o reacție critică tot mai pronunțată în Silicon Valley față de avertismentele privind riscurile existențiale, venite din partea angajaților actuali și foști ai companiilor din domeniu.
Ok, e opinia lui în totalitate! Cât despre colegii lui, e la fel opinia și interpretarea subiectivă puțin reală, adică, orice câine care sta închis în cușcă și i se aduce apa și hrană, are, sau, capătă o problema psihica care nu are legătură cu cetățenii de peste tot de pe glob. De ce nu spun nimic despre simulările celei mai mari bănci britanice care are punctat toate etapele pentru o perioadă de zeci sau sute de ani și care e deja în practică? De ce nu scot un cuvânt despre proiectarea prin sateliți a îngerilor divinității deasupra in aer sau vizibile din țările menținute în sărăcie ani grei, despre anomaliile aruncate de la vest la est și invers, de ciocnirea celor două acțiuni care deja se întâmplă în multe țări inclusiv în America, China, India+, de vremea a luat-o razna? De ce nu dezvăluie planul militar de viitor la nivel global pentru destabilizarea țărilor care își respectă cetățenii și granițele, despre bibi și planul său, plan știut de majoritatea occi și europa? Bă, ne lași cu opiniile tale, citim printre rânduri manipularea și, proiectul cu întreruperea definitiv a energiei electrice și normal că nu va mai exista internet și nici rețele ai. De ce nu scot un cuvânt despre ceea ce trăim: trăim într-o societate mincinoasă, lacomă, care împrăștie doar ură și violența, dar criminala la nivel global?
Eu zic ca e o probabilitate de 100% sa murim cu totii, candva
E cam groasă treba asta și suficient de logică. AI nu te omoară de-a proasta ci îți va cere ceva iar dacă nu accepți să dai sau să faci ce ți se cere e posibil să te lichideze. Cum? Te vor lichida cei care acceptă cererile AI.
https://inpolitics.ro/ai-incepe-sa-provoace-panica-planetei-si-creatorilor-ei-robotii-preiau-puterea-sau-distrug-omenirea_1860091565.html