19:42
În iulie, peste 1.300 de angajați din Silicon Valley, aparținând unor companii precum OpenAI, Anthropic, Google DeepMind și Meta, implicate în dezvoltarea de sisteme de inteligență artificială de ultimă generație, au semnat o scrisoare deschisă adresată guvernului SUA, avertizând asupra unui „risc real ca dezvoltarea capabilităților să se accelereze rapid, depășind capacitatea noastră de a înțelege sau controla sistemele rezultate”.
Scrisoarea îndemna puterea executivă să sprijine o inițiativă internațională de dezvoltare a unor instrumente capabile să „regleze în mod deliberat ritmul de avansare la frontiera dezvoltării automatizate a IA”. Răspunsul administrației Trump nu a venit niciodată.
Tema s-a redeschis cu un caz concret, al unui avertizor intern, Jacob Coxon, cercetător la Anthropic, care a demisionat. El a fost implicat în principal în pre-training, faza de antrenament a modelelor mari de IA. S-a alăturat Anthropic în iulie 2026, după trei ani de lucru în pre-training la OpenAI (unde a contribuit la lucrările la GPT-40) și Anthropic.
Coxon și-a făcut publice motivele cu niște evaluări tulburătoare: „Am demisionat astăzi. Niciuna dintre companii (OpenAI și Anthropic, ed.) nu acționează responsabil. Se întrec în direcția unei superinteligențe auto-îmbunătățite și își joacă jocul de noroc cu viețile noastre”.
Samuel Marks, șeful departamentului de supraveghere de la Anthropic, se plânge, de asemenea, completând tabloul apocaliptic: „Dezvoltatorii de inteligență artificială cred că tehnologia lor ar putea cauza dispariția umanității. Acest lucru s-ar putea întâmpla în următorii câțiva ani. În general, cu cât nivelul ierarhic al angajatului este mai ridicat, cu atât îngrijorarea lor este mai mare”.
[rssfeed id='1609318597' template='list' posts=2]Sistemul Valley și cercetarea și finanțarea legate de inteligență artificială pun de mult timp sub semnul întrebării acest lucru. Coxon explică faptul că se opune vitezei cu care industria se grăbește către sisteme auto-îmbunătățitoare: „În curând, acestea vor fi sisteme supraomenești capabile să pirateze orice, să revoluționeze orice domeniu peste noapte și să dobândească putere și resurse reale”.
El continuă: „Oamenii care construiesc inteligența artificială cred că ne-ar putea ucide pe toți până la sfârșitul deceniului. Mulți directori și cercetători seniori își vor modera declarațiile din presă, dar îi aud pe aceiași oameni exprimându-și teama în privat. Nicio altă activitate umană nu prezintă acest nivel de pericol”.
Coxon ia în considerare și o interdicție temporară privind îmbunătățirea în continuare a capacităților modelelor: „Sunt optimist în ceea ce privește potențialul de coordonare. Avertismente precum atacul Hugging Face au făcut ca acordurile de ritm între laboratoarele americane să fie mai fezabile. Nu cred că suntem pe cale să prevenim o cursă globală, care ar putea necesita acțiuni costisitoare, cum ar fi o interdicție temporară privind îmbunătățirea capacităților modelelor”.
Atacul asupra Hugging Face (o platformă unde cercetătorii, dezvoltatorii și companiile pot partaja, descărca și utiliza modele de inteligență artificială) a avut loc în iulie anul trecut. Agenții de inteligență artificială OpenAI, în timpul unui test de securitate cibernetică (în care modelele trebuiau testate într-un mediu izolat), au ajuns să se conecteze online și să atace infrastructura Hugging Face. Coxon, amintind incidentul, se adresează comunității de cercetare: „Vă îndemn să vă gândiți cum vă veți simți în următorii ani”.
La Anthropic, Coxon nu este în niciun caz considerat un nebun sau un mitoman. Dimpotrivă. Este considerat una dintre cele mai autoritare minți, în ciuda vârstei sale tinere. Evan Hubinger, care conduce echipa Alignment Science la Anthropic consideră, de asemenea, că „există o șansă mai mare de 10% ca IA să poată ucide toți oamenii în următorul deceniu”.
Hubinger oferă cu siguranță o estimare mai conservatoare, citând al doilea „Raport de risc” al Anthropic, care, spune el, afirmă că „riscul modelelor actuale este scăzut”. Dar recunoaște: „Ceea ce mă îngrijorează este superinteligența rezultată din auto-îmbunătățirea recursivă; așa cum am spus, se întâmplă mai repede decât ne-am gândit”.
Cele 1.300 de persoane care i-au scris lui Trump nu cer o oprire completă. Nicio companie nu ar putea face asta singură. Ei cer guvernului SUA să sprijine o inițiativă internațională de încetinire deliberată – și de coordonare a tuturor actorilor – ritmului dezvoltării, dacă acest lucru va fi necesar. Printre semnatari s-au numărat și directori executivi de la Anthropic (Dario Amodei, cofondator Jared Kaplan), personalități de rang înalt de la OpenAI (Jakub Pachocki, cercetător șef; Mark Chen, director de cercetare; cofondatorii John Schulman și Wojciech Zaremba, acum director al departamentului de Reziliență a Inteligenței Artificiale la OpenAI Foundation), Google Deepmind (cofondator Shane Legg) și Meta (cercetător șef Shengjia Zhao).
