**Avertismentul emis de Sam Altman în cadrul Consiliului de Securitate al ONU: Necesitatea Controlului Uman în Evoluția Inteligenței Artificiale**
Într-o întâlnire recentă a Consiliului de Securitate al ONU, CEO-ul OpenAI, Sam Altman, a subliniat importanța unei perspective prudente în dezvoltarea accelerată a inteligenței artificiale (IA). Altman a semnalat riscurile ce decurg din pierderea controlului uman asupra tehnologiilor avansate și a solicitat colaborare internațională și reguli stabilite democratic.
Altman a accentuat relevanța ca metodele de aliniere și siguranță să progreseze în paralel cu abilitățile tehnologice ale sistemelor IA. De asemenea, el a menționat concentrarea excesivă a autorității ca un pericol major și a subliniat rolul vital al guvernelor în reglementarea IA.
Reiterând necesitatea unui mecanism decizional democratic, Altman a afirmat că deciziile cruciale privitoare la IA nu ar trebui să fie luate exclusiv în laboratoare, ci prin procese democratice și de către guverne care răspund în fața cetățenilor. Acesta a ilustrat exemple istorice în care statele concurente au colaborat pentru binele comun în fața unor noi tehnologii puternice.
Sam Altman a tratat și despre potențialele avantaje ale IA, comparând efectul acesteia cu o “Renaștere”, dacă este utilizată pentru amplificarea capacităților umane. El a expus trei principii fundamentale pentru OpenAI: centrala oamenilor în procesul decizional, orientarea dezvoltării tehnologice și economice către oameni, și contribuția IA la sporirea capacității fiecărei persoane de a acționa.
La aceeași întâlnire, Dario Amodei, CEO-ul Anthropic, a semnalat riscurile pe care IA le poate reprezenta pentru umanitate, subliniind necesitatea unei strategii internaționale coordonate pentru gestionarea acestor pericole. Amodei a solicitat interzicerea utilizării IA în scopuri dăunătoare, precum proliferarea armelor biologice.
Discuțiile au fost prezidate de ministrul francez de Externe, Jean-Noël Barrot, și au abordat amenințările atacurilor cibernetice autonome și pierderea controlului uman asupra IA avansate. Yoshua Bengio, copreședinte al panelului științific internațional independent al ONU pentru IA, a avertizat asupra pericolelor imediate care nu respectă granițele naționale.
Aceste dezbateri au loc într-un context în care guvernele încearcă să elaboreze reguli pentru o tehnologie în continuă evoluție, iar abordările internaționale privind reglementarea IA par să difere semnificativ.
