Margrethe Vestager, fosta vicepreședintă executivă a Comisiei Europene, susține înființarea unui nou institut independent care va analiza siguranța aplicațiilor de inteligență artificială destinate copiilor și adolescenților, conform Euronews.
Această instituție va fi inaugurată oficial în Parlamentul din Danemarca, având ca model sectorul auto, unde aplicațiile AI vor fi evaluate similar testelor de siguranță pentru automobile. Susținătorii proiectului afirmă că este esențial ca părinții să aibă posibilitatea de a verifica riscurile asociate cu o aplicație AI înainte ca aceasta să fie utilizată de minori.
Noua entitate își va desfășura activitatea în cadrul Common Sense Media, o organizație americană cunoscută pentru evaluarea conținutului digital destinat tinerilor. Institutul își propune să testeze chatboturi și alte produse AI pentru a identifica riscurile legate de sănătatea mintală, comportamentele riscante sau conținutul sensibil pentru tineri. Dintre aplicațiile analizate anterior, se numără cele dezvoltate de OpenAI, Anthropic, Google și Meta, inclusiv ChatGPT, Claude, Gemini și Meta AI.
Un raport din 2025, realizat în colaborare cu laboratorul Stanford Brainstorm Lab, a evidențiat faptul că multe chatboturi nu au reușit să identifice problemele de sănătate mintală în rândul tinerilor, sistemele ignorând adesea semnele evidente de depresie, anxietate sau risc de suicid și concentrându-se mai mult pe sănătatea fizică.
În prezent, numeroase aplicații AI funcționează într-un cadru legislativ incert. Deși Uniunea Europeană a stabilit reglementări prin Digital Services Act, normele privind protecția minorilor în cazul chatboturilor AI sunt insuficiente. Vestager a jucat un rol principal în reglementarea marilor companii tehnologice în ultima decadă, contribuind la inițiativa „Europe Fit for the Digital Age”. Fondatorul Common Sense Media, James P. Steyer, subliniază că inteligența artificială „remodelează copilăria și adolescența”, în timp ce evaluările de siguranță sunt realizate fără date suficiente și standarde clare.
Institutul va beneficia de finanțare din donații filantropice și contribuții din partea companiilor din sectorul tech. Printre sponsori se numără Anthropic, OpenAI Foundation și Pinterest. Organizatorii subliniază totuși că investitorii nu vor avea influență asupra evaluărilor și concluziilor publicate, institutul având de asemenea intenția de a dezvolta instrumente open-source accesibile companiilor AI pentru a-și testa produsele înainte de a le lansa.
