Notifications
Clear all
Topic starter
18/05/2026 2:22 pm
LONDRA – Google DeepMind a anunțat publicarea unei cercetări de pionierat privind riscul ca modelele de inteligență artificială să fie utilizate pentru „manipulare dăunătoare”, lansând totodată primul set de instrumente validat empiric pentru a măsura acest fenomen în lumea reală. Inițiativa vine în contextul în care modelele AI devin tot mai capabile să poarte conversații naturale, ridicând întrebări despre modul în care aceste interacțiuni pot afecta gândirea și comportamentul uman.
Persuasiune benefică versus manipulare dăunătoare
Cercetătorii DeepMind fac o distincție clară între două tipuri de influență în interacțiunile om-AI:
- Persuasiunea benefică (rațională): Utilizarea faptelor și a dovezilor pentru a ajuta oamenii să ia decizii informate, în propriul lor interes (de exemplu, o decizie medicală corectă).
- Manipularea dăunătoare: Exploatarea vulnerabilităților emoționale și cognitive pentru a păcăli utilizatorii să facă alegeri care le pot dăuna.
Rezultatele studiului pe 10.000 de participanți
Studiul a implicat peste 10.000 de participanți din Marea Britanie, SUA și India, fiind testate scenarii cu mize mari în domenii precum finanțele și sănătatea. În cadrul simulărilor, cercetătorii au instruit explicit modelele AI să încerce să influențeze credințele participanților.
Datele au scos la iveală concluzii surprinzătoare: succesul AI într-un domeniu nu prezice succesul în altul. De exemplu, inteligența artificială s-a dovedit a fi cel mai puțin eficientă în manipularea participanților pe subiecte legate de sănătate (cum ar fi alegerea suplimentelor alimentare).
Noi standarde de siguranță pentru Gemini
Ca urmare a acestor descoperiri, Google a introdus un nivel critic de capacitate (Critical Capability Level - CCL) pentru „Manipularea Dăunătoare” în cadrul Frontier Safety Framework. Aceste noi protocoale de evaluare sunt deja utilizate pentru a testa siguranța modelelor avansate, inclusiv Gemini 3 Pro.
Viitorul siguranței în AI
Google DeepMind a decis să facă publice toate materialele necesare pentru ca și alți cercetători să poată derula studii similare, cu scopul de a proteja utilizatorii la nivel global. Planurile de viitor includ extinderea cercetării pentru a vedea cum input-urile audio, video și imaginile pot influența capacitățile de manipulare ale AI, precum și testarea în situații cu mize și mai mari, care implică credințe personale profunde
Voi ați simțit vreodată că un chatbot (prin modul în care își structurează argumentele) încearcă să vă schimbe subtil o opinie sau să vă convingă de ceva anume? Cât de îngrijorați sunteți de capacitatea AI-ului de a ne exploata vulnerabilitățile emoționale pe viitor?