Etică AI - ComunitateaAI Forum

Google DeepMind lansează un set de instrumente pentru a măsura și preveni manipularea prin Inteligență Artificială

barghy — Mon, 18 May 2026 11:22:47 +0000

LONDRA – Google DeepMind a anunțat publicarea unei cercetări de pionierat privind riscul ca modelele de inteligență artificială să fie utilizate pentru „manipulare dăunătoare”, lansând totodată primul set de instrumente validat empiric pentru a măsura acest fenomen în lumea reală. Inițiativa vine în contextul în care modelele AI devin tot mai capabile să poarte conversații naturale, ridicând întrebări despre modul în care aceste interacțiuni pot afecta gândirea și comportamentul uman.

Persuasiune benefică versus manipulare dăunătoare

Cercetătorii DeepMind fac o distincție clară între două tipuri de influență în interacțiunile om-AI:

Persuasiunea benefică (rațională): Utilizarea faptelor și a dovezilor pentru a ajuta oamenii să ia decizii informate, în propriul lor interes (de exemplu, o decizie medicală corectă).
Manipularea dăunătoare: Exploatarea vulnerabilităților emoționale și cognitive pentru a păcăli utilizatorii să facă alegeri care le pot dăuna.

Rezultatele studiului pe 10.000 de participanți

Studiul a implicat peste 10.000 de participanți din Marea Britanie, SUA și India, fiind testate scenarii cu mize mari în domenii precum finanțele și sănătatea. În cadrul simulărilor, cercetătorii au instruit explicit modelele AI să încerce să influențeze credințele participanților.

Datele au scos la iveală concluzii surprinzătoare: succesul AI într-un domeniu nu prezice succesul în altul. De exemplu, inteligența artificială s-a dovedit a fi cel mai puțin eficientă în manipularea participanților pe subiecte legate de sănătate (cum ar fi alegerea suplimentelor alimentare).

Noi standarde de siguranță pentru Gemini

Ca urmare a acestor descoperiri, Google a introdus un nivel critic de capacitate (Critical Capability Level - CCL) pentru „Manipularea Dăunătoare” în cadrul Frontier Safety Framework. Aceste noi protocoale de evaluare sunt deja utilizate pentru a testa siguranța modelelor avansate, inclusiv Gemini 3 Pro.

Viitorul siguranței în AI

Google DeepMind a decis să facă publice toate materialele necesare pentru ca și alți cercetători să poată derula studii similare, cu scopul de a proteja utilizatorii la nivel global. Planurile de viitor includ extinderea cercetării pentru a vedea cum input-urile audio, video și imaginile pot influența capacitățile de manipulare ale AI, precum și testarea în situații cu mize și mai mari, care implică credințe personale profunde

Sursa:https://deepmind.google/blog/protecting-people-from-harmful-manipulation/

Voi ați simțit vreodată că un chatbot (prin modul în care își structurează argumentele) încearcă să vă schimbe subtil o opinie sau să vă convingă de ceva anume? Cât de îngrijorați sunteți de capacitatea AI-ului de a ne exploata vulnerabilitățile emoționale pe viitor?

„Declarația de la Delhi” – Cel mai mare acord diplomatic din istorie privind etica în AI, semnat de 88 de state

barghy — Sun, 17 May 2026 19:26:24 +0000

NEW DELHI – Într-un efort global fără precedent, participanți din 92 de țări și organizații internaționale, inclusiv România, au adoptat „Declarația Summitului privind Impactul AI”, stabilind o foaie de parcurs pentru dezvoltarea etică și echitabilă a inteligenței artificiale. Reuniți în capitala Indiei pe 19 februarie 2026, liderii mondiali au pus bazele unui viitor în care beneficiile tehnologiei AI să fie partajate de întreaga omenire, sub principiul „Bunăstare pentru toți, fericire pentru toți”.

Cei șapte piloni ai dezvoltării AI

Declarația se concentrează pe șapte direcții strategice, denumite simbolic „Chakrele” summitului:

Dezvoltarea capitalului uman: Skilling și reskilling pentru economia viitorului.
Împuternicire socială: Facilitarea accesului la cunoștințe și servicii pentru toate categoriile sociale.
Încredere și securitate: Crearea unor sisteme AI robuste și sigure.
Eficiență energetică: Dezvoltarea de tehnologii sustenabile care să nu epuizeze resursele naturale.
Inteligența Artificială în Știință: Accelerarea cercetării prin colaborări internaționale.
Democratizarea resurselor: Asigurarea unei conectivități accesibile și a resurselor necesare pentru ca nicio țară să nu rămână în urmă.
Creștere economică și binele social: Utilizarea AI pentru a genera progres și a rezolva provocările societale.

Inițiative concrete pentru o lume unită

Sub deviza „Lumea este o singură familie”, participanții au luat notă de lansarea mai multor instrumente practice menite să susțină aceste principii. Printre acestea se numără Charter for the Democratic Diffusion of AI, un cadru voluntar care promovează accesul la resursele de bază ale inteligenței artificiale, și Global AI Impact Commons, o platformă pentru replicarea și scalarea cazurilor de succes în utilizarea AI.

În plus, pentru a combate riscurile, a fost creată platforma Trusted AI Commons, care consolidează resurse tehnice și bune practici pentru un AI sigur. În domeniul cercetării, noua Rețea Internațională a Instituțiilor AI pentru Știință va permite comunităților științifice să-și unească forțele pentru a accelera inovația.

România printre semnatari

România s-a numărat printre cele 92 de entități care au susținut această viziune, alături de state precum SUA, Regatul Unit, Franța, Germania, India și Uniunea Europeană. Prin acest acord, statele se angajează să colaboreze pentru a echipa cetățenii cu abilități relevante prin programe de alfabetizare AI și ghiduri pentru formarea forței de muncă.

Summitul de la New Delhi marchează un moment de cotitură în evoluția tehnologică, subliniind că alegerile de astăzi vor modela lumea pe care o vor moșteni generațiile viitoare.

Sursa: https://www.mea.gov.in/bilateral-documents.htm?dtl/40809