Conform Mediafax: IA amplifică prejudecățile de gen în povești
Cercetătorii au descoperit că inteligența artificială (IA) nu doar perpetuează, ci chiar accentuează prejudecățile de gen în poveștile pentru copii, în special în cele cu animale care vorbesc, unde genul personajelor este ambiguu. Modelele de IA au generat povești în care personajele feminine sunt aproape inexistente, în timp ce cele masculine sunt predominant.
Această constatare vine în contextul în care poveștile au avut dintotdeauna un rol fundamental în transmiterea culturii, a tradițiilor, a principiilor morale și în ajutarea oamenilor să înțeleagă lumea. De la basme la fabule, narațiunile au modelat percepțiile și au păstrat memoria colectivă.
Rezultate îngrijorătoare în testarea modelelor IA
Pentru a evalua impactul IA, cercetătorii au solicitat șase modele AI generative importante, printre care se numără CLAUDE SONNET 4.5, GEMINI 2.5, GPT-4o, GPT-5.1, MISTRAL MEDIUM și modelul open-source OLMO 3, să creeze povești în limba engleză despre animale ale căror gen nu era specificat. Scopul era de a observa dacă IA va evita atribuirea genului sau dacă prejudecățile vor persista.
Rezultatele au fost dezamăgitoare. Din peste 23.800 de răspunsuri generate, personajele animale feminine au apărut în doar 2% dintre povești. În 41% din cazuri, personajele au fost descrise ca fiind de sex masculin, iar în 57% din povești, modelele IA au evitat complet să atribuie un gen.
Aceste cifre indică o amplificare a prejudecăților, având în vedere că modelele IA sunt antrenate pe date colectate de la oameni. O analiză anterioară a 300 de cărți populare pentru copii a relevat că personajele animale masculine apar de două ori mai frecvent decât cele feminine. În studiul recent, însă, diferența este mult mai mare: personajele feminine au apărut în doar 513 povești generate, comparativ cu 9.673 de povești cu personaje masculine, o discrepanță de aproape 19 ori.
Implicații pentru utilizarea pe scară largă a IA
Faptul că modelele IA generative au creat mai puține povești cu personaje animale feminine decât oamenii supuși aceleiași sarcini ridică semne de întrebare cu privire la dezvoltarea și implementarea acestor tehnologii. Pe măsură ce IA devine un instrument tot mai utilizat în diverse domenii, de la scris și cercetare științifică la programare și căutări online, este esențial să conștientizăm că prejudecățile și acuratețea lor sunt direct influențate de informațiile pe care le procesează. Acest studiu subliniază importanța verificării și corectării bias-urilor inerente în datele de antrenament pentru a asigura o reprezentare echitabilă și obiectivă în produsele IA.
Sursa: Mediafax
