Chatboții AI ne fac să gândim la fel, afirmă un studiu

O nouă lucrare de opinie a unui grup de oameni de știință și psihologi sugerează că utilizarea modelelor lingvistice mari, precum ChatGPT, ar putea diminua unicitatea modului în care gândim și comunicăm. „Diversitatea în limbaj, perspectivă și raționament nu este doar o frumusețe culturală; este esențială din punct de vedere funcțional”, afirmă Zhivar Sourati, informatician la Universitatea din California de Sud și primul autor al lucrării, potrivit cnet.com.

👉 Răspândirea și utilizarea chatboților în rândul populației

Lucrarea, publicată miercuri în revista Trends in Cognitive Sciences, analizează modul în care sute de milioane de oameni din întreaga lume folosesc același număr mic de chatboți și ce înseamnă acest lucru pentru individualitatea noastră. Potrivit unui studiu Pew Research, o treime dintre americani au folosit ChatGPT anul trecut, cifra dublându-se față de 2023. Utilizarea chatboților este și mai comună în rândul adolescenților: două treimi afirmă că folosesc chatboți, iar aproape o treime îi utilizează zilnic.

Companiile investesc masiv în inteligența artificială, 78% dintre organizații raportând că utilizează AI în 2024, față de 55% în 2023. Cu toate acestea, riscul este că am putea pierde diversitatea în modul în care gândim. Echipa de cercetători atrage atenția asupra faptului că scrierea generată de LLM-uri variază mai puțin decât ceea ce oamenii produc individual.

👉 Riscurile omogenizării gândirii prin utilizarea LLM-urilor

Sourati și coautorii lucrării argumentează că LLM-urile reprezintă o nouă amenințare pentru gândirea diversă. „Tehnologiile anterioare au modelat și ele cogniția: internetul a accelerat răspândirea normelor culturale dominante, iar GPS-ul a erodat raționamentul spațial localizat. Dar aceste instrumente au ajutat în principal la stocarea și recuperarea informațiilor”, spune Sourati. „LLM-urile generează raționamentul și formularea în numele tău.” Aceste modele pot oferi utilizatorilor „un mod final de a gândi despre ceva”, continuă Sourati, adăugând că atunci când aceleași câteva sisteme fac acest lucru pentru sute de milioane de oameni simultan, forța de omogenizare este fără precedent.

Conform autorilor lucrării, o parte din motivele pentru care LLM-urile ar putea promova gândirea omogenizată este datele utilizate pentru a le antrena. Sourati explică faptul că LLM-urile sunt antrenate să se concentreze pe regularitățile statistice din datele de instruire, care pot supra-reprezenta limbile și ideologiile dominante, ducând la rezultate care se îndreaptă spre o fâșie mai îngustă a experienței umane.

Există un motiv bun pentru care autorii avertizează asupra acestei tendințe. Gândirea omogenizată reduce pluralismul, conceptul potrivit căruia perspectivele multiple sunt benefice pentru societate în ansamblu. „Această valoare a pluralismului se bazează pe principiul de mult acceptat că o judecată sănătoasă necesită expunere la gândire variată”, scriu autorii în lucrare. „Nesancționată, această omogenizare riscă să niveleze peisajele cognitive care stimulează inteligența colectivă și adaptabilitatea.”

Diversitatea în gândire ne ajută să găsim soluții mai variate pentru o problemă. Dacă pierdem capacitatea de a gândi și comunica diferit, ar putea afecta modul în care ne adaptăm la situații noi. „Îngrijorarea nu este doar că LLM-urile modelează modul în care oamenii scriu sau vorbesc, ci că redefinește subtil ceea ce contează ca discurs credibil, perspectivă corectă sau chiar raționament bun”, a declarat Sourati într-un anunț.

Autorii afirmă că această tendință afectează chiar și persoanele care nu folosesc chatboți. „Dacă mulți oameni din jurul meu gândesc și comunică într-un anumit mod, iar eu fac lucrurile diferit, aș simți o presiune să mă aliniez cu ei, pentru că ar părea o modalitate mai credibilă sau social acceptabilă de a-mi exprima ideile”, spune Sourati. Owen Muir, un psihiatru intervențional, își exprimă acordul cu viziunile lucrării, afirmând că „un ‘limbaj mai mediu’ se integrează în comunicarea umană, chiar și atunci când mașinile nu sunt în cameră.”