Cum te poate convinge eficient IA să îți schimbi opinia, dacă știe aceste lucruri despre tine - nou studiu

Vezi și - Paradox cu Inteligența Artificială. A înlocuit sute de angajați, dar a creat noi locuri de muncă la un gigant tech

Mai mult, tehnologia devine și mai convingătoare în momentul în care cunoaște ce vârstă și meserie ai, dar și ce orientare politică ai, notează Gizmodo.

Cercetători de la Școala Politehnică Federală din Lausanne (EPFL), Universitatea Princeton și Fundația Bruno Kessler din Italia au utilizat 900 de voluntari pentru studiu. I-au pus să dezbată în fața unui ecran fie cu un om, fie cu GPT-4 de la OpenAI. Este vorba despre modelul lingvistic de mari dimensiuni (LLM) care, prin design, dă în principal răspunsuri textuale la cererile/solicitările oamenilor. În unele situații, participanții (însă și modelul A.I.) aveau acces la informații demografice de bază despre interlocutori, respectiv sexul, vârsta, nivelul de educație, meseria, etnia și orientarea politică.

Ce arată cercetarea

Cercetarea echipei, publicată zilele anterioare în revista Nature Human Behaviour, a evidențiat că GPT-4 era cu 64,4% mai convingător față de oponenții umani, în momentul în care avea acces la aceste informații personale; fără datele personale, rezultatele nu au fost semnificativ diferite, în comparație cu cele ale subiecților umani în dezbateri.

”În ultimele decenii, răspândirea rețelelor sociale și a altor platforme online a extins potențialul persuasiunii în masă prin permiterea personalizării sau a ‘microdirecționării’ – adică adaptarea mesajelor pentru un individ sau un grup, pentru a le spori puterea de convingere”, a transmis echipa de cercetători în studiu.

ChatGPT a devenit cu peste 80% mai convingător când știa cu cine vorbește

Atunci când GPT-4 avea voie să-și personalizeze argumentele, devenea mult mai convingător față de orice om, mărind șansele de a modifica părerea cuiva cu 81,2% în comparație cu dezbaterile între participanții umani. Un alt lucru inedit a fost că oamenii nu au devenit mai convingători în dezbaterile între ei, chiar și când puteau să aibă acces la aceleași informații personale.

”În contextul persuasiunii, experții și-au exprimat pe larg îngrijorarea cu privire la riscul ca modelele lingvistice de mari dimensiuni să fie utilizate pentru a manipula conversațiile online și a polua ecosistemul informațional prin răspândirea dezinformării, amplificarea polarizării politice, întărirea camerelor de ecou (n.r. așa-zisele ‘bule’ de pe rețelele de socializare) și convingerea oamenilor să adopte convingeri noi”, au menționat cercetătorii.

GPT-4 poate argumenta contra ta, iar dacă are acces la un set de informații despre tine...

În esență, ei au constatat că GPT-4 poate argumenta contra ta. Mai mult, dacă are acces la un set de informații despre tine are șanse mari să te convingă să îți schimbi opinia. Echipa subliniază în lucrare că modelele lingvistice au fost criticate anterior pentru generarea și difuzarea discursului instigator la ură, a dezinformării și a propagandei; la scară largă, LLM-urile care dispun de informații personale despre utilizatori ar putea fi utilizate în scopuri malițioase.

Cercetarea echipei vine în contextul în care o actualizare recentă a ChatGPT permite modelului să rețină mai mult din conversațiile cu utilizatorii (cu permisiunea acestora). Acest lucru înseamnă că modelul OpenAI poate avea acces la un catalog de informații despre utilizatori. De asemenea, Sam Altman, CEO-ul OpenAI, a spus luna aceasta că popularul chatbot poate intui vârsta utilizatorilor săi, după modul de în care ei folosesc instrumentul A.I.

Însă există și vești bune, sau rele, având în vedre perspectiva din care sunt privite. GPT-4 a fost foarte eficient în a-și convinge oponenții cu privire la subiectele mai puțin controversate, însă în cazul pozițiilor mai înrădăcinate, chatbotul a avut mai multe probleme în a convinge oamenii să-și schimbe opinia.

GPT-4 tinde să folosească un limbaj mai logic și analitic

Cercetătorii au descoperit că GPT-4 tinde să folosească un limbaj mai logic și analitic, în timp ce oamenii se bazau mai mult în dezbateri pe apeluri la persoană și apeluri emoționale. În situațiile în care a știut informații personale despre ”oponent”, GPT-4 nu a modificat mult tonul sau stilul lui, doar a făcut argumentele sale mai direcționate.

În trei din patru cazuri, oamneii au reușit să identifice corect că oponentul lor era o A.I., ceea ce cercetătorii atribuie stilului distinct de exprimare al chatbotului. Dar participanții au avut probleme în a identifica corect un oponent uman ca fiind uman. Cu toate acestea, oamenii aveau mai multe șanse să își modifice părerea atunci când credeau că dezbat cu o A.I., în comparație cu atunci când credeau că dezbat cu o persoană umană.

Demonstrație de concept

Echipa din spatele studiului spune că acest experiment ar trebui să servească drept ”demonstrație de concept” pentru ceea ce s-ar putea întâmpla pe platforme precum Reddit, Facebook sau X (fosta Twitter), unde dezbaterile și temele controversate sunt ceva obișnuit.

Cercetarea lor arată că nu este nevoie de un ”profiling” de nivelul Cambridge Analytica pentru ca o A.I. să poată modifica opiniile unei persoane, deoarece GPT-4 a reușit să o facă utilizând doar câteva categorii de informații personale.

Vezi și - AI-ul schimbă tot: Peste 90 de milioane de joburi vor dispărea până în 2030. Te afli printre ele?