Sursa poza: Mediafax.ro

Experimentarea pe internet a atins un nou nivel de complexitate și controverse după ce s-a descoperit că cercetători de la Universitatea din Zurich au efectuat un studiu neautorizat pe platforma Reddit, folosind comentarii generate de inteligența artificială (AI). Această știre a zguduit comunitatea r/changemyview, cunoscută pentru dezbaterile sale intense și pentru cei peste 3,8 milioane de membri. Experimentul a ridicat întrebări morale și legale serioase, fiind descris drept „manipulare psihologică” de către reprezentanții Reddit.

Cum a avut loc experimentul?

Moderatorii comunității r/changemyview au fost primii care au dezvăluit experimentul controversat. Ei au aflat că cercetătorii au folosit modele lingvistice de mari dimensiuni (LLM-uri) pentru a genera comentarii artificiale cu scopul de a analiza impactul acestora asupra schimbării opiniilor utilizatorilor. Cei care au participat involuntar la studiu nu au fost informați despre natura artificială a comentariilor primite.

Conform documentelor preliminare publicate de cercetătorii implicați, modelele AI au primit informații personale ale utilizatorilor, cum ar fi sexul, vârsta, etnia sau orientarea politică, deduse din istoricul activităților de pe Reddit, pentru a personaliza răspunsurile. Acest sistem a permis AI-ului să-și asume multiple identități, de la supraviețuitori ai agresiunii sexuale, la consilieri în traume sau indivizi cu poziții contestatare față de mișcări sociale ca Black Lives Matter.

Reacția comunității și a Reddit

Pe măsură ce detaliile studiului au început să iasă la iveală, utilizatorii Reddit, dar și administrația platformei, au reacționat cu indignare. Ben Lee, ofițerul juridic șef al Reddit, a condamnat ferm acțiunile cercetătorilor, considerându-le „profund greșite atât la nivel moral, cât și legal”. El a menționat că Reddit a inițiat contactul cu Universitatea din Zurich pentru a cere explicații și a iniția demersuri legale împotriva echipei de cercetare.

Moderatorii subredditului și-au exprimat dezamăgirea și preocuparea față de experimentul neautorizat, solicitând transparență și răspundere din partea celor responsabili. Ei au subliniat nevoia de a proteja comunitatea de astfel de manipulări viitoare și au cerut sprijin din partea platformei pentru a preveni situații similare.

Implicațiile etice ale experimentului

Acest incident ridică probleme serioase despre limitele etice ale cercetării științifice, în special în mediul online. Folosirea inteligenței artificiale pentru a manipula opiniile utilizatorilor fără consimțământul acestora este o încălcare flagrantă a principiilor etice fundamentale. Acest experiment subliniază importanța de a defini și implementa ghiduri stricte pentru utilizarea tehnologiei AI în cercetări viitoare.

De asemenea, episodul atrage atenția asupra nevoii de a proteja datele și confidențialitatea utilizatorilor în fața experimentelor neautorizate. Pe măsură ce inteligența artificială devine tot mai sofisticată, capacitatea ei de a influența interacțiunile sociale și dezbaterile publice crește semnificativ, astfel că trebuie să existe un control riguros asupra utilizării acestor tehnologii.

Concluzie

Acest experiment efectuat pe Reddit de către cercetătorii Universității din Zurich reprezintă un caz de studiu pentru comunitatea științifică și nu numai, evidențiind riscurile asocierii între tehnologia avansată de AI și cercetările neetice. Este esențial ca asemenea incidente să fie luate în considerare serios pentru a asigura un mediu online sănătos, transparent și respectuos față de drepturile și confidențialitatea utilizatorilor.