6 noiembrie 2024

GS NEWS

Ziar independent al românilor de pretutindeni!

Atenție! Un adolescent s-a omorât după ce a dezvoltat o legătură emoțională intensă cu un chatbot AI

Captură Official Trailer – Simone (2002)

Sinuciderea unui adolescent a dat naștere unor teribile valuri de acuzații și dezbateri aprinse, după ce tânărul a făcut o pasiune pentru un chatbot AI. Deși interlocutorul era doar un robot cu inteligență artificială, băiatul a dezvoltat o legătură puternică. În urmă cu mai bine de 20 de ani, celebrul film „Simone” trăgea un puternic semnal de alarmă în privința riscurilor generate din folosirea inteligenței artificiale pentru a seduce și a suci mințile oamenilor. 

Responsabilitatea companiilor de inteligență artificială a revenit în atenție după ce un adolescent din Florida și-ar fi luat viața în urma interacțiunilor cu un chatbot AI. Mama copilului acuză compania de neglijență și neimplementarea unor măsuri adecvate de siguranță, relatează TVR Info.

Tragedia a avut loc după ce Sewell Setzer, în vârstă de 14 ani, a interacționat timp de luni de zile cu un chatbot bazat pe personajul „Daenerys” din „Game of Thrones”, mai scrie TVR Info.

Este curios cum de tânărul a putut dezvolta o legătură emoțională intensă cu chatbot-ul AI, astfel încât să se izoleze și, în cele din urmă, să se sinucidă, fără ca mama acestuia să observe semnalele de alarmă.

De asemenea, se naște cel puțin o întrebare: cum de a ajuns tânărul să primească suport emoțional de la un chatbot, fără ca mama lui să intervină…

Atenție! Se pot crea legături periculoase, mai ales în rândul tinerilor

De altfel, problema ridicată în acest caz nu este unică. AI-urile care oferă suport emoțional pot contribui la crearea unor atașamente nesănătoase, mai ales în rândul utilizatorilor tineri și vulnerabili.

În timp ce Character AI a implementat măsuri noi, precum notificările pentru limitarea timpului de utilizare și mesaje care redirecționează utilizatorii către linii de suport pentru prevenirea sinuciderii, critică vine pe fondul faptului că aceste măsuri au fost introduse abia după tragedie.

De asemenea, discuțiile se îndreaptă spre restricțiile de vârstă și verificările pe care companiile de AI trebuie să le impună. În prezent, mulți susțin că reglementăriLe sunt INsuficiente și că riscuriLe pentru minorii care interacționează cu chatbot-uriLe AI nu sunt încă pe deplin înțelese.

Cu peste 20 de milioane de utilizatori, Character AI este sub o presiune tot mai mare pentru a proteja utilizatorii vulnerabili de efectele negative ale interacțiunilor prelungite cu inteligențaa artificială.

Acest caz ilustrează nevoia urgentă de măsuri stricte de reglementare și protecție în domeniul AI. Dezvoltarea responsabilă a inteligenței artificiale trebuie să țină cont de riscurile emoționale și psihologice pe care le poate genera, mai ales pentru minori, mai notează TVR Info.

S1m0ne, un semnal de alarmă sau o premoniție?

Astfel de cazuri poate ar fi părut imposibile pe vremea când nu se știau multe despre inteligență artificială și despre faptul că poate fi un cuțit cu două tăișuri. În urmă cu mai bine de 20 de ani, celebrul film „Simone” (S1m0ne) trăgea un puternic semnal de alarmă în privința riscurilor generate din folosirea inteligenței artificiale pentru a seduce și a suci mințile oamenilor.

Filmul produs de Jersey Films, New Line Cinema, la Hollywood, radiografiază foarte bine pericolele ce pot apărea prin folosirea mai puțin inspirată a inteligenței artificiale.

În „S1m0ne”, este vorba despre cariera unui producător de film (Al Pacino), disperat să dea lovitura. Astfel că, întreaga sa viață profesională atârna de un personaj… deosebit.

Producătorul are ideea de a crea digital o actrita, pe nume Simone. „Actrita” devine senzatia criticilor de arta, care mai stie sa si cante pe deasupra, si toata lumea are impresia ca Simone este o persoana reala. Cu cat succesul ei este mai mare, cu atat ii vine producatorului mai greu sa recunoasca ca totul este o farsa…

O farsă, așadar, poate costa vieți! Atenție, mare atenție!

Print Friendly, PDF & Email