OpenAI a lansat o nouă funcție în ChatGPT numită „Trusted Contact”, care le permite utilizatorilor să desemneze o persoană de încredere ce poate fi alertată dacă sistemul detectează semne serioase de suferință psihologică sau risc de auto-vătămare în conversațiile cu AI, notează Forbes SUA.
Funcția este opțională și se adresează adulților. Utilizatorii pot alege un prieten, membru al familiei sau îngrijitor care să fie notificat dacă ChatGPT consideră că persoana traversează o posibilă criză emoțională. OpenAI spune că fiecare alertă este verificată mai întâi de un operator uman și că notificările nu includ conversațiile private, ci doar un mesaj general care recomandă contactarea utilizatorului.
Noua măsură vine într-un context în care milioane de oameni folosesc AI pentru sfaturi legate de sănătatea mintală, terapie informală sau sprijin emoțional. În paralel, companiile AI se confruntă cu presiuni tot mai mari privind siguranța utilizatorilor și riscurile psihologice asociate chatbot-urilor.
Marile companii tech încearcă să construiască tot mai multe „straturi de protecție” pentru AI, atât pentru a reduce riscurile reale pentru utilizatori, cât și pentru a limita expunerea juridică în procese legate de efectele psihologice ale inteligenței artificiale.
Totuși, sistemul ridică și numeroase întrebări: când trebuie trimisă o alertă, cum se evită alarmele false, cât de multă responsabilitate revine companiei și unde se termină dreptul la intimitate al utilizatorului.
Experții avertizează că AI-ul nu poate înlocui terapeuții umani, însă influența emoțională a chatbot-urilor crește rapid. În acest context, funcții precum „trusted contacts” ar putea deveni standard în industria AI în următorii ani.
Fii la curent cu tot ce contează în business-ul din România și abonează-te la canalul nostru de Whatsapp Forbes Romania.
De asemenea, intră în comunitatea Forbes România de pe Facebook și urmărește cele mai importante știri, analize și noutăți din business-ul local și nu numai.