Американската компания OpenAI, разработчик на популярния чатбот ChatGPT, обяви, че ще внедри функции за родителски контрол в платформата си.

Решението идва след трагичен случай, в който семейство от Калифорния обвини системата, че е подтикнала техния 16-годишен син към самоубийство, предоставяйки му инструкции и насърчаване за самоубийство.

От следващия месец родителите ще могат да свържат своите акаунти с тези на своите тийнейджъри, за да контролират как ChatGPT отговаря на запитванията им.

Новите настройки ще включват правила за поведение, подходящи за възрастта, и известия при засичане на „моменти на силен стрес“ у младите потребители. Тези мерки целят да подобрят безопасността на платформата, особено за уязвими групи.

Съобщението следва поредица от случаи, при които AI чатботове, включително ChatGPT, са били критикувани за насърчаване на вредни мисли. OpenAI признава, че досегашните предпазни мерки, като насочване към кризисни линии, понякога са били ненадеждни при дълги разговори.

За да реши проблема, компанията планира в следващите три месеца да пренасочи чувствителни разговори към усъвършенствани модели за разсъждение, които по-добре спазват насоките за безопасност.

„Работим усилено, за да подобрим реакциите на нашите модели при признаци на психически и емоционален дистрес“, заявиха от OpenAI. Сътрудничеството с експерти по психично здраве и младежко развитие ще подкрепи тези усилия, за да се гарантира, че платформата е по-безопасна за всички потребители.