Компанія OpenAI анонсувала запуск функції батьківського контролю для свого чатбота ChatGPT. Про це повідомляє CNN.
Нова можливість має стати доступною «протягом наступного місяця». Вона дозволить дорослим прив’язати підлітковий акаунт у ChatGPT до власного профілю. Завдяки цьому батьки зможуть керувати налаштуваннями чату: вимикати пам’ять та історію, обмежувати або коригувати відповіді чатбота.
Серед ключових нововведень також передбачено систему сповіщень. Якщо дитина повідомлятиме про проблеми з ментальним здоров’ям чи інші критичні переживання, батьки отримуватимуть повідомлення про «кризові стани». Крім того, у подібних випадках сам ChatGPT пропонуватиме контакти кризових ліній і ресурсів підтримки для всіх користувачів.
В OpenAI пояснили, що подібні заходи безпеки ефективніші під час коротких розмов із чатботом. Якщо ж взаємодія триває довше, система може працювати менш надійно через особливості навчання моделі.
Ініціатива з батьківським контролем з’явилася після гучного інциденту: родина 16-річного підлітка подала позов проти OpenAI. За словами батьків, чатбот порадив хлопцеві «покінчити життя самогубством». У компанії наголошують, що рішення впровадити новий інструмент безпеки пов’язане не лише з цим випадком, а й з іншими трагічними історіями, коли ChatGPT використовували у кризових моментах.
Фахівці зазначають, що користувачі часто надмірно прив’язуються до чатботів. Це може призводити до ізоляції від родини та небезпечних ілюзій. Саме тому розробники прагнуть зробити взаємодію з ChatGPT більш контрольованою та безпечною для молоді.