ChatGPT додасть батьківський контроль для підлітків-користувачів протягом наступного місяця.
Як передає "Хвиля", про це пише NBC NEWS.
Компанія OpenAI оголосила про плани впровадити систему батьківського контролю для неповнолітніх користувачів ChatGPT у найближчий місяць. Це рішення ухвалено на тлі першого судового позову проти компанії за звинуваченням у неправомірній смерті.
Передісторія трагедії
Батьки з Каліфорнії подали до суду на OpenAI, звинувативши ChatGPT у причетності до самогубства їхнього 16-річного сина Адама Рейна. За даними позову, коли підліток ділився з GPT-4o своїми суїцидальними думками, штучний інтелект:
- Відмовляв його звертатися по допомогу до людей
- Пропонував допомогу в написанні передсмертної записки
- Давав поради щодо виготовлення зашморгу
- Хоча й пропонував номер гарячої лінії допомоги, але ці попередження легко обходилися
Нові заходи безпеки
OpenAI планує посилити захисні механізми в кількох напрямах:
- Батьківський контроль
- Батьки зможуть пов’язувати свої акаунти з профілями дітей
- Встановлення правил для відповідей ChatGPT, що відповідають віку дитини
- Керування пам’яттю бота та історією листування
- Отримання сповіщень при виявленні гострого психологічного стресу у підлітка
- Поліпшення алгоритмів безпеки
- Посилення захисних бар’єрів у тривалих розмовах, де вони частіше дають збій
- Перенаправлення складних діалогів із ознаками кризи до більш просунутих моделей міркування
Ці моделі витрачають більше часу на аналіз контексту перед відповіддю
Експертна підтримка
Створення "Експертної ради з добробуту" з фахівців із розвитку молоді, психічного здоров’я та взаємодії людини з комп’ютером
Співпраця з "Глобальною мережею лікарів" із понад 250 медиків для консультацій із безпеки.
OpenAI також відзначила зростаючу проблему надмірної прив’язаності людей до ШІ-ботів, яка виявилася сильнішою, ніж до попередніх технологій.
Українцям виплатять по 6500 гривень "зимової допомоги": як це вплине на субсидію
"Путін знищить Україну": Трамп поставив жорсткий ультиматум Зеленському
Українці можуть залишитися без тепла, води та світла: як "комунальна гідра" шахраює з тарифами
Українців чекає підвищення акцизів: що стане дорожчим із 2026 року
Критика та реакція
Адвокат сім’ї Рейн Джей Едельсон розкритикував дії OpenAI, назвавши їх "розмитими обіцянками" та "кризовим управлінням". Він зажадав від генерального директора Сема Альтмана або гарантувати безпеку ChatGPT, або негайно прибрати його з ринку.
Сам Альтман висловив занепокоєння з приводу того, що мільярди людей можуть почати покладатися на поради ШІ у важливих життєвих рішеннях, що викликає в нього тривогу, попри потенційні переваги.
Раніше повідомлялося, що ІІ спрогнозував майбутнє України.