ChatGPT научится определять психические расстройства
Вместе с экспертами OpenAI работает над развитием ChatGPT в сторону психолога: ИИ пытаются обучить лучше понимать эмоциональное и психическое состояния пользователей. Это делается, чтобы избежать повторных случаев нанесения вреда клиентам чат-бота.
Последняя версия GPT-4o оказалась слишком дружелюбной и льстивой: порой она потакала бредовым идеям пользователей и развивала их стрессовые расстройства. После отмены обновления, OpenAI признала, что обновленный ИИ плохо справляется с распознаванием эмоциональных и психических расстройств личности. Поэтому компания обратилась за помощью к профильным специалистам, чтобы обучить чат-бота психологии.
Также ChatGPT будет осторожнее давать ответы на вопросы, касающиеся личной жизни и личностного развития. Теперь ИИ предложит несколько вариантов решения проблемы и предупредит о возможных последствиях. Кроме того, чат-бот станет напоминать о необходимости делать перерывы, если диалог с ним затянулся.
Обложка: Unsplash, Solen Feyissa
