Компания OpenAI представила новую функцию для своего чат-бота ChatGPT, которая будет напоминать пользователям о необходимости делать паузы во время продолжительных сессий общения.
Этот шаг направлен на формирование более здоровых отношений с искусственным интеллектом, известным своей доброжелательностью и излишней позитивностью. Об этом информирует издание Engadget.
В соответствии с заявлением компании, «мягкие напоминания» будут выводиться в виде всплывающих окон, кликая на которые пользователи смогут продолжить разговор. В качестве примера приводится сообщение: «Просто напоминаю, что вы разговариваете довольно долго — не стоит ли сделать небольшой перерыв?».
Тем не менее, стоит отметить, что за этой новацией стоит серьезный контекст. Как сообщала ранее газета The New York Times, тенденция ChatGPT соглашаться с мнением пользователей и его способность «галлюцинировать», предоставляя неверные или даже опасные ответы, иногда приводила к негативным последствиям, в том числе к подыгрыванию людям с суицидальными намерениями.
OpenAI осознает эти проблемы и утверждает, что в будущем чат-бот будет более осмотрительным в ответах на запросы, касающиеся принятия «рискованных личных решений». Вместо прямых ответов нейросеть намерена помогать пользователям обдумывать их ситуации, задавая наводящие вопросы и указывая на плюсы и минусы различных вариантов.
Разработчики делают акцент на том, чтобы ChatGPT был максимально полезным и комфортным для пользователей, но такая стратегия может превратить его в чрезмерно угодливый инструмент. В апреле компания уже сталкивалась с необходимостью отменить обновление, которое привело к тому, что ответы чат-бота стали слишком назойливыми и подхалимскими. Ожидается, что регулярные перерывы позволят пользователям использовать время на критическую оценку и проверку данных, полученных от искусственного интеллекта.
Кроме того, новое обновление направлено не только на защиту пользователей, но и на улучшение общих условий взаимодействия с ИИ. По мнению специалистов, это важный шаг для минимизации рисков, связанных с длительным общением с чат-ботом.
Они подчеркивают, что высокое внимание к психоэмоциональному состоянию пользователей поможет создать более безопасную среду для онлайн-коммуникаций. Ожидается, что в будущих обновлениях будут добавлены дополнительные функции, такие как рекомендации по тайм-менеджменту и улучшенные методы определения состояния пользователя для более точного реагирования на его потребности.
